资深大模型算法的案例列表

吉利-三端适配的语音助理主要对吉利旗下的车机系统，魅族手机以及星际的XR眼镜等多款设备进行了适配。主要包括一套通用的语义理解框架和三方服务接口。覆盖了天气，音乐，导航，电话等多个垂域的功能。并且支持了语义拒识，多意图识别，和多轮对话模式。在本项目中，本人主要负责了整体架构的设计，主要包括三端对齐的意图体系定义，垂域多轮语义理解，中控-垂域多轮交互协议，多策略融合的中控仲裁架构设计，以及仲裁模型的优化等工作。截止2022年年底，新的架构体系实现了各模块的解藕，支持异步开发和独立上线，团队整体迭代效率提升200%。新的对话系统架构替换了冗余的对话管理模块，采用了小爱的轻量级的多轮交互协议，多轮对话...

对话系统架构设计

人工智能-机器人资深大模型算法

项目简介: 整体的对话系统架构支持了任务型对话，大模型生成式对话两种大的技术方向，在智能座舱，虚拟人直播电商，金融垂域大模型等多个业务线上落地。覆盖了任务型对话的多轮对话，大模型人设问答，大模型文档型问答，大模型搜索式问答等多种业务场景。项目分工: 整体业务包括7个大的业务模块，主要包括底层架构API的设计，对话基础服务，对话AI中台，垂域语义理解，垂域技能实现，大模型底层推理服务，大模型推理加速优化。本人在项目中负责整体的架构设计，整体服务的开发和部署，大模型得训练与微调，大模型推理加速的技术指导等等。解决问题: 完成了项目整体的开发与部署，对话系统整体上支持了任务型对话和大模型生成式对话...

GPT等大模型在金融领域微调和评测

人工智能-机器人资深大模型算法

项目介绍:项目整体是针对金融新闻领域的各类子任务做相关的识别和信息抽取任务，包括金融新闻舆情分析，金融事件信息抽取，新闻领域实体识别，金融关系抽取等多个子任务。工作说明: 利用当前所有开源的大模型(LAMMA2, Falcon, MPT, Bloom, ChatGLM2, Qwen, InternLM)，进行横向的对比实验分析，针对具体的任务，对每个大模型进行fine-turing。然后进行对比实验。...

通用的对话系统架构设计

人工智能-机器人资深大模型算法

简介: 结合自身工作经历，参考业界顶尖的对话系统架构(微软，百度，小米)，设计的通用对话系统架构。主要包括AI中台，NLU，DM，SKill四大业务模块，敏感词，检索式问答，规则引擎等三个基础模块的设计。该架构体系支持以以完成对话形式或NLU API的形式进行调用(接口统一)，能适用于复杂的，高效迭代的业务场景，如智能座舱，智能客服，语音助手，智能手办，虚拟数字人，垂直领域大模型等。在设备和业务渠道上能实现完全解耦。支持任务型对话，检索式问答和大模型生成式问答场景。应用实例主要包括:语音助手，智能座舱，智能客服，和车载数字人，金融垂直大模型等等。本人工作: 完成上述架构设计，并对部分企业进行相...

对话系统的规则引擎服务

人工智能-机器人资深大模型算法

项目介绍: 本项目实现了对话系统中的规则引擎服务，可以适配复杂的业务需求，整体时间复杂度为O(n)。整体包括三个部分: 业务适配，业务词典和业务规则模版。通过配置不同业务的词典和模板，可以实现独立的规则引擎匹配。数据和服务实现业务分离，支持数据热更新。适用场景: 1. 基于规则引擎的语义理解，返回对应的意图信息和槽位对，以及置信度打分。 2. 业务场景下的实时干预，避免服务的高频发版，保障线上服务稳定性。 3. 业务功能黑名单处理。 4. 商业化运营事件配置。...

虚拟人电商直播智能对话系统

人工智能-机器人资深大模型算法

项目介绍: 虚拟人电商直播主要是提供一个虚拟人作为主播，像用户介绍相关的产品信息，回复用户的问答，业务上包括直播商品介绍，基于商品的信息抽取问答，虚拟人口型驱动，语音渲染等等。职责: 负责完成对话模块整理的业务架构设计和工程化落地，覆盖多个直播业务场景。完成业界前沿底座大模型的效果对比和评测。基于BaiChuan等大模型完成相关的微调和优化，推理加速优化，一站式服务部署等等。...

影视角色人设大模型问答

人工智能-机器人资深大模型算法

项目简介: 项目主要是基于ChatGLM2等大模型实现了影视角色的人设问答，这里的人设选型为封神榜中的角色。用户可以设置对应的角色(如: 商纣王)，在和系统进行对话交互时，系统会以商纣王的人设风格对用户输入的信息进行回复。项目分工: 本人在项目中负责对话整体业务的设计和算法部分业务的实现。主要包括大模型的选型，大模型微调，PEFT, SFT, 模型推理加速和服务部署等。通过对比GPT, 百川，千问，ChatGLM, 书生，Lamma等大模型的效果。针对人设角色的形象设定，做对应Prompt Engineering优化等。解决问题: 完成了项目整体的开发与部署，对话系统整体上支持了人设大模型生成...

大模型在法律AI场景下的应用

人工智能-机器人资深大模型算法

项目简介: 项目主要是利用大模型实现了法律垂直领域的智能问答，主要是覆盖了法律咨询的业务场景。数据主要由论坛、新闻、法条、司法解释、法律咨询、法考题、判决文书组成。大模型能根据相关的业务场景实现智能问答。项目分工: 本人在项目中负责对话整体业务的设计和算法部分业务的实现。主要包括大模型的选型，大模型微调，PEFT, SFT, 模型推理加速和服务部署等。通过对比GPT, 百川，千问，ChatGLM, 书生，Lamma等大模型的效果。做对应Prompt Engineering优化等。解决问题: 完成了项目整体的开发与部署，整体上支持了法律AI场景下的对话业务。...

大模型人设问答-一人之下-武当王也

人工智能-机器人资深大模型算法

项目简介: 项目主要是基于ChatGLM2等大模型实现了影视角色的人设问答，这里的人设选型为一人之下中的角色-武当王也。在和系统进行对话交互时，系统会以王也的人设风格对用户输入的信息进行回复。项目分工: 本人在项目中负责对话整体业务的设计和算法部分业务的实现。主要包括大模型的选型，大模型微调，PEFT, SFT, 模型推理加速和服务部署等。通过对比GPT, 百川，千问，ChatGLM, 书生，Lamma等大模型的效果。针对人设角色的形象设定，做对应Prompt Engineering优化等。解决问题: 完成了项目整体的开发与部署，对...

基于大模型的text2SQL实践

人工智能-机器人资深大模型算法

项目简介: 项目的目标是根据用户的输入query，结合大模型配置信息中的多个表的schema信息，返回对应的标准化的SQL语句。如假设有以下几张表和对应的列: Table classroom, columns = [*,building,room_number,capacity] Table course, columns = [*,course_id,title,dept_name,credits] Table department, columns = [*,dept_name,building,budget] Table student, colu...

Text2SQL智能数据可视化Agent

人工智能-机器人资深大模型算法

项目模块: 主要是针对text2SQL任务的全链路优化，增加了SQL数据可视化的推理过程，实现整体的数据可视化Agent. 项目分工: 负责对业务整体的建模，包括SQL生成任务的优化，图表关系的业务建模，和API参数的智能生成。主要包括: SQL生成任务的拆解优化，针对图表分类和参数抽取的业务建模，COT优化，图表和API参数关系抽取，以及参数的对齐优化功能等等。成果: 跑通了从文本到数据可视化的全流程，支持了5种复杂的数据可视化业务需求，达到业务交付标准。欢迎合作: 作者在对话领域有多年的研究经验，LLM应用落地上有丰富的实战经验，在这块有大量的交付案例，欢迎有相关业务需求的公...

------ 加载完毕 ------