项目简介:
项目主要是基于ChatGLM2等大模型实现了影视角色的人设问答,这里的人设选型为一人之下中的角色-武当王也。在和系统进行对话交互时,系统会以王也的人设风格对用户输入的信息进行回复。
项目分工:
本人在项目中负责对话整体业务的设计和算法部分业务的实现。主要包括大模型的选型,大模型微调,PEFT, SFT, 模型推理加速和服务部署等。通过对比GPT, 百川,千问,ChatGLM, 书生,Lamma等大模型的效果。针对人设角色的形象设定,做对应Prompt Engineering优化等。
解决问题:
完成了项目整体的开发与部署,对话系统整体上支持了人设大模型生成式对话的业务场景。
作者介绍:
毕业于2017年,主要从事对话系统方向,曾在小爱同学团队将细分赛道功能做到国内No.1。后在吉利等上市公司负责对话系统架构设计和大模型应用场景落地研究。熟悉整套对话系统业务流程,为数十家中小科技公司提供技术服务,主要包括算法技术指导,架构设计等,为大量应届生提供就业技术指导。手下有几十人兼职开发团队,包括NLP算法,后端开发和前端开发等等。欢迎咨询和合作。