基于原先的 Q&A 迭代升级,加入公司自研 Hanfei 大模型,并应用到产品线的各个地方
封装 Q&A 的 SpringBoot 依赖,抽取所有问答功能,其他项目按需求引入。
引入问答指令模块,弥补本身大模型通用性的不足,不同指令调用不同的大模型。
引入值班律师机制,当提问律师长时间无法回答,通过腾讯 IM 回调机制,利用 Redis 的 ZSET 数据接口,定时扫
描提问律师未被回答的用户,并推送值班律师。
Q&A 第一个版本,基于 Milvus 向量数据库和 ES 实现通过问题请求 Milvus 获取维度最匹配问答 AutoId 集合,
通过 AutoId 集合和问题请求 Elasticsearch 匹配分值最高的问答,然后返回。
Q&A 第二个版本,基于 Hanfei 大模型进行回答,直接请求 Hanfei 大模型,请求结果通过网易的铭感词校验过滤
后返回。
Q&A 第三个版本,利用 Milvus 向量数据库去识问题的意图,根据意图,判断问题的类型,查询 Elasticsearch 或
者 Hanfei 大模型并返回。
Q&A 第四个版本,新增问律师,嵌入到大模型,提供律师推荐功能,并通过腾讯 IM 与公司的其他产品打通进行
律师与用户对话。更新 Hanfei 大模型为流式输出,利用 gRPC 对接大模型,通过 SSE 长连接推送给前端接收.