可信可控政务大模型
ChatGPT推动大语言模型技术和生成式AI产业的发展,国内厂家争相开发大模型,但大模型易产生幻觉,这是商业项目落地面临的主要挑战。
今立方团队提出双系统可信可控大模型的4R架构,包括具有反思和重构能力的控制智能体,一个基于高质量知识训练的直觉小模型,一个用领域知识图谱增强的大模型推理系统,通过大模型/小模型协同工作来解决大模型的幻觉问题。
系统于2023年5月正式发布,并运用于厦门12333热线智能语音服务,是国内首个商用的可信可控的政务热线大模型应用。
|
|
|
政企业务用户体验要求高且容错性低,因此使用的大模型必须是可信可控的,模型应用上线之前需要经过反复充分的测试。 基于双系统4R架构,今立方在大模型上增加了可控、可追溯和可编辑能力,同时利用知识图谱推理技术来增强智能热线的对话理解,管理和生成。
今立方已发布的人社领域的智能政务大语言模型,应用于12333热线智能客服,通过AI智能坐席替代人工坐席完成咨询服务工作。 人社智能政务大模型根据用户提出的问题进行解析并提供经过审核的答案,还可与人工客服协作,分析历史沟通内容的语义和上下文,总结和归纳对话的重点和关键信息,为人工客服提供回复建议。
人社智能政务大模型具备政务咨询问题的理解能力,政策知识信息实时获取与分析能力,面向复杂的市民场景咨询和业务办理流程交互对话能力,整合多源渠道关联的知识信息,融合传统的客服工作体验,用协同化的方式解决市民对政务咨询日益增长的服务需求。
基于大模型技术的12333智能热线在知识覆盖的广度和多轮对话的深度上都得到强化,可以直接面对口语化的语音和文字版本。相比国内其他12333上线系统大致30%的准确率,该系统把准确率大幅提升到80%以上。
|
|
|