克服“大模型幻觉” 知识图谱融合大模型应用平台发布

本文转自：中国新闻网

中新网北京9月8日电 (杨宏伟)8日，中国工程院院士、清华大学计算机系教授、海致科技首席科学家郑纬民在北京演示发布了由海致科技与高性能图计算院士工作站共同开发的“Atlas LLM知识图谱与大模型融合应用平台”。

该平台面向广大B端用户，运用知识图谱这项人工智能基础技术，帮助大模型在企业级和工业界应用中克服“幻觉”，实现基于行业与场景的精准推演。该产品目前已经在能源、金融、政务等领域的场景中进行部署和应用，力图打通通用人工智能进入B端和工业应用的“最后一公里”。

大语言模型(LLM)所表现出的跨领域通用性、快速自主学习和自我改进的能力无疑是革命性的。但由于它的基本工作方式是分析文本中的词汇、句法结构、语义信息等，并捕捉它们之间的模式和概率分布，因此，它更倾向于基于统计规律生成回答，而非进行深入的逻辑推理或形成高级的认知能力。

另外，它在生成文本时可能会受限于训练数据中存在的偏见和误导性信息，在某些情况下可能会产生不准确或不合理的回答。对于这种基于技术特征产生的瑕疵，人们将其形象比喻为“大模型幻觉”，这也是以大模型为代表的通用人工智能进入严谨B端应用的最大挑战。

知识图谱是另一种被广泛应用的人工智能基础技术，通过对语义网络进行建模，以结构化的形式描述客观世界中实体及关系，被广泛应用于知识推理。基于知识图谱的知识推理在离散符号表示的基础上，通过推理路径、逻辑规则等辅助手段，对推理过程进行解释，为实现“可解释人工智能”提供了重要途径。

“当大模型从C端走向B端，它就像从玩具走向工具，而工具的精确性至关重要。”郑纬民在接受记者采访时表示，“知识图谱作为更加类脑的人工智能工具，其精确的知识推导能力就可以跟大模型构成非常好的相互补充，反过来，大模型的快速学习能力，对于知识图谱的知识生成也产生了很好的促进。"

海致科技CTO杨娟博士介绍说，海致 Atlas LLM大模型融合应用平台有三个非常独特的定位：一是在全过程实现了知识图谱与大模型的交互，有效克服大模型幻觉对工业应用的干扰；二是更好管理了客户已有的丰富的数据资产，将其与大模型成果统一整理，避免重复造轮子，使得计算更高效，应用更精确；三是能够帮助客户切换和灵活应用不同的开源大模型，实现更高性价比的场景应用。

海致科技高级副总裁瞿珂介绍称，通过大模型极大地提高知识抽取和融合的过程效率，一方面，通过大模型对故障设备及关联量测值的快速提取，帮助知识图谱完成特征图的快速构建，提高效率；另一方面，也可以通过业务专家对大模型自动生成的特征图进行更为高效的校验，固化和校准故障特征的经验知识，确保质量。”