2024中国生成式AI大会演讲：大模型的应用创新与落地探索

日前，2024中国生成式AI大会成功举办，大会以“重构世界 奔赴未来”为主题，邀请50+位重量级嘉宾同台分享，以前瞻性视野全景式解构生成式AI的时与势、危与机、破与立。百融云创AI创新负责人于会上发表演讲，畅谈大模型的应用创新与落地探索。

生成式AI带来了哪些变革？

自人工智能横空出世以来，我们经历了两个时代的无声衔接，第一个是决策式AI时代，第二个则是生成式AI时代。当下，生成式AI正以主角的姿态站在了历史舞台中央。

与上一个时代比，生成式AI带来了哪些变革？

首先是问题空间的极具扩大。上一个AI时代，在计算机视觉数据集ImageNet上识别一张图片，候选集只有1000个选项。AlphaGo在下围棋的时候，每一轮决策的候选集有6000个选项。而到了生成式AI时代，以Llama2为例，大模型预测token的候选集有32000个选项，也就是说每吐出一个token要从32000个选项里面找到一个最优解，问题空间变得非常大。

其次是应用的重心也发生了改变。生成式AI技术的诞生，让人工智能的应用方向，从感知变成了理解、生成和推理，从而影响外部世界。

“我认为生成式AI是通用人工智能的先导，生成式AI不直接产生通用人工智能，还需要包括智能代理、具身智能等技术的持续发展，才能无限接近通用人工智能的彼岸。”百融云创AI创新负责人表示。

三大视角透视大模型的本质

大模型是生成式AI最为重要的应用成果，也是目前行业内最为热辣滚烫的赛道。能够成为生成式AI的明星产品，大模型到底凭什么？

百融云创AI创新负责人认为大模型有三大本质，这三个本质奠定了其深刻的时代性。

01大模型即压缩器

大模型的本质是一个信息的无损压缩器，目前最好大模型产品可以实现30倍以上的信息压缩比，这是一个非常惊人的数字。依靠强大的压缩能力，大模型几乎把所有互联网上的人类知识都压缩到了一个模型之中，让其变得无所不知。

而且这种压缩功能不是简单的信息抽象化和符号化，大模型能从海量信息里发掘潜在规律，从而更好的预测下一个token的输出。这使得大模型即使面对它不曾见过的情景，或者没有见过的问题，也能进行作答，仿若人类思考和学习的方式。

02大模型即操作系统

每个时代都有自己的操作系统，比如PC时代的Windows，移动互联时代的iOS和Android，人工智能时代也不例外。大模型将成为人工智能时代的底层操作系统，所有的芯片架构、算法开发等都将围绕大模型而实现重构。

03大模型即一种新的编程语言

同时，大模型还是一种新的编程语言。

有了计算机就有了编程语言。从历史来看，编程语言一直处于进化之中，从最初的二进制，到汇编语言，再到高级语言。编程语言的进化史，就是编程门槛逐步降低的进程。按照这个规律，人人都懂的自然语言将是编程语言进化的终极形态。而实际上，大模型一个prompt输入、模型处理和输出结果的作业形态，也完全符合编程的基本流程。

面向机器的编程语言要求非常精准，0就是0，1就是1，不存在任何模糊和二义性的状态。

而面向自然语言的编程，没有另行的语法定义，每个人都可以进行交互，哪怕你的语言非常抽象。但就像硬币的两面，自然语言作为编程语言，虽然泛化能力强，但却存在不够精准的问题。比如，在“编程”的过程中，如果对预训练和SFT阶段的过程缺少了解，使用提示词会有盲人摸象的感觉，用户面对的是一个黑盒作业，只能通过不断调整提示词，去寻找答案。就像是一个没有地图、没有向导的探险家，穿行在一片幽深的森林中。

大模型将成为下一代数字系统的基石与核心

毫无疑问，大模型在技术和应用层面具有强大的颠覆性，对于企业而言这将意味着什么呢？

“我们认为大模型会成为下一代企业的数字系统基础和核心。”百融云创AI创新负责人如是说。

过去一段时间，各企业都在推动数字化转型，将信息和业务流程都搬到了线上，但与此同时也产生了信息孤岛和数据孤岛的问题。

大模型拥有强大的任务理解和工具调用能力，它可以接入并串联统合企业内部的各个系统，并根据特定任务，获取足够的信息背景，缓存业务流程，以自然语言作为信息和指令的载体，帮助企业完成业务决策和流程办理。

这些能力将使得大模型成为下一代数字系统的基石与核心。可以看到，当前大模型正以主动或者被动的方式，加速向产业渗透。

百融云创大模型探索往产业纵深推进

作为人工智能代表性企业，百融云创打造了大模型一站式应用开发平台，实现算力、数据和模型等AI资源的统一化管理，推动AI能力的标准化和易用化。

平台内置了LLM应用、插件、知识库等模块，对外提供 API、Copilot SDK、Agent微信钉钉网页机器人，能够实现应用的零代码或者低代码开发。目前公司内部有一半的员工在平台上定制了业务助理，人机协同共同完成工作。

“要想实现大模型在产业的进一步落地，准确性和幻觉问题是不可回避的挑战。”百融云创AI创新负责人表示。

大模型想要精准，前置的数据处理环节非常重要。

在这一环节，百融云创打造了智能版面识别系统。很多企业内部都有大量非结构化的数据，比如员工简历、合同、财报等，而这些数据中往往含有很多表格和图表。

百融云创利用智能版面识别系统，对这些非结构化数据进行识别，得到整洁、统一、完善的数据后，再给到大模型进行处理，这将大大提高大模型的准确率。

“我们做过一些评测，表格识别准确率能达到92%，标题识别准确率达到95%，段落识别准确率达到93%。”百融云创AI创新负责人表示。

在解决大模型幻觉问题上，百融云创采用了生成式增强检索增强生成（RAG）技术方案，并对Q&A场景专门做了模型能力的强化。这些工作不仅提高了大模型的准确性和可靠性，还使其能够更好地理解上下文，并将检索到的知识融入到生成过程中，从而产生更加贴合实际需求的答案。

精准性和幻觉问题，是大模型的底层挑战，在上层的应用流程，尤其在代码流程、对话流程和业务流程层面，百融云创做了大量的优化工作。

在代码流程方面，百融云创推出编程助手BR-Coder，可以为企业提供私有化的部署，辅助开发人员做代码的续写、注释和解答等工作，大幅提升开发效率。

在对话流程方面，百融云创通过小语言模型Prompt改写，可以让对话流程变得更顺畅。

在业务流程方面，百融云创大模型能使之变得更加顺畅。

比如很多企业的数据运营场景，涉及到大量的数据查询、需求沟通、系统开发等工作，整个业务流程非常繁琐。百融云创通过大模型设定了一套对话流程，用户可以在界面上逐渐缩小需求范围，将数据查询工作量从几万张表缩减到十几张表，然后再确定所需表名和字段名，大幅提高整个业务流程的准确率和作业效率。

除了这些优化工作之外，百融云创还有另外一项重大的技术探索，那就是大模型和多模态的融合。比如基于大模型和语音技术的融合，大模型和动画影像的融合，打造的数字员工和数字人产品，能支持多国语言，提供真人级的交互体验，能胜任多区域的线上营销、线下接待等工作。

百融云创大模型技术已经在产业“落地生根”。以某城商行为例，该城商行有几十万名休眠白户，百融云创首先通过数智化的手段，对用户进行洞察和分群，从而制定不同的策略去触达用户，再利用大模型与用户进行交互，最终搭配人工实现营销转化。最终，在百融云创的助力下，大量的休眠户得到了激活，每月贡献了上亿元AUM。