AI技术演进如潮治理规范更需对齐

本文转自：解放日报

AI技术演进如潮治理规范更需对齐

——Sora对长三角的意义

楼崇

楼崇

春节期间，国内外科技圈被OpenAI最新发布的Sora狠狠刷屏了一波。根据谷歌趋势的数据分析，“Sora”在中国的搜索热度在全球是最高的。这一现象不仅反映了我们对于前沿技术的极高敏感度，也证明了在意识层面，我们并未落后于科技的快速发展。面向已知的未知领域、未知的未知领域，长三角必须满腔热情地拥抱这一次的人工智能开发与应用浪潮，“以满腔热忱对待一切新生生物”。

Sora为新生产带来新范式

Sora的发布，无疑是技术领域的一大进步。虽然在短期内，它的价值可能被过度高估，从长远来看，其深远的意义和潜在的价值却往往被低估。正如古语所言，“无用之用，方为大用”，这引发了一个值得深思的问题：我们真的准备好迎接这一技术革命了吗？

Sora是新工科、新理科和新文科的结合。技术打开了工业的天花板，未来，想象力将成为我们的瓶颈。人机结合，人机互动，能熟练运用Sora等大模型工具开展生产的企业，将有机会成为新赛道的领军人、某个领域的新兴独角兽。

长三角正在奋力打造先进制造业集群，在生产环节中，企业追求低成本、高效率，缩短时间和降低错误率已成为共识。这需要精确的逻辑流程和严格的操作控制，以符合严苛的制造标准。大模型技术的高度随机性，在一定程度上，与工业生产中对精度和稳定性的高要求似乎形成了对立。然而，正是这种高随机性，为某些生产环节的创新提供了可能性，尤其是在容错空间相对较大的环节，AI技术的广泛运用，将为传统制造业带来创新活力。

同时，AI的应用也简化了制造流程设计和控制程序的编写工作，节约了大量的人力资源。通过精心设计和调整，大模型能够在保证生产效率和创新速度的同时，也满足了工业生产对稳定性和准确性的基本要求。这种技术的引入不仅仅是工业自动化的延续，更是制造业向智能制造转型的重要一步。随着技术的不断发展和优化，预计未来大模型将在更多工业生产环节发挥关键作用，推动制造业的全面升级和转型。

Sora为新治理赋予新动能

Sora等大模型的出现，尤其是人工智能生成内容（AIGC）的能力大幅提升，使得我们面临着前所未有的挑战。如何抵挡“逼真的假信息”海啸？如何掐断有害视频的传播渠道？如何提升知识产权的侵权分辨能力？都是对职能部门的重要考验。同时，伴随行业颠覆性的发展，市场上将涌现更多的弱组织、强关联的“自由职业”，用工共享、零工市场、弹性就业等新现象，对当下的监管也提出了新挑战。

人工智能企业需要在提升大模型能力的同时，开发与之匹配的人工智能对齐技术，确保生成的内容符合伦理和法律标准，不被用于制造和传播有害信息。

同时，为AIGC内容制定明确的标准和规范极为关键。在文件和内容中嵌入隐形且不可篡改的“水印”，并借助“AI+安全”技术，通过利用大模型技术来识别和对抗同样由大模型生成的内容，从而有效检测并鉴别虚假信息。

为了保护原创内容不被未经授权使用，亟须立法，保护知识产权，防止大模型未经允许就使用创作者作品中的元素。此外，对待技术创新，宜相对“宽、松、软”；反之，对待商务模式创新，应该相对“窄、紧、硬”。

除此之外，AI也将全面赋能城市治理。通过将基于统计概率的数据驱动方法与基于第一性原理的方法深度融合，将具有较高确定性的数字孪生技术与具有较高不确定性的大模型进行有机整合，是未来的发展方向。在这一框架下，数字孪生的世界中嵌入微分几何这样可以较为精确地描述物理世界的知识，负责绘制出宏观的粗略框架，而大模型根据规则生成实体和个体行为，负责填补更为细致的内容。这种结合方式将使得大模型可以更加实时、准确模拟城市和区域的状态，为循证决策提供了新路径。

以往，是循着过去和当下的“证据”，做经验性决策。有了Sora这一类手段后，可以对未来进行更逼真的多情景的仿真模拟，循着将来的“证据”去做决策，从而使决策者可以更直观地感受城市和区域的运行状况，有利于决策者及时作出精准的判断和实时有效的措施。

总之，以AI为基，可以催生出增量型的新质生产力，也可以有存量型的新质生产力。关键是及时将科技创新成果推向产业化应用，使之迸发新的“质态”，摆脱传统路径依赖，整体提升价值链。

（作者为上海前滩新兴产业研究院决策AI中心副总监）