聚焦数字文明发展，构建安全可信的人工智能

当今世界，数字技术正全面融入人类社会的各领域和全过程，人工智能已然成为人类文明进步的一个重要标志。与此同时，数字技术如果失去了规范和约束，就可能成为“潘多拉魔盒”，给现实社会带来一定的威胁。6月26日，世界互联网大会数字文明尼山对话主论坛在山东济宁曲阜举行，大会期间，中外嘉宾围绕“构建安全可信的人工智能”议题建言献策。

人工智能将重塑数字世界

“人工智能的机遇是巨大的。但随着全球对人工智能的加速应用，政府和组织有必要考虑如何最好地利用这项技术造福人类和地球。”全球移动通信系统协会（GSMA）首席执行官洪曜庄表示，全球范围内，人工智能正逐渐崭露头角，成为一股强大的力量，有潜力改变企业和社会。

阿拉伯信息通信技术组织秘书长穆罕默德·本·阿莫表示，人工智能有着革命性的潜力，可以影响甚至改变生活的方方面面，推动创新，使生活更加便捷。例如，通过自动化提高效率、提供准确信息以支持明智决策、改善客户服务和客户体验等。

谈及人工智能的飞速发展，百度创始人、董事长兼首席执行官李彦宏也深有感触，他表示，过去一年，人工智能在技术、产品、应用等各个层面，都以“周”为迭代速度向前突进。大模型将渗透到越来越多的领域，以大模型为关键驱动的数字经济与实体经济的深度融合，将做强做优做大实体经济，创造可观的增量价值，带来经济社会发展和产业的深刻变革。

“这次GPT大模型的诞生代表着通用人工智能、强人工智能的到来，是真正的智能涌现。”360集团创始人周鸿祎认为，人工智能大模型用一套模型、一套算法解决了所有自然语言处理的问题，已经从感知进化到了认知，能够理解文字、语言，作出分析、规划，传统算法将被代替。未来在自动驾驶、机器人控制等很多重要领域，大语言模型都会大显身手。

阿里巴巴集团董事会主席兼首席执行官、阿里云智能集团董事长兼首席执行官张勇表示，最近一段时间，全球科技企业的通用大模型百舸争流，推动人工智能迈向了全新的发展阶段。他认为，大模型正在加速推动智能化时代的到来，实体经济是智能化的主战场。

“我们正在见证人工智能的加速发展。”人工智能促进协会原主席、康奈尔大学教授巴特·塞尔曼表示，GPT-4实现了通用人工智能的第一种形式，引入了一种新的实体，将不可避免地改变许多现有的社会结构和机制，人类需要重新思考人工智能将带来的影响。

人工智能带来的治理挑战不容忽视

“我们迫切需要以高度的责任感来开发和应用人工智能，确保它对整个社会产生积极的影响。”穆罕默德·本·阿莫表示，在享受人工智能带来的好处的同时，必须认清其会带来诸多社会和伦理方面的挑战，这些需要从一开始就加以解决。

人工智能大模型为人类社会发展带来普遍发展机遇的同时，也会带来许多方面的治理挑战，这些挑战不容忽视。李彦宏认为，新技术的应用往往要先于规范，只有建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德，才能营造良好的创新生态。着眼未来，在重视防范风险的同时，也应同步建立容错、纠错机制，努力实现规范与发展的动态平衡。

在周鸿祎看来，公有大模型存在缺乏行业深度、容易造成企业内部数据泄露、无法保障内容真正可信、无法使企业实现成本可控等诸多不足。他认为，大模型在企业级场景的应用要坚持“辅助模式”。而GPT大模型想要实现“安全可控”，关键在于企业能否真正把控它，要让人的意志在整个决策回路中起到关键作用。

当前，人工智能全球竞赛已经进入白热化。就此情景，张勇表示，大家都希望在其中有所作为，但相关领域的技术伦理问题仍需要厘清，在踩下油门的同时，带好安全的刹车也很重要。“人工智能技术的演进必须符合社会规范，为人类带来更多美好。我们在追求技术先进性的同时，必须坚守社会责任感。”

“构建安全可信的人工智能”逐步成为行业共识

欧洲标准化委员会和欧洲电工技术标准化委员会网络安全和数据保护联合技术委员会主席沃尔特·福美表示，人工智能标准化要想取得成功，需要各国之间有一个共通的人工智能词汇定义，这将推进对安全可信人工智能的共同理解。

企业级场景需要打造的是“安全可信、可控易用”的专有大模型。那么如何打造这样的专有大模型？周鸿祎表示，需要坚持几个原则：安全原则，企业级应用必须是安全的大模型；可信原则，以解决大模型的准确性、实时性短板；可控原则，应把大模型定位于辅助工具，确保人在回路上；易用原则，解决易用性问题需要“有灵魂的数字助理”；普惠原则，让大模型成为每个人都能使用的生产力工具。

创新中有很多不确定性，有些可以预判在前，防患于未然；有的问题在发展中出现，需要边发展边解决，用发展去解决。张勇表示，“构建安全可信的人工智能”已逐步成为行业共识，相关法律法规逐步完善，为技术和产业的可持续发展培育了良好的土壤和环境。

人工智能将引领新的一轮技术创新的浪潮，5G移动通信、工业互联网、大数据、人工智能等数字科技改变了人们生产和生活的方式。中国联合网络通信集团有限公司董事长刘烈宏表示，让所有人能够共享数字文明发展的红利和成果，是全社会共同努力的目标。

穆罕默德·本·阿莫认为，人工智能的未来是充满希望的，应围绕隐私、透明度、责任与问责、稳健性和弹性五个方面，构建安全可信的人工智能。除此之外，还应建立道德框架，并通过以人为本的设计优先考虑人类福祉，为推动构建安全可信的人工智能持续发展作出贡献。（光明网记者 李飞 雷渺鑫）