中国信通院发布《人工智能治理蓝皮书（2024年）》 提出“1244”人工智能治理总体框架

本文转自：人民网

12月27日，2024人工智能赋能新型工业化大会在北京召开，中国信息通信研究院发布《人工智能治理蓝皮书（2024年）》，引发业界和学界的广泛关注。

报告指出，近年来，人工智能技术颠覆性、跨越式突破引发通用人工智能新一轮发展热潮，全球人工智能行业实现高速增长。与此同时，人工智能领域模型安全、劳动替代、垄断风险、不透明不可控等风险凸显，发展不平衡、规则不健全、秩序不合理等问题更为突出，推动全球人工智能治理进入规则构建和落地的关键阶段。

提出兼具全面性、系统性、前瞻性的人工智能治理框架

人工智能治理是各方为解决人工智能领域风险分担和利益分配问题，通过政策制定、法律监管、伦理指导、行业自律等手段，对人工智能的研发、应用等行为进行全面管理和调控的过程。针对人工智能治理，全球各方尝试从供应链、价值链、全生命周期等不同逻辑维度构建起多项人工智能治理框架，不同框架间共识与差异并存。

报告从新技术革命引发的经济社会发展变革和历史经验出发，在“以人为本、智能向善”理念指引下，综合供应链条、价值链条、全生命周期链条等底层逻辑，从What、Why、Who、How四个维度搭建了“1244”治理框架，即一组概念、两类风险、四类主体、四组议题。

从核心议题、多元主体等角度出发深入论证分析

从发展侧来看，负责任创新是人工智能治理的源头根本，国际社会正在共同探索算力供给不平衡、高质量数据集建设、开源模型生态治理等问题的解决方案，报告提出围绕下游应用细化制度方案，为人工智能创新发展提供全产业链要素支撑。可持续发展是人工智能治理的终极要求，报告围绕经济、社会和环境等维度，提出公平普惠的包容性治理，建议协力应对数字鸿沟、文化偏见、能源短缺等问题，推动联合国2030年可持续发展目标实现。

从安全侧来看，安全可控是人工智能治理的底线基础，报告强调全生命周期逻辑下制度回应和技术治理并进的思路，对透明度、监管沙箱等制度机制和红队测试、评估评测等技术治理趋势进行跟踪研判。伦理先行是人工智能治理的价值导向，报告关注通用人工智能等技术发展带来的人类主体性危机，研判了人工智能对人类生活、生产乃至生存问题带来的冲击。

当前，主要经济体人工智能治理模式初具雏形，虽然模式各异，但规则落地都已取得实质进展，在监管模式、治理重点、实践策略等方面日益成熟完善。报告从主体角度出发，总结分析当前全球主要经济体的人工智能治理实践。

对人工智能未来的发展与治理进行展望

人工智能作为我国实施创新驱动发展战略的关键力量，是加快形成新质生产力的重要引擎。展望未来，人类社会将迈向更深层次的智能化发展阶段，人工智能治理攸关全人类命运，是世界各国面临的共同课题，需要系统谋划、综合施策，在制度设计、监管模式、伦理治理、国际合作等方面持续改革创新。

面对人工智能带来的制度性挑战，《蓝皮书》从制度设计、监管模式、国际合作等方面对人工智能未来的发展与治理进行展望。中国信息通信研究院也将持续跟踪评估人工智能治理焦点议题和趋势进展。