北京香山论坛热议：无人机大出风头，人工智能如何治理|新京智库

10月30日，香山论坛“人工智能安全”论坛现场。图/新京报记者柯锐 摄

新京报讯（记者柯锐）第十届北京香山论坛30日在京开幕。在当天下午召开的“人工智能安全”论坛上，十余位国内外专家学者、重磅嘉宾就人工智能在军事等领域的应用以及人工智能治理进行了深度讨论。

无人机大出风头引关注

在乌克兰危机中频繁出现的无人机，和近年来人工智能在军事领域的运用，引起了论坛嘉宾的关注。

俄罗斯国立高等经济大学欧洲与国际综合研究中心主任瓦西里·卡申表示，在俄乌前沿阵地，有大量的遥控使用的无人机，每天使用量达数百个。这些无人机成本低，可大规模生产。一般是操作员使用VR眼镜遥控指挥。

AI在武器中的应用，不但会改变现代战争的模式，且可能会对人类社会带来不可预测的后果。对此，红十字国际委员会科学与政策高级顾问尼尔·戴维森表示，AI在军事上的运用，对人和生命的影响值得关注。AI控制自助武器，可能会造成不可逆的影响。国际社会要采取措施，减少对平民和民用设施的影响。

他认为，对某些致命性自主武器要采取限制措施。例如，在过去，对地雷的影响，人们是在大量使用后才研讨对策；现在，对于采用AI技术的机器人武器的使用，人们应该先进行研判，形成共识。

近期，基辛格与人合作的新著《人工智能时代与人类未来》也引起了与会嘉宾的关注。该书提出，人工智能将重塑全球安全与世界秩序。同时指出，人工智能武器具备核武器不具备的三个特点：集中在大公司和私人部门；技术更容易被复制，从而容易被非政府组织掌握；小国也有机会掌握。

对此，秘鲁国家高等研究中心马林阿里斯塔研究所主任罗伯托·比斯卡多建议，成立针对AI的国际治理机构，由联合国来主导。制定AI应用的相关标准，确保伦理法律准则的实施。

中国科学院类脑智能研究中心副主任曾毅表示，关于AI的规则标准，美国、中国、英国等国都有，在此方面，各国相似的内容多于不同的内容。各国应该相互学习，关注共同的挑战。

中国为治理提供建设性思路

除了军事领域，AI在更广泛领域的应用和治理问题也引起了论坛嘉宾讨论。

论坛上，外交部军控司参赞高会君表示，人工智能治理要坚持三个原则。一是要确保可预测性，确保人工智能始终处于人类控制之下。二是坚持伦理先行，建立并完善人工智能伦理准则、规范及问责机制，坚持公平和非歧视性原则，充分尊重并保障各群体的合法权益。三是逐步建立健全法律和规章制度，保护个人隐私和数据安全，反对非法收集和利用个人信息的行为。

另外，在人工智能治理方面有几个重点。第一是要密切跟踪技术发展形式，提高人工智能治理的技术能力，要用人工智能技术来规范、助力人工智能治理。第二是要加强信息交流和技术合作，共同做好风险防范，不断提升人工智能技术的安全性、可靠性、可控性、公平性。三是要确保人工智能发展和治理权力平等、机会平等、规则平等，增强发展中国家代表性和发言权，弥合智能鸿沟和治理能力的差距，在尊重各国政策和实践差异的基础上，推动国际人工智能治理领域形成广泛共识。

高会君表示，中国人工智能技术虽比较发达，但是在国际人工智能治理这个问题上，我们非常关注发展中国家、广大发展中国家。中方积极支持在联合国框架下讨论成立国际人工智能治理机构，协调国际人工智能发展、安全和治理重大问题。

10月18日，习近平主席在第三届“一带一路”国际合作高峰论坛开幕式主旨演讲中宣布中方将提出《全球人工智能治理倡议》。

高会君表示，该倡议为各方普遍关切的人工智能发展与治理问题，提供了建设性解决思路，最大程度凝聚了国际共识，为相关国际讨论和规则制定提供了蓝本，是中方践行人类命运共同体理念，落实全球发展倡议、全球安全倡议和全球文明倡议后又一重要举措。

“与一些西方国家处心积虑搞‘小院高墙’、制造‘智能鸿沟’的政策主张相比，倡议反映出中国在人工智能领域成熟的治理经验，彰显出我们胸怀天下、大公无私的大国胸襟。”高会君说。

新京报记者 柯锐