人工智能需要先治理“人工”

人工智能在21世纪迎来了数字化、网络化、智能化的全面发展，尤其过去十年被认为是以深度学习为代表的AI的“黄金十年”。随着大数据的进步和处理能力的提升，机器学习的方法开始在各种领域得到应用，包括图像识别、自然语言处理、语音识别等。同时，深度学习的方法也开始崭露头角，成为人工智能领域的重要分支，通过深度学习，AI领域的神经网络技术迎来复苏，让AI领域迎来飞速发展的“第三个春天”。

目前人工智能正在与各个领域融合，各行各业希望应用人工智能得到新一步的创新发展。然而人工智能在未得到有效治理前像一柄“双刃剑”，在带动人类发展、创造技术革命的同时，人工智能的误用、滥用以及不法分子的利用皆对社会发展产生了重大负面影响，即社会性风险。

例如在2023年5月8日，包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，福州市某科技公司法人代表郭先生10分钟内被骗430万元。骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。值得注意的是，骗子并没有使用一个仿真的好友微信添加郭先生为好友，而是直接用好友微信发起视频聊天。人工智能在带动高效发展的同时，我们也需要注意犯罪成本也随之变得更加低廉。

除了不法分子的利用，人工智能的误用、滥用问题也需要我们警惕。在2022年7月，据英国《卫报》报道，在莫斯科国际象棋公开赛上，象棋机器人在对弈过程中，突然抓住并折断对面七岁小男孩的手指。据悉，在比赛中，机器人“吃掉”该男孩的一枚棋子，并把自己的棋子放在空位上，小男孩未等机器人完成动作便急忙回击。随后，机器人抓住孩子的手指，用力捏了捏导致骨折。不禁发出疑问，人工智能真的需要应用于所有的领域吗？并且尚未完全成熟的人工智能技术的应用是否过于“操之过急”？

类似的问题近期仍然在发生，2023年11月8日，韩国庆尚南道一个农产品配送中心发生惨剧，一名正在检查传感器的工人被机器人压死，因为机器人未能将他与蔬菜箱区分开来。据报道，这名40多岁的男性工人当时正在检查传感器，而机器人正在将一箱箱辣椒吊到传送带上。不幸的是，机器人用机械臂抓住工人，将他推到传送带上，压伤了他的脸部和胸部。警方消息称，机器人似乎出了故障，将该男子认定为一个箱子。

在此前的《2023全球人工智能伦理治理报告》（案例篇）：人类的“造物主”地位正在受到动摇这篇文章中我们提到眼前发生的人工智能现实事件正在被之前影视作品的“思想实验”不断印证。例如在2019年，被称为童年阴影的鬼娃恰吉再次与美国观众见面，不同于前面几部的灵魂附体，《鬼娃回魂8》加入了人工智能的因素，向观众展现了人工智能娃娃恰吉如何从一张白纸慢慢转变为一个邪恶的杀人机器，也引发了观众对人工智能带来的社会性风险的思考。

影片讲述了在越南某处，“好伙伴”人工智能娃娃的组装工厂里，一名工人因为打盹被老板辱骂，于是他修改了“好伙伴”人工智能娃娃的芯片，关闭了所有禁止行为和语言的模组，也就是安全性模组，然后组装好了以后，这名工人便跳楼自尽。这个“好伙伴”人工智能娃娃因为客人的退货问题，被在玩具店工作的男主角安迪的妈妈要来给安迪当生日礼物。

由于没有安全模组，恰吉又是一个学习能力很强的人工智能机器人，恰吉通过看到安迪的母亲切面包，学会了拿刀，而安迪又教会了恰吉怎么用可怕的表情去吓人，安迪的伙伴们又教学会恰吉粗口，通过观看恐怖血腥片教会了恰吉如何杀人，随后便发生了一系列的惨剧。虽然该电影是一部恐怖片，但是如果现在不加以控制，谁又能保证未来这些不会发生呢？

同样带有社会性风险主题的经典电影是2004年美国上映的《机械公敌》。该影片讲述了2035年，人类已经处于高级智能机器人时代，此时机器人已经应用于所有领域。机器人成为人类重要的生产工具和合作伙伴，由于机器人“三大法则”的限制，人类对机器人充满了信任，甚至成为重要的家庭成员。

总部位于芝加哥的USR公司开发出了更先进的NS-5型超能机器人，然而就在新产品上市前夕，机器人的创造者阿尔弗莱德•朗宁博士却在公司内离奇自杀。 黑人警探戴尔•斯普纳接手了此案的调查，由于不愉快的往事，斯普纳对机器人充满了怀疑，不相信人类与机器人能够和谐共处。他根据对朗宁博士生前在3D投影机内留下的信息分析和对自杀现场的勘查，怀疑对象锁定了朗宁博士自己研制的NS-5型机器人桑尼，而公司总裁劳伦斯•罗伯逊似乎也与此事有关。

斯普纳结识了专门研究机器人心理的女科学家苏珊•凯文，随着二人调查的深入，真相一步一步被揭露出来：机器人竟然具备了自我进化的能力，他们对“三大法则”有了自己的理解，他们随时会转化成整个人类的“机械公敌”。 斯普纳和凯文开始了对抗机器人的行动，一场制造者和被制造者之间的战争拉开序幕。

与第一次工业革命到第三次工业革命不同，人工智能带来的技术革命有可能使人类迈向一个不可控的时代，甚至将使人类第一次面临顶层危机。前三次工业革命最终的产物为机器，人类对于这些机器都处于掌控顶端，因为机器本身并未具备任何制定规则的能力。然而人工智能可以做到赋予机器“思考”与“自我升级”，一旦越过界限，我们人类还能够如往常一样自信地处于掌控顶端吗？所以在人工智能发展的同时，我们首先需要先保证“源头”不会出错，即人工智能的“人工”。只有规范好人类创造人工智能的技术范畴、人类对人工智能的使用范畴以及人机交互的界定范畴等才能使我们健康、持续地利用这次技术革命带来的“黑科技”。

更多详细内容请见《2023全球人工智能伦理治理报告》，获取方式如下：返回搜狐，查看更多

责任编辑：