从阿西莫夫“三定律”到“四定律”

本文转自：长江日报

杜丽燕

尚新建

《机器人伦理学导引》

[希腊]施皮罗斯·G·查夫斯塔 著

尚新建 杜丽燕 译

北京大学出版社

【编者按】《机器人伦理学导引》（以下简称《导引》）有一篇长达40多页的《译者序》，清晰地介绍了“机器人伦理学”的由来、框架、现状和走向，并提出了两位中国学者对“机器人伦理学”的思考。本文摘编自这篇序言，标题为编者所加。

□ 尚新建 杜丽燕

20世纪40年代，著名科幻作家艾萨克·阿西莫夫提出了机器人学三定律，作为科幻小说中生产设计机器人以及机器人自身行为的准则。

第一定律：机器人不得伤害人，也不得见人受到伤害而袖手旁观。

第二定律：机器人应服从人的一切命令，但不得违反第一定律。

第三定律：机器人应保护自身的安全，但不得违反第一、第二定律。

在阿西莫夫之后，无论是赞成还是反对三大定律的研究者和小说家，基本上都会以遵循或反对该定律作为出发点。许多人工智能和机器人技术专家认同这三个定律，甚至有人预言，随着科学技术的发展，阿西莫夫三定律可以成为未来“机器人伦理学”的基本框架或原则。之所以这样说，是因为阿西莫夫在提出机器人学三定律的同时，也表现出对机器人可能出现的问题的忧虑。从当今人们讨论的机器人伦理学的内容中，我们可以清晰地看到阿西莫夫机器人学三定律特别是第一定律的影响。

第一定律只规定“机器人不得伤害人”，但没有明确定义何谓伤害。阿西莫夫自己也意识到了这一点，因而在《讲假话的家伙》中，假设机器人有超强的推理能力、极速的计算能力和超凡的捕捉信息的能力，当它们拥有捕捉人的情感和心理的能力时，就能猜透人的心思，它们会“借此给自己大捞资本”，也有可能凭借自己捕捉的信息，窥视人的心理，从而控制人的情感，人际关系，继而控制人的一切事务，结果是主从关系被逆转。

一方面，三定律已经揭示出许多问题，另一方面，三定律本身便引人怀疑。

阿西莫夫本人就发现，机器人学三定律可能会困于死局。例如，机器人接收到两个相互冲突的指令；或者，在保护一个人的同时可能伤害到另一个人。

面对各种困难和批评，阿西莫夫不断对其三定律重新解释或加以修正。最重要的修正是增加了机器人第零定律。第一定律仅针对人类个体，然而，当一个人与多人或整个人类同时遭受危险时，机器人必须有正确的选择顺序。不然，有可能因小失大，造成对整个人类的伤害。之所以用序号“零”，是为了继续贯彻“优先权依序递减”的原则。修改后的定律如下——

机器人第零定律：机器人不得损害人类，不得袖手旁观，坐视人类遭受伤害。

第一定律：机器人不得损害个人，不得袖手旁观，坐视个人遭受伤害，除非该行为违反第零定律。

第二定律：机器人必须服从人的命令，除非该命令违反第零或第一定律。

第三定律：在不违反第零、第一、第二定律的前提下，机器人必须尽力保存自己。

这种修改更加凸显阿西莫夫定律的基本伦理原则：始终确保人类支配机器人，防止将机器人用于邪恶目的。

问题在于，人们能否消除定律自身存在的矛盾和模糊性？定律本身是否道德正确？更重要的是，即便定律天衣无缝，具有什么结构和能力的机器人，才能够准确无误地贯彻这些定律？这里不仅涉及对机器人伦理学的总体展望，还涉及与机器人制造和运用相关的具体技术、实践、文化、法律等问题。

例如：有无为人类普遍认同的机器人道德指令？机器人能否取代人的道德责任，比如陪伴老人的机器人能否代替儿女尽孝？研发用于其他目的的伴侣机器人，有无道德问题？将机器人安置在掌握职权的岗位，诸如警察、保安、狱警、教师或其他政府职务，让人服从机器人，有无道德上的疑惧？等等。

我们必须考虑这些问题。虽然这些问题目前也许还无解，但是，提出问题本身，就是走向答案的关键一步。