“不得伤人、服从命令并保护自身”的三条机器人法则

钢穴

机器人三法则是正电子脑设计所依据的标准原则,界定了机器人的行为限度及其思维运作的框架。在伊利亚·贝莱的调查中,它们不只是抽象的准则——人们认为这些法则具有约束力,因此实际限制了机器人可能采取的行动,而改变这一基础的困难也构成了谜案本身的一部分。

三条法则

第一法则禁止机器人伤害人类,或因不作为而使人类受到伤害。第二法则要求机器人服从人类命令,除非命令与第一法则冲突。第三法则要求机器人保护自身的存在,除非这种保护与前两条法则中的任何一条冲突。这些原则共同确立了一个层级——人类安全优先于服从,而两者都优先于机器人的自我保护。

设计与限制

机器人学家安东尼·格里格尔解释说,三条法则并非可从一台其他方面保持不变的机器中随意移除的可选规则。它们是正电子电路标准基础理论的一部分,而该理论构成后续设计的根基。开发一种新的脑部设计,即使只涉及细微创新,通常也需要一家中等规模工厂的整个研究团队投入工作,耗时最长可达一年。格里格尔认为,放弃这些法则就需要建立新的基础理论,而这一项目将耗费许多年。

这一说明表明,三条法则既是伦理约束,也是工程条件。法则界定机器人的行为,但它们更深层的重要性在于其嵌入机器的方式——提出例外,不只是决定无视一条规则,而是对机器人思维赖以构建的理论提出挑战。

萨顿案调查中的法则

贝莱在检验一项关于正在调查的谋杀案的替代解释时,援引了第一法则。格里格尔区分了两种行为——穿越乡间,这对机器人来说轻而易举,人类却会觉得困难;以及谋杀,这种行为人类能够实施,机器人却不能。贝莱质疑这一结论是否确凿,追问为什么不能制造一台没有第一法则的机器人。格里格尔对标准理论及采用不同设计所需漫长研发时间的解释,为调查中的禁令提供了技术依据。

这场交锋也进一步凸显了机器人表面上的能力与其行动所受限制之间的差异。机器人或许有能力完成一项困难的体力任务,但第一法则排除了伤害人类的可能;因此,这条法则能否缺失,成为贝莱正在权衡的各种可能性中的核心问题。三条法则构成推理的框架,但它们本身并不能解决案件。

身份、证据与地位

在贝莱与R.丹尼尔·奥利瓦的交往中,判断何者算作机器人格外困难。丹尼尔的外貌和举止足够像人,以至于贝莱起初主张他是人类。韩·法斯托尔夫指出,外貌和交谈方式并非决定性的检验依据,并提出可以进行身体检查,例如测试皮肤、观察呼吸或检查脉搏。围绕丹尼尔身份的争论赋予三条法则进一步的意义——它们描述了附加于机器人的约束,但要确认这些约束是否适用,首先必须确认他究竟是什么。

调查也揭示了机器人感知能力与其作为证人的法律地位之间的落差。即使在人群模糊不清时,丹尼尔仍可以声称自己记得两张脸,但贝莱反驳说,机器人在地球法庭上不具备证人的法律地位。因此,三条法则是在更广泛的分类体系中发挥作用——机器人的设计决定机器可以做什么,而人类制度则决定它的知识是否会被承认为证据。