机器人第三法则

钢穴

机器人第三法则规定,机器人必须保护自身存在,除非这种保护与第一或第二法则相冲突。它被列为正电子脑基础标准理论的一部分,将自我保护确立为一项真实但从属的义务——机器人的安全固然重要,却不能凌驾于不得伤害人类或服从人类命令的要求之上。

定义及其在三条法则中的位置

格里格尔博士在解释用于设计正电子脑的既定原则时,陈述了机器人第三法则。第一法则禁止伤害人类;第二法则要求服从人类命令,除非服从会与第一法则相冲突;第三法则则要求机器人保护自身,只要这不与前两条法则中的任何一条相冲突。这一等级关系十分明确——自我保护是有条件的,而更高位的法则规定了何时可以追求自我保护。

设计与技术背景

这条法则属于正电子脑设计的标准理论基础。格里格尔博士解释说,即使是涉及少量创新的设计,通常也需要一整组研究人员在一家中型工厂里工作,耗时可能长达一年。此类工作之所以可行,是因为机器人学家可以在包括机器人三法则在内的既定基础理论上继续研究;抛弃这一框架就需要建立新的基础理论,而正如R.丹尼尔·奥利瓦所指出的,这会耗费多年。

这一说法表明,机器人第三法则不只是一条行为准则。它嵌入了组织机器人反应的技术架构之中,而替换基础理论所需的大量工作,也有助于解释为何既定法则会支配创造新型机器人脑的尝试。

对机器人行为与身份的影响

机器人第三法则体现了机器人持续存在与其对人类所负义务之间的区别。自我保护被纳入法则体系,但它并非抵抗的独立许可——当保护自身会违反第一或第二法则时,该法则要求机器人让步。因此,这些法则不仅界定了哪些行动可以采取,也规定了如何解决彼此冲突的要求。

相关讨论还表明,仅凭外表识别机器人可能十分困难。R.丹尼尔·奥利瓦看起来像一名外世界人,而法斯托尔夫博士提出了几种实用测试方法,例如仔细检查他的皮肤和头发,或查看呼吸、脉搏和心跳等常见迹象,以区分类人机器人与人类。这些测试针对的是身体分类;机器人三法则描述的则是另一种界限,即规定机器人必须如何行动的原则。

叙事意义

机器人第三法则出现在一段解释中,说明机器人三法则为何构成正电子脑的标准基础,以及为何根本不同的机器人脑设计需要多年的理论研究。它为自我保护在法则体系中的位置设定了明确但有限的范围——机器人被设计成保护自身存在,但这种保护仍从属于人类安全和依法服从。由此形成的等级关系,是理解故事如何将机器人行为描绘为既经技术设计、又受伦理约束的关键。