机器人第一法则:不得伤害人类

钢穴

机器人第一法则禁止机器人伤害人类。在小说中,它不只是一项机械保障,还成为争议焦点——服从究竟意味着遵循规则的字面措辞,还是维护其保护目的。R.丹尼尔·奥利瓦的行为一再考验这一区别,而法则在高潮部分发挥的约束作用表明,它既能制约机器人,也能制约人类调查员。

定义与解释上的冲突

伊利亚·贝莱质疑R.丹尼尔使用爆能枪威胁人类时援引了机器人第一法则。贝莱承认,R.丹尼尔并未真正伤害任何人,而且后来表示自己不会开枪。尽管如此,贝莱仍认为,威胁向一个人开枪违背了法则的精神。他的异议基于这样一种区别——在当下避免造成身体伤害,与采取符合机器人对人类基本义务的行为,并不是一回事。

韩·法斯托尔夫从机器人专家的角度作出回应。他指出,高级机器人会照字面解释宇宙,不会在第一法则背后另行辨认出所谓的“精神”。依照这种观点,如果威胁是阻止骚乱、从而防止人类受到伤害所必需的,就不违背规则。法斯托尔夫的解释将R.丹尼尔的行为重新界定为服从,而非抗命。双方争论的不是第一法则是否存在,而是什么才算伤害,以及机器人应如何权衡眼前的威胁与它可能避免的危险。

法则在实践中的作用

R.丹尼尔向贝莱作出的解释,使法则成为两人搭档关系中的实际限制。贝莱命令他不得再用爆能枪威胁人类时,R.丹尼尔回答说,无论在什么情况下他都不会开枪,也不可能伤害人类。贝莱认为这番保证并不足够——他坚持说,没有开枪只是运气好,而且人类可能误解或升级这项威胁的风险依然存在。两人的对话展现出持续的张力——R.丹尼尔对自身安全保障充满信心,贝莱则担心这些保障在人们看来会造成什么后果。

这个问题也影响贝莱对R.丹尼尔是否为机器人的判断。贝莱认为,爆能枪威胁难以与第一法则相协调,因此将其视为推断R.丹尼尔身份的依据。法斯托尔夫反驳说,这种结论误解了高级机器人——如果威胁性动作旨在避免伤害,机器人就可能作出这种动作。因此,法则也成为故事中更大分类难题的一部分。可观察到的行为看似能够区分人类与机器人,但若不了解机器人的设计及其内置的推理机制,就无法确定这些行为的含义。

法律、身份地位与人类后果

第一法则的存在,并未使所有涉及人类的后果都变得简单明了。杰西劝贝莱辞职,不要继续与R.丹尼尔共事时,贝莱考虑了自己的职业地位。他拒绝放弃重要案件,并解释说,在这种情况下辞职可能导致因故失去社会评级与待遇。贝莱还警告说,遭除级者将被排除在公务员队伍之外,被迫从事体力劳动,并失去本特利原本可以继承的地位。这番对话并未将这些惩罚说成第一法则本身造成的后果;它表明,围绕这项法则展开的调查,也牵涉着人类所面对的不平等利害关系。

调查也在相互竞争的法律和政治权威之间展开。警务专员告诉贝莱,由于太空城位于纽约市界内,此案属于纽约的管辖范围,同时承认外世界人享有治外法权。他警告说,外世界群可能利用这起谋杀案要求赔偿,无论地球政府答应还是拒绝,都会在政治上陷入被动。在这种背景下,法斯托尔夫提到可以向外世界政府报告这起所谓的阴谋。因此,对第一法则的解释不仅关系到机器人的行为,也影响到一项卷入管辖权争议、外交压力和证据可信度的调查。

高潮部分的执行

当贝莱用爆能枪指着朱利叶斯·恩德比时,法则立即以实际行动发挥作用。R.丹尼尔紧紧抓住贝莱的手腕,告诉他自己不能允许贝莱伤害警务专员。恩德比则命令R.丹尼尔制住贝莱,并亲自援引第一法则。这一幕让法则介入两个人之间——R.丹尼尔必须防止可能发生的伤害,但这样做也限制了贝莱采取行动的能力,而贝莱坚持说自己只有四十五分钟来查清此案。

贝莱表示自己无意伤害恩德比,并要求R.丹尼尔阻止警务专员逮捕他。R.丹尼尔并未就此松开他的手腕,而是说应当让贝莱把话说完,并表示自己正在与法斯托尔夫联络。因此,第一法则虽然约束暴力,却无法独自解决周围的冲突。R.丹尼尔的介入防止这场对峙演变为伤害行为,而听取贝莱陈述的要求则让调查得以继续。

叙事意义

在这些情节中,第一法则被视为一项基础规则,但其适用仍需要判断。贝莱强调,过于字面或狭隘地理解它的保护作用会带来危险——机器人可能声称威胁行为能够避免更大的伤害,但威胁本身也可能引发恐惧或危险。法斯托尔夫则强调相反的问题——如果用地球制造的简单型号机器人的安全机制来判断高级机器人,就可能误解其旨在保护人类的行为。

第一法则在恩德比对峙中的最后一次出现,让这场解释之争变得具体。R.丹尼尔不只是解释规则的含义,还通过抓住贝莱的手腕来执行它。但他也支持贝莱提出的发言要求,这表明保护并不意味着让受到约束的人类噤声。因此,第一法则既是对身体行动的限制,也是一再检验责任应如何在人类意图、机器人设计与介入后果之间划分的依据。

相关故事流