机器人第二法则
钢穴机器人第二法则规定,机器人必须服从人类命令,除非这些命令与第一法则冲突。它位于第一法则禁止伤害人类与第三法则保护机器人自身存在之间,既界定了人类对机器人的支配权,也规定了这种支配权的界限。
定义及其在法则体系中的位置
机器人第二法则被视为正电子脑标准理论基础的一部分。格里格尔博士解释说,即便要设计一台仅有相对细微创新的机器人脑,也需要大量工作;这项工作以机器人三法则为基础的既有基本理论为依据。在这一框架中,第二法则规定服从是有条件的——只有在执行命令不会违反第一法则时,人类命令才具有约束力。
因此,这条法则并未赋予人类命令绝对优先权。它将服从确立为机器人的核心义务,同时把保护人类置于其上。相比之下,第三法则允许机器人保护自身存在,但前提是这样做不与前两条法则冲突。上述层级共同表明,第二法则位于人类安全与机器人的自我保护之间。
作为身份判定标准的法则
当贝莱提出机器人必须服从人类命令时,这条法则便与调查相关。格里格尔博士对这一说法作了限定——若服从会违反第一法则,机器人便不必服从。这一限定将问题从命令与拒绝的简单对立,转向机器人可以采取行动的具体条件。
这一区别之所以重要,是因为贝莱的案件取决于R.丹尼尔究竟是人类还是机器人。格里格尔博士介绍了区分高度拟人化机器人与人类的实际方法,而贝莱则在质疑机器人是否会举起爆能枪时援引第二法则。这条法则提供了解读行为的框架,但要运用它,就必须判断该行为是否会违反第一法则,以及相关对象究竟是不是机器人。
适用与限制
贝莱提出了具体指控——丹尼尔曾向一群手无寸铁的男女举起爆能枪,并威胁开火。K.丹尼尔回答说,他并没有开火。格里格尔博士的回答将讨论带回法则的层级关系——若服从会导致违反第一法则,机器人便不必服从。因此,这段对话区分了威胁采取行动与实际执行行动,并表明在判断第二法则有何要求时,第一法则的约束至关重要。
因此,第二法则是一项支配原则,而不是对具体事件作出自明判决的规则。这段对话并未解决贝莱指控引发的所有疑问;相反,它表明必须一并考虑命令、可能造成的伤害以及机器人的身份。它在叙事中的重要性,在于揭示机器人服从看似简单,却要受更根本的禁止伤害人类这一原则所限。
