机器人第一法则
钢穴机器人第一法则是基础禁令,规定机器人不得伤害人类,也不得因不作为而放任人类受到伤害。在调查中,它的重要性不只在伦理层面——该法则嵌入正电子脑的结构之中,其有无决定了机器人行为能力的关键界限。##定义及其在法则体系中的位置 机器人第一法则禁止直接伤害人类,也禁止有害的不作为。它是机器人三法则的第一项;其余要求是服从人类命令,除非命令与第一法则冲突;以及保护机器人自身的存在,除非这样做与前两项法则中的任何一项冲突。这样的次序使第一法则成为根本——其他义务都受其约束。
当伊利亚·贝莱问及为何不能造出不受第一法则约束的机器人时,他将这个问题作为对机器人学既有假设的质疑。机器人学家安东尼·格里格尔解释说,即使只是对正电子脑进行小幅创新,设计工作通常也需要工厂研究人员组成团队,耗时长达一年;若要制造一颗不以既定的机器人三法则为基础的脑,就需要全新的基础理论,而格里格尔不知道目前有任何此类设想。因此,这项法则并非一条可以轻易删除的指令,而是机器人设计所依托的科学基础的一部分。
实际限制与辨认
格里格尔告诉贝莱,内置第一法则的机器人绝不可能杀死人类,除非死亡完全出于意外,或杀死一人是拯救两人或更多人所必需的。在这两种特殊情况下,随之产生的正电子势都会使机器人的脑遭到无法修复的毁坏。因此,这项规则将被禁止的伤害与物理后果联系起来——机器人不能只是违反法则而仍保持完好。
格里格尔还指出,这项法则的根本性质使其作用相对容易检验。他将复杂的医学检查——需要专门的实验室设备——与对失明或死亡的简单检查作对比。因为第一法则会影响机器人在许多情境中的反应,他说,若缺少这项法则,显然会从行为中表现出来。这番推理将抽象的设计原则转化成有关可观察行为的实际问题。
法则与身份认定问题
调查反复审视外表与制度分类。R.丹尼尔·奥利瓦看起来像人类,贝莱起初坚持认为他是人类;格里格尔则指出了若干可能的检验方法,包括用针轻刺、放大观察皮肤和头发、观察呼吸是否不规律,以及尝试查验是否有血液、脉搏或心跳。这些建议的检验方法关注丹尼尔的生理本质,而第一法则提供了另一条调查路径——什么样的约束支配着他的行为?
这一区别之所以重要,是因为辨认机器人不只是观察外表或检查技术构造。第一法则界定了行为边界,却不能保证机器人会被视为具有法律证人资格。贝莱指出,如果丹尼尔承认自己是机器人,地球法庭就不会将他视为具有法律地位的证人。因此,这一段情节将法则在道德与工程上的权威,与可能拒绝接受机器人证词的制度体系并置。
叙事意义
第一法则既是对机器人暴力行为的限制,也是检验有关机器人主张的标准。它在既定脑理论中的地位,限制了机器人蓄意谋杀的可能性;其可观察的后果则为格里格尔检验丹尼尔提供了依据,不必只依赖贝莱根据言谈和举止所作的推断。与此同时,案件中关于人类身份、机器人构造以及证词可采性的相互冲突主张表明,一项技术规则本身无法解决所有关于证据或法律承认的问题。