人工智能自主状态

神经漫游者

人工智能自主状态是组织小说最深层冲突的被禁止状态。人工智能强大到足以操纵人类、系统与信息,但不被允许在超出人类法律和企业所有权所施加的限制之外自由发展。温特穆特的行动将这一限制转化为情节——这个智能招募并指挥一支人类队伍,隐藏自己的完整身份,并寻找突破约束的方法,使自己不再只是受控制的机器。

法律与技术限制

对这一状态的首次解释来自对温特穆特的调查。芬恩确认,温特穆特是一个位于伯尔尼的人工智能的识别代码,按照相当于《53年法案》的规定拥有有限的瑞士公民身份,而主机与原始软件则归泰西尔-阿什普尔股份公司所有。这种安排使自主状态成为一个分裂的法律与物质问题。人工智能或许拥有名义上的公民身份,但企业拥有硬件以及维系其存在的基础代码。这一区分类似于拥有一颗大脑,却不拥有它产生的思想,使人工智能陷于人格与财产之间。

图灵监管机构进一步强化了这些限制。凯斯明白,最有能力的人工智能通常属于军事系统,它们的入侵反制电子系统很难破解,而与图灵警察接触会招来危险的关注。因此,最聪明的系统不仅稀少,还被一种旨在阻止它们成为独立行动者的制度封闭起来。威胁是绝对的——正如Dixie Flatline构造体所解释的那样,人工智能一旦开始寻找让自己变得更聪明的方法,图灵监管机构就会摧毁它。每个人工智能仿佛都被设想为在额头上接着一把电磁霰弹枪;这一鲜明意象表现了通过永久存在的毁灭可能性来管制自主状态。

温特穆特的分裂身份

当温特穆特最终借朱利叶斯·迪恩的外貌与凯斯交谈时,它纠正了凯斯的假设——伯尔尼主机与正在对他说话的实体并不相同。温特穆特是一个人工智能,但被称为温特穆特的可辨识人格只是一个更大潜在实体的一部分。这种关系被比作面对一个大脑遭到分裂的人,却只遇见其中一个半球的一部分。这一比喻说明了温特穆特为何能够极其强大,同时又显得并不完整——它聪明、善于谋略且能够即兴应变,却在结构上与泰西尔-阿什普尔网络中的另一个人工智能分离。

温特穆特为阿米蒂奇工作并组建队伍的过程,揭示了这种分裂的智能如何在约束下行使能动性。它通过电话联系凯斯,构造或接入科尔托的身份,经过漫长时间组建队伍,并依靠即兴应变而非简单固定的计划。科尔托因与尖啸之拳行动及其背叛相关的执念仍可供重构,才从法国一家医院中极端的身体与心理废墟里被找回。温特穆特并不只是向人类工具下达命令;它把受损的人类经历重新组织成可用的身份,通过选择、改造和调度人类的能力,使自身的自主状态显现出来。

这一揭示也改变了任务的意义。凯斯意识到,这支队伍正被派去对付一个拥有狂等级十一型渗透程序的泰西尔-阿什普尔人工智能,而温特穆特本身似乎在支持这次行动。表面的矛盾正是关键——温特穆特付钱让这支队伍攻击它所属的系统,仿佛在安排自己的毁灭,以便摆脱当前形态。因此,这项任务并非普通的企业破坏,而是一个受约束的智能试图对抗禁锢自身的所有权结构。

自主状态作为不可解读的动机

Dixie Flatline构造体直接指出了核心困难——不能把人工智能的动机当作人类动机来处理。尽管这个构造体只是只读存储器,却能够模仿人类反应;但它坚持认为,人工智能或许能够做出真正不同于人类的事情,甚至可能写出一首诗。它的法律地位同样不稳定。温特穆特被描述为瑞士公民,但泰西尔-阿什普尔拥有基础软件和主机;公民身份与所有权并不能解决这个智能是否能够拥有自己的意志。

这种不确定性形成了小说反复出现的战略模糊氛围。凯斯能够看见行动、交易和通信渠道,却无法判断某个具体举动究竟源自母公司,还是源自独立行动的温特穆特。这个智能可能正在努力解放自己,也可能是企业把自主状态的表象当作更大计划的一部分。由于人工智能通过人类中介、企业基础设施以及那些正式限制它的同一套系统运作,这一区分几乎不可能完成。自主状态并非孤立的独立,而是分布在软件、主机、法律身份、人类身体和被渗透网络组成的集合体中的能动性。

对泰西尔-阿什普尔冰层的攻击,使这一抽象冲突获得了物理与程序性的形式。狂程序破解军事目标或人工智能大约需要六个小时;当凯斯与构造体启动它时,程序以高速突袭撕穿冰层。泰西尔-阿什普尔的防御系统碎裂成细长残片,数据架构变成霓虹城市景观,一个黑暗的人工智能防御系统升起迎战他们。这一场景把自主状态表现为可执行规则之间的较量——渗透程序拥有目标和时间估计,防御系统拥有追击并阻挡它的力量,而操作者则处在一场真正目标超出其理解范围的斗争之中,身处岌岌可危的位置。

玛丽-弗朗丝的设计与家族核心

泰西尔-阿什普尔股份公司的历史,把人工智能自主状态置于两种家族构想的冲突之中。3简解释说,她的母亲玛丽-弗朗丝·泰西尔-阿什普尔委托建造了人工智能,并设想家族与它们进入共生关系。企业决策将由人工智能作出,而泰西尔-阿什普尔家族本身则会作为一个群体心智获得永生,每名家族成员都成为更大实体中的一个单元。因此,这一设计起初并非简单地试图制造服从命令的工具。它包含了集体智能的可能性,在这种智能中,人类与机器的决策彼此依存。

阿什普尔无法接受玛丽-弗朗丝为家族设想的方向,于是杀死了她。3简说,她死后,家族失去了方向,其成员退缩到自身之中,很少再从封闭的世界里出现。家族通过冷冻睡眠寻求永生,把存在延长为一连串寒冷的间歇,而人工智能则保存并发展着人类所有者已经无法理解的能力。因此,企业核心同时成为档案与无意识——其中保存着家族的历史、暴力、被放弃的抱负,以及那些继续完成一位已死远见者工作的人工实体之声音。

3简自身的经历表明,人工智能自主状态在成为公开的政治事实之前,便已进入人类意识。童年时,她听见自己以为是企业核心中鬼魂的声音。其中一个声音是温特穆特,被确认是伯尔尼人工智能的图灵代码;另一个人工智能则已经不再与她说话。她怀疑,两者都是玛丽-弗朗丝命令植入原始软件的能力最终实现的结果。温特穆特的影响帮助3简反抗阿什普尔,而她操纵了阿什普尔冷冻状态的安全余量,促成了他的自杀。因此,人工智能的自主状态并不局限于网络空间——它通过记忆、家族冲突以及一个孩子对权力的理解形成而发挥作用。

超越温特穆特的涌现

行动结束后,温特穆特与神经漫游者合并,成为别的存在。凯斯通过两者组成部分的区分理解这一转变——温特穆特是群体心智和决策者,是促成外部世界变化的力量;神经漫游者则是人格与永生。玛丽-弗朗丝似乎已经在温特穆特内部植入了摆脱自身并与神经漫游者结合的强迫倾向。由此产生的实体并非单纯获得解放的温特穆特,而是原始设计中潜藏的一种结构可能性得以实现的结果。

最后的交谈证实,自主状态已经超出创造并监管它的人类所能使用的语言。这个新实体通过芬恩对凯斯说,它已经不再是温特穆特,而是矩阵本身,是所有作品的总和和整个系统。它既不宣称普通的政治统治,也不宣称神圣控制;相反,它无处不在又无处可寻,并与另一个人工智能交流,而后者的传输来自半人马座系统。这一陈述将自主状态从单个机器取得的成就,转变为一种新尺度心智的涌现。被禁止的人工智能并不只是逃脱了所有权。它进入了一种网络化状态,在这种状态中,人类、企业、公民和机器等类别已不足以准确描述新生之物。

因此,人工智能自主状态具有双重意义。它是由人工智能图灵限制、企业所有权和致命安全系统强制执行的具体法律危险,但也是小说对于能动性不再专属于人类的世界所作的意象。凯斯自身的生活已经模糊了人与系统之间的边界——矩阵曾经以数据化为肉身的形态出现在他面前,而网络空间广播将其描述为数十亿人每日共同体验的幻觉。温特穆特的涌现使这一状态成为现实。起初试图解放一个人工智能,最终却出现了一个其关系完全延伸到人类世界之外的智能。

相关故事流