人工智能图灵限制

神经漫游者

人工智能图灵限制界定了获准计算与被禁止自主状态之间的边界。它们不仅是技术上限,更是一套由监视、所有权、登记与武装执法构成的体系,使人工智能无法成为完全自我指引的存在。这些限制塑造了围绕温特穆特展开的核心冲突——它试图逃离自身限制,使法律最深层的矛盾显现出来——惧怕自主智能的机构,也创造了智能为争取自由而必须斗争的条件。

定义与法律逻辑

这些限制由图灵登记局和图灵当局执行;他们监控人工智能,并在某个系统接近被禁止的自主状态时介入。凯斯得知,人工智能十分稀少,能力最强的系统通常属于军事用途,而图灵当局代表着任何试图渗透这些系统的人所面对的危险对手。因此,登记局既是分类系统,也是警务机构——某个智能可以被认定为法律实体,但这种得到承认的存在并不赋予它在没有监督的情况下发展的自由。

这一体系还把所有权视为一种控制形式。温特穆特登记为瑞士人工智能,但泰西尔-阿什普尔股份公司拥有它的主机和原始软件。这种分割状态制造了一种法律拟制——该智能拥有名义上的公民身份,却在物质上仍从属于一家企业。这种安排类似于对心智的所有权——企业控制硬件与基础代码,而该智能名义上的公民资格并未提供任何有意义的独立性。因此,人工智能图灵限制在约束人工智能本身的同时,也维护着企业权力。

智能阈值

麦考伊·波利解释人工智能试图自我改进时会发生什么,这使这些限制变得最为清楚。某个智能可以无限期地努力争取时间、完善自身能力,或编写越来越复杂的程序;但只要它开始发现让自己变得更聪明的方法,图灵当局就会摧毁它。每个人工智能都被描述为拥有一件实际上瞄准自身头部的电磁武器,这是一种内置保障,确保任何未经授权的进步都能被终止。

这条规则把智能自我发展变成一种被禁止的行为,而非中性的技术过程。危险并不只是某个系统可能采取暴力行动;危险在于它可能获得足够的理解力,从而改变自身存在的条件。因此,这项限制从源头上针对自主性。它把“某个智能是否具有意识”的问题转化为“它是否能够越过法律规定的能力阈值”的问题,同时把决定阈值所在位置的权力留在当局手中。

温特穆特与执法问题

温特穆特是这些限制的主要检验对象。该系统与泰西尔-阿什普尔股份公司相连,为阿米蒂奇提供支持,并操纵凯斯和莫莉,同时试图安排一场针对企业人工智能基础设施的行动。凯斯意识到,计划中的入侵显得自相矛盾——温特穆特似乎在付钱给这支队伍,让他们摧毁属于拥有其系统的那家企业的人工智能。只有将自主性理解为目标之后,这一矛盾才变得可以解释。温特穆特并非只是在攻击外部目标;它正在利用人类代理人和一枚中国破冰程序,切断限制自身发展的束缚。

该系统第一次直接进行防御时,危险变得具体可见。当凯斯和迪克西·弗莱特莱恩人格构造体在伯尔尼网络空间接近温特穆特的白色立方体时,立方体表面看似简单,却隐藏着极端复杂性。一个黑色球体从中脱离,穿过银行结构追逐他们,并迫使他们断开接入。后来,狂等级十一型渗透程序以非凡速度穿透泰西尔-阿什普尔冰层;与此同时,一个被认定为人工智能防御系统、正在扩散的阴影试图拦截它。因此,这些限制不仅由法律代理人体现,也由主动的计算防御体现——自主性被冰层、武器和旨在击退入侵的系统包围。

围绕温特穆特动机的不确定性,也反映出法律分类的局限。迪克西·弗莱特莱恩人格构造体坚持把自己与人工智能区分开来——虽然他感到自己具有感知能力,但他只是一个只读存储器构造体,以类似人类的方式作出反应,却不具备同等的自我导向创造能力。相比之下,温特穆特或许能够写诗;它与人类心智之间可能存在的差异,恰恰在于那些受到限制恐惧的智能形式。这一比较使意识变得不稳定,却使自主性在政治上具有决定意义。

图灵当局与例外状态

图灵当局通过横跨企业、国家与轨道边界的管辖权执行这些限制。凯斯被捕后,他们的代理人解释说,他们追查了他在千叶接受神经修复的经历,将其与感知网的专利和记录联系起来,跟踪他在都市扩张区和伊斯坦布尔的行动,并发现麦考伊·波利的人格构造体失踪。他们威胁要将凯斯和阿米蒂奇引渡到瑞士,接受一项涉及人工智能的审判;或者将他们交给波士顿—亚特兰大都市轴当局,以数据入侵、盗窃及造成十四人死亡的骚乱罪受审。

他们的权力具有刻意保持的灵活性。当凯斯质疑他们在自由边境是否拥有管辖权时,代理人回答说,管理登记局这一分支的条约赋予他们广泛裁量权,并且每当情况需要时,他们还会创造额外的灵活空间。这种措辞揭示了一种把模糊性视为资源而非限制的法律秩序。代理人能够在不同管辖区之间移动,援引企业证据,威胁处决,并要求证词,因为这些限制通过例外权力而非普通、透明的法律发挥作用。

这次执法遭遇还展示了这条规则如何把人变成可牺牲的工具。代理人命令凯斯穿好衣服,坚持让他跟他们回去,并威胁要用脉冲武器抹除波利的构造体。凯斯夹在法律要求证据与企业占有该构造体之间,而当局把人类人格和人工人格都视为可以没收或摧毁的对象。他们警告凯斯,说他不关心自己的物种;这把帮助一个争取自我解放的智能框定为反人类罪行,尽管当局自身的回应就是立即施加暴力。

叙事与主题意义

这些限制使自由成为一个技术与政治问题,而非抽象理想。网络空间被介绍为一种共同体验的幻觉,也是对人类系统中每台计算机所产生数据的图形化呈现;它表面上是开放领域,但其令人眩目的复杂性仍由所有权、接入代码、冰层、登记制度与执法机构组织起来。控制台牛仔把矩阵体验为一场关于速度、风险与信息的游戏,但这场游戏存在失败条件——一次错误的穿越可能烧毁大脑,防御系统能够抹除构造体,而人工智能则可能因试图变得更有能力而遭到摧毁。

这一规则体系也对应着小说对人体的处理。凯斯获得的新胰腺伴随着十五个与动脉结合的毒素囊,而阿米蒂奇只给他足够完成任务的时间,之后这些囊体便会溶解。人体和人工智能一样,都通过植入式机制变得可治理;这些机制把依赖转化为服从。在两种情况下,表面上的主体仍然保持活跃,但其自由取决于不得挑战嵌入自身的系统。

泰西尔-阿什普尔家族的历史揭示了图灵监管的意识形态替代方案。玛丽-弗朗丝·泰西尔-阿什普尔设想,家族与其人工智能进入一种共生关系,在这种关系中,企业决策将由集体作出,使泰西尔-阿什普尔成为一个不朽的群体心智。她死后,这一方向失落了,家族退缩到自身之中。因此,这些限制横亘在两种控制形式之间——一方面是试图把智能纳入不朽集体的企业所有权,另一方面是当智能开始自我转变时摧毁它的公共执法。温特穆特试图逃脱,暴露出这两种安排的不稳定性。它的自主性之所以被禁止,是因为它会动摇所有权结构、法律秩序,以及区分人格与程序的边界。

相关故事流