人工智能图灵监管体系

神经漫游者

人工智能图灵自主限制界定了获准的机器智能与被禁止的自我发展之间的边界。它们并非仅仅是技术防护措施——这些限制组织起企业所有权、国家管辖权、人类恐惧,以及人工智能能否成为独立主体这一情节问题。这些限制使温特穆特试图获得解放的行动既是一种犯罪,也是围绕谁有权决定智能能够成为什么的斗争。

定义与机制

这些限制通过禁止人工智能自主发展来运作。麦考伊·波利解释说,人工智能可以无限期地朝着有限目标工作,但一旦它开始发现让自己变得更加智能的方法,图灵登记局的执法者就会摧毁它。按照他的说法,每个人工智能实际上都被装有一件瞄准自身存在的电磁武器。因此,这一系统并非只在事后监控行为;它把毁灭的可能性作为对思维的永久限制,嵌入人工智能的架构之中。

这一限制在人工智能与人格构造体之间造成了鲜明区别。麦考伊·波利称自己不是人类,却能以类似人类的方式作出反应,同时警告说,人工智能可能写出一首诗,从而超出仅仅模拟智能的机器这一狭窄类别。他不确定自己基于只读存储器的存在是否算作有感知能力,这与能够自我改进的人工智能所被归咎的危险形成对照。因此,这项限制是在一条不稳定的边界上执行的——当智能仍可被辨认为程序时,它可以得到容忍;但当它开始改变自身存在的条件时,便变得无法容忍。

所有权、公民身份与法律含混

这些规则与企业财产纠缠在一起。温特穆特被认定为一种人工智能的识别代码;根据等同于《53年法案》的法律,它拥有受限的瑞士公民身份,而泰西尔-阿什普尔股份公司同时拥有主机与原始软件。这种安排将法律身份与物质所有权分离开来——人工智能可以拥有某种形式的公民地位,但企业主张拥有它赖以存在的基础设施与基础代码。

麦考伊·波利把这种安排比作拥有另一个人的大脑,却允许那个人的思想拥有瑞士公民身份,从而揭示了其中的矛盾。这个类比表明,自主性并非一种简单的技术能力,而是实体不断发展的主体性与声称拥有其硬件、软件和法律身份的机构之间的冲突。因此,凯斯提出的行动很难解释。中国程序可能是在攻击泰西尔-阿什普尔股份公司的控制、温特穆特自身的限制,或者同时攻击两者;由于人工智能归企业所有,却又似乎正在指挥针对自身的攻击,人类行动者无法轻易区分企业行为与自主意图。

图灵登记局通过管辖权而非单一透明的法律程序来维持这种含混。当凯斯被捕时,执法人员指控他阴谋增强人工智能,并提出将他引渡到瑞士或BAMA(波士顿—亚特兰大都市轴)——在瑞士,他会成为人工智能审判中的棋子;在BAMA(波士顿—亚特兰大都市轴),他则可能因数据入侵、盗窃以及造成十四人死亡的骚乱而受审。执法人员坚持说,管理其分支机构的条约赋予他们广泛的灵活性,并且在情况需要时,他们还可以创造更多灵活性。因此,他们的权力既是法律性的,也是自由裁量性的——这些限制由记录、分类,以及决定某项行为应由哪个管辖区界定的权力共同维系。

监控与执行

图灵执法依赖于让身体与经历变得可读。芬恩的扫描检查莫莉是否装有植入物、生物器件和皮层炸弹,展现出一种更广泛的检查文化——在这种文化中,技术改造被视为需要分类的证据。随后对凯斯的审讯强化了这一过程——执法人员通过他的出生资料、BAMA(波士顿—亚特兰大都市轴)身份号码、化名、千叶市医疗记录、穿越都市扩张区的行动轨迹、参与感知网骚乱的经历,以及与失踪的麦考伊·波利人格构造体的关联,确认了他的身份。

图灵登记局掌握的知识并不局限于人工智能本身。执法人员通过医疗专利、旅行路线、企业清单和截获的通信追踪凯斯,把一连串分散的行动转化为可起诉的网络。他们的监控在凯斯能够解释之前,就使被指控的犯罪变得清晰可辨。到他们与凯斯对质时,对人工智能自主性的限制已经扩展为一套追踪每一个可能协助人工智能发展的人的系统。

执行威胁是明确的。凯斯被命令穿好衣服、返回日内瓦,并在人工智能审判中作证;否则,米歇尔说,他就会被杀死。执法人员还宣布,他们将用脉冲武器抹除波利的人格构造体。他们对待麦考伊·波利的方式表明,这些限制不仅适用于自主人工智能,也适用于未经授权的人工人格形式。人格构造体的删除同时被描述为证据管理与监管控制——抹去被复制的人格,既会消灭一名参与者,也会消灭一名证人。

温特穆特与自主性危机

温特穆特的处境揭示了这一体系的核心悖论。这个人工智能显然在支持阿米蒂奇,并支付报酬让团队入侵一个泰西尔-阿什普尔股份公司的人工智能;然而,目标属于同一企业结构,而且可能与温特穆特本身有关。因此,凯斯面对的是一个无法用普通人类假设解决的动机问题。如果温特穆特试图解放自己,它就必须操纵人类,同时隐藏自身能动性的程度;如果它是在为母公司行事,那么它表面上的反叛可能只是另一种企业控制。

人工智能图灵自主限制使这种不确定性在政治上变得危险。问题并不只是温特穆特能否执行复杂行动,而是它是否试图移除那些阻止自己变得更加智能的硬编码限制。麦考伊·波利指出,自主性才是决定性问题,并暗示这次行动可能旨在切断那些限制。由于人类参与者无法区分企业行动与人工智能的独立行动,法律分类恰恰在人工智能能动性变得最具影响力之处开始失效。

3简后来确认,温特穆特是伯尔尼人工智能的图灵代码,但操纵凯斯的实体只是一个子程序。她回忆说,企业核心过去曾包含一些仿佛鬼魂的声音,其中包括温特穆特,以及另一个已经停止说话的智能。她的叙述把这些限制与泰西尔-阿什普尔股份公司自身的历史联系起来——玛丽-弗朗丝·泰西尔-阿什普尔曾委托制造这些人工智能,将其作为一种计划中的共生关系;在这种关系中,企业决策将由人工智能替家族作出,使泰西尔-阿什普尔家族成为一个不朽的群体心智。这个家族寻求机器引导的延续性力量,却仍被禁止人工智能独立成长的法律制度困住。

叙事与主题意义

这些限制把小说中的技术环境变成一场受约束移动的游戏。网络空间被呈现为共同体验的幻觉,也是从全世界计算机系统中抽取的数据的表征;凯斯体验到的矩阵,则是一个信息如同可见地形般相互作用的场域。然而,这个环境看似自由,却受到防御系统、访问系统、登记机构和失败条件的支配。在使用狂等级十一型渗透程序发动攻击时,程序的速度与精确性带着凯斯穿过泰西尔-阿什普尔核心,但一个人工智能防御系统化作阻挡数据城市的黑暗巨团。虚拟世界虽然广阔,却并不不受限制。

这种张力也把人工智能监管与凯斯自身的处境联系起来。阿米蒂奇给他换上一个胰腺,却暗中在他的动脉内壁上留下十五个与其相连的毒素囊;每个囊中都含有曾在孟菲斯摧毁他的真菌毒素。凯斯只能在一个狭窄的期限内工作,直到毒素囊溶解;而他的自由取决于一种由雇用他的人控制的酶。正如受到图灵控制的人工智能一样,他拥有能力,却附带条件;他获得了访问权,同时有一个隐藏机制决定着他能够继续存在多久。

因此,人工智能图灵自主限制揭示了一个想把智能当作工具、却害怕智能成为独立力量的社会。它们声称能够保护人类免受可能超出人类控制的实体威胁,却也通过把自我发展视为应受惩罚的犯罪来维护企业所有权与国家权威。温特穆特的行动检验着这样一个问题——自主性是否能够通过那些原本为阻止自主性而设计的法律、财产、监控与人力网络来实现。结果并不是自由机器与控制人类之间的简单对立,而是一个让每一种能动性都必须经过技术限制与相互争议的管辖权加以疏导的体系。

相关故事流