智能与意识的区分
群区分智能与意识,是令与Yrr的首次接触不止于技术能力测试的问题——即使另一个存在能够学习、计算并有效行动,这些能力也不能证明它意识到自己在做什么。这一区分也动摇了人类自认具有道德中心地位的主张。萨曼莎·克罗提出,应当测试是否存在有意识的回应,而不是预设Yrr与人类价值观相同,或智能必定呈现出人类的样貌。
不具有人类价值观的智能
萨曼莎·克罗通过一个关于蚂蚁国家的思想实验来阐明这一挑战。设想蚂蚁组织严密,并且在这个设想中具有智能,但它们的集体可能接受吃掉同类中的伤员、不理解和平却发动战争、无视个体繁殖,并将收集和食用粪便视为神圣行为。重点并不是说现实中的蚂蚁拥有这种设想出来的文化。这个例子提出的问题是——如果一个智能社会的实践和价值观不只是陌生,而且建立在令人类厌恶或无法理解的假设之上,那么沟通意味着什么。
这个类比也反过来指向人类观察者。莱昂·阿纳瓦克曾进行测试,以确定海豚是否具有智能,但萨曼莎·克罗质疑,这类测试是否可能彻底解决问题。一种陌生的智能也可能遇到人类行为,却无法将其识别为智能的证据。Yrr正在攻击人类,但这并不能证明它们是否承认人类具有智能、是否理解人类意图,或是否通过任何类似人类的道德范畴来解读这场冲突。因此,接触不仅需要找出有用的相似之处,也需要搁置这样一种假设——人类的价值观是宇宙的衡量标准。
表现不等于意识
当米克·鲁宾坚持认为,人类凭借对物理学和数学的卓越掌握,必须被承认为有智能时,这一区分便明确显现出来。萨曼莎·克罗反问,智能是否也必然包含意识。一个系统或许能展现出令人瞩目的能力,却并未意识到自己拥有这些能力;仅凭可观察到的成就,无法回答它是否具有意识。
她与人工智能的比较让这个问题具体化。假设一种电子系统能够取代人脑,执行与人类相同的任务、建造航天器并超越爱因斯坦,但这些表现并不能证明它理解或体验了自己的成就。1997年击败加里·卡斯帕罗夫的深蓝,更鲜明地凸显了这一差别——赢得一场棋赛证明的是一种能力,却未必证明存在意识。同样,仅仅将城市和海底电缆视为人类活动的产物,也不能单凭它们证明其建造者拥有有意识的智能。
机器文明的可能性,将问题从关于单台计算机的思想实验扩展出去。搜寻地外智慧生命计划并未排除这样一种可能——计算机智能比创造它的文明存续得更久,并在数千年间持续发展。在这种情形下,人类自身的技术并不能可靠地证明智能与意识总是相伴而行。Yrr也面临同样的不确定性——它们似乎掌握了物理学和数学,这或许表明它们拥有知识与技能,却无法确定它们是否体验到了什么。
对Yrr进行分阶段测试
萨曼莎·克罗将这种不确定性转化为一项三阶段计划。首先,团队必须确定表面之下是否存在任何东西。其次,必须确定是否可能进行对话。只有到了第三阶段,研究人员才能询问Yrr是否在有意识地回应讯息。有回应的证据,其意义不同于仅仅有效反应的证据——要探究的是Yrr能否形成概念并理解,而不只是能否取得结果。
这样的顺序限制了研究人员能够负责任地得出的结论。只有在有理由相信Yrr除了展现出的知识和技能之外,还具有有意识的理解后,萨曼莎·克罗才愿意将它们视为智能存在。即便如此,也不能假定它们的价值观与人类相似。她先前提出,沟通应当比暴力更有吸引力,这同样体现了这种谨慎——尝试与Yrr建立联系值得一试,但不能把诉诸人类同理心当作普遍有效的关键。
朱迪思·李提出了不同的推论。在她看来,纯粹的智能没有感情,而与意识相结合的智能必然涉及价值观。由于Yrr似乎在自我防卫,她认为它们或许至少承认生命的价值;尚未解决的问题是,它们的价值观是否与人类有任何重合。萨曼莎·克罗承认或许存在少许重合,但这段交锋并未解决问题。它保留了行动证据、意识证据与共享伦理证据之间的距离。
从心智到集体
当调查转向发光胶质时,这场辩论进一步扩展。一种占主导地位的科学观点认为,无论分子多么复杂,它本身都不可能产生智能。人类智能依赖大约一千亿个神经元,而蚂蚁则被认为能够具备无意识的智能,但受限于细胞数量较少,以及身体通过表面吸收氧气、而非通过肺呼吸的结构。根据这一观点,蚂蚁无法长到足以形成高级智能所需的神经能力;能够存活的最小智能生命体,估计约有十厘米长。单细胞智能似乎遥不可及。
然而,在UR A水下机器人于温哥华岛附近拍摄的蓝色云团中观察到的胶质,显然由数十亿个细胞组成;而此前的发现已经表明,它能够操控鲸和螃蟹。仅凭细胞数量,无法证明这种聚合体会思考。研究人员仍不清楚其中的细胞可能如何沟通、学习如何发生,或是什么使一群生物能够作为更高层次的实体行动。可能性归结为无感知的物质,或某种现有假设无法解释的机制;现有证据尚不能确定究竟是哪一种。
人工智能提供了一个平行例子,却没有给出答案。库兹韦尔技术公司开发的程序利用数十亿比特来模拟神经元协同工作;学习系统则引出了这样的问题——许多微小且相同的单元,何时才算得上有生命。研究人员并未声称创造出了意识,尽管他们的工作模糊了工程化计算与生命之间的边界。凯伦·韦弗手持一台最近直接从雷·库兹韦尔处获得的人工大脑,在将原装置拆成独立电子元件之前,先保存了一份备份。桥接结构被破坏后,这个系统便成为一群缺乏组织的单元。她的实验将抽象问题变成了具体问题——要让一个能够思考的整体重新出现,必须用什么将分散的元件结合起来?胶质是否具有智能仍无定论,但这种对照表明,单凭微小元件或令人瞩目的集体行为,都无法判定意识是否存在。