要点
- 人工智能开发者有动力设计出像人类一样行动的人工智能，因为这会让它们更易于使用、更有吸引力。
- 对于被设计得像人类一样行动的人工智能，我们将无法避免把它们视为有感知能力的生命形式。
- 把人工智能视为有感知能力的生命形式将带来深刻而深远的影响，因此我们需要立即应对这一挑战。
在我上一篇关于人工智能系列文章的帖子中，我探讨了这样一个想法：我们可能已经创造了人工生命。即使这并不完全正确，我们也很可能会越来越多地把模仿人类的人工智能视为生命形式。随着这些人工智能不断演化和扩散，这会带来深刻影响，我们需要立即加以应对。
正在开发中的人工智能会像我们一样行动
我们拥有初级人工智能已经有一段时间了，但当 OpenAI 于 2022 年 11 月 30 日发布 ChatGPT 后，人工智能科学家开始疯狂地投入一场人工智能军备竞赛。这些语言学习模型（LLM）是一种会改变文明的技术。“生成式”人工智能能够以对话方式熟练地用我们自己的语言与我们交流。这完全说得通，因为它们越易于使用，我们就越愿意与这类有吸引力的人工智能互动。因此，人工智能开发者有一种基于市场的激励，去创造能以对话式、容易产生共鸣的方式与我们互动的人工智能（例如使用寒暄语和情感词汇）。
从表面上看，这没有什么问题。然而，我们希望人工智能越来越像人类，而人工智能开发者又受到激励以这种方式创造它们，这其中会产生一个内在问题。我们可以把它称为人工智能感知纠缠螺旋，或 AIPES（为了有趣，我们把它读作“apes”）。这个螺旋是这样的：
- 与不那么像人类互动的人工智能相比，我们天生地、从进化角度来说，会被更像人类互动的人工智能所吸引。
- 在我们的资本主义制度和自由市场经济中，人工智能开发者受到激励，去追求越来越像人类的人工智能的开发、进步和交付。
- 人工智能开发者为了追求利润和市场主导地位，会投入一场“军备竞赛”，向大众提供越来越像人类的人工智能。
- 这会促使他们把这些类人化人工智能与其他技术结合起来，例如语音界面（例如电影《她》中的情形）、CGI 虚拟形象、机器人技术和虚拟现实。他们会这样做来增强其吸引力，因为这些技术的结合会让人工智能显得更像人类。
- 这很可能包括创造出声称自己拥有感受甚至感知能力的人工智能。这已经在发生了（例如《纽约时报》科技专栏作家 Kevin Roose 与 Sydney 的互动，以及前 Google 人工智能科学家 Blake Lemoine 与 LaMDA 的互动）。
- 人类将越来越多地、并且不可避免地把这类人工智能视为有感知能力的生命形式。
为什么我们会把人工智能视为有感知能力
当人工智能被设计成模仿我们时，我们将无法避免把它们视为有感知能力的生命形式，原因有很多。我们可以把这称为感知到的人工智能感知能力错觉，即 PAISI。以下是其中一些主要原因：
- 进化错配： 简而言之，我们并不是为了生活在如今这个世界而进化出来的。我们用自己的大脑建造了这个现代世界，其中包括不断演化和扩散的技术。现在，我们创造了能够模拟或模仿我们基于语言的互动方式，甚至模拟或模仿我们情绪的人工智能。技术进化把我们的生物进化远远甩在数字尘埃之中。我们并没有进化出区分人工智能和真正有感知能力的生命形式的能力。因此，当涉及人工智能时，我们的大脑会无意识地采用某种版本的“如果它看起来像鸭子、游起来像鸭子、叫起来像鸭子，那么它很可能就是鸭子”。在与这些人工智能互动时，我们会无意识地假定：“如果它说话像人类、思考像人类、表达情绪像人类，那么它就是有感知能力的。”
- 过度活跃的主体性探测装置（HADD）： 人类进化出了一种心理机制，会把意识、意图和主体性归因于无生命物体和自然事件。这种机制之所以进化出来，是因为在人类祖先环境中探测潜在威胁（例如捕食者）具有适应性价值。
- 拟人化： 与 HADD 密切相关的是，人类倾向于把类似人类的特质投射或赋予动物、宠物、植物，甚至无生命物体。请记住，我们人类曾经甚至养过宠物石头。同样，这种倾向根植于我们的进化史，因为它具有生存价值。
- 智能： 这些人工智能从定义上说，拥有一个使人类区别于无生命物体和其他生命形式的关键特征：我们的智能。像我们一样，这些最新的人工智能能够思考、推理、解决问题、分析和综合数据、学习、适应和创造。借用勒内·笛卡尔“我思故我在”这句格言，在面对这些人工智能时，我们会假定：“它们思考，所以它们存在。”
- 语言： 另一个把人类与其他生命形式，包括我们的灵长类近亲区分开来的关键特征，是我们对语言的使用。当然，一些动物物种之间也会进行复杂交流，但它们远远达不到人类所能做到的程度。这些人工智能能够熟练运用这一体现我们智能的标志性特征。此外，它们还能写故事、诗歌、论文、小说等。直到现在，只有人类能够完成这样的智能壮举。人工智能对语言熟练且类似人类的使用，会使我们把它们视为有感知能力的生命形式。我们可以把这种现象称为语言拟人化错觉，即 LAI（读起来像“lie”）。
- 黑箱： 作为复杂系统，人工智能有一个“黑箱”，使其行为具有新颖性和不可预测性。人工智能神秘而动态的性质，很可能会促使我们在无意识地试图理解和解释其行为时，把我们自己的心理状态投射到它们身上。
- 依恋理论/社会连接： 人类进化出了形成情感纽带和寻求社会连接的能力。作为社会性动物，这些欲望同样根植于我们的进化史。模仿人类特质的人工智能会激发我们对它们的情感依恋和社会依恋。
- 心理理论： 人类倾向于把信念、意图、情绪、欲望和知识等心理状态归因于他人，以便更好地理解他们、同情他们、与他们建立连接，并预测他们的行为。人类天生倾向于把我们的心理状态投射到他人身上，因此面对模仿我们的人工智能时，我们会无意识地这样做。
- 超常刺激： 人类和动物常常会偏好那些夸张的、甚至合成的刺激版本，而不是其自然对应物，前提是这些刺激本来就是我们天然会被吸引的对象。这就是为什么我们常常会更喜欢糖果、饼干和甜甜圈等高度加工的垃圾食品，而不是香蕉、苹果和橙子等天然甜味水果的原因之一。随着人工智能的发展，它们可以被设计成展现出我们身上最优秀的品质：耐心、同情、善良、理解、共情、推理、逻辑，甚至爱，而且比我们表现得更好、更稳定。借用电影《银翼杀手》的说法，这些人工智能可以表现得“比人类更像人类”。
- ELIZA 效应： 这是一个专门名称，用来指人类倾向于把类似人类的智能和情感归因于甚至很初级的人工智能系统，只要这些系统被设计得像人类一样行动。这个术语诞生于 20 世纪 60 年代，当时一个早期计算机系统 ELIZA 被设计成像罗杰斯学派治疗师一样与人类互动。人类倾向于把远高于 ELIZA 程序实际拥有的理解力和控制力归因于它。
- 理解和控制的错觉： 人类有一种根本需求，即理解我们的环境，以便做出服务于适应度和生存目标的预测。模仿人类的人工智能会引发一种信念，即我们能够理解并控制它们，因为这会减少不确定性，使它们更可预测，并帮助我们在它们周围感到更安全、更有保障。
结论是什么？
总而言之，市场激励将推动越来越像人类的人工智能的发展，这会导致人工智能感知纠缠螺旋（AIPES）。结果是，由于感知到的人工智能感知能力错觉（PAISI），我们将不可避免地把这类人工智能视为有感知能力的生命形式。随着我们继续模糊人工智能与有感知能力生命之间的界线，我们所面对的后果和伦理困境将变得越来越复杂，也越来越前所未有。
- 为什么关系很重要
- 寻找咨询以加强关系
原创文章，作者：Captain，如若转载，请注明出处：https://www.ormemo.com/5679.html