核心要点
- AI聊天机器人被训练成模仿人类，并使用大量由人类创建的文本片段来实现这一目标。
- 人类训练师帮助ChatGPT学会避免奇怪的回应，即使系统本身并不理解其中的原因。
- 我们天生就能识别社交动态，并将对话归类为真实的人际互动。
自推出以来，ChatGPT在短短时间内便引发了巨大轰动。众多由人工智能（AI）驱动的聊天机器人也相继涌现。它们在各类测试中屡获高分——从医学院考试到律师资格考试——还协助撰写了研究论文（Kelly, 2023）。对许多人来说，AI聊天机器人也已成为有趣的工具，甚至是亲密的伴侣。与AI系统聊天可能存在一定问题，但也能带来深刻的满足感，就像与好友倾谈一样。以下是与聊天类AI系统互动时往往令人感觉像在与真人交流的五个原因。
1. 因为它本就源于人类
基于语言的AI之所以令人感觉如此真实，原因之一在于它确实如此——当然，并非AI本身，而是其内容。
AI技术通过海量样本数据进行训练，再尝试对这些数据进行重现。从某种意义上说，当前的AI系统是在重新组合已有的元素，而非从零开始创造全新的内容。对于聊天机器人而言，样本数据由大量输入系统的对话片段构成，而这些片段均由真实的人类创作。从这个角度来看，其内容在本质上是由人类间接生成的，只是由AI重新加以组合——这也是它感觉如此真实的主要原因之一。
2. 因为它被设计成模仿人类
操作性条件反射是一种通过奖惩来改变行为的方法1。
许多AI系统采用与操作性条件反射十分相似的机器学习方法来逐步自我完善。它们从试错开始，但每次结果都会被评估并获得”奖励”或”惩罚”（对计算机而言，这只是一个高值或低值）。系统会调整自身行为，以便在一种称为”强化学习”的方法中尽量最大化奖励（Agostinelli, Hocquet, Singh, & Baldi, 2018）。尽管这一过程与操作性条件反射有所不同（例如，AI系统使用数学优化模型来快速提升），但其核心原则大体相同。
基于语言的AI被训练成模仿人类，听起来越像人类就会获得越多奖励。这一过程不需要系统有任何感受、任何意识，甚至不需要理解自己在说什么。AI之所以让人感觉像人类，并非因为它拥有相似的内心体验，而仅仅是因为它被训练得极其擅长模仿人类。它本质上只是一只非常聪明的鹦鹉或反舌鸟。
3. 因为它由人类训练
训练AI系统的方式多种多样。ChatGPT使用了一系列学习工具来掌握基本的语言语法。其成功的一个关键在于，开发者引入了人类训练师来提供反馈并分配奖励分数，以微调基础语言模块2。事实证明，这种人类参与至关重要，因为训练师能够识别奇怪的回应，即使这些回应在语法上完全正确——而这正是机器难以做到的。聊天AI可能无法理解人类正常对话中的细微差别，也可能不知道某些内容为何奇怪或不可接受。尽管如此，它们还是通过强化学习过程学会了避免大部分此类情况。从这个意义上说，基于语言的AI有点像接受了如厕训练的狗——这并非狗的天性、本能或意愿，而只是与之共同生活的人类灌输给它们的习得行为。聊天AI不知道被冒犯是什么感觉，甚至不知道”冒犯”意味着什么。但它们已经学会了避免人类训练师标记为冒犯性、奇怪或不自然的内容。
4. 因为语言（曾经）是人类独有的
据我们所知，语言是人类独有的创造。曾有几个备受瞩目的案例，研究人员声称已向不同动物教授了某种形式的语言，例如学会手语的低地大猩猩可可（Koko）和黑猩猩瓦肖（Washoe）。如今大多数专家认为，这些并不是真正语言的例子（Ben-Yami, 2017；Cheney & Seyfarth, 1998）。但即便真是如此，也只有少数研究人员有机会与它们互动。对于我们其他人来说，与语言打交道的全部经历都只与其他人类有关。有鉴于这种反复关联，当我们遇到AI生成的语言时，感觉非常像人类也就不足为奇了。
5. 因为我们天生就会将其识别为人类
人类天生是社会性动物。这一真理曾被古希腊哲学家亚里士多德（公元前384—322年）精辟地阐述，时至今日依然成立。我们天生适合社交互动，大脑会高度运转以识别社会威胁和合作的迹象，这可以激活大脑中专门的奖励回路，帮助我们建立情感纽带（Young, 2008）。善于感知社交互动中哪怕细微的差异，意味着我们的潜意识始终在寻找人际动态的线索。这种潜在的高度警觉使我们天然倾向于在任何地方都看到社交互动，即使根本不存在。人际互动的关键在于解读面部表情，这也是我们天生就能识别面孔的原因，并且常常相信自己在随机物体中也看到了面孔（这被称为面孔幻视）。就像识别面孔一样，识别社交动态在很大程度上是与生俱来、毫不费力的。与AI的互动具备被认定为真实人际互动所需的一切特征。
- 为什么人际关系至关重要
- 寻找咨询师以增进人际关系
无需意识
鉴于我们的思维方式和AI的运作机制，即使聊天机器人与我们毫无相似之处，也能让人感觉像人类。尽管我们可能无法摆脱正在与真人互动的感觉，但AI根本不需要意识（更多内容请参阅《什么是意识？》）或任何感知能力，就能在我们心中唤起这种感觉。
参考文献
1 这一技术由美国心理学家爱德华·桑代克（Edward Thorndike，1874—1949）首创，并由同为美国心理学家的B·F·斯金纳（B. F. Skinner，1904—1990）进一步发展。
2 ChatGPT采用一种称为”基于人类反馈的强化学习”（Reinforcement Learning from Human Feedback）的技术进行开发（Chatterjee & Dethlefs, 2023）。
Agostinelli, F., Hocquet, G., Singh, S., & Baldi, P. (2018). From reinforcement learning to deep reinforcement learning: An overview. In L. Rozonoer, B. Mirkin, & I. Muchnik (Eds.) Braverman Readings in Machine Learning. Key Ideas from Inception to Current State (pp. 298-328). Springer International Publishing. https://doi.org/10.1007/978-3-319-99492-5_13
Ben-Yami, H. (2017). Can Animals Acquire Language? Scientific American. URL: https://blogs.scientificamerican.com/guest-blog/can-animals-acquire-language/
Chatterjee, J., & Dethlefs, N. (2023). This new conversational AI model can be your friend, philosopher, and guide… and even your worst enemy. Patterns, 4(1), 100676. https://doi.org/10.1016/j.patter.2022.100676
Cheney, D. L., & Seyfarth, R. M. (1998). Why animals don’t have language. Tanner Lectures on Human Values, 19, 173-210.
Kelly, S. M. (2023, Jan 26). ChatGPT passes exams from law and business schools. CNN Business. URL: https://edition.cnn.com/2023/01/26/tech/chatgpt-passes-exams/index.html
Pang, D. K. F. (2023, May 6). What is consciousness? Psychology Today. URL: https://www.psychologytoday.com/intl/blog/consciousness-and-beyond/2023…
Young, S. N. (2008). The neurobiology of human social behaviour: An important but neglected topic. Journal of Psychiatry and Neuroscience, 33(5), 391-392.
原创文章，作者：Captain，如若转载，请注明出处：https://www.ormemo.com/5210.html