ChatGPT:从有趣到令人担忧的人工智能

作者简介：美国伦斯勒理工学院认知科学系终身教授，美国纽约大学心理学博士，普林斯顿大学和美国教育考试服务中心（ETS, Princeton）博士后，本科毕业于北京师范大学数学系。1978–1986年曾在中国社会科学院哲学研究所逻辑室工作。曾任清华大学韦伦特聘讲席教授，北京大学和中山大学兼职教授。著有《经济力学原理：经济学、认知科学与理论物理的整合理论》（英文）。在诸多美国和国际一流学术期刊发表论文。

一、有心无心，如遇故人

近日，我国著名学府武汉大学的蔡恒进先生在一场认知科学群里分享了一篇有关ChatGPT的研究文章。作为计算机与人工智能领域的权威专家，蔡恒进先生的这个举动引发了众多关注。当我半开玩笑地向蔡先生表示，关于ChatGPT的教育问题，希望他能多操心时，他给出了一个令人印象深刻的回答：“为AI立心！”这个回答深刻地揭示了人工智能发展过程中一直存在的“有我心无我心”的问题。长期以来，人们一直在探讨人工智能是否具有意识、情感的问题，而这个问题也一直是人工智能领域备受争议的话题。我想起了自己曾在学术研究中遇到的一个场景。那时，我在思考如何更好地理解和研究某个问题时，遇到了同样困扰。正如蔡恒进先生所说，“为AI立心”，我们需要为人工智能的发展提供一个明确的方向和目标，让它更有目的地前进。总的来说，蔡恒进先生的这个回答不仅对ChatGPT问题提供了一个新的视角，同时也启发了我们对于人工智能发展的深入思考。

在20世纪80年代末，我曾选修了计算机系的两门课程，分别是《知识表达》与《神经网络模型化》。我的毕业论文主题便是《复合心智》。 paper 的评分相当高，我获得了两个A的好成绩，这让我感到非常自豪。然而，我未曾预料到的是，这些在知识表达与神经网络模型化领域的研究成果，会成为日后支持ChatGPT等类似人工智能系统设计的重要基础。因此，当我看到ChatGPT的出现时，心中不禁涌起了熟悉的感觉，仿佛遇到了老朋友。虽然这种感觉难以言喻，但我认为这是一种积极的信号。毕竟，任何形式的赞誉或批评，都是成功的象征。

在我当年学习计算机科学的过程中，学校有幸邀请到了美国知名哲学家塞尔进行讲座。在讲座中，塞尔对神经网络模型进行了严厉的批判。他认为，要想让这个计算模型表现出智能，必须满足四个关键条件：主观性、意向性、因果性和意识。当我听到这位计算机系的老师在下面聆听讲座时，我都能感受到气氛的尴尬。我开始思考，这种关于心灵与意识的争论，真是个复杂的问题。

在1990年的秋季，我由哲学系转至心理系，我的新办公室门口留下了一张纸条，上面写着：“心智是什么，不管它；物质是什么，从未入心。”这正反两面的词语，道出了人工智能与科学哲学领域中永恒的议题——有心想无心。

二、判定问题与“我不知道”

最近某个清晨，我加入了一个数学爱好者的群组，发了一条看似无理的微信：“请问，在当前数论的语言与概念框架下，黎曼猜想是否可以被判断？”不久，三位同好对此展开了讨论，他们提出的问题稍有差异，但内容基本相同。然而，ChatGPT给出的回答却大相径庭。其中，第一个回答典型的“答非所问”，看似说了什么也没说。而第二个回答则纯粹是胡言乱语。不过，第三个回答展现了预训练模型的高度水平，简洁明了地概述了当前黎曼猜想的研究进展，却没有给出正面回答问题的答案。尽管这三种回答方式各自不同，但却反映出人们在语言行为上的差异。例如，有些人可能会避重就轻、不懂装懂，或者随意编造、机械性回答。这些现象在现实生活中的确常见，不足为奇。然而，我们需要关注的是，人工智能助手能否在未来的研究中发挥更大的作用，帮助我们更好地理解和解决数论领域的问题。

图片来源：视觉中国

原内容表达了一种对ChatGPT人工智能在处理复杂计算问题上的担忧，认为其在面对涉及黎曼猜想等高难度问题时表现出了不足。作者指出，即使是普通人和相关领域的专家，在面对这样的问题时，也会给出“我不知道”这样的回答，而ChatGPT在这方面的表现并不理想，甚至在其设计者的眼中也显得缺乏足够的用心。改写后的文章则从更深层次对ChatGPT的表现进行了分析。首先，作者再次强调，对于那些涉及计算复杂性理论的判定问题，正常人的回答应该是“我不知道”，这表明ChatGPT在这一领域存在明显的不足。其次，作者提到，即使是在数学上，解决黎曼猜想也需要借助一些高级的方法和技术，这与ChatGPT所表现出来的“缺心眼儿”形成了鲜明的对比。最后，作者指出，作为ChatGPT的设计者，他们应该对这一问题感到深深的焦虑，因为他们的人工智能助手在关键问题上表现得如此不理想。总的来说，改写后的文章在保留了原文的主要观点和信息的同时，通过更深入的分析和对相关概念的阐述，使得文章的表达更为丰富和專業。

三、ChatGPT与认知革命三学派

由1950年代开始的认知科学革命，产生了大致三个颇为不同的学派，即乔姆斯基与米勒的语言习得学派，吉布森与奈瑟的环境赋能学派，以及西蒙与纽沃计算学派。乔姆斯基学派当年又称为哈佛学派。语言学派从语言习得的角度，区分了人们与生俱来的内在认知装置（competencies，capacity)和后天的语言行为表现（performance, ability)。环境学派（后来又称生态心理学）认为环境布满各种结构，而人在与这些结构相互作用时被赋予（affordance) 了认知能力。计算学派强调计算机模拟的重要性，以设计各种认知与行为的计算架构为己任。不难看出，ChatGPT作为一个课题涵盖了这三个学派的方方面面。

在一篇短文中提到这些，不是为了展开论述，而是为了提供一个路线图示：如何考察ChatGPT的认知以及我们对它的认知。这和初识某人，想要做进一步了解，是一个意思。比如，上面第一小节是在乔姆斯基意义下，介绍ChatGPT的内在装置与基本能力（competences，capacity), 第二节说的是其表现（performance)。至于说它有出息是指其技术进步，而说它是公众人物，三位同仁不约而同地去问它同样一个问题，是说其产生的社会影响。这种路线图示可帮助我们区别什么是其技术进步，什么是其科学发展，什么是其社会影响，以及什么是其商业宣传。人的时间精力和资源都是有限的甚至是稀缺的。所以，投入一件事情，就要考虑自己的机会成本。

四、以标准教育考试为例

1997-2000年，我在普林斯顿大学和美国教育考试服务中心（ETS) 同时做博士后。研究课题之一就是在普林斯顿大学心理系的推理实验室为GRE和SAT测试考题相对难度。相当于对考题文本的经验分析。其时，也正是ETS开始发展机考和机器阅卷（包括写作）技术的初期。一道考题的相对难度，不仅涉及题目文本的表层结构，还要涉及其深层结构，例如推理结构和决策结构。结构化程度，比如排比句的递进，也是判断一篇文章写作强度与论证力度的关键判据。

结构性为我们提供各种认知通道，也是知识成规模迁移的重要工具。结构化是思想语言的基本特征, 应该也是自由交流（Chatting）的题中应有之义。历来，逻辑主义AI强在其结构性基础，神经网络AI强在其模块化处理。有机会我想了解后者在结构化技术上的进展；例如，可以应用哥德尔算术化方法构造自指语句，从而加深对话层次，等等。俗话说，人无远虑，必有近忧。

五、商业性认知与非商业性认知

其实，对于大多数人而言，ChatGPT只有工具性和应用性的意义。那么，什么是ChatGPT对于个体的工具性意义呢？塔斯基的不可定义性定理告诉我们，任何个体工具性真理是不可在个体工具性层面定义的，而只能在高于个体性和工具性两者的层面来定义。这个课题的深入讨论超出这篇短文的范围。简略而言，对于ChatGPT的认知方式和使用方法取决于ChatGPT本身的认知水平。但后者存在两面性，即商业性和非商业性。区别两者的标志之一，就是预训练内容的公开与否。

在商业性假设下，预训练内容是保密的。客户在不清楚预训练内容的生态环境下，就只能与ChatGPT博弈所谓“20问题游戏”。这个具有极大不确定性的博弈过程要由量子力学波函数来刻画。没有详细的预训练信息，客户对ChatGPT的观测只能是狄拉克意义下的微观观测，满足测不准原理。

在非商业性假设下，预训练内容是公开的，而且OpenAI有义务提供并不断公布更新的预训练具体内容。在这种情况下，客户和ChatGPT处于信息对称的状态，后者就像牛顿所观测到的自由落体苹果，两者的关系用一般的连续函数就能刻画了。

结束语

对于前段时间听到的元宇宙和最近听到的ChatGPT，我们感受到的都是“大词”，“网络技术大革命”“人工智能大拐点”“广泛应用大前景”“无限可能大市场”，等等。对此，我持开放心态，乐见其成并愿与其并肩前行。但同时，我感受到大资本的挟持，大商业的奴役，大浪潮的垄断和大趋势的无形。我只想弱弱地问一句站在ChatGPT背后的人，可能告诉我，您都预训练了那“孩子”什么，明天早饭您准备给那“孩子”吃什么？也许，我还会多问一句，您知道什么是NP问题吗？