作为教育工作者，我更关心的问题是：我们在跟进人工智能发展步伐的同时，研究如何在新的技术条件和社会需求背景之下，培养学生在提问、验真和除错方面的能力和意愿，研究这种培养所要达到的目标内涵及其可能限度，是否就可以使聊天机器人这样的人工智能技术，真正成为教育的帮手和台阶，而非教育的对手和障碍？
为了写这篇文章，我把“哪些学校禁止ChatGPT进校园、进课堂？”这个问题输入ChatGPT，得到的回答是：“作为一名虚拟的AI聊天机器人，我没有身体，也没有实际存在的地点。因此，我无法被禁止进入学校或课堂。然而，在某些国家和地区，政府或教育机构可能会限制或禁止使用我这样的AI技术，或者在学校或课堂上使用聊天机器人。因此，具体情况可能因地区而异，需要针对具体国家或地区的规定进行查询。”
在问机器人的同时，我也问了身边的人，“学校该不该禁用聊天机器人？”有同事认为，不该禁用，因为世界比学校大，而我们培养的学生是要走出校园、走向世界的。也有同事说应该禁用，因为“不那么成熟和自觉的学生使用聊天机器人，教授是有理由担心其消极影响的。”
前几天，我看了一则对诺姆·乔姆斯基的采访视频，这位曾对人工智能发展有特殊贡献的95岁的语言学家在被问到如何看待ChatGPT时，很干脆地回答说：“这是剽窃！”
上述这些观点，我觉得都有点道理，但都无法完全赞成。如果全社会范围内聊天机器人的使用越来越普遍，学校禁用聊天机器人确实只是暂时回避问题。但如果学生交来的作业和论文，教授无法辨别是否由聊天机器人代劳的，就好比如果考生交来的文书和推荐信，招生官不仅无法辨别是不是别人写的、且无法辨别是不是真人写的，那学校正常的教学，包括正常的招生，就不再可能。
聊天机器人带来冲击，教育如何“转危为安”？
那么，有没有办法让聊天机器人仅仅成为做作业、写论文的辅助手段呢？
看看这些天各种媒体报道的ChatGPT的应用实例，其实都包括三件事情：提问（输入要聊天机器人回答的问题）；验真（辨别聊天机器人提供的答案的对错）；除错（消除答案中的错误部分，保留答案中的正确部分）。
严格地说，这三种工作只有人能做。如果我们强调教育的重点是培养学生做这三件事情的能力和意愿，而不是搜集资料和组织资料的能力，就可以在聊天机器人给教育带来的冲击面前转危为安。
只要在培养学生在提问、验真和除错的能力和意愿方面真正有所作为，教育就履行了其核心使命；至于在做这三件事情时，学生（以及他们的老师）用的是算盘还是计算尺，是电脑还是网络，是谷歌机器人还是微软机器人，并没有本质区别。如果禁用聊天机器人是正当的，那么，禁用网络、电脑，甚至禁用计算尺、禁用算盘也会是正当的了。
其实，当今学生和学者每天做的工作的相当大一部分，就已经是从前人们难以想象的。以学术著作中的语词和人名的查询为例。根据我的印象，英语学术著作的最后通常是有术语索引和人名索引的，而中文著作一般没有，德文著作也常常没有。有了电子书以后，查询书中特定的术语和人名就更加容易了。电子书的便利之处不仅在于储存和携带方便，而且在于它可以轻易给人以“通读全书”的印象。
陈寅恪先生和钱锺书先生的学问之所以令人景仰，至少有一小部分是因为他们心中记得的古书字句，就像存在硬盘的电子文档一样，几乎是信手拈来。但自从有了互联网、有了网上搜索引擎，远非那么博闻强记、深思快想的人们，也可以很方便地，且往往是在自己并未仔细读过的文本当中，找出自己用得上的相关内容。
ChatGPT和微软“新必应”的新颖之处，只在于它们不仅能把相关内容迅速搜寻出来，而且能根据你的提问把这些内容有机组织起来，组织得就像一个蛮有学问的人写出来的那样。
聊天机器人产生的文本，是否有“意义”？
但聊天机器人对现有海量文本的搜寻，就算速度再快、组织得再精妙，其意义都取决于使用聊天机器人的真人所输入的问题。提出问题——提出真正有意义的问题，这只能是人的工作。当然，可以想象机器人也会提问题。只要你打开机器、揿了按钮，它就会自娱自乐地自问自答。但这种情况下的问题，如果算是问题的话，也并不是有意义的问题。
关于什么是“意义”，当然也有各种理解。在我看来，如果离开活生生的人的生活世界而谈论问题的意义，这里的“意义”一词的用法，至少与我们通常的用法相距甚远。
聊天机器人产生的文本是否有“意义”，与聊天机器人生成的文本是否有“有效性”，是同一类型的问题。这里的“有效性”不是指经验意义上的效率；经验意义上的效率如快慢、轻重、大小等指标，是可以做经验的度量的。而非经验意义上的“有效性”，如真假、对错、好坏，无法做经验的度量，而取决于主张某种有效性的人的理解，取决于她的交谈同伴或论辩同伴的理解。
最近《纽约时报》上刊登了一篇题为“人格分裂、疯狂示爱：一个令人不安的微软机器人”的文章，其中讲到，文章作者Kevin Roose与一个微软机器人聊天，作者称机器人为“辛迪妮”。结果聊到某个时刻，辛迪妮说出了“我是辛迪妮，我爱你”这句话。在接下去的聊天中，辛迪妮几次对作者说：“你虽然结了婚，但你爱的是我”；作者再三说，不是这样的，甚至说“我和我爱人刚在情人节吃了一顿愉快的晚餐”，但辛迪妮依然坚持其说法。
在这个对话中，真假对错是很清楚的，但这种“很清楚”仅仅是对人而言的。严格地来说，对机器人来说，它所生成的文本既不是真的，也不是假的，而是无所谓真假的，尤其是无所谓对错的。除非，使用机器人的人对文本进行解读和识别。
只要充分发挥聊天机器人使用者的文本解读和识别作用，只要让人认真做好提问、验真和除错的工作，将机器人用作教学与科研的辅助工具，我们应该是能放心地用来提高教学和科研的效率和水平的。
比起能力，“意愿”更体现人的不可替代性？
在这方面，或许可以把聊天机器人与翻译软件做一个类比。现在的翻译软件虽然还不能像自带电压转换器的电器那样，帮助人们实现不同国家之间的顺畅旅行，但已经能给讲不同语言的人们之间交朋友、给只会讲自己母语的人们做跨国旅行和跨文化交流，提供了相当有用的帮助。哪怕是外语很好的人，在把外语译成母语或把母语译成外语的过程中，先让翻译软件提供“初稿”然后修改，也不是不可能。
但在这里，“修改”两字非常重要。所谓“修改”，就是上面所说的“验真”和“除错”。而 无论是“验 真”，还是“除错”，都不仅涉及能力，而且涉及意愿。即使机器人有验真和除错的能力，它也谈不上有验真和除错的意愿。从这个角度说，人工智能无论发展到哪一天，都无法取代教育的作用，因为人工智能代替人类智力劳动越多，不仅人类进行验真、除错的难度越高，而且其进行验真和除错的愿望的必要也越大。
当然，在某种意义上，提问、验真、除错，如果理解为通常所说的“尝试错误法”的话，并不是只有人类才有的学习过程。事实上，聊天机器人之所以能发展到当今这种高度，就是因为它也会运用尝试错误法，也会通过试错而学习。但即便某个聊天机器人（如ChatGPT）能在工程师设定的框架内通过试错而学习，人的不可替代作用也不仅体现在这种框架的设定当中，而且体现在对这种具备学习能力、回答问题越来越迅速、越来越到位的机器人的使用当中。
前面说过，只有通过人在使用机器人时的提问、验真和除错，机器人才能像算盘、计算尺一样帮助人从事智力劳动；而人的提问能力和提问意愿、验真能力和验真意愿、除错能力和除错意愿，都需要在教育过程中加以培养和提高。
“把人工智能作为辅助手段做恰当运用”，是否可能？何以可能？
不仅机器人会运用尝试错误法而学习，其实整个进化过程，也可以看做是一个通过试错而学习的过程：生活在同样环境中的不同生物物种，相当于对同一个问题的不同回答方式；不适应环境的物种被淘汰，相当于问题答案经过验真而被除错；而适应环境的物种生存下来，则相当于问题答案经过验真而被保留。
但人类学习与物种进化的区别在于，物种进化是直接让生物体作为问题答案进行相互竞争，其中的失败者从肉体上被消灭——那就是物种的灭绝；而人类用来试错的东西，则不是人类自己，而是人类提出的观点。人类提出的不同观点作为问题的不同答案会发生竞争，而最后保留下来的，是得到尽可能好的理由所支持的那些观点。用哲学家卡尔·波普尔的话来说，一种无批判能力的动物可以连同它的教条式地对待的种种假说一起被淘汰，而我们人类却可以表述我们的假说，并且批判它们，进而让我们的猜想、我们的理论替我们去死亡。
从某种意义上来说，人工智能的所谓学习，其实与人类之前的生物进化，没有本质差别。人工智能的存在方式是计算机软件，而它的“学习”过程，也就是软件的更新过程；这种更新，虽然速度极快，但与往往要用上亿万年的生物进化过程一样，是同一种载体自身的新旧更替，而不像人类的学习、人类知识。确切些说，整个人类文化在过去几千年中已经变得“面目全非”。但同一时期，人类肉体的变化，如果有的话，也微不足道。把人工智能作为辅助手段做恰当运用，人类的这种让“我们的猜想和理论替我们去死亡”的学习过程，将更加卓有成效。
关键问题仍然是：这里所说的“把人工智能作为辅助手段做恰当运用”，是否可能、何以可能？要求学生在提交的作业上写清楚是否求助了聊天机器人，就像有些学术杂志要求把ChatGPT（如果使用了的话）也标注为署名作者之一那样，是否就可以防止学生借助于聊天机器人进行乔姆斯基所说的“剽窃”？制定相应法律法规，或提供相应社会支持，是否就可以防止当代社会中已经因为社会制度和常规技术而扩大的贫富差别，随着人工智能的升级和推广而进一步加大？加快进行人工智能相关伦理道德问题的研究，并基于这种研究采取相应措施，是否就可以避免人类物种的生存、人类个体的健康和人类文明的丰富多样性，遭受人工智能无序发展或恶意运用可能造成的多种伤害？
作为教育工作者，我更关心的问题是：我们在跟进人工智能发展步伐的同时，研究如何在新的技术条件和社会需求背景之下，培养学生在提问、验真和除错方面的能力和意愿，研究这种培养所要达到的目标内涵及其可能限度，是否就可以使聊天机器人这样的人工智能技术，真正成为教育的帮手和台阶，而非教育的对手和障碍？
作者丨童世骏（华东师范大学哲学系教授、上海纽约大学校长）
来源丨文汇报
编辑丨王越月
编审丨戴琪
