凯库勒的梦与 ChatGPT 的幻觉

luyuanhong

凯库勒的梦与 ChatGPT 的幻觉

作者：吕乃基 | 发表时间：2023-8-25 09:04 | 个人分类：认知科学 | 系统分类：科研笔记

随着新知识不断涌现，知识加快老化；由于信息技术特别是互连网的作用，知识共享的量越来越大、范围越来越广、速度越来越快。人类相互交流的速率受到说话语速的限制，而模型相互交流的速率远快于人类，因而知识的贬值也越来越快。知识的积累强调知识的连续性、循序渐进，知识的创新则强调知识的中断、跳跃，需要非逻辑思维或非线性思维，如联想等形象思维，以及灵感、顿悟等直觉思维。

知识的老化和知识的贬值共同表明知识创新的重要性，也对非逻辑思维提出更高的要求。人类发展至今对于逻辑思维已经有非常成熟的研究，而对于非逻辑思维，特别是直觉思维所知甚少。有人说，对于直觉思维，或许也只能以直觉来把握。人类如何发展非逻辑思维？对于我们说不请、道不明的思维，又如何去学，如何去教？我们如何创新？

解决之途之一在于在直觉思维之前的准备、积淀与之后的梳理。先看“之前”。思之思之，又重思之，思之而不通，鬼神将通之；非鬼神之力，精气之极也。没有之前包括逻辑思维在内的知识积淀和思维准备，就不可能达到“精气之极”。凯库勒没有之前的“思之思之，又重思之”，就不会有那个著名的梦。

再看“之后”。凯库勒没有止步于梦中的那条衔着自己尾巴的蛇。经之后数日紧张的思索，凯库勒得出了苯的结构式。在对公众的讲演中凯库勒说，先生们，让我们学会做梦。不过在经清醒头脑的过滤和重组之前，不要公布那个梦。

人类以往的几乎全部知识构成了 ChatGPT “之前”之“思”。如果把凯库勒在梦前掌握的资料交给生成式人工智能，如 ChatGPT ，不知它会不会做梦。胡泳认为，机器不能做梦，然而 ChatGPT 的梦或许是以涌现的方式出现，其中可能有幻觉，幻觉在某种意义上与梦有相通之处。

ChatGPT 在工作时若总是选择最高“概率”的单词，通常会得到一篇非常“平淡”的文章。以一个特定的“温度”参数控制较低排名的单词会被使用的频率，发现温度为 0.8 效果最好。概率和随机性显示出神奇的魔力，这或许是涌现的主要源泉。

微软总裁纳德拉表示，有时候幻觉也是“创意”的表现。人类应该可以选择他们想要用哪种模式，试试各种“温度”。“ChatGPT 出现的幻觉，就是人类的创造力和想象力。所以试图剥夺 ChatGPT 一本正经胡说八道”的能力，就是要求艺术家丢掉调色板，音乐家丢掉乐器，要求诗人只唱赞歌。”奥特曼理直气壮地说，“今天我在这里，必须强烈反对那些无休止地指责 ChatGPT 的声音。”

OpenAI 的 GPT-4 在托伦斯创造性思维测试（TTCT）中的得分在前 1% ，在流畅性、灵活性和原创性等创造性能力方面与人类相匹配或超过了人类。

如果把结果监督改为过程监督，让 ChatGPT 的每一步都处于人的监督之下，以及让每一步都透明和可理解，既消除了幻觉和隐患，同时也泯灭了涌现和梦。

问题是，ChatGPT 未经“清醒头脑的过滤和重组”就公布了幻觉，其自身目前看来没有能力区分现实与幻觉，人类应担负起以“清醒头脑”进行“过滤和重组”之重任，实际上这也是人类最后的底线。

难道当真把一切都交给 ChatGPT ?