随着以ChatGPT为标志的人工智能的快速发展，来自“人工智能末日论者”的对人类前景的黯淡预测或担忧越来越多。著名认知科学家、《哥德尔、埃舍尔、巴赫》的作者道格拉斯·霍夫施塔特现在也加入了其中。在近日的一次谈话中，他表示人工智能将使人类面临重大的、非常不利的变化，人性可能很快会被淘汰。
“系统在语言之间的翻译方面变得越来越好，然后在用自然语言对难题做出可理解的回答，甚至写诗”。霍夫施塔特说，这一发展动摇了他的信念体系。
霍夫施塔特在人工智能领域进行过基础研究，特别是在“流动概念和创造性类比”方面。他认为机器能通过类比进行思考和获得学习的能力，就像人类将想法从一种环境转移到另一种环境一样。但他此前从未相信神经网络可以进行深度思考。
现在，他感到不知所措和沮丧：人类的心灵可能并不像他在写《哥德尔、埃舍尔、巴赫》和《我是一个奇怪的循环》等书时所想象的那样深刻和复杂。“从某种意义上说，与这些计算系统相比，它让我觉得这是一个非常不完美、有缺陷的结构，这些计算系统的知识比我多一百万倍或十亿倍，而且速度快十亿倍。”霍夫施塔特说。
霍夫施塔特“感觉不仅是我的信仰体系正在崩溃，而且感觉整个人类很快就会黯然失色并被抛在尘埃中”。他说：“人性可能很快就会被淘汰，因为我们是如此不完美和容易犯错。我们总是忘记事情，我们总是混淆事情，我们总是自相矛盾。”
他指出，人工智能的发现就像火的发现一样，其演变可能是不可逆转的。“我们可能已经在森林放火了。”他说。
包括霍夫施塔特在内的“人工智能末日论者”的观点并非主流。根据IEEE Spectrum 最近的综述，22 位先锋人工智能专家中，只有 4 人认为人工智能可能导致世界末日。不过，有8人认为当前的大型语言模型可能会带来通用人工智能。
