数字生命
AI教父Hinton预言如果AI开始进化,人类可能会被遗忘
6/19/2024

在BNN彭博社6月15日的独家采访中,Hinton对AI的理解能力进行了深入探讨。他指出,尽管大型语言模型(LLM)在诗歌创作上表现出色,但在算术能力上却不尽人意,这表明AI对概念的理解与人类存在差异。Hinton坚决反对将LLM简单视为统计技巧的观点,他认为,现代的LLM通过理解上下文来预测单词,这在某种程度上体现了其理解能力。

Hinton的观点在Reddit社区引起了激烈讨论。他强调,尽管AI已经能够构建智能体并自主设定目标,但这并不意味着它们能够完全理解自然语言。他以英国国菜"鱼和薯条"为例,说明了传统统计语言模型的局限性,并对比了现代LLM在理解上下文方面的进步。

Hinton同样相信,随着模型规模的扩大和技术的突破,AI的智能将超越人类,这只是时间问题。在被问及更智能的技术是否必然带来风险时,他以幽默的方式回应了这一问题,并指出,AI的发展已经达到了一个新的阶段,它们能够自主创建目标并追求自身利益。

在另一次访谈中,Hinton对于AI取代人类的可能表达了复杂的看法。他预言,如果AI开始进化,人类可能会被遗忘。尽管这一观点听起来像是科幻小说中的情节,但Hinton认为这是一个现实存在的威胁。他甚至在一次访谈中表示,尽管他个人支持AI的发展,但在公众面前表示反对可能是更明智的选择。

Hinton的这些言论在Reddit上引发了两极化的反应。一些人批评他的观点是愤世嫉俗和虚无主义的表现,而另一些人则认为他只是以一种开放的心态接受了人类可能不是进化的最终形态这一事实。