最近,27岁的杰出创业者Joel Hellermark与人工智能领域的先锋人物Geoffery Hinton进行了一场精彩绝伦的对话。在这次访谈中,Hinton教授不仅回顾了自己在人工智能领域的探索历程,还深入讨论了神经网络、Scaling Law、多模态学习、模拟计算,以及人工智能的伦理与安全等关键议题。此外,他还提到了自己的杰出学生Ilya Sutskever,后者最近从OpenAI首席科学家的职位上离职。
访谈中的两位主角都非同凡响。Hinton教授作为人工智能的领军人物,其贡献无需赘述。而访谈者Joel Hellermark,这位年轻的创始人,也有着令人印象深刻的背景。他在东京长大,13岁便开始编程,并在14岁时创立了自己的视频推荐公司。19岁时,他创立了人工智能研究实验室Sana,该实验室在2023年成功筹集了8000万美元的资金。
Hellermark坚信教育的力量,他选择了通过斯坦福大学的公开课程自学编码,而非传统的大学教育。他创立Sana的目标简单而深远:“改变教育”。他希望通过提升员工的学习能力和信息获取效率,进而提高工作效率。
在对话中,Hinton教授分享了自己编程的起点,以及他在卡内基梅隆大学的经历,那里的研究氛围与他之前在英国的体验截然不同。他谈到了神经网络的早期探索,以及与Donald Hebb和John von Neumann的理论对他的影响。Hinton教授还回忆了他与多位学者的合作经历,包括与Terry Sinofsky共同研究Boltzmann Machines的日子,以及与Peter Brown在语音识别和Hidden Markov Models方面的工作。
特别值得一提的是Ilya Sutskever,他对Hinton教授的研究产生了深远的影响。Sutskever的直觉和对问题的敏锐洞察力,尤其是在反向传播的优化上,为深度学习领域带来了新的视角。
Hinton教授和Hellermark还讨论了人工智能模型的规模增长,以及这如何影响模型的性能和推理能力。Hinton教授认为,尽管新算法如Transformer架构对模型性能有显著提升,但真正推动进步的是数据规模的扩大和计算能力的提升。
此外,Hinton教授分享了他对多模态能力的看法,他认为多模态输入将显著提升模型的理解能力,尤其是在空间关系和物体操作方面,这将为数字生命的发展提供帮助。他还讨论了神经科学原理如何应用于现代人工智能系统,并对未来可能的融合表达了期待。
最后,Hinton教授反思了自己的职业生涯,包括他在玻尔兹曼机上的“失败”和他对人工智能未来发展的展望。他强调了科学家的社会责任,并对人工智能技术的潜在负面影响表示了担忧。