为什么人工智能的“教父”杰弗里·辛顿退出谷歌并公开谈论利害关系

当 Jeffrey Hinton 在 2018 年对谷歌与美国军方的合作提出道德异议时，他没有参加公开抗议，也没有在他的 4000 多名同事签署的公开投诉信中署名。

相反，他只是与谷歌的联合创始人谢尔盖布林交谈。 “他说他对此也有点不高兴。”欣顿当时在接受采访时说。

这一事件象征着欣顿在人工智能领域悄无声息的影响力。 这位 75 岁的教授因其在深度学习方面的形成性工作而被尊为人工智能的“教父”之一 – 人工智能领域推动了该领域正在发生的巨大进步。

但据最了解 Hinton 的人说，这个故事也反映了 Hinton 的忠诚。 原则上，他从未公开表达过任何制度上的不满，无论是道德的还是其他方面的。

正是这种信念导致他上周辞去了谷歌副总裁兼工程研究员的职务，这样他就可以更自由地谈论他对人工智能对人类的危险日益增长的担忧。

他的长期合作者和朋友 Yoshua Bengio 在 2018 年与 Hinton 和 Yan-Locun 一起获得了图灵奖，他说他看到了辞职的到来。 “他本可以留在谷歌并进行演讲，但他的忠诚感却没有，”本吉奥说。

Hinton 的辞职是在过去六个月推出一系列开创性的 AI 之后，首先是 11 月由微软支持的 ChatGPT，以及 3 月谷歌的聊天机器人 Bard。

Hinton 表示担心微软和谷歌之间的竞争会在没有适当的障碍和规则的情况下推动人工智能的发展。

“我认为谷歌一开始就非常负责任，”他在宣布辞职后于周三在 EmTech Digital 活动上发表演讲时说。 “一旦 OpenAI 使用 .

自 1970 年代以来，欣顿率先开发了“神经网络”，这是一种试图模仿大脑工作方式的技术。 它现在支持我们今天使用的大部分 AI 工具和产品，从 Google Translate 和 Bard 到 ChatGPT 和自动驾驶汽车。

但本周，他承认了对其快速发展的担忧，这可能导致错误信息泛滥于公共领域，人工智能抢夺的人类工作岗位超过预期。

“让我担心的是这会发生 [make] 富者更富，穷者更穷。 当你这样做的时候。 . . “社会变得越来越暴力，”欣顿说。 “这项必须是伟大的技术……正在一个并非旨在造福所有人的社会中发展。”

Hinton 还对人工智能系统对人类构成的长期威胁敲响了警钟，如果技术被赋予过多的自主权的话。 他一直认为这种存在的危险是遥不可及的，但他最近重新考虑了它的紧迫性。

“这很有可能，”他说，“人类是智能进化的过渡阶段。” 他补充说，Hinton 决定在十年后离开谷歌，是一位学术同事说服他说出来的。

欣顿出生于伦敦，出身于著名的学者世家。 他是英国数学家玛丽和乔治布尔的曾孙，后者发明了布尔逻辑，这是现代计算的基础理论。

作为一名认知心理学家，欣顿在人工智能方面的工作旨在接近人类智能——不仅是为了构建人工智能技术，而且是为了阐明我们大脑的工作方式。

他的背景意味着他“不是你在机器学习社区中能找到的最数学的人，”加州大学伯克利分校人工智能教授和欣顿学院的学术研究员 Stuart Russell 说。

他提到了 Hinton 在 1986 年取得的突破，当时他发表了一篇关于称为“反向传播”的技术的论文，该技术展示了计算机程序如何随着时间的推移进行学习。

“这显然是一张关键牌，”拉塞尔说。 “但他并没有推导出……控制数学家可能的方式。他用他的直觉找出一种可行的方法。“

欣顿并不总是在公开场合直言不讳地谈论他的道德观点，但他确实在私下里表达得很清楚。

1987年，在美国卡耐基梅隆大学任副教授的他决定辞去职务移民加拿大。

根据 Bengio 的说法，他给出的原因之一是道德原因——他担心技术，尤其是人工智能在战争中的使用，而且他的大部分资金来自美国军方。

“他希望对自己获得的资金和所做的工作感到满意，”本吉奥说。 “他和我对社会有着共同的价值观。人类很重要，所有人的尊严都是必不可少的。每个人都应该从科学取得的进步中受益。”

2012 年，Hinton 和他在多伦多大学的研究生——包括 Ilya Sutskiver，现在是 OpenAI 的联合创始人——在计算机视觉领域取得了突破。 他们构建了神经网络，能够以比以前更精确的尺寸识别图像中的物体。 基于这项工作，他们成立了自己的第一家初创公司 DNNresearch。

他们的公司——没有生产任何产品——在 2013 年以 4400 万美元的价格卖给了谷歌，此前一场竞争性拍卖导致中国公司百度、微软和 DeepMind 竞标这三者的专业知识。

此后，Hinton 一半时间在谷歌工作，另一半时间在多伦多大学担任教授。

据 Russell 所说，Hinton 一直在不断地提出新想法并尝试新事物。 “每次他有了新的想法，他都会在演讲结束时说：” 这 大脑是如何工作的！ “

当在舞台上被问及他是否后悔自己一生的工作时，因为这可能导致了他所概述的无数伤害，Hinton 说他一直在考虑这个问题。

“这个阶段 [AI] 没想到。 直到最近，我还认为这场生存危机是牵强附会的。 “所以我真的对我正在做的事情没有任何遗憾。”