人工智能先驱称其对世界的威胁可能比气候变化“更紧迫”

伦敦（路透社）——人工智能先驱杰弗里·辛顿周五在接受路透社采访时表示，人工智能可能对人类构成比气候变化“更紧迫”的威胁。

被公认为“人工智能教父”之一的杰弗里·辛顿 (Jeffrey Hinton) 最近宣布，他将在 Alphabet (GOOGL.O) 工作十年后离开该公司，表示他想在不影响他之前工作的情况下公开谈论该技术的危险. 雇主。

Hinton 的工作被认为对当代人工智能系统的发展至关重要。 1986 年，他与人合着了开创性论文《通过反向传播误差学习表征》，这是支撑 AI 技术的神经网络发展的里程碑。 2018年，他被授予图灵奖，以表彰他的研究成果。

但现在，越来越多的技术领导者公开表达了他们对人工智能带来的潜在威胁的担忧，如果机器能够获得比人类更高的智能并控制地球，他就是其中之一。

“我不想淡化气候变化。我不想说，‘你不必担心气候变化。’” “这也很冒险，”欣顿说，“但我认为这可能会变得更加紧迫。”

他补充说：“随着气候变化，很容易推荐你应该做什么：停止燃烧碳。如果你这样做，最终一切都会好起来的。这就是为什么你根本不清楚你应该做什么。”

去年 11 月，微软支持的 OpenAI (MSFT.O) 在一场技术军备竞赛中打响了发令枪，当时它向公众提供了其人工智能驱动的 ChatGPT 聊天机器人。 它迅速成为历史上增长最快的应用程序，在两个月内达到了 1 亿月度用户。

4 月，Twitter 首席执行官埃隆·马斯克 (Elon Musk) 与数千人一起签署了一封公开信，呼吁暂停开发比 OpenAI 最近推出的 GPT-4 更强大的系统六个月。

签署者包括 Stability AI 首席执行官 Emad Mostaque、Alphabet 旗下的 DeepMind 的研究人员，以及 AI 先驱 Yoshua Bengio 和 Stuart Russell。

虽然 Hinton 与签署者一样担心人工智能可能对人类构成生存威胁，但他不同意暂停搜索。

“这完全不现实，”他说。 “我认为这是一个生存风险的阵营，它已经足够接近了，我们现在必须非常努力地工作，并投入大量资源来弄清楚我们能做些什么。”

在欧盟，一个立法者小组回应了马斯克支持的信息，呼吁美国总统乔拜登与欧盟委员会主席乌尔苏拉冯德莱恩就未来技术方向举行全球峰会。

上周，该委员会批准了一组针对生成人工智能的独特提案，这将迫使像 OpenAI 这样的公司披露用于训练其模型的任何版权材料。

与此同时，拜登在白宫与包括 Alphabet 首席执行官 Sundar Pichai 和 OpenAI 首席执行官 Sam Altman 在内的多家人工智能公司领导人举行了会谈，承诺将就公司需要更加透明地进行“坦诚和建设性的讨论”系统。

“技术领导者对此最了解，政治家需要参与进来，”欣顿说。 “它影响到我们所有人，所以我们都必须考虑一下。”

（Martin Coulter 报道），Debbie Babbington 编辑

我们的标准： 汤森路透信托原则。