美国企业与中国专家就人工智能安全展开秘密外交

通过免费更新随时了解情况

只需注册 人工智能 myFT Digest——直接发送到您的收件箱。

人工智能公司 OpenAI、Anthropic 和 Cohere 与中国人工智能专家进行了秘密外交，共同担心这项强大的技术如何传播错误信息并威胁社会凝聚力。

据几位知情人士透露，去年 7 月和 10 月在日内瓦举行了两次会议，出席者包括来自北美人工智能团体、清华大学以及其他中国国家支持机构的科学家和政策专家。

与会者表示，会谈使双方能够讨论新兴技术的风险，并鼓励对人工智能安全研究的投资。 他们补充说，最终目标是找到一条安全开发更复杂的人工智能技术的科学路径。

一位参加会谈的人士表示：“如果这些参与者之间没有达成一致，我们就无法制定有关人工智能安全和一致性的国际标准。” “如果他们同意，那么带动其他人就变得容易多了。”

此前未经宣布的会谈是中美两国在人工智能和量子计算等尖端技术领域争夺霸主地位的竞争中罕见的合作迹象。 目前，华盛顿已禁止向美国出口英伟达等公司生产的高性能芯片，这些芯片是开发复杂的人工智能软件所必需的。

但人工智能安全话题已成为两国技术开发者的共同兴趣，这给人类带来了潜在的生存风险。

一位不愿透露姓名的出席会议的谈判代表表示，日内瓦会议是在白宫以及英国和中国政府官员知情的情况下组织的。 白宫拒绝发表评论。

中国驻英国大使馆表示：“中方支持讨论人工智能治理，并在广泛共识的基础上制定必要的框架、法规和标准。”

“中国愿与全球人工智能治理各方开展沟通、交流和务实合作，确保人工智能发展促进人类文明进步。”

会谈是由谢赫集团促成的，谢赫集团是一个私人调解组织，旨在促进冲突地区（特别是中东地区）主要参与者之间的对话。

该组织首席执行官萨尔曼·谢赫 (Salman Shaikh) 表示：“我们看到了将美国和中国人工智能领域的主要参与者聚集在一起的机会。我们的主要目标是通过在世界各地广泛部署共享的人工智能模型来突出脆弱性、风险和机遇。”

“我们认为，认识到这一事实将成为协作科学工作的基础，最终导致围绕人工智能模型安全性的全球标准。”

参与谈判的人士表示，字节跳动、腾讯、百度等中国人工智能公司并未参与； 谷歌DeepMind虽然获悉了讨论的细节，但并未参与。

会谈期间，双方人工智能专家讨论了技术合作领域以及具体政策建议，这些建议将纳入2023年7月联合国安理会人工智能会议和去年11月英国人工智能峰会讨论中。 年。

会议的成功导致了未来讨论的计划，重点是如何使人工智能系统与法律法规以及每个社会的规范和价值观保持一致的科学和技术建议。

人们越来越多地呼吁主要大国之间合作应对人工智能的崛起。

去年11月，研究人工智能的中国科学家与西方学者一起呼吁对这项技术进行更严格的控制，并签署了一份声明，警告先进的人工智能可能在未来几十年“危害人类”。

该组织包括中国最著名的计算机科学家之一姚明，呼吁建立一个国际监管机构，对先进人工智能系统进行强制注册和审计，纳入即时“停止”程序以及对开发人员进行支出。 他们将 30% 的研究预算用于人工智能安全。

OpenAI、Anthropic 和 Cohere 拒绝就其参与发表评论。 清华大学没有立即回应置评请求。

本文经过编辑，在副标题中澄清了日内瓦会谈关注的是渗透，而不是人类学。