Meta、谷歌和人工智能公司在拜登会议上就安全措施达成一致

白宫周五宣布，七家领先的美国人工智能公司已同意为技术开发提供自愿保证，并承诺在争夺人工智能潜力的同时管理新工具的风险。

周五下午，亚马逊、Anthropic、谷歌、Inflection、Meta、微软和 OpenAI 这七家公司在白宫与拜登总统会面时，正式承诺遵守新的安全、保障和信任标准。

“我们必须对来自新兴技术的新威胁保持谨慎和警惕，这些威胁可能（不一定会对）我们的民主和价值观构成，”拜登在白宫罗斯福厅的简报中说。

“这是一项重大责任，”他在企业高管的簇拥下说道，“而且潜力巨大。”

这一消息发布之际，各公司竞相推出人工智能版本，提供强大的新方法来创建文本、图像、音乐和视频，无需人工干预。 但随着人工智能变得越来越复杂、越来越像人类，技术的飞跃引发了人们对错误信息传播的担忧，并发出了“灭绝风险”的可怕警告。

随着华盛顿和世界各国政府寻求为人工智能的发展建立法律和监管框架，自愿保障措施只是早期和试探性的一步。 这些协议包括测试产品的安全风险，并使用水印确保消费者能够检测人工智能生成的材料。

但立法者一直在努力以跟上快速发展的技术步伐的方式监管社交媒体和其他技术。

白宫没有提供即将出台的旨在解决另一个问题的行政命令的细节：如何控制中国和其他竞争对手获取新人工智能软件或用于开发该软件的组件的能力。

预计该命令将包括对先进半导体的新限制以及对大型语言模型出口的限制。 难以保护 – 许多软件可以在拇指驱动器上安装和压缩。

与周五的自愿承诺相比，行政命令可能会引发更多业界反对，专家表示，这一承诺已经反映在相关公司的实践中。 承诺不会限制人工智能公司的计划，也不会阻碍其技术的发展。 作为自愿承诺，它们不会由政府监管机构强制执行。

Facebook 母公司 Meta 全球事务主管尼克·克莱格 (Nick Clegg) 在一份声明中表示：“我们很高兴能与该行业的其他人一起做出这些自愿承诺。” “这是确保负责任的人工智能沙箱到位的重要的第一步，它也为其他政府创建了一个可以效仿的模型。”

作为保障措施的一部分，两家公司同意进行安全测试，部分由独立专家进行； 研究偏见和隐私问题； 与政府和其他组织分享有关风险的信息； 开发应对气候变化等社会挑战的工具； 以及识别人工智能产生的材料的透明度措施。

拜登政府在宣布这些协议的声明中表示，企业必须确保“创新不会以牺牲美国人的权利和安全为代价”。

该部门在一份声明中表示：“开发这些新兴技术的公司有责任确保其产品的安全。”

出席白宫会议的高管之一、微软总裁布拉德·史密斯表示，他的公司支持自愿保障措施。

史密斯先生表示：“通过迅速采取行动，白宫的承诺奠定了基础，有助于确保人工智能的承诺在面临风险之前得以兑现。”

OpenAI 全球事务副总裁 Anna Makangu 将这一公告描述为“我们与世界各地政府、民间社会组织和其他机构持续合作以加强人工智能治理的一部分”。

对于公司来说，周五描述的标准有两个目的：试图克制地阻止或影响立法和监管举措，并表明他们深思熟虑和积极主动地对待新技术。

但他们商定的规则很大程度上是最低的共同点，每个公司可能会有不同的解释。 例如，公司已承诺对用于创建生成人工智能程序的语言模型的数据采取严格的网络安全措施。 但没有具体说明这意味着什么，无论如何，公司都会有兴趣保护自己的知识产权。

即使是最谨慎的公司也面临风险。 微软是与拜登一起参加白宫活动的公司之一，该公司上周忙于反击中国政府对与中国有业务往来的美国官员的私人电子邮件进行的黑客攻击。 现在看来，中国已经窃取或以某种方式获得了微软持有的“私钥”，这是验证电子邮件的关键 – 这是该公司保护最严密的代码之一。

考虑到这些风险，该协议不太可能放慢通过立法和执行新兴技术法规的努力。

纽约大学斯特恩商业与人权中心副主任保罗·巴雷特表示，需要采取更多措施来防范人工智能对社会造成的危险。

巴雷特在一份声明中表示：“今天宣布的自愿承诺不可强制执行，这就是为什么国会与白宫一起制定立法，要求透明度、隐私保护以及对生成人工智能带来的广泛风险进行广泛研究。”

欧洲监管机构正准备在今年晚些时候通过人工智能法律，这促使许多公司为美国的监管欢呼。 一些立法者提出了法案，包括许可人工智能公司发布其技术、建立一个联邦机构来监督该行业以及数据隐私要求。 但国会议员远未就这些规则达成一致。

立法者一直在努力解决如何应对人工智能技术的崛起，其中一些人关注消费者面临的风险，另一些人则深切担心在争夺该领域主导地位的竞争中落后于对手，尤其是中国。

本周，众议院与中国竞争委员会向美国风险投资公司发出两党信函，要求他们说明对中国人工智能和半导体公司的投资情况。 几个月来，众议院和参议院的多个委员会一直在质询人工智能行业最有影响力的企业家和专家，以确定国会应该探索什么样的立法障碍和激励措施。

其中许多证人，包括 OpenAI 的 Sam Altman，都恳求立法者规范人工智能行业，理由是新技术有可能造成不必要的伤害。 但此类监管在国会的出台进展缓慢，因为许多立法者仍然难以准确理解人工智能技术是什么。

为了提高立法者的理解，纽约州民主党参议员、多数党领袖查克·舒默(Chuck Schumer)今年夏天开始举行一系列会议，听取政府官员和专家关于人工智能在多个领域的好处和风险的意见。

卡伦·德米尔吉安 华盛顿的贡献报道。