OpenAI 发现俄罗斯和中国的宣传活动使用了其技术

OpenAI 删除了与俄罗斯、中国和伊朗知名宣传活动相关的账户； 以色列政治竞选机构； 俄罗斯出现了一个此前不为人知的群体，该研究所的研究人员将其命名为“坏语法”。 团队使用 OpenAI 的技术来撰写帖子，将其翻译成不同的语言，并开发自动发布到社交媒体的软件。

这些团体都没有获得太多关注。 他们的相关社交媒体帐户吸引了一些用户 OpenAI 情报和调查小组首席分析师本·尼莫 (Ben Nimmo) 表示，有一些追随者。 然而，OpenAI 的报告显示，多年来活跃在社交媒体上的活动人士正在使用人工智能技术来推动他们的活动。

“我们看到他们生成的文本比这些操作传统上管理的文本量更大、错误更少，”曾从事元跟踪影响者操作的尼莫在向记者举行的简报中说。 Nimmo 表示，其他团体可能会在公司不知情的情况下使用 OpenAI 的工具。

“现在不是自满的时候。 他说：“历史表明，如果没有人寻找，多年来毫无进展的影响者活动可能会突然爆发。”

多年来，各国政府、政党和活动团体一直利用社交媒体来影响政治。 在人们担心俄罗斯对 2016 年总统选举的影响力之后，社交媒体平台开始仔细研究他们的平台如何被用来影响选民。 公司通常会阻止政府和政治团体掩盖影响用户的共同努力，并要求政治广告披露谁为其付费。

虚假信息研究人员担心，随着可以生成真实文本、图像和视频的人工智能工具变得越来越广泛，检测和响应错误信息或在网上产生隐性影响将变得更加困难。 今年，全球有数百万人在选举中投票，人工智能深度造假已经激增。

OpenAI、谷歌和其他人工智能公司正在研究利用自己的工具识别深度赝品的技术，但这种技术尚未得到证实。 一些人工智能专家认为深度造假探测器并不完全有效。

今年早些时候，一个隶属于中国共产党的组织据称支持人工智能生成的一名候选人在台湾选举中胜过另一名候选人的音频。 然而，这位政客、富士康创始人高泰瑞(Terry Koh)并不支持另一位政客。

一月份，新罕布什尔州初选的选民接到了一个自称来自拜登总统的机器人电话，但很快就被识别为人工智能。 上周，一名自称操作自动电话的民主党人被指控压制选民和冒充候选人。

OpenAI 的报告详细介绍了五个团体如何利用该公司的技术来影响活动。 该公司表示，此前知名的中国组织 Spamouflage 使用 OpenAI 的技术来研究社交媒体上的活动，并用中文、韩语、日语和英语撰写帖子。 一个名为国际虚拟媒体联盟的伊朗组织也使用 OpenAI 的技术来创作在其网站上发布的文章。

一个以前不为人知的组织 Bad Grammar 使用 OpenAI 技术创建了一个程序，可以自动发布到消息应用程序 Telegram。 Bad Grammar 随后使用 OpenAI 技术生成帖子并 报道称，它用俄语和英语主张美国不应该支持乌克兰。

OpenAI 表示，报告发现，以色列政治宣传公司 Stoic 使用 OpenAI 发布有关加沙战争的亲以色列帖子，并针对加拿大、美国和以色列的民众。 周三，Facebook 所有者 Meta 也大肆宣传 Stoick 的工作，称其已关闭该组织使用的 510 个 Facebook 帐户和 32 个 Instagram 帐户。 该公司告诉记者，一些账户被黑客入侵，而另一些账户则是虚构的人的账户。

这些账户经常在知名人士或媒体的页面上评论支持以色列的美国大学生、非裔美国人和其他人。 梅塔说，这些言论支持以色列军方，并警告加拿大人“激进伊斯兰教”威胁到那里的自由价值观。

人工智能根据一些评论的措辞采取行动，这些评论让 Facebook 的真实用户感到奇怪且断章取义。 该公司表示，效果不佳，仅吸引了大约 2,600 名合法粉丝。

META 在大西洋理事会数字取证研究实验室之后运作 被发现 X 中的网络

去年，虚假信息研究人员表示，人工智能聊天机器人可以与特定的人在网上进行长时间、详细的对话，试图引导他们朝特定方向发展。 人工智能工具可以获取大量有关个人的数据并直接向他们发送消息。

Nimmo 表示，OpenAI 尚未发现任何人工智能的前沿应用。 “与其说这是一场革命，不如说这是一场进化，”他说。 “没什么可说的，我们将来不会看到这种情况。”

约瑟夫·门恩为本报告做出了贡献。