与俄罗斯和中国有联系的参与者如何利用 OpenAI 传播虚假信息

新的 一份报告 人工智能公司 OpenAI 透露，俄罗斯和中国的参与者使用生成式人工智能来组织有关乌克兰、台湾、摩尔多瓦和美国等主题的虚假信息行动。

该报告详细介绍了过去三个月中使用 OpenAI 工具来提高有效性或覆盖范围的五个独立信息操作。 它们共同提供了一个窗口，让我们了解对手如何使用先进的人工智能工具来影响对地缘政治事件的看法。

主要发现：生成式人工智能可以让英语（或其他语言）水平非常有限的操作员显得更加真实，并且可以个性化帖子和评论，使它们看起来像是来自真正的母语人士。 一些行为者使用这些工具来增加他们在不同平台上发布的评论数量，造成民众普遍反对美国、乌克兰或其他目标的印象。 这一点至关重要，因为语言使用不当是在线用户在确定互联网内容是否合法时寻找的少数迹象之一。

一个名为“Bad Grammar”的亲俄罗斯组织使用 OpenAI 的工具指责“乌克兰和摩尔多瓦总统腐败、缺乏民众支持，并在 Telegram 上的英语评论中背叛了他们的人民”。这些评论经常使用时事背景来表示美国不应该支持乌克兰。俄罗斯最近针对摩尔多瓦进行了更多的信息行动，表明它可能是俄罗斯入侵的潜在目标。 。

另一个在俄罗斯境外活动的组织被称为 相似……相似的人，使用该工具发布了英语、法语、德语、意大利语和波兰语的内容，并使其看起来比以前更受欢迎。 “每次该活动在 9GAG 上发布表情包或视频时，都会有三到五个帐户做出回应，通常会发出‘哈哈哈’或‘哈哈’等简单消息。这些帐户中的每一个都只与该活动的内容进行互动，大多数帐户是在相同的历史 这种行为经常引起其他用户的批评，其中许多人将这些帐户描述为“机器人”。

使用人工智能来控制帖子的覆盖范围也很受演员的欢迎，他们“使用我们的模型生成大量简短评论，然后在 Telegram、X、Instagram 和其他网站上传播”。

中国行为者不太愿意使用工具来传播钓鱼内容，而是使用人工智能来改进其操作并扩大对平台、其安全缺陷、在线受众情绪等的分析范围。 其中一个华人团体名为 不需要的波浪形 “我使用这些工具来调试代码，寻求有关社交媒体分析的建议，研究新闻和时事，并创建然后在博客论坛和社交媒体上发布的内容。” 他们使用我们的模型来总结和分析大量社交媒体帖子的情绪，尤其是中文帖子。 代表 IUVM 的人员使用我们的模板创建网站标签，然后这些标签似乎会自动添加到该组织的网站中。

通过 OpenAI 的分析，没有一个活动产生重大影响（根据衡量标准） 透度计。 但这表明对手已经在寻求利用美国的人工智能工具来影响公众对 Telegram 等国外社交媒体平台以及 X（前身为 Twitter）等国内平台的看法。

几个月来，国家安全官员一直在警告人工智能带来的与选举相关的虚假信息所带来的日益严重的威胁，国家情报局局长艾薇儿·海恩斯 (Avril Haines) 在 3 月份表示，人工智能可能在斯洛伐克今年早些时候的选举中发挥了决定性作用。允许亲俄罗斯行为者监督选举。 创建和传播深度伪造音频内容，旨在展示政府领导人参与腐败的情况。

OpenAI 报告遵循该公司努力立法以确保人工智能生成的内容有明确标签的努力，但它也表明，虽然对人工智能生成内容的检测有所改善，但不良行为者仍然可以比管理员更快地创建和传播它。 。