台北，台湾 – “美国梦。他们说它适合所有人，但真的是这样吗？
一段由人工智能生成的 65 秒动画视频开始讨论美国的热点问题，从毒瘾和监禁率到日益严重的财富不平等。
当暴风云聚集在类似纽约市的城市景观上时，视频结束时“美国梦”这句话悬挂在黑暗的天空中。
传达的信息很明确：尽管美国承诺让所有人过上更美好的生活，但美国正处于最终的衰落之中。
这段名为《美国梦》或《美国幻影》的视频是中国国家电视台 CGTN 播出的众多剪辑之一，并在社交媒体上广泛分享，是其《破碎的美国》动画系列的一部分。
该系列中的其他视频也有类似的标题，让人联想到反乌托邦社会的形象，例如动荡中的美国工人：政治和经济不平衡的结果，以及揭示的真正威胁：美国军工联合体。
除了严厉的反美信息之外，所有视频都具有相同的过度设计的人工智能生成的美感和奇怪的计算机生成的音频。
中国国际电视台和中国驻华盛顿大使馆没有回应置评请求。
美国工人陷入动荡：政治和经济失衡的结果 #第一声音 pic.twitter.com/JMYTyN8P2O
– CGTN（@CGTNOfficial） 2024 年 3 月 17 日
《破碎的美国》系列只是人工智能如何在几秒钟内以最小的努力生成高质量多媒体的能力，如何开始影响北京的宣传努力，以削弱美国在世界上的地位的一个例子。
英国生成式人工智能专家 Henry Agder 表示，虽然 CGTN 剧集并没有试图将自己呈现为真实的视频，但它是人工智能如何使内容制作变得更容易、更便宜的一个明显例子。
“他们这样做的原因是因为你可以聘请动画师和配音艺术家来做这件事，但这可能最终会花费更多时间。这样做可能会更昂贵，”阿杰德告诉半岛电视台。
“这是一种更便宜的扩展内容创建的方式。当你可以将所有这些不同的模块放在一起时，你可以创建图像，你可以为这些图像制作动画，你可以从头开始创建视频。你可以创建文本到语音，即非常引人注目，看起来很人性化。所以，你有一个管道完整的内容创建，自动化或至少是高度人工生成的。
中国长期以来一直利用互联网的大规模和无国界性质在海外开展影响力活动。
中国庞大的网络喷子大军，被称为“五毛”，十多年来因在网站上充斥着中国共产党的言论而闻名。
自社交媒体出现以来，北京的宣传工作已转向 X、Facebook 和在线影响者等平台。
2020年，乔治·弗洛伊德被杀后，“黑人生命也是命”抗议活动席卷美国，中国官方社交媒体账户表达了支持，尽管北京方面遏制了对其国内歧视维吾尔族穆斯林等少数民族记录的批评。
“我无法呼吸。” pic.twitter.com/UXHgXMT0lk
– 华春莹 (@SpokespersonCHN) 2020 年 5 月 30 日
微软威胁分析中心在去年发布的一份报告中表示，人工智能使病毒内容的制作变得更加容易，并且在某些情况下，很难确定这些材料何时由政府实体制作。
微软表示，至少从 2023 年 3 月起，中国政府支持的参与者就一直在发布人工智能生成的内容，这种相对高质量的视觉内容已经吸引了真实社交媒体用户更高水平的参与。
报告称：“在过去的一年里，中国利用了一种自动生成图像的新能力，可用于影响力行动，旨在模仿各个政治领域的美国选民，并引发种族、经济和意识形态方面的争议。”
“这项新功能由人工智能提供支持，试图创建可以在美国和其他民主国家的社交网络上传播的高质量内容。”
微软还确定了超过 230 名官方媒体员工冒充社交媒体影响者，能够以至少 40 种语言接触到 1.03 亿人。
他们的谈话要点与CGTN播出的一系列视频的剧本相似：中国正在崛起并赢得经济和技术霸权的竞争，而美国正在走向崩溃并失去朋友和盟友。
随着 OpenAI 的 Sora 等人工智能模型产生越来越逼真的视频、图像和音频，人工智能生成的内容将变得更加难以识别和推动深度伪造品的传播。
根据美国政府部分资助的智库兰德公司去年的一份报告，精明的营销，即在特定问题上建立广泛的社会共识的做法，可以带来“革命性的进步”。
CGTN 的视频系列虽然有时使用奇怪的语法，但反映了美国公民在 X、Facebook、TikTok、Instagram 和 Reddit 等平台上分享的许多抱怨，这些网站的训练数据是由人工智能模型挖掘的。
微软在报告中表示，虽然人工智能的出现并不会使北京干预2024年美国总统选举的可能性增加或减少，但“如果北京决定干预，它很可能使任何潜在的选举干预变得更加有效。” ” 。
在即将进入动荡的选举年之际，美国并不是唯一一个担心人工智能生成内容和阴险营销潜力的国家。
到 2024 年底，60 多个国家将举行选举，这将影响到 20 亿选民，这是民主创纪录的一年。
这些国家中包括民主的台湾，它于 1 月 13 日选出了新总统赖清德。
与美国一样，台湾由于其政治地位存在争议，经常成为北京影响力行动的目标。
北京声称台湾和离岛是其领土的一部分，尽管它作为事实上的独立国家运作。
据《台北时报》援引国家安全消息来源报道，在一月份大选前夕，有超过 100 个假新闻主播攻击即将卸任的台湾总统蔡英文的假视频被归咎于中国国家安全部。
台湾信息环境研究中心（IORG）联席主任余驰豪表示，像 CGTN 的系列视频缺乏复杂性，但它们展示了人工智能如何帮助大规模传播错误信息。
Yu表示，他的组织在选举期间追踪了人工智能生成的内容在LINE、Facebook、TikTok和YouTube上的传播情况，发现人工智能生成的音频内容特别受欢迎。
”[The clips] “它们经常通过社交媒体传播，并被定性为与个人事务或腐败丑闻有关的政治人物或候选人的泄露/秘密录音，”杨告诉半岛电视台。
人工智能专家阿杰德表示，与经过处理或人工智能生成的图像相比，人类更难区分假音频和真实音频。
在英国最近的一起案件中，预计将于 2024 年下半年举行大选，反对党领袖凯尔·斯塔默 (Keir Starmer) 出现在一段虚假音频片段中，视频中似乎显示他辱骂工作人员。
阿杰德说，如果没有“无可挑剔的印象派画家”，这种令人信服的扭曲以前是不可能的。
阿格德尔说：“那些与国家结盟或与国家有联系的行为体有动机——有他们想要实现的目标——现在有了一个新的工具来尝试实现这一目标。”
“其中一些工具将帮助他们扩大已经在做的事情。但在某些情况下，它可能会帮助他们使用全新的手段来实现这些事情，而政府已经很难应对这些事情。”
More Stories
中国国有企业在与美国中西部关系紧张之际寻求新业务
路易斯安那州的下一个大产业：中国的挑战
中国承诺采取措施支持步履蹒跚的经济