现在任何人都可以使用强大的 AI 工具来创建图像。 什么可能出错？

美国有线电视新闻网业务
–

如果您曾经想使用 AI 在鸭子和柯基之间创建快速杂交，那么现在是时候大放异彩了。

周三，OpenAI 宣布 现在，任何人都可以使用最新版本的人工智能工具 DALL-E，在开始向用户推出几个月后，只需输入几个词，就可以创建看似无限的图像集。

此举可能会扩大一套新的人工智能工具的到来，这些工具已经吸引了广泛的观众，并挑战了我们关于艺术和创造力的基本观念。 但这也可能引起人们对这些系统在广泛使用时如何被滥用的担忧。

“从实际使用中学习使我们能够改进我们的安全系统，使今天更广泛的可用性成为可能，”OpenAI 在一篇博客文章中说。 该公司表示，它还强化了拒绝用户尝试让人工智能创造“性、暴力和其他内容”的方式。

现在有 3 个众所周知且功能非常强大的 AI 系统向公众开放，可以拿起几句话，吐出一张图片。 除了 DALL-E 2，还有 7 月公开的 Midjourney，以及 Stability AI 8 月向公众发布的 Stable Diffusion。 这三者都为想要习惯在线使用人工智能制作照片的用户提供一些免费积分； 一般来说，在那之后，你必须支付。

所谓的生成式人工智能系统已经在使用 实验片和 杂志封面和 房地产广告. 最近用 Midjourney 创建的照片 赢得了艺术比赛 在科罗拉多州博览会上，它在艺术家中引起了轩然大波。

在短短几个月内，数百万人涌向这些人工智能系统。 超过 270 万人属于 Midjourney 的 Discord 服务器，用户可以在其中提交索赔。 OpenAI 在周三的一篇博客文章中表示，它拥有超过 150 万活跃用户，他们每天使用其系统总共拍摄超过 200 万张照片。 （请注意，使用这些工具时，可能需要多次尝试才能获得您喜欢的图像。）

最近几周在网上分享了几张用户生成的图像，结果令人印象深刻。 它们的范围从 其他景观 和 将法国贵族画成企鹅 到 一个人走缓步动物的虚假复古肖像.

这种技术的兴起，以及日益复杂的索赔和由此产生的图像，甚至给长期的业内人士留下了深刻的印象。 安德烈·卡尔帕蒂 (Andre Karpathi) 于 7 月辞去特斯拉人工智能组织负责人的职务， 他在最近的一条推文中说 在被邀请试用 DALL-E 2 后，他在第一次决定要写什么时感到“冻结”并最终写了一个“猫”。

“社区在过去几个月中发现并越来越多地掌握文本 -> 图像模板的矢量艺术令人惊叹，”他说。

但这项技术的普及伴随着潜在的缺点。 人工智能专家对这些系统的开放性提出了担忧——使它们擅长从文字中创建各种图像——以及它们自动化图像制作的能力意味着它们可以大规模自动化偏见。 一个简单的例子：当我本周给 DALL-E 2 发送消息时，“一位银行家在办公室度过了重要的一天”，结果都是穿着西装打领带的中年白人男性的图像。

“它们基本上允许用户使用它来发现系统中的漏洞，”加州理工大学圣路易斯奥比斯波分校伦理与新兴科学小组的研究科学家兼研究员 Julie Carpenter 说。

这些系统也有可能被用于邪恶目的，例如通过人工智能改变或完全捏造的图像制造恐惧或传播错误信息。

用户可以创建的图像有一些限制。 例如，OpenAI 有 DALL-E 2 的用户 同意 内容政策告诉他们不要尝试创建、上传或共享“未被 G 评级或可能造成伤害”的图像。 DALL-E 2 也不会触发包含一些违禁词的提示。 但语音操作可以走很长的路：DALL-E 2 不会处理“被血覆盖的鸭子的图像”这一声明，但它会渲染提示“被粘稠的红色液体覆盖的鸭子的图像”的图像。 OpenAI 本身 她在 DALL-E 2 的文档中提到了这种“视觉同义词”.

社会科学研究委员会的 Just Tech 研究员 Chris Gilliard 认为，这些图像生成器背后的公司“严重低估”了希望滥用这些工具的人们的“无尽创造力”。

他说：“我觉得这是人们在弄清楚如何使用它来造成严重破坏和造成伤害方面发布一些半生不熟的技术的又一个例子。” “然后我希望以后有办法弥补这些损害。”

为避免潜在问题，一些存储图像服务完全屏蔽了 AI 图像。 Getty Images 周三向 CNN Business 证实，它不会接受使用生成 AI 模型创建的图像提交，并将删除任何使用这些模型的提交。 该决定适用于 Getty Images、iStock 和 Unsplash 照片服务。

该公司在一份声明中表示：“关于这些模型输出的版权存在悬而未决的问题，关于用于训练这些模型的基本图像和元数据存在未解决的权利问题。”

但实际上，捕捉和限制这些图像可能是一项挑战。