DeepMind 与 Google Cloud 合作为人工智能生成的图像添加水印

图片来源： 谷歌

与 Google Cloud、Google DeepMind（Google 的人工智能研究部门）合作。 发布 一种用于加水印和识别人工智能生成图像的工具，但仅限于由谷歌图像生成模型生成的图像。

该工具名为 SynthID，测试版可供 Vertex AI（谷歌用于构建人工智能应用程序和模型的平台）的用户使用，它将数字水印直接嵌入到图像的像素中，使其几乎无法被人眼察觉，但可以通过算法检测到。 。 SynthID 仅支持 Imagen（Google 的文本到图像模型），该模型仅在 Vertex AI 中可用。

谷歌 之前 它表示，它将包括元数据来表示由生成式人工智能模型生成的视觉媒体。 SynthID 显然比这更进一步。

DeepMind 在博客文章中写道：“尽管生成式人工智能可以释放巨大的创造潜力，但它也带来了新的风险，例如使创作者能够有意无意地传播虚假信息。” “识别人工智能生成的内容的能力对于让人们知道他们何时与生成的媒体互动并帮助防止错误信息的传播至关重要。”

图片来源： 心灵深处

DeepMind 声称，它开发并与 Google Research（谷歌的研发团队）合作改进的 SynthID 即使在进行修改（例如向图像添加滤镜或更改颜色和高度压缩图像）后仍然保持不变。 DeepMind 表示，该工具利用了两种人工智能模型，一个用于加水印，一个用于识别，这两个模型已经在“各种”图像集上一起进行了训练。

SynthID 无法以 100% 的置信度识别带水印的图像。 但该工具会区分图像的情况 或许 包含图像水印 很可能 包含一个。

DeepMind 在博文中写道：“SynthID 并不能万无一失地抵御严重的图像操纵，但它提供了一种有前途的技术方法，使人们和组织能够负责任地处理人工智能生成的内容。” “该工具还可以与其他人工智能模型和方法一起发展，超越音频、视频和文本等图像。”

生成艺术的水印技术并不是什么新鲜事。 法国初创公司 Imatag 于 2020 年推出，提供了一款水印工具，声称该工具不受图像大小调整、裁剪、编辑或压缩的影响，类似于 SynthID。 另一家公司 Steg.AI 使用人工智能模型来应用能够承受大小调整和其他修改的水印。

但科技公司面临的压力越来越大，要求他们提供一种方式来证明作品是由人工智能创作的。

最近，中国国家互联网信息办公室发布了规定，要求生成式人工智能供应商在不影响用户使用的情况下对生成的内容（包括文本和图像生成器）进行标记。 在美国参议院委员会最近举行的听证会上，参议员 Kirsten Sinema（亚利桑那州共和党） 确认的 生成人工智能需要透明度，包括水印的使用。

5 月，在年度 Build 大会上，微软承诺“使用加密方法”为人工智能创建的图像和视频添加水印。 在其他地方，人工智能初创公司 Shutterstock 和 Midjourney 也采用了它 指南 包含一个标签，表明内容是由生成式人工智能工具生成的。 OpenAI 的 DALL-E 2 是一种文本转图像工具，可在您创建的图像的右下角插入一个小水印。

但到目前为止，水印的通用标准（无论是用于创建还是检测水印）已被证明难以捉摸。

SynthID 与其他已提出的技术一样，对于任何执行此操作的图像创建者来说都没有用处 不是这样的 Imagen – 至少不是目前的形式。 DeepMind 表示正在考虑在不久的将来向第三方提供 SynthID。 但第三方（尤其是开发开源 AI 图像生成器的第三方，其 API 背后缺少许多生成器防火墙）是否会接受该技术则完全是另一回事。