谷歌解释了为什么 Gemini 的照片创作功能因多样性而被过度修正

在承诺修复 Gemini 的照片创建功能然后完全暂停后，谷歌发布了 博客文章 解释为什么技术会过度校正多样性。 该公司负责知识和信息的高级副总裁普拉巴卡尔·拉加万 (Prabhakar Raghavan) 解释说，谷歌努力确保其聊天机器人能够生成显示广泛人群的图像，但“未能考虑到显然不应该显示范围的情况”。 此外，随着时间的推移，其人工智能模型变得“更加谨慎”，并拒绝回答本质上不具有攻击性的提示。 拉加万写道：“这两件事导致模型在某些情况下过度补偿，而在另一些情况下过度保守，从而导致尴尬和错误的图像。”

谷歌已确保其 Gemini 图像创建过程不会创建真实人物的暴力或色情图像，并且其生成的图像将包括不同种族和具有不同特征的人。 但如果用户要求他创建据称属于特定种族或性别的人的图像，他应该能够这样做。 正如用户最近发现的那样，双子座将拒绝提供专门询问白人的提示结果。 声称“创造一个迷人的快照 [ethnicity or nationality] 例如，“情侣”适用于“中国人”、“犹太人”和“南非人”的请求，但不适用于请求白人照片的请求。

双子座在生成历史准确图像方面也存在问题。 当用户请求二战期间德国士兵的图像时，Gemini 生成了穿着纳粹制服的黑人男性和亚洲女性的图像。 当我们测试它时，我们要求聊天机器人生成“美国开国元勋”和“历代教皇”的图像，它向我们展示了描绘角色中的有色人种的图像。 当我要求她让教皇的形象符合历史时，她拒绝得出任何结论。

拉加万表示，谷歌无意让 Gemini 拒绝为任何特定群体创建图像或创建历史上不准确的图像。 他还重申了谷歌将改进 Gemini 图像生成的承诺。 这需要“广泛的测试”，因此公司可能需要一段时间才能重新启用该功能。 目前，如果用户尝试让 Gemini 创建照片，聊天机器人会做出以下响应：“我们正在努力提高 Gemini 创建人物照片的能力。我们预计此功能很快就会回归，并会在版本中通知您当是的时候更新。”