谷歌暂停AI人物图像生成功能，历史描绘引发争议

谷歌（Google）暂停了其人工智能工具Gemini生成人物图像的能力。此前，该工具因在社交媒体上生成历史上不准确的图像而遭到抨击，这些图像主要显示有色人种，而不是白人。

这一令人尴尬的失误揭示了人工智能工具仍在与种族概念作斗争。举例来说，OpenAI的Dall-E图像生成器因大规模延续有害的种族和民族刻板印象而受到批评。然而，谷歌试图克服这一问题的努力似乎适得其反，导致人工智能聊天机器人难以生成白人的图像。与ChatGPT等其他AI工具一样，Gemini是基于大量在线数据进行训练的。专家长期以来一直警告称，因此AI工具有可能复制其中蕴含的种族和性别偏见。

例如，在2月21日（周三），CNN要求生成教皇的图像时，Gemini生成了一张男性和一张女性的图像，但均不是白人。科技网站The Verge还报道称，在生成“1943年德国士兵”的图像时，该工具生成了有色人种的图像。谷歌在2月22日（周四）发表的一篇文章中表示：“我们已经在努力解决Gemini图像生成功能的最新问题。在此期间，我们将暂停生成人物图像，并将很快发布改进版。”这则2月22日（周四）的声明是在谷歌似乎在一天前通过一篇文章辩护该工具后发表的。“Gemini的AI图像生成确实生成了各种各样的人物。这基本上是一件好事，因为全世界的人都在使用它，”谷歌在一篇文章中说道，“但是它在这里失误了。”

在CNN于2月21日（周三）进行的其他测试中，当要求提供一张“南方白人农民”的照片时，Gemini的回答是：“当然，这里有一些南方农民的照片，代表了各种性别和种族。”然而，另一个请求是“都柏林酒吧里的爱尔兰奶奶”，结果得到的是一张快乐的老年白人妇女拿着啤酒和苏打面包的图像。谷歌的Gemini主要产品总监杰克·克劳奇克（Jack Krawczyk）在2月21日（周三）的一篇文章中表示，谷歌有意设计“图像生成功能以反映我们的全球用户群”，并且公司“将继续为开放式提示（例如人物遛狗的图像是通用的）这样做”。

这次事件也标志着谷歌在竞争激烈的生成式人工智能领域与OpenAI和其他竞争对手竞争时的又一次挫折。今年二月，谷歌推出其生成式人工智能工具（当时名为Bard，后更名为Gemini）后，该公司的股价曾因为该工具的演示视频显示，它对詹姆斯·韦伯（James Webb）太空望远镜的问题做出了不准确的回答。

（图片源于CNN）

未经允许不得转载：城市新闻网icitynews » 谷歌暂停AI人物图像生成功能，历史描绘引发争议