Meta承诺标记AI生成图像！遏制虚假信息蔓延

Meta表示，它正在努力识别和标记由第三方工具创建的AI生成的图像，这些图像是在其平台上共享的。该公司正在为2024年的选举季节做准备，因为AI工具的激增可能会使信息生态系统变得混乱。

Meta全球事务总裁尼克·克莱格（Nick Clegg）在一篇博客文章中表示，2月6日（周二），在接下来的几个月里，Meta将开始在谷歌、微软、OpenAI、Adobe、Midjourney和Shutterstock等工具创建的图像上添加“AI生成”标签。对于类似的“用AI想象”标签，Meta已经在其自己的AI生成器工具创建的逼真图像上进行了应用。克莱格表示，Meta正在与其他领先的开发AI工具的公司合作，以实施共同的技术标准——基本上是存储在图片中的某些隐形元数据或水印——这将使其系统能够识别使用它们工具制作的AI生成图片。Meta的标签将以多种语言在Facebook、Instagram和Threads上发布。

在Meta宣布这一消息的同时，在线信息专家、立法者甚至一些技术高管都发出了警告，称能够产生逼真图像的新AI工具——加上社交媒体快速传播内容的能力——有可能在2024年美国和其他几十个国家大选之前传播虚假信息，误导选民。就在一天前，Meta自己的监督委员会在一份涉及美国总统乔·拜登被篡改的视频的决定中，抨击了该公司“不连贯”的媒体政策。拜登的总统竞选团队在2月5日（周一）给CNN的一份声明中回应监督委员会的调查结果，称该政策“荒谬且危险”。Meta在2月5日（周一）表示，将审查委员会的建议，并在60天内做出回应。

2月6日（周二），克莱格承认用户清楚地标记AI生成的图像的重要性。“人们通常是第一次遇到AI生成的内容，我们的用户告诉我们，他们很欣赏这项新技术的透明度。在接下来的一年内，我们将采取这种方法，届时世界各地将举行一些重要的选举。在此期间，我们希望更深入地了解人们如何创建和分享AI内容，人们认为哪种透明度最有价值，以及这些技术的发展方向。”

新的行业标准标记将允许Meta标记AI生成的图像，但尚未包括在AI生成的视频和音频中。目前，Meta表示正在实施一个功能，可以让用户辨认他们分享的视频或音频内容何时是由AI生成的。克莱格表示，用户将被要求对“数字制作或修改”的真实视频或音频申请披露，否则可能面临处罚。他补充说，如果“数字创建或修改的图片、视频或声音对公众产生特别高的误导风险”，公司可能会添加更为显著的标签。

克莱格表示，Meta还在努力防止用户从AI生成的图像中去除不可见的水印。他说：“这项工作尤其重要，因为在未来几年，这可能会变得越来越具有对抗性。那些积极希望用AI生成的内容欺骗人们的个人和组织将寻找绕过保障措施的方法。在确定内容是否由AI创建时，人们应考虑几个因素，比如检查分享内容的帐户是否值得信赖，或寻找可能看起来或听起来不自然的细节。”

此外，Meta于2月6日（周二）宣布扩展一款名为“Take it Down”的反性勒索工具，该工具得到了国家失踪和被剥削儿童中心的支持。该工具使青少年或家长能够安全地为可能在网上传播的私密照片创建唯一标识符，这样Meta等平台可以轻松识别并从其平台上删除这些照片。在一篇博文中，Meta表示：“Take it Down”去年以英语和西班牙语推出，现将扩展到25种语言和更多国家。此前，Meta首席执行官马克·扎克伯格与其他社交媒体公司领导人上周在参议院听证会上就公司对年轻用户的保护措施受到了质询。

（图片源于CNN）

未经允许不得转载：城市新闻网icitynews » Meta承诺标记AI生成图像！遏制虚假信息蔓延