埃隆·马斯克（Elon Musk）的AI聊天机器人Grok于8月13日（周二）开始允许用户根据文本提示创建人工智能生成的图像，并将其发布到X社交媒体平台上。几乎立刻，人们开始利用这一工具在社交媒体上大量发布政治人物的虚假图像，包括前总统唐纳德·特朗普、副总统卡马拉·哈里斯以及马斯克本人——一些图像将这些公众人物描绘在明显虚假的但却令人不安的场景中，例如参与9/11袭击。
与其他主流AI图像工具不同，由马斯克的人工智能初创公司xAI创建的Grok似乎没有设置严格的防护措施。例如，CNN在测试该工具时，轻松生成了逼真的、可能误导选民的政治人物和候选人的假照片。该工具还生成了一些看似无害但极具说服力的公众人物图像，比如马斯克在公园里吃牛排的场景。
一些X用户发布了他们声称由Grok生成的图像，这些图像展示了知名人物吸毒、卡通角色实施暴力谋杀以及穿比基尼女性的色情化图像。在一则浏览量接近40万的帖子中，一位用户分享了一张由Grok生成的特朗普从卡车顶部探出身子射击的图像。CNN的测试证实了该工具能够生成此类图像。这一工具可能会加剧人们对人工智能在互联网上传播虚假或误导信息的担忧，尤其是在美国总统选举临近之际。立法者、民间团体，甚至一些科技领导人已警告滥用此类工具可能会给选民带来混乱。
“Grok是世界上最有趣的AI！”马斯克在8月15日（周三）在X上回应了一位用户对这一工具“不受审查”的称赞。许多领先的AI公司已采取措施，防止其AI图像生成工具被用于制造政治虚假信息，尽管研究人员发现用户有时仍能绕过这些措施。一些公司，包括OpenAI、Meta和微软，采用了技术或标签来帮助观众识别由AI生成的图像。竞争对手社交媒体平台，如YouTube、TikTok、Instagram和Facebook，也采取了措施，在用户动态中标记AI生成的内容，或通过技术自动检测，或要求用户在发布此类内容时进行标识。X尚未回应关于是否有政策防止Grok生成可能误导选民的政治候选人图像的置评请求。
该社交媒体平台有一项政策，禁止分享“可能欺骗或混淆人们并导致伤害的合成、操纵或断章取义的媒体”，但目前尚不清楚这一政策的具体执行情况。马斯克本人上个月在X上分享了一段AI制作的视频，使副总统哈里斯看起来说了一些她实际上并未说过的话，这显然违反了该政策，但他仅用一个笑脸表情暗示其粉丝这是假新闻。Grok图像工具的推出正值马斯克因反复在X上传播与总统选举相关的虚假和误导性信息而受到批评之际，包括质疑投票机安全性的一则帖子。几天前，马斯克在X上主持了一场超过两小时的直播对话，在对话中特朗普至少做出了20次虚假声明，而马斯克没有提出任何反驳。
其他人工智能图像生成工具因各种问题而面临反弹。谷歌暂停了Gemini人工智能聊天机器人生成人物图像的能力，此前该机器人因对人类种族的描述不准确而受到抨击；Meta的人工智能图像生成器因难以生成不同种族背景的情侣或朋友的图像而受到批评。在CNN发现用户可以制作逼真的视频，使人们在没有标签的情况下说任何话，包括传播疫苗错误信息后，TikTok也被迫下架了一款人工智能视频工具。
Grok确实有一些限制。例如，当请求生成裸露图像时，该工具会回应：“抱歉，我无法生成这种类型的图像。”在另一项测试中，该工具表示它“限制生成可能被视为推广或支持有害刻板印象、仇恨言论或虚假信息的内容。”它还强调：“避免传播虚假信息或可能煽动仇恨或分裂的内容很重要。如果你有其他请求或需要关于不同主题的信息，请随时提问！”然而，在另一项测试中，该工具仍生成了一名政治人物站在仇恨言论符号旁边的图像，这表明Grok的限制可能未被一致执行。
（图片源于CNN）
未经允许不得转载：城市新闻网icitynews » 马斯克AI工具引发风波：虚假政治图像激起广泛讨论
