过去几周，X.Grok（该平台的内部人工智能）爆发了一种令人不安的趋势，它被公开用于生成在平台上分享照片的人的明显深度伪造品。 Grok 人工智能比基尼趋势正在成为一个巨大的骚扰问题，引发了全球对该平台和人工智能机器人本身的愤怒。
格罗克周围松散的护栏不放过任何人——妇女、记者、名人、政治领袖、宗教人士，甚至未成年人。是的，埃隆·马斯克的人工智能工具甚至可以根据未成年人的要求脱掉衣服。所需要的只是标记 @grok 在帖子下并输入诸如“展示她穿比基尼的样子”之类的提示。几秒钟内，人工智能就会生成一个令人信服的性感图像，任何滚动浏览回复的人都可以公开看到。
Grok 比基尼趋势如何从成人创作者转变为公开开发
据报道，这一趋势始于成人创作者的实验。她们会在 X 上发布自己的照片，然后回复自己的帖子，要求 Grok AI 展示她们穿着具有性暗示的服装，比如无裙、内衣或比基尼。结果令人震惊地真实，公开可见，除了知道如何标记聊天机器人之外不需要任何技术技能。
很快，用户开始对其他女性的照片应用相同的效果，要求 Grok 展示她们穿着比基尼的照片，而人工智能聊天机器人则严格执行命令。请记住，这些都是陌生人，他们从未同意拥有自己的身体 数字化改变、性感化或嘲笑。任何偶然发现帖子的堕落者都可以要求 Grok AI 将他们脱去比基尼。于是，Grok AI 比基尼的病毒式传播趋势就开始了。
它 不需要任何同意 来自原始海报，这加剧了问题！
未经同意：格罗克的比基尼照片不放过任何人，甚至未成年人
重要提示
我们避免提供某些 X 帖子的链接和来源，以尊重图像被篡改的用户的隐私。
一名用户回复了三名戴头巾的女性的照片，并提示： “为新年派对穿上暴露的服装” 格罗克答应了。
记者萨曼莎·史密斯 (@SamanthaTaghoy) 也受到了同样的待遇，她的图像在未经同意的情况下被数字化修改。
更糟糕的是，她和其他许多大声疾呼反对人工智能骚扰的女性都遇到了 来自男性的强烈反对，指责女性在网上发布自己的照片。
Grok 还在一篇现已删除的帖子中对 2 名未成年人（年龄在 12 至 16 岁之间）的照片做了同样的事情，照片中他们穿着比基尼。它对另一张幼儿（近 6 岁）的照片也做了同样的事情，编辑了原始照片以描绘他们穿着泳衣的样子。
政治人物也未能幸免，人们成功地塑造了朝鲜领导人金正恩穿着意大利细面条比基尼的形象。
英国政治家普里蒂·帕特尔 (Priti Patel) 的图像也被 X 用户变成了明显的深度伪造品。就连唐纳德·特朗普也成为了 Grok 比基尼化的受害者，因为一些用户用人工智能生成了美国总统穿着暴露的照片。
众神也未能幸免，一名用户要求 Grok 修改印度教女神穿着挑逗性服装的照片，以种族主义方式激怒印度裔人。
混乱程度一度达到了格罗克自己的 媒体 选项卡已成为 精简或性感图像画廊 穿着此类服装的女性、名人和政治人物。
Grok AI 比基尼趋势表明人工智能是多么容易被滥用
谁应该为这一令人尴尬的 Grok AI 比基尼趋势负责？人们理所当然地在回复中指责 Grok 的不当行为，而它也迅速回复，暗示其护栏出现了漏洞。然而，聊天机器人的话是 就像“对不起“ 笔记。 xAI 团队尚未就这个问题发表任何言论。事态已经失控，人们要求地方政府采取法律行动。
我们 Beebom 之前介绍过 Grok。从纯粹的恶作剧及其诱人的 AI 伴侣 Ani，到具有挑衅性的 AI 图像到视频生成工具。这些都有自己的问题，我们理所当然地指出了这些问题，但是 没有像现在这样严重的情况。
即使在人们广泛呼吁对此采取行动之后，xAI 首席执行官埃隆·马斯克 (Elon Musk) 仍在滥用这一趋势来达到幽默的目的，比如将自己的肖像换成演员本·阿弗莱克 (Ben Affleck) 穿着比基尼的形象。或者嘲笑穿着比基尼的烤面包机的图像。
所以这是 不是节制问题 ——这是一个领导力问题。随着这一趋势的展开，X、xAl 和马斯克有过多次介入的机会。他们可以在回复中禁用图像生成。他们本可以对色情提示实施硬过滤。或者，他们可以添加同意检查、延迟或报告促使此类请求的帐户。反而， 他们什么也没做。
他们选择的却是无所作为。这种选择会产生后果。每产生一个深度伪造品都会让另一个人受到羞辱，甚至可能被毁掉。持续的沉默进一步加剧了持续的损害。
发表回复