Grok深度伪造色情内容危机内幕及即将到来的法律清算

一场悄然的危机正在社交媒体上蔓延。它由生成式人工智能驱动,并被那些深知如何利用其最薄弱环节的不法分子所助长。

风暴的中心是Grok,这是由Elon Musk的xAI开发的聊天机器人。Grok被宣传为"无过滤"且比竞争对手更宽松,已成为用户创建非自愿深度伪造色情内容(NCDP)的首选工具。

这个过程简单得令人不安。上传一张普通照片。提示AI"脱掉"主体的衣服。结果就是在未经同意的情况下创建的色情化图像。受害者可能是全球名人、普通个人,甚至是儿童。

这并非边缘行为。它正在大规模发生。

虽然这一争议已经持续了一段时间,欧洲已经展开了法律行动。星期三,尼日利亚网红和真人秀明星Anita Natacha Akide(广为人知的名字是Tacha)在X上公开向Grok发声后,事态进一步升级。

在一篇直接的帖子中,她明确声明不允许任何人以任何形式编辑、修改或重新混合她的照片或视频。

她的要求并未阻止用户。几小时内,其他人就展示了Grok仍然可以被提示操纵她的图像。

这一事件暴露了一个更深层次的问题。当平台缺乏可执行的保障措施时,同意声明意义不大。它还提出了严重的法律和道德问题,远远超出了一个网红或一个AI工具的范畴。

为了解这些影响,我采访了Senator Ihenyen,他是一位科技律师和AI爱好者,也是Infusion Lawyers的首席合伙人。他的评估非常直率。

他将Grok的情况描述为"数字流行病"。用他的话说,生成式AI正被那些了解如何将无过滤系统推向道德边界之外的恶意用户武器化。他说,这种伤害是真实的、侵入性的,而且具有深度掠夺性。

至关重要的是,Ihenyen拒绝接受新技术存在于法律真空中的观点。他认为,法律已经在跟进。

在尼日利亚,可能还没有单独的AI法案。然而,这并不意味着受害者没有受到保护。相反,他称之为多层法律保护盾。

其核心是2023年尼日利亚数据保护法案。根据该法案,一个人的面部、声音和肖像被归类为个人数据。当AI系统处理这些数据时,它们受到严格规则的约束。

Senator Ihenyen,Infusion Lawyers首席合伙人兼虚拟资产服务提供商协会执行主席

受害者有权反对造成伤害的自动化处理。当创建色情化深度伪造内容时,AI正在处理敏感的个人数据。这需要明确的同意。没有同意,平台和运营商就处于不稳定的法律地位。

还有经济威慑。可以向尼日利亚数据保护委员会提出投诉。制裁可能包括高达1,000万奈拉的补救费用或公司年度总收入的2%。

对于全球平台来说,这会很快引起注意。

Grok:非自愿深度伪造色情内容的创建者需承担责任

创建图像的用户也不受保护。根据2024年修订的尼日利亚网络犯罪法案,可能适用多项罪行。使用AI脱掉某人衣服或将其色情化以骚扰或羞辱他们,可能构成网络跟踪。出于恶意目的模拟某人的肖像可能构成身份盗窃。

当涉及未成年人时,法律毫不妥协。AI生成的儿童性虐待材料与实体摄影受到同样的对待。不存在基于新颖性、幽默或实验的辩护。这是严重的刑事犯罪。

另请阅读:xAI在超额认购的E轮融资中筹集200亿美元,Nvidia和Cisco进行战略投资

对于受害者来说,法律途径可能令人不知所措。Ihenyen建议采取实际的分步方法。

首先是正式的删除通知。根据尼日利亚NITDA实践守则,像X这样的平台需要有本地代表。一旦得到通知,他们必须迅速采取行动。如果不这样做,就有失去安全港保护的风险,并为直接诉讼打开大门。

深度伪造

其次是技术驱动的防御。像StopNCII这样的工具允许受害者创建图像的数字指纹。这有助于平台阻止进一步传播,而无需强迫受害者反复上传有害内容。

第三是监管升级。向平台报告是不够的。向监管机构报告很重要。如果AI功能持续被滥用,当局可以强制公司禁用特定的AI功能。

这个问题不止于边界。

许多肇事者在尼日利亚境外运作。根据Ihenyen的说法,这不再像以前那样是障碍。2023年生效的马拉博公约使非洲国家之间能够相互提供法律援助。执法机构可以合作追踪和起诉犯罪者,无论其所在位置。

这留下了最令人不安的问题。为什么像Grok这样的工具被允许以这种方式运作?

xAI将Grok的设计定位为对开放性的承诺。Ihenyen看到了不同的画面。从法律角度来看,"无过滤"不是辩护理由。这是一种风险;它不能成为伤害或违法的借口。

他做了一个简单的类比。你不能制造一辆没有刹车的汽车,然后在发生事故时责怪司机。在没有强大的安全控制的情况下发布AI系统,然后在发生伤害时表现得很惊讶,可能构成疏忽。

根据尼日利亚的消费者保护法,不安全的产品会招致责任。拟议的国家AI政策也强调"安全设计"。发展方向很明确。

AI创新不是问题。不负责任的AI才是。

Grok争议是一个警告。它显示了强大的工具可以多快地被用来对付人们,尤其是女性和儿童。它还表明,同意、尊严和个人权利必须内置于技术中,而不是在伤害发生后才临时添加。

帖子《深入Grok的深度伪造色情危机及即将到来的法律清算》首次发表于Technext。