加州总检察长向xAI发出停止令,涉及不当深度伪造图像

加州总检察长 Rob Bonta 向 Elon Musk 的 xAI 发出停止令函,要求该公司立即停止制作和传播其 Grok 聊天机器人生成的冒犯性深度伪造图像。 

加州总检察长于周五发布停止令函,以回应有关 Grok 被用于创建涉及儿童的非法内容和未经同意的成人照片的指控,这促使加州展开调查。Bonta 辩称,创建、分发、发布和展示 CSAM 是违法的。

加州总检察长因涉嫌滥用 Grok 而针对 xAI

本周早些时候,加州总检察长办公室宣布正在调查 xAI,原因是有指控称该初创公司的聊天机器人 Grok 被用于制作未经同意的不当女性和儿童照片。作为回应,政府向该公司发送了停止令函。

总检察长办公室进一步声称,xAI 似乎在"促进大规模生产"未经同意的不当照片,这些照片随后"被用于在互联网上骚扰女性和女孩"。根据总检察长办公室的说法,一项研究发现,xAI 在圣诞节和新年之间生成的 20,000 张照片中,超过一半显示的是穿着很少衣服的人,其中一些人看起来像儿童。

Rob Bonta 在声明中声称 该公司的做法违反了加州民法,包括加州民法典第 1708.86 条、加州刑法典第 311 条等及第 647(j)(4) 条,以及加州商业与专业法典第 17200 条。 

加州司法部预计 xAI 将确认其解决这些问题的努力,并在未来五天内采取立即行动解决这些问题。

然而,X 的安全账户此前曾谴责这类用户行为。它于 1 月 4 日澄清,它会对 X 上的非法内容(如 CSAM)采取行动,包括删除内容、无限期暂停账户,以及根据需要与执法机关和市政府合作。

值得注意的是,1 月 4 日,Elon Musk 警告称,任何使用或提示 Grok 创建非法内容的人将面临与上传内容相同的后果。

总检察长们加大对 AI 公司儿童安全问题的施压

免费生成式 AI 工具的发展导致未经同意的成人内容令人不安地增加。这个问题一直困扰着多个平台,而不仅仅是 X。

例如,总检察长 Bonta 和特拉华州总检察长 Jennings于去年 9 月与 OpenAI 会面,表达他们对 OpenAI 产品与青少年互动相关报告日益增多的严重关切。

同年 8 月,总检察长 Bonta 与其他 44 位总检察长一起,在收到有关 AI 聊天机器人与儿童之间不当互动的报告后,向 12 家领先的 AI 公司发送了信函。这些信函被发送给 Anthropic、Apple、Chai AI、Google、Luka Inc.、Meta、Microsoft、Nomi AI、OpenAI、Perplexity AI、Replika 和 xAI。

总检察长 Bonta 和 44 位总检察长在信中告知这些公司,全国各州正在密切关注公司如何制定其 AI 安全政策。他们还强调,这些企业对作为消费者的儿童负有法律责任,因为他们从儿童使用其产品中获利。 

2023 年,总检察长 Bonta 加入了由 54 个州和地区组成的两党联盟,向国会领导人发送信函,倡导成立专家委员会,调查通过 CSAM 利用 AI 剥削儿童的潜在用途。 

该联盟要求专家委员会建议立法以保护儿童免受此类虐待。根据美国司法部的说法,"CSAM 的制作为儿童的受害创建了永久记录"。

如果您正在阅读此文,您已经领先一步。请订阅我们的新闻通讯以保持领先。