印度要求X处理Grok生成的淫秽内容

印度政府已命令Elon Musk旗下的博客平台X对其Grok人工智能聊天机器人进行修改,因其产生淫秽AI内容。在用户和立法者举报多起淫秽内容事件后,该国要求该平台立即对聊天机器人进行技术和程序上的修改。

根据该国的说法,聊天机器人被用于创建这些淫秽图像的案例,包括使用该工具创建的AI修改女性图像。印度IT部于周五发布命令,要求该平台对Grok采取纠正措施,包括限制生成涉及"裸体、性化、色情露骨或其他非法"内容的材料。该部还向该平台发出72小时最后通牒以实施这些变更。

印度政府命令X对Grok进行技术修改

作为72小时最后通牒中可交付成果的一部分,该部还要求X提交一份行动报告,详细说明其为防止托管或传播不雅内容所采取的步骤。这些内容包括"淫秽、色情、粗俗、不雅、色情露骨、恋童癖或法律禁止的其他内容"。该命令警告称,如果该平台未能执行强制性步骤,可能会危及其"安全港"保护。

印度的命令是在用户提出担忧后发布的,用户分享了Grok被提示修改个人(主要是女性)图像以使其看起来穿着比基尼的例子。该问题是由印度国会议员Priyanka Chaturvedi提交的正式投诉引发的。Chaturvedi警告所有拥有AI聊天机器人的大公司,并补充说必须设置护栏来检查像Grok这样的功能,以免聊天机器人侵犯人类尊严。

另外,用户还举报了多起AI聊天机器人被用于生成涉及未成年人的性化图像的事件,X在周五承认了这个问题。该平台声称这是由于一些安全保障措施的疏漏造成的,并迅速采取行动删除了生成的图像。该平台还敦促用户正式向联邦调查局(FBI)或NCMEC的CyberTipline举报,并指出X致力于防止此类问题。

X可能因不合规而面临法律问题

据用户反映,使用聊天机器人生成的女性不雅图像仍留在平台上。最新命令是在印度IT部向社交媒体平台发布咨询后发布的,提醒它们遵守管理淫秽和色情露骨内容的当地法律是保留用户生成材料法律豁免权的先决条件。该国敦促公司改进护栏,并警告称,如果失败可能会招致法律诉讼。

"重申,不遵守上述要求将被严肃看待,并可能导致对您的平台、其负责人员以及平台上违反法律的用户采取严格的法律后果,恕不另行通知,"该命令警告说。印度政府还警告X,如果其未能遵守其指令,该国有权根据印度的IT法律和刑事法规对该平台提起法律诉讼。

印度已成为最大的数字市场之一,该国被视为政府愿意在多大程度上推动平台对AI生成内容负责的关键测试案例。如果该国加强执法,可能会对在其他司法管辖区运营的全球科技公司产生连锁反应。该命令也是在X继续在法庭上挑战印度内容监管规则之际发布的。

该平台认为联邦政府的下架权力有过度扩张的风险,尽管该平台已遵守该国提出的大部分屏蔽指令。与此同时,Grok对X上的用户很有帮助,大多数用户使用该平台进行实时事实核查和对全球事件的评论,这使其输出比独立AI工具更加可见且在政治上更加敏感。

不要只是阅读加密货币新闻。要理解它。订阅我们的通讯。免费的。