马来西亚和印尼因性露骨AI滥用限制Grok

马来西亚和印尼已限制访问与 Elon Musk 社交媒体平台 X 相关的人工智能聊天机器人 Grok。此决定是为了回应人们对该 AI 工具被用于生成真实人物性露骨假图像的担忧。

Grok 使用户能够创建和修改图像。然而,两国当局表示担忧,该工具越来越多地被用于在未经同意的情况下将照片篡改成暴露或色情化的内容。监管机构强调了对妇女和儿童的风险,指出该工具很容易被滥用来制作色情深度伪造内容。

马来西亚和印尼现在是世界上首批完全封锁 Grok 的国家,对当局认为发展速度快于安全法规的 AI 工具采取强硬立场。

Grok 跨越法律和社会界限

监管机构担心超越单一聊天机器人的更广泛问题,因为 AI 生成的性图像的兴起揭示了网络安全法律的漏洞,并对用户构成风险。在马来西亚,通信监管机构指出,此前曾就其 AI 的滥用向 X 发出警告,但认为该公司的回应优先考虑用户举报而非解决核心问题。

印尼数字事务部强调尊严和人权的必要性,指出创建未经同意的性内容的 AI 工具损害公众信任并危及弱势群体。政府已要求 X 解释 Grok 是如何被控制和监管的。

该禁令也反映了印尼对网络内容的长期立场。该国此前曾封锁 Pornhub 和 OnlyFans 等平台,官员们将 AI 生成的性图像视为同一问题的延伸,现在通过更新的技术传播。

另请阅读:深入了解 Grok 的深度伪造色情危机和即将到来的法律清算

Grok 争议正在东南亚以外地区引起关注。在英国,监管机构目前正在评估 X 是否符合网络安全法规。此外,政治领导人已公开批评使用技术创建露骨假图像的行为。

对用户而言,影响是个人的。一些图像被使用 Grok 篡改的个人报告称,举报内容对防止其传播几乎没有作用。在某些情况下,鼓励他人举报帖子只会导致更多人看到假图像,加剧了伤害。

越来越多的反对声浪促使 X 重新考虑 Grok 的运作方式,特别是随着各国政府开始将 AI 工具视为受监管产品而非实验性功能。

《马来西亚和印尼因性露骨 AI 滥用而限制 Grok》一文首次发表于 Technext。