德国警告社交平台勿传播虚假人工智能大屠杀图像

德国已就虚假AI大屠杀图像的传播向社交媒体平台发出警告。政府和大屠杀纪念机构已要求社交媒体平台停止传播虚假图像,他们声称这些图像正在扭曲和淡化历史。

集中营纪念地和档案中心在最近的一封信中表达了担忧,批评所谓的AI垃圾内容或伪造图像激增,这些内容围绕纳粹在第二次世界大战期间在德国杀害超过六百万犹太人的事件。这些图像包括虚构事件的煽情插图,例如集中营囚犯与解放者的会面或铁丝网后的儿童。

德国希望阻止虚假AI大屠杀图像的传播

在这些组织发出的信中,他们指出AI生成的内容通过淡化很久以前发生的严重事件来扭曲历史。他们提到,这些图像可能助长用户对真实历史文件的不信任。德国文化和媒体国务部长沃尔夫拉姆·魏默表示,他支持纪念机构在此案中采取的步骤和努力,并透露这是正确的举措。

沃尔夫拉姆还提到,他支持他们的决定,即对这些古老事件的AI生成图像进行标记,并在必要时从社交媒体平台上删除。他提到,这是对在纳粹德国恐怖政权下被杀害和迫害的数百万人的尊重问题。根据纪念机构的信函,他们指出图像创作者似乎利用它们在网上引起关注并赚钱。

这些组织还提到,肇事者还部分意图淡化事实,转移受害者和肇事者的角色,并传播修正主义叙事。这些机构包括贝尔森、布痕瓦尔德、达豪以及其他集中营的纪念中心,这些地方杀害了犹太人以及罗姆人和辛提人等其他人。他们要求社交媒体平台主动打击有关大屠杀的虚假AI图像,而不是等待用户举报。

大屠杀组织希望AI生成的图像被标记

此外,他们要求平台清楚地标记这些图像,因为他们认为这将防止生成图像的用户能够从中获利。低质量AI垃圾内容的传播,包括虚假文本、图像或视频,已在许多专家中引发警报。他们认为这会污染信息环境,使用户难以区分真假。这一事件发生在AI公司,特别是埃隆·马斯克旗下拥有聊天机器人Grok的xAI公司目前正在努力应对的问题之后。

该公司在过去几周内一直承受压力,因为某些用户生成了数千张女性和未成年人的性化深度伪造图像,并在多个社交媒体平台上传播。这一威胁已促使多个国家的领导人要求该公司采取行动,其他人则要求他们制定适当的保障措施来解决这些事件。印度尼西亚等国家也宣布暂时禁用该聊天机器人,直到所有问题得到解决。

与此同时,该平台已确认将对Grok和X用户在该行为被视为非法的地区生成深度伪造图像的能力进行地理封锁。然而,新的保障措施是否适用于其独立应用程序或网站还有待观察。这些措施是否会阻止用户生成此类图像,还是会促使他们寻找新的方式访问该服务,也有待观察。

不要只是阅读加密货币新闻。要理解它。订阅我们的通讯。它是免费的。