オーストラリアの規制当局は、GrokによるAI画像の不正使用疑惑に関するクレームが急増していると警告しています。

1月9日、PANewsの報道によると、Decryptの情報として、オーストラリアのeSafety CommissionerであるJulie Inman Grant氏は、イーロン・マスク氏のAIモデルであるGrokが意図しないジェンダー画像を生成することに関する苦情件数が、2025年末と比較して倍増しており、一部には児童ポルノが含まれていると述べた。Grokの「Spicy Mode」機能は、AIディープフェイクの悪用を助長しているとして非難されており、欧州連合では違法と見なされている。Grant氏は、オーストラリアの規制に基づき、プラットフォームはAI生成コンテンツの監視を強化する必要があり、eSafetyは調査を実施し、法的措置を取ると強調した。