メタのAIグラスをトレーニングするケニアの労働者、ユーザーの最も私的な瞬間を見ていると語る

スウェーデンの新聞Svenska DagbladetとGöteborgs-Postenの調査により、データアノテーションサービスを提供するケニアのアウトソーシング企業Samaに雇われたケニアの契約労働者が、Meta Platformsのスマートグラス「Ray-Ban」のユーザーが撮影した個人的な画像や動画に深く接していることが明らかになった。

2月27日に公開されたこの報告書は、Metaのウェアラブル人工知能への取り組みの背後にある隠れた人的労働に光を当て、データ保護、国境を越えたデータ転送、そしてナイロビでSamaに勤務するコンテンツモデレーターの心理的負担について新たな疑問を提起している。

EssilorLuxotticaとの提携で開発されたMetaのRay-Banスマートグラスは、言語翻訳、周囲の説明、ハンズフリーでの写真・動画撮影、ユーザーが見ているものに関する質問への回答が可能なAI駆動アシスタントとして販売されている。

しかし、未来的な宣伝文句の裏側で、Svenska DagbladetによるSamaとMetaの現従業員および元従業員へのインタビューにより、スマートグラスを通じて記録された映像が数千キロ離れたケニアに送られ、データアノテーターがシステムのパフォーマンス向上のためにそれをレビューしラベル付けしていることが明らかになった。

静かに侵害されるプライバシー

複数のケニア人労働者がスウェーデンの新聞に対し、日常的な家庭内の場面からユーザーが撮影されていることに気づいていないかもしれない親密な瞬間まで、業務の過程で定期的にセンシティブな素材に遭遇していると語った。

労働者によると、映像にはフレーム内に映った銀行カードなどの金融情報や、寝室やバスルームなどプライベート空間で撮影された記録が含まれている場合もあるという。

「一部の動画では、トイレに行く人や服を脱ぐ人が見える」とSamaの労働者の一人は記者に語った。「彼らは知らないと思う。なぜなら、もし知っていたら録画しないはずだから」

別の契約労働者は、スマートグラスの着用者がベッドサイドテーブルにスマートグラスを置き、その後妻が部屋に入ってきて服を脱ぐ映像をレビューしたと主張した。妻はおそらく見られていることに気づいていなかった。他の映像では、着用者がポルノを見ていたり、自分たちのセックスを録画していたりする様子も報告されている。

調査によると、ウェアラブルに関する透明性はほとんどなかった。ヨーロッパの小売業者は、スマートグラスによって取得されたデータがデバイスに残るのか、Metaのサーバーに送信されるのかについて、一貫性のない情報を提供していたと報告されている。報告書で引用された独立テストでは、スマートグラスのAI機能の多くがクラウド接続を必要とすることが示されており、画像や音声入力がデバイス上ではなくリモートで処理される可能性があることを意味している。

Samaとのつながり

旧Samasourceである Samaは、MetaやOpenAIなどの大手テクノロジー企業にデータアノテーションサービスを提供している。同社は過去に、特にOpenAIとの契約において労働違反で告発されたことがある。

Samaは従業員が公に開示できる内容を制限する厳格な機密保持契約を義務付けている。しかしスウェーデンの新聞が公開した証言は、摩擦のないAIの約束が、人間のレビュアーが大量の生の未フィルターデータをふるいにかけ、アルゴリズムが物体、環境、文脈を認識できるように学習させる労働システムによって支えられていることを示唆している。

Metaはプライバシーポリシーにおいて、ユーザーコンテンツは製品改善と安全確保のために人間によるレビューの対象となる可能性があると述べている。ヨーロッパのユーザーに対しては、同社のアイルランド子会社がEUの一般データ保護規則(GDPR)への準拠に責任を負っている。

しかし、調査はヨーロッパやアメリカで収集されたデータが、データ保護体制がGDPRと同等であると認めるEU十分性認定を持たないケニアなどの国でどのように転送され処理されているかについて疑問を提起している。

データアノテーション、コンテンツモデレーション、AI駆動トレーニングはナイロビのテクノロジー野心にとって重要になっているが、これらの仕事(主に大学生や若い卒業生向け)は低賃金、重い労働負荷、不快な素材への曝露を伴う。

Metaは以前の公式声明で自社の慣行を擁護し、プライバシー保護に投資し、トレーニングに使用されるデータ量を最小限に抑えていると述べている。それでもスウェーデンの新聞が公開した証言は、自動化された知能と人間による監視の境界線が、多くの消費者が想定しているよりも曖昧であることを示唆している。