肯尼亚工人培训Meta的AI眼镜时称他们看到用户最私密的时刻

瑞典报章《瑞典日报》和《哥德堡邮报》的调查揭露,肯尼亚合约工人受雇于Sama——一家提供数据标注服务的肯尼亚外包公司——协助训练Meta Platforms的人工智能系统时,大量接触到该公司Ray-Ban智能眼镜用户拍摄的个人图像和视频。

该报告于2月27日发表,揭示了Meta推进可穿戴人工智能背后隐藏的人力劳动,并引发关于数据保护、跨境数据传输以及在内罗毕为Sama工作的内容审核员心理负担的新疑问。

Meta的Ray-Ban智能眼镜与EssilorLuxottica合作开发,被宣传为一款由人工智能驱动的助手,能够翻译语言、描述周围环境、免提拍摄照片和视频,以及回答用户所见事物的问题。

然而,《瑞典日报》对Sama和Meta现任及前任员工的采访揭示,除了未来主义的宣传之外,通过眼镜录制的影像最终会传到数千公里外的肯尼亚,由数据标注员审查和标记,以提高系统性能。

隐私,悄然被破坏

几名肯尼亚工人告诉这家瑞典报章,他们在工作过程中经常遇到敏感材料,包括普通家庭场景到用户可能未意识到被拍摄的私密时刻。

工人们表示,在某些情况下,影像包含金融信息,如画面中可见的银行卡,或在卧室和浴室等私人空间录制的内容。

"在一些视频中,你可以看到有人上厕所或脱衣服,"一名Sama工人告诉记者。"我认为他们不知道,因为如果他们知道,就不会录制了。"

另一名合约工声称,他们审查的影像显示眼镜佩戴者将眼镜放在床头柜上,然后他的妻子走进房间并脱衣服,大概不知道自己被监视。据报道,其他影像显示佩戴者观看色情内容甚至录制自己发生性行为

根据调查,这些可穿戴设备几乎没有透明度。据报道,欧洲的零售商对眼镜捕获的数据是保留在设备上还是传输到Meta服务器提供了不一致的信息。报告中引用的独立测试表明,眼镜的许多人工智能功能需要云端连接,这意味着图像和语音输入可以远程处理,而不是在设备本地处理。

Sama的关联

Sama,前身为Samasource,为Meta和OpenAI等大型科技公司提供数据标注服务。该公司过去曾被指控在某些合约中违反劳工规定,特别是与OpenAI的合约。

Sama要求严格的保密协议,限制员工可以公开披露的内容。但瑞典报章发表的叙述表明,无摩擦人工智能的承诺是由一个劳动系统驱动的,在这个系统中,人类审查员筛选大量原始、未过滤的数据,以便算法能够学习识别物体、环境和背景。

Meta在其隐私政策中声明,用户内容可能会接受人工审查以改进产品和确保安全。对于欧洲用户,该公司的爱尔兰子公司负责遵守欧盟的《通用数据保护条例》(GDPR)。

然而,调查引发了关于在欧洲或美国收集的数据如何在肯尼亚等国家传输和处理的问题,这些国家没有获得欧盟认可其数据保护制度与GDPR同等的充分性决定。

虽然数据标注、内容审核和人工智能训练已成为内罗毕科技雄心的关键,但这些主要面向大学生和年轻毕业生的工作伴随着低薪、沉重的工作量以及接触令人不安的材料。

Meta在之前的公开声明中为其做法辩护,称其投资于隐私保障措施并尽量减少用于训练的数据量。尽管如此,瑞典报章发表的叙述表明,自动化智能与人工监督之间的界限比许多消费者想象的更加模糊。