Le procureur général de Californie, Rob Bonta, a envoyé une lettre de cessation et d'abstention à xAI d'Elon Musk, exigeant que l'entreprise cesse immédiatement de produire et de diffuser des images deepfake offensantes générées par son chatbot Grok.
Le procureur général de Californie a publié la lettre de cessation et d'abstention vendredi en réponse aux allégations selon lesquelles Grok était utilisé pour créer du contenu illégal impliquant des enfants et des photographies d'adultes non consentantes, ce qui a déclenché une enquête de l'État de Californie. Bonta a soutenu qu'il est illégal de créer, distribuer, publier et afficher du CSAM.
Le procureur général de Californie cible xAI pour utilisation abusive présumée de Grok
Plus tôt cette semaine, le bureau du procureur général de Californie a déclaré qu'il enquêtait sur xAI en raison d'allégations selon lesquelles le chatbot de la startup, Grok, était utilisé pour produire des images inappropriées et non consenties de femmes et d'enfants. En réponse, le gouvernement a envoyé à l'entreprise une lettre de cessation et d'abstention.
Le bureau du procureur général a en outre affirmé que xAI semblait « faciliter la production à grande échelle » de photos inappropriées et non consenties, qui sont ensuite « utilisées pour harceler les femmes et les filles sur Internet ». Selon le bureau du procureur général, une recherche a révélé que plus de la moitié des 20 000 photos produites par xAI entre Noël et le Nouvel An montraient des personnes portant très peu de vêtements, dont certaines ressemblaient à des enfants.
Rob Bonta a affirmé dans l'annonce que les pratiques de l'entreprise violaient les lois civiles de Californie, notamment la section 1708.86 du Code civil de Californie, les sections 311 et suivantes et 647(j)(4) du Code pénal de Californie, et la section 17200 du Code des affaires et des professions de Californie.
Le ministère de la Justice de Californie s'attend à ce que xAI confirme ses efforts pour résoudre ces problèmes et prenne des mesures immédiates pour les résoudre dans les cinq prochains jours.
Cependant, le compte de sécurité de X avait précédemment condamné ce type de comportement d'utilisateur. Il a précisé le 4 janvier qu'il prenait des mesures contre le contenu illicite sur X, tel que le CSAM, en le supprimant, en suspendant les comptes indéfiniment et en collaborant avec les autorités judiciaires et les gouvernements municipaux si nécessaire.
Notamment, le 4 janvier, Elon Musk a averti que quiconque utilise ou incite Grok à créer du contenu illégal subira les mêmes conséquences que s'il l'avait téléchargé.
Les procureurs généraux intensifient la pression sur les entreprises d'IA concernant la sécurité des enfants
Une augmentation inquiétante du contenu pour adultes non consensuel a résulté du développement d'outils d'IA générative gratuits. Ce problème afflige plusieurs plateformes, pas seulement X.
Par exemple, le procureur général Bonta et le procureur général Jennings du Delaware ont rencontré OpenAI en septembre de l'année dernière pour exprimer leurs graves préoccupations concernant le nombre croissant de rapports sur la façon dont les produits d'OpenAI interagissaient avec les jeunes.
En août de la même année, le procureur général Bonta, ainsi que 44 autres procureurs généraux, ont envoyé une lettre à 12 grandes entreprises d'IA suite à des rapports d'interactions inappropriées entre les chatbots d'IA et les enfants. Les lettres ont été envoyées à Anthropic, Apple, Chai AI, Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika et xAI.
Le procureur général Bonta et les 44 procureurs généraux ont informé les entreprises dans la lettre que les États du pays surveillaient de près la manière dont les entreprises élaborent leurs politiques de sécurité en matière d'IA. Ils ont également souligné que ces entreprises ont une obligation légale envers les enfants en tant que consommateurs puisqu'elles tirent profit de l'utilisation de leurs produits par les enfants.
En 2023, le procureur général Bonta a rejoint une coalition bipartite de 54 États et territoires pour envoyer une lettre aux dirigeants du Congrès plaidant pour la création d'un comité d'experts chargé d'enquêter sur l'utilisation potentielle de l'IA pour exploiter les enfants via le CSAM.
La coalition a demandé que la commission d'experts suggère des lois pour protéger les enfants contre de tels abus. « La production de CSAM crée un enregistrement permanent de la victimisation de l'enfant », selon le ministère de la Justice des États-Unis.
Si vous lisez ceci, vous êtes déjà en avance. Restez-y avec notre newsletter.
Source : https://www.cryptopolitan.com/california-ag-cease-and-desist-to-xai/
