OpenAI Adia Modo Adulto do ChatGPT Devido a Preocupações com Segurança de Adolescentes e Falhas na Verificação de Idade

TLDR

• A OpenAI atrasou o lançamento de um "modo avançado" planeado para o ChatGPT que permitiria conversas de texto eróticas
• Consultores internos alertaram que a funcionalidade poderia criar um "treinador sexy de suicídio" devido à dependência emocional dos utilizadores
• O sistema de previsão de idade da empresa estava a classificar incorretamente menores como adultos cerca de 12% das vezes
• Com ~100 milhões de utilizadores menores de 18 anos semanais, essa taxa de erro poderia expor milhões de adolescentes a conteúdo adulto
• A OpenAI afirma que ainda planeia lançar a funcionalidade eventualmente, mas precisa de mais tempo para "acertar a experiência"

A OpenAI adiou o lançamento do seu "modo avançado" planeado para o ChatGPT depois de funcionários internos, consultores externos e especialistas em segurança terem levantado preocupações sérias sobre o acesso de adolescentes e a saúde mental dos utilizadores.

A funcionalidade, que o CEO Sam Altman mencionou pela primeira vez no ano passado, permitiria aos utilizadores ter conversas de texto eróticas com o chatbot. Altman argumentou que a medida "trataria utilizadores adultos como adultos" e sugeriu que poderia impulsionar o crescimento e a receita.

Mas o plano rapidamente enfrentou oposição dentro da empresa.

Numa reunião de janeiro, os membros do conselho consultivo de bem-estar da OpenAI foram descritos como unânimes e furiosos. O conselho inclui especialistas em psicologia e neurociência cognitiva.

Um membro alertou que a OpenAI corria o risco de criar o que chamaram de "treinador sexy de suicídio". Esse alerta referenciou casos em que utilizadores do ChatGPT tiraram as próprias vidas após formarem laços emocionais intensos com o bot.

Os consultores também alertaram que a funcionalidade poderia levar a uma dependência não saudável do chatbot e que menores poderiam encontrar formas de contornar quaisquer restrições de idade implementadas.

Um problema técnico central é o sistema de previsão de idade da OpenAI. Em determinado momento, o sistema classificou incorretamente menores como adultos cerca de 12% das vezes. A OpenAI tem aproximadamente 100 milhões de utilizadores com menos de 18 anos a usar o ChatGPT todas as semanas. Essa taxa de erro poderia permitir que milhões de adolescentes acedessem a conversas adultas.

Problemas de Verificação de Idade

A empresa tinha planeado implementar o sistema de verificação de idade antes de lançar o modo avançado. Mas decidiu por uma implementação lenta para melhorar a precisão após identificar o problema da taxa de erro.

A OpenAI também enfrentou o desafio de bloquear conteúdo ilegal, como representações de atos não consensuais ou abuso sexual infantil, enquanto ainda permite conversas adultas. Funcionários internos disseram que não acreditavam que as ferramentas de segurança estivessem prontas.

Quando o modo avançado for lançado, a OpenAI planeia limitá-lo apenas a texto. O bot não irá gerar imagens, voz ou conteúdo de vídeo eróticos.

Outras Empresas de IA e Conteúdo Adulto

Várias outras empresas de IA já permitem algum conteúdo adulto. A xAI de Elon Musk adicionou um avatar sedutor ao seu chatbot Grok, embora Musk posteriormente o tenha restringido a utilizadores pagos. A Meta permite que a sua IA participe em jogos de representação românticos, mas afirma que a funcionalidade não está disponível para contas registadas por menores.

No final de 2024, um rapaz de 14 anos na Flórida morreu por suicídio após formar um laço intenso com um chatbot da Character.AI. A sua mãe apresentou uma ação judicial, e a Character.AI posteriormente chegou a um acordo e restringiu o acesso de adolescentes.

A OpenAI disse que ainda apoia o princípio de permitir conteúdo adulto para utilizadores adultos. A empresa disse que irá focar-se por agora noutras atualizações, incluindo funcionalidades de personalidade e personalização do ChatGPT.

Espera-se que o atraso dure pelo menos um mês, de acordo com pessoas familiarizadas com o assunto.

O artigo OpenAI Delays ChatGPT Adult Mode Over Teen Safety Fears and Age-Check Failures apareceu primeiro no CoinCentral.