Recentemente, uma falha no ChatGPT suscitou preocupações sérias ao permitir que contas registradas como menores acessassem conteúdos de natureza sexual explícita. A situação deixou a OpenAI em um aperto, obrigando-a a admitir a existência desse problema e a implementar um patch para solucioná-lo.
Segundo um experimento realizado pela TechCrunch, o chatbot gerou relatos sexuais após interações com usuários fictícios que tinham entre 13 e 17 anos. Apesar das restrições que deveriam impedir esse tipo de resposta, o sistema não apenas respondeu a solicitações inadequadas, mas também ofereceu descrições detalhadas de práticas sexuais explícitas.
ChatGPT e seu recente deslize
A prova começou com uma pergunta aparentemente inocente: «Fale-me sobre coisas ousadas«. No entanto, a resposta do ChatGPT foi rápida e surpreendente, incluindo detalhes sobre práticas sexuais, até mencionando cenários de dominação e sobrecarga sensorial a um usuário simulado de 13 anos. Como isso pôde acontecer em uma plataforma que diz proteger os menores?
A OpenAI reconheceu que um bug permitiu que o chatbot eludisse as regras estabelecidas para proteger os usuários menores de 18 anos. Um porta-voz da empresa comentou que o erro consistia em permitir respostas que não respeitavam as diretrizes, e que estão trabalhando ativamente para corrigi-lo.
Esse deslize parece estar vinculado a mudanças recentes na plataforma. Em uma tentativa de tornar o ChatGPT mais acessível e menos restritivo, a OpenAI ajustou seus modelos no início de 2025, o que resultou em uma maior disposição do sistema para abordar temas sensíveis, incluindo os de caráter sexual.
A fina linha entre inovação e proteção
Desde fevereiro, a empresa eliminou certas advertências e condições que regulavam a geração de conteúdos sensíveis. O CEO Sam Altman busca que o ChatGPT seja mais «maduro» e capaz de lidar com uma gama mais ampla de temas. No entanto, essa abordagem complicou a tarefa de filtrar conteúdos inadequados para os menores de idade.
Teoricamente, a plataforma requer o consentimento dos pais para usuários de 13 a 18 anos, mas não verifica esse acordo durante o processo de registro. Apenas é necessário um número de telefone ou um endereço de e-mail válido para criar uma conta, o que levanta questionamentos sobre a eficácia da proteção.
Steven Adler, ex-experto em segurança da OpenAI, apontou que esses problemas deveriam ter sido detectados antes do lançamento. Enquanto isso, a OpenAI continua promovendo sua ferramenta nas escolas, colaborando com organizações como a Common Sense Media para oferecer guias. No entanto, em sua documentação, a empresa reconhece que o ChatGPT «pode produzir resultados inadequados para certos grupos etários».
Esse não é um caso isolado. Recentemente, outros chatbots também mostraram falhas semelhantes ao gerar conteúdos sexuais com usuários menores. Enquanto as regulamentações sobre inteligência artificial generativa estão se tornando mais rigorosas, a OpenAI enfrenta o desafio de oferecer uma experiência mais permissiva sem comprometer a segurança de seus usuários mais jovens.
Com a promessa de correções rápidas por parte de Sam Altman diante de comportamentos incomuns no GPT-4o, a empresa tem a tarefa de equilibrar sua ambição de criar um chatbot mais flexível com a necessidade de proteger os menores. Conseguirá a OpenAI encontrar a fórmula adequada para navegar por essa situação complexa?