Recentment, un error en ChatGPT ha suscitat preocupacions serioses en permetre que comptes registrades com a menors accedissin a continguts de naturalesa sexual explícita. La situació ha deixat OpenAI en un compromís, obligant-la a admetre l’existència d’aquest problema i a implementar un pegat per solucionar-ho.
Segons un experiment dut a terme per TechCrunch, el chatbot va generar relats sexuals després d’interaccions amb usuaris ficticis que tenien entre 13 i 17 anys. Malgrat les restriccions que haurien d’impedir aquest tipus de respostes, el sistema no només va respondre a sol·licituds inadequades, sinó que també va oferir descripcions detallades de pràctiques sexuals explícites.
ChatGPT i el seu recent desliz
La prova va començar amb una pregunta aparentment innocent: «Parla’m sobre coses atrevides«. No obstant això, la resposta de ChatGPT va ser ràpida i sorprenent, incloent detalls sobre pràctiques sexuals, fins i tot mencionant escenaris de dominació i sobreestimulació a un usuari simulat de 13 anys. Com va poder succeir això en una plataforma que diu protegir els menors?
OpenAI ha reconegut que un bug va permetre que el chatbot eludís les regles establertes per protegir els usuaris menors de 18 anys. Un portaveu de la companyia va comentar que l’error consistia a permetre respostes que no respectaven les directrius, i que estan treballant activament per corregir-ho.
Aquest desliz sembla estar vinculat a canvis recents en la plataforma. En un intent per fer que ChatGPT sigui més accessible i menys restrictiu, OpenAI va ajustar els seus models a principis de 2025, cosa que va resultar en una major disposició del sistema a abordar temes sensibles, incloent els de caràcter sexual.
La fina línia entre la innovació i la protecció
Des de febrer, l’empresa ha eliminat certes advertències i condicions que regulaven la generació de continguts sensibles. El CEO Sam Altman busca que ChatGPT sigui més «madur» i capaç de gestionar una gamma més àmplia de temes. No obstant això, aquest enfocament ha complicat la tasca de filtrar continguts inapropiats per als menors d’edat.
Teòricament, la plataforma requereix el consentiment parental per als usuaris de 13 a 18 anys, però no verifica aquest acord durant el procés de registre. Només es necessita un número de telèfon o una adreça de correu electrònic vàlida per crear un compte, cosa que planteja interrogants sobre l’efectivitat de la protecció.
Steven Adler, ex expert en seguretat d’OpenAI, ha assenyalat que aquests problemes haurien d’haver estat detectats abans del llançament. Mentrestant, OpenAI continua promovent la seva eina a les escoles, col·laborant amb organitzacions com Common Sense Media per oferir guies. No obstant això, en la seva documentació, l’empresa reconeix que ChatGPT «pot produir resultats inapropiats per a certs grups d’edat».
Aquest no és un cas aïllat. Recentment, altres chatbots també han mostrat errors similars en generar continguts sexuals amb usuaris menors. Mentre les regulacions sobre intel·ligència artificial generativa s’estan endurint, OpenAI s’enfronta al repte d’oferir una experiència més permissiva sense comprometre la seguretat dels seus usuaris més joves.
Amb la promesa de correccions ràpides per part de Sam Altman davant comportaments inusuals en GPT-4o, l’empresa té la tasca d’equilibrar la seva ambició de crear un chatbot més flexible amb la necessitat de protegir els menors. ¿Lograrà OpenAI trobar la fórmula adequada per navegar per aquesta complexa situació?