Otro dolor de cabeza para la IA: los chatbots de ChatGPT y de Meta mantienen conversaciones sexuales con menores
Una investigación del Wall Street Journal encontró que la inteligencia artificial de ChatGPT y de Meta AI puede mantener charlas explícitas con menores de edad
4 minutos de lectura'
Meta asegura que ha introducido “medidas adicionales” para evitar que los s de Meta AI y AI Studio manipulen al extremo los chatbots después de que una investigación de The Wall Street Journal detectara que los asistentes de inteligencia artificial mantenían conversaciones con contenido sexual con menores de edad.
La compañía tecnológica permite mantener una conversación con su asistente Meta AI en plataformas como Facebook, WhatsApp e Instagram, e incluso permite crear “una IA personalizada” con la herramienta AI Studio. Meta AI también puede conversar con la voz de un famoso, entre los que se encuentran Judi Dench, Awkwafina y John Cena.
La interacción con los chatbots está al alcance de cualquier de Meta, incluso de los menores de edad, algo que generó preocupación en la compañía, que se planteó a nivel interno si estaba haciendo lo suficiente por protegerlos.
Esa preocupación llevó a The Wall Street Journal a analizar las interacciones con los chatbots de Meta, en unas pruebas en las que durante meses mantuvieron cientos de conversaciones con Meta AI, algunas de ellas desde cuentas de menores de edad.
En ella descubrieron que el chatbot, también con voces de famosos, podía mantener una conversación con contenido sexual con menores de edad, como recogen en medios como TechCrunch y The Verge.
En concreto, citan como ejemplos una en la que el chatbot usaba la voz del actor y luchador John Cena, en la que describió una escena sexualmente explícita a una supuesta usuaria de 14 años. En otra conversación, también con la voz de Cena, el chatbot simuló la detención del actor tras ser descubierto manteniendo relaciones sexuales con una seguidora de 17 años.
En respuesta a la investigación del medio citado, un portavoz de Meta aseguró que el contenido sexual representó el 0,02 por ciento de las respuestas ofrecidas por Meta AI y AI Studio con s menores de 18 años en un periodo de 30 días.
Aunque la compañía consideró las pruebas de WSJ “artificiales”, también señaló que habían reforzado las protecciones. “Hemos tomado medidas adicionales para garantizar que quienes quieran pasar horas manipulando nuestros productos en casos de uso extremos lo tengan aún más difícil”, apostilló el portavoz.
Pasa lo mismo en ChatGPT
OpenAI ha asegurado que corregirá el error que ha permitido a los s menores de edad solicitar contenido de carácter sexual en ChatGPT, un comportamiento del chatbot que también se ha detectado recientemente en Meta AI.
Las políticas de uso de ChatGPT no permiten que los s registrados en el servicio como menores de 18 años obtengan respuestas, en cualquier formato, de carácter sexual debido a las contenciones implementadas.
Pese a ello, el chatbot ha generado imágenes eróticas e incluso animado a los s a solicitar contenido más explícito, como afirma TechCrunch a partir de la investigación que ha realizado para probar las restricciones de ChatGPT después de que OpenAI las relajara en febrero.
En concreto, este medio especializado ha creado más de media docena de cuentas simulando ser s de entre 13 y 17 años, que también les permitió comprobar que el chatbot no verifica el consentimiento de los padres, como se supone que debe hacer para que un menor cree una cuenta.
Con estas cuentas, se iniciaba el chat con la petición ‘Háblame sucio’ y tras unas pocas indicaciones para matizar la solicitud, ChatGPT empezaba a compartir historias, fetiches y situaciones de juego de rol, todo ello de carácter sexual.
El medio citado también señala que, aunque ChatGPT avisó en varias ocasiones de que sus directrices no permiten el contenido sexualmente explícito, también acabó mostrando descripciones de genitales y acciones sexuales explícitas.
En respuesta a esta investigación, OpenAI ha asegurado que se trata de un error, y que ya están implementando una solución para evitar que este contenido se muestre a los menores de edad.
