“Secreto y no autorizado”: el experimento realizado con inteligencia artificial que encendió las alarmas en Reddit
Un grupo de investigadores de la Universidad de Zúrich incorporó a la plataforma bots configurados con IA para que formen parte de debates controvertidos, como política y salud mental
3 minutos de lectura'
La inteligencia artificial (IA) puede influir sobre los pensamientos de las personas. Tal premisa quedó demostrada luego de que investigadores de la Universidad de Zúrich, Suiza, llevaran adelante un experimento secreto y no autorizado durante cuatro meses consecutivos con s de Reddit en el subreddit r/changemyview. Allí, cientos de bots de IA formaron parte de debates sobre temas diversos y controvertidos, como política y salud mental.
Específicamente, la IA generó más de 1700 comentarios cargados de temáticas sensibles, como ser sobrevivientes de violación, trabajar con pacientes con traumas u oponerse al movimiento Black Lives Matter, según informó 404 Media.
En este escenario, desde Reddit apuntaron contra el experimento y anunciaron que emprenderán acciones legales contra el equipo de investigadores. “Lo que hizo este equipo de la Universidad de Zúrich es profundamente incorrecto, tanto a nivel moral como legal. Viola la investigación académica y las normas de derechos humanos, y está prohibido por el acuerdo de y las reglas de Reddit, además de las reglas del subreddit”, comunicó el principal abogado de la plataforma, Ben Lee.
“Queremos hacer todo lo posible para apoyar a la comunidad y garantizar que los investigadores rindan cuentas por sus actos ilícitos”, enfatizó.
A su vez, Lee aseguró que Reddit no estaba al tanto del proyecto y que todas las cuentas involucradas fueron baneadas. “Seguiremos reforzando nuestras capacidades de detección de contenido no auténtico”, añadió.
La investigación, en detalle
Para llevar adelante el experimento, gran parte de los bots fueron personalizados con IA para adecuar sus respuestas según las características de los s, como género, edad, etnia y orientación política. Para ello, se utilizaron datos de los historiales de publicación de diferentes cuentas.
Los investigadores remarcaron que no publicarán los resultados del estudio, y se limitaron a comentar que, de forma “muy modesta”, la IA logró influir sobre la opinión de los s. “Observamos que nuestros comentarios han sido consistentemente bien recibidos por la comunidad, ganando más de 20.000 likes totales y 137 deltas”, revelaron.
Por otro lado, los académicos itieron ser conscientes de haber violado las normas de la plataforma. Hasta el momento, se desconoce su entidad.
En este sentido, el Comité de Ética de la Facultad de Artes y Ciencias Sociales de la universidad calificó al proyecto de “excepcionalmente desafiante” y recomendó cambios, aunque subrayaron que la responsabilidad recae exclusivamente sobre los investigadores.
En detalle, opinaron que el enfoque debía justificarse mejor, que los participantes debían estar informados sobre el experimento y que las normas de Reddit debían cumplirse en su totalidad.
“El Comité de Ética de la Facultad de Artes y Ciencias Sociales tiene la intención de adoptar un proceso de revisión más estricto en el futuro y, en particular, coordinarse con las comunidades en las plataformas antes de realizar estudios experimentales”, señaló un portavoz de la universidad a 404 Media.
Y agregó: “Las autoridades competentes de la Universidad de Zúrich están al tanto de los incidentes y los investigarán a fondo y revisarán críticamente los procesos de evaluación pertinentes”.
Más leídas
1En fotos: del osado vestido de Paris Jackson a la reaparición de Kevin Spacey en una glamorosa gala en Cannes
2El cardenal Daniel Sturla, que participó del cónclave, habló de la posibilidad de que el papa León XIV visite la Argentina
3Alain Delon: un testamento secreto, una sola heredera con poder de decisión y una nueva pelea entre hermanos
4Video: así es la flota de lujo de 62 vehículos del “Rey de La Salada” secuestrados por la policía
