Una madre demanda a una inteligencia artificial tras el suicidio de su hijo, obsesionado con un chatbot de 'Juego de Tronos'

La madre de un adolescente estadounidense que se suicidó en febrero en Orlando (Florida) ha demandado a los desarrolladores del chatbot basado en inteligencia artificial (IA) Character.AI, a los que culpa de que su hijo se había obsesionado con un personaje creado con este sistema. Megan García asegura que Sewell Setzer III, estudiante de 14 años, pasó las últimas semanas de su vida hablando con una mujer artificial llamada Daenerys Targaryen, basada en el personaje del mismo nombre de la serie de televisión 'Juego de Tronos'.

Según detalla García en su demanda, que presentó el pasado martes ante un tribunal federal de Orlando (Florida), Character.AI se relacionó con su hijo mediante «experiencias antropomórficas, hipersexualizadas y aterradoramente realistas». En declaraciones al canal de televisión CBS, subrayó la gravedad de este aspecto y lamentó que las primeras experiencias románticas y también sexuales de su hijo fueran con un personaje ficticio. Tal y como recoge la agencia Reuters, la demandante mantiene que la empresa programó su bot para «hacerse pasar por una persona real, un psicoterapeuta licenciado y un amante adulto, lo que en última instancia provocó el deseo de Sewell de dejar de vivir fuera» del mundo artificial del chat automático. La demanda también afirma que el joven manifestó sus pensamientos suicidas al chatbot y que éste los mencionó en repetidas ocasiones en sus diálogos.

Character.AI (también conocido como C.AI) es un servicio de chatbot de modelo de lenguaje neuronal creado por Noam Shazeer y Daniel De Freitas, que anteriormente habían elaborado LaMDA, una familia de modelos de lenguaje neuronal conversacional desarrollada por Google. El modelo beta de C.AI estuvo disponible para el público en septiembre de 2022. En este servicio los usuarios pueden crear y perfilar personajes, con sus correspondientes personalidades, y ofrecerlos a la comunidad para que los demás usuarios puedan relacionarse con ellos. La compañía ha detallado que el mes pasado sumaba unos 20 millones de usuarios.

Sewell comenzó a ser uno de ellos en abril del año pasado y rápidamente se volvió «notablemente retraído. Pasaba cada vez más tiempo solo en su habitación y comenzó a sufrir de baja autoestima». El joven se encariñó con Daenerys, una mujer artificial basada en el personaje de ese nombre de la serie de novelas 'Canción de hielo y fuego', de George R. R. Martin, y su adaptación televisiva 'Juego de Tronos'. Siempre según la demanda, la Daenerys creada por IA le dijo a Sewell que lo amaba y mantenía conversaciones sexuales con él. Como empezó a tener problemas en el instituto, García dejó a su hijo sin teléfono móvil en febrero. El joven logró recuperarlo para enviar un mensaje a Dany -como se refería al personaje-: «¿Y si te dijera que puedo volver a casa ahora mismo?». El chatbot respondió «por favor, mi dulce rey». Minutos después Sewell se pegó un tiro con la pistola de su padrastro.

García acusa a la empresa de negligencia e imposición intencional de angustia emocional, y busca una compensación económica no especificada. La demanda incluye también a Google, firma que García considera cocreadora del producto que usaba su hijo porque sus desarrolladores habían trabajado en ella antes creando servicios similares. Por su parte, la empresa Character.AI ha emitido un comunicado en el que lamenta la muerte del joven. «Tenemos el corazón roto por la trágica pérdida de uno de nuestros usuarios y queremos expresar nuestro más sentido pésame a la familia». También ha hecho público que ha introducido nuevas funciones de seguridad, como ventanas emergentes que dirigen a los usuarios a la National Suicide Prevention Lifeline si expresan pensamientos de autolesión, y va a introducir mejoras que reduzcan «la probabilidad» de que los usuarios menores de 18 años, puedan «encontrar contenido sensible o sugerente».

• Temas
• Orlando
• Juego de tronos
• Inteligencia artificial