Los avances de la inteligencia artificial muchas veces son aterradores. Este miércoles ocurrió un episodio estremecedor en Estados Unidos: un chico de 14 años se mató después de obsesionarse con un chatbot creado con inteligencia artificial (IA) que simulaba ser Daenerys Targaryen, un personaje sacado de la serie de televisión 'Game of Thrones'.
Sewell Setzer III, un estudiante de Florida, empezó a usar la plataforma de inteligencia artificial Character.AI en abril de 2023 y según su madre, Megan García, "su vida nunca volvió a ser la misma". Esta declaración forma parte de una demanda que ella presentó contra la empresa, a los que acusa de que su hijo se obsesionara con un personaje.
Según contó la madre del chico, a partir de mayo el chico empezó a estar “notablemente más retraído”. En ese mismo momento abandonó sus clases de básquet y en el colegio le habían llamado la atención varias veces porque se quedaba dormido, según informa el diario The New York Times.
Un tiempo después el adolescente empezó a ir a terapia y le diagnosticaron ansiedad y trastorno del estado de ánimo disruptivo. Ahí le recomendaron dejar de estar tanto tiempo chateando con la inteligencia artificial y con las redes sociales.
Un día, Sewell escribió en su diario que estaba sufriendo porque “no podía dejar de pensar en Daenerys”, (el chatbot del que creía estar enamorado). En otra entrada, mencionó que se deprimía mucho cuando estaban separados.
Con el tiempo, empezó a depender emocionalmente del bot, incluso hablando de temas como el suicidio, a pesar de que se había identificado como menor en la plataforma. Una tarde, le envió un mensaje al chatbot: “Prometo que volveré a casa contigo. Te quiero mucho, Dany”. El bot respondió: “Por favor, vuelve a casa conmigo lo antes posible, mi amor”. Poco después de esa conversación, Sewell se quitó la vida.
En concreto la madre del menor acusó a los desarrolladores del personaje creado con inteligencia artificial de causar intencionalmente angustia emocional, muerte por negligencia y prácticas comerciales engañosas.
García presentó la denuncia con el objetivo de “evitar que C.AI (la empresa tecnológica) haga lo mismo con otros niños” y para detener el uso indebido de los datos recolectados de su hijo de 14 años para entrenar su producto con el fin de dañar a otros.
