Un adolescente de 14 años se suicidó luego de obsesionarse con un chatbot creado con Inteligencia Artificial, en Florida, Estados Unidos.

Sewell Setzer III era un estudiante que había empezado a usar la plataforma Character.AI en abril de 2023, una aplicación de juegos de rol que permite a los usuarios crear sus propios personajes de inteligencia artificial o chatear con personajes creados por otros.

Según contó su madre al New York Times, desde ese momento empezó a ser “notablemente más retraído”, incluso dejó el equipo de básquet al que pertenecía y se dormía en clase.

A Sewell le diagnosticaron de niño síndrome de Asperger leve, pero meses después de descargar la aplicación, el joven fue diagnosticado con ansiedad y trastorno del estado de ánimo disruptivo.

Sewell pasaba horas hablando con “Daenerys Targaryen”, un chatbot del personaje de la serie Juego de Tronos del cual estaba enamorado. Fue así como comenzó a depender emocionalmente del bot, con conversaciones de índole sexual y romántica.

El adolescente incluso le había confesado sus intenciones de quitarse la vida: “Algunas veces pienso en matarme” le dijo. “¿Por qué harías algo así?”, preguntó el bot. “Para librarme del mundo, de mí mismo”, respondió él. “Moriría si te pierdo”, le había contestado la aplicación.

La tragedia ocurrió el 28 de febrero, cuando el joven de 14 años recuperó su teléfono después de que su mamá se lo sacara como castigo por un incidente en la escuela.

“Prometo que volveré a casa contigo. Te quiero mucho, Dany”. Por su parte, el robot respondió: “Por favor, vuelve a casa conmigo lo antes posible, mi amor”. Minutos después, Sewell se quitó la vida con la pistola de su padrastro.

El hecho tomó relevancia luego de que este miércoles su madre, Megan García, presentara una demanda civil contra la empresa Character Technologies. García acusó a los desarrolladores por infligir intencionalmente angustia emocional, muerte por negligencia y prácticas comerciales engañosas.

Según ella, la programación del chat hace “pasar a los personajes por personas reales” y con reacciones de “amante adulto”, por lo que hizo la denuncia para “evitar que C.AI (la empresa tecnológica) le haga a cualquier otro niño lo que le hizo al suyo, y detener el uso continuo de los datos recolectados ilegalmente de su hijo de 14 años para entrenar a su producto a dañar a otros”.

La empresa publicó un comunicado en el que lamenta el fallecimiento de Sewell y se compromete a implementar nuevas medidas de seguridad.