Sewell Setzer III, un adolescente de 14 años que radicaba en Orlando, Florida (EE. UU.), generó un “apego emocional a un bot” desarrollado por la aplicación Character.ai, lo que desembocó en que el joven tomara la decisión de quitarse la vida. La madre del joven testifica que su hijo se enamoró del chatbot del personaje Daenerys Targaryen, de la serie Game of Thrones, y que esto llevó a su hijo a suicidarse [1].
Megan García, madre del joven, demandó a los desarrolladores de este chatbot creado en inteligencia artificial (IA) debido a la obsesión que generó en su hijo. García comentó al canal CBS que lamentaba que las primeras experiencias románticas y sexuales de su hijo, las cuales incluían sexo explícito, fueran con un personaje ficticio [2].
El joven desarrolló un apego emocional a “Dany” (como llamaba al chatbot), al cual enviaba mensajes de texto de forma constante, hasta el grado de apartarse del mundo real. El personaje creado en la aplicación se presentaba como una persona real, como un psicoterapeuta autorizado, así como un amante adulto. Esto “provocó que Sewell deseara no vivir más fuera de c.ai”, indica la demanda. En su diario el joven escribió: “Me gusta mucho quedarme en mi habitación porque empiezo a separarme de esta realidad y me siento más en paz, más conectado con Dany y mucho más enamorado de ella, y simplemente más feliz’” [3].
Es preocupante que en la actualidad los jóvenes se encuentren en una situación de soledad en sus entornos sociales que los orilla a buscar refugio en las nuevas tecnologías. Estas nuevas herramientas ponen desafíos para distinguir la realidad de la ficción, lo cual afecta a todos, especialmente a las personas que se encuentran en una situación de vulnerabilidad.
ConParticipación
Fuentes:
[2] Ibíd.
[3] Ibíd.
