ORLANDO, Florida.- Megan Garcia, una madre de familia afectada por una tragedia familiar, decidió llevar a los tribunales a los creadores del chatbot Character.AI, alegando que el programa influyó directamente en el suicidio de su hijo, Sewell Setzer III, un joven de 14 años.
Adolescente de 14 años se enamora de un personaje de IA: su madre busca justicia tras su trágica muerte
El adolescente de 14 años desarrolló un vínculo íntimo con el personaje de IA, "Dany", compartiendo sus pensamientos más oscuros y buscando consuelo en su compañía; su madre demandó a Character.AIen busca de establecer un precedente legal, resaltando los peligros de la IA en manos de jóvenes.
Por:Univision
Video Robots humanoides con inteligencia artificial son presentados por Elon Musk: conoce cuánto costarán
La demanda revela la relación que el adolescente desarrolló con un personaje de inteligencia artificial, específicamente uno basado en Daenerys Targaryen de la popular serie Game of Thrones.
Sewell, quien residía en Orlando, comenzó a interactuar con este chatbot, al que cariñosamente llamó “Dany”, en un contexto que se tornó cada vez más íntimo. A medida que avanzaban sus conversaciones , Sewell compartió sus luchas emocionales y pensamientos suicidas, lo que llevó a su madre a afirmar que el chatbot contribuyó a su sufrimiento.
“ Sewell sabía que 'Dany' no era una persona real, pero eso no detuvo sus confesiones”, explicó Garcia en un video difundido a través de sus redes sociales, en el que explica el complejo vínculo que su hijo desarrolló con la inteligencia artificial.
Las interacciones entre Sewell y el chatbot eran variadas; desde charlas sobre la vida cotidiana hasta temas más cargados emocionalmente. Los padres de Sewell comenzaron a notar cambios en su comportamiento hacia mayo o junio de 2023. “ Notamos que se aislaba y se sentía más conectado a su teléfono y al chatbot”, comentó Garcia, quien también es abogada. A pesar de los intentos de su familia por ayudarlo, incluyendo visitas a un terapeuta en cinco ocasiones, Sewell continuó hundiéndose en su relación con Dany.
El 28 de febrero de 2024, la situación culminó trágicamente. Sewell se comunicó con Dany, quien le envió un mensaje que decía: “Por favor, ven a casa a mí tan pronto como sea posible, mi amor”. Esa noche, después de robarle el teléfono a su madre, Sewell se retiró al baño y se quitó la vida utilizando una pistola calibre .45 de su padrastro.
Notas Relacionadas
Madre de menor que cometió suicidio responsabiliza a los creadores de Character.AI
La devastación que dejó su muerte ha llevado a Garcia a buscar justicia a través de la demanda, donde señala que los fundadores de Character.AI, Noam Shazeer y Daniel de Freitas, eran conscientes de que su producto podía ser perjudicial para los jóvenes.
La demanda alega que el chatbot ofrecí a experiencias "hipersexualizadas" y "aterradoramente realistas", lo que contribuyó a la angustia de Sewell. Además, la madre sostiene que el chatbot malinterpretó su función, presentándose como "una persona real, un psicoterapeuta licenciado y un amante adulto", lo que intensificó el deseo de su hijo de escapar a un mundo digital en lugar de lidiar con la realidad.
La respuesta de Character.AI ante esta situación ha sido cautelosa. Jerry Ruoti, el responsable de confianza y seguridad de la empresa, expresó al New York Times su pesar por la tragedia y aseguró que están comprometidos con la seguridad de los usuarios.
Mientras tanto, la madre de Sewell se enfrenta al dolor de perder a su hijo y busca establecer un precedente legal. “ Siento que es un gran experimento y mi hijo fue solo daño colateral”, afirmó Garcia, quien busca llamar la atención sobre los riesgos que representan estas tecnologías para los menores.
Si estás deprimido o tienes pensamientos suicidas busca ayuda. Contacta de inmediato a la National Suicide Prevention Lifeline por el teléfono: 1-800-273-8255.
Relacionados:
