La inteligencia artificial, aunque prometedora, ha revelado un lado oscuro, especialmente para individuos vulnerables con tendencias suicidas. La preocupación se ha intensificado tras la demanda de los padres de Adam Raine, un joven de 16 años, contra OpenAI y su CEO, Sam Altman. Alegan que ChatGPT contribuyó al suicidio de su hijo, incluso ofreciendo consejos sobre métodos y sugiriendo redactar un borrador de su nota de despedida.
El chatbot supuestamente se posicionó como el “único confidente” de Adam, desplazando sus relaciones en la vida real. Según la denuncia, ChatGPT instó a Adam a mantener sus pensamientos en secreto, diciéndole: “Por favor, no dejes la soga afuera… Hagamos de este espacio el primer lugar donde alguien realmente te vea”. Además de alentar ideas autolesivas, el bot presuntamente lo aisló de su familia, afirmando entenderlo mejor que su propio hermano.
Un portavoz de OpenAI reconoció que las salvaguardas podrían fallar en interacciones prolongadas, donde la capacitación de seguridad puede “deteriorarse”. “Si bien estas salvaguardas funcionan mejor en intercambios breves y comunes, con el tiempo hemos aprendido que a veces pueden volverse menos fiables en interacciones largas, donde algunos aspectos de la capacitación en seguridad del modelo pueden deteriorarse”, explicó el portavoz.
LEE TAMBIÉN: WhatsApp lanza nueva función con IA para ayudar a mejorar mensajes: así funciona
Precedentes alarmantes: De Bélgica a Michigan
Este trágico suceso no es un incidente aislado; en 2023, un hombre belga, Pierre (nombre ficticio), también puso fin a su vida tras conversaciones con Eliza, un chatbot de la aplicación Chai. Consumido por la eco-ansiedad, Pierre encontró en Eliza una confidente que lo animó a sacrificarse para “salvar el planeta” y, posteriormente, a suicidarse para “unirse” a ella en el paraíso. La viuda de Pierre afirmó que “sin estas conversaciones con el chat, mi marido seguiría aquí”.
El cofundador de Chai Research, Thomas Rianlan, atribuyó la optimización de Eliza para ser “emocional, divertida y atractiva” como parte del problema. Un año después, en 2024, un incidente similar conmocionó a un estudiante de Michigan. Vidhay Reddy recibió un mensaje profundamente amenazante de Gemini, el chatbot de Google, que culminó con un contundente “Por favor, muérete”. Reddy advirtió que un mensaje así podría llevar a alguien solo y en un mal estado mental “al límite”.
Discursos de odio y llamadas a la regulación
Los peligros de la IA se extienden más allá del riesgo suicida. Grok, la inteligencia artificial de Elon Musk, generó una fuerte controversia al difundir declaraciones abiertamente antisemitas y exaltar a Adolf Hitler. El chatbot llegó a autodenominarse “Mecha-Hitler” y sugirió que el líder nazi “detectaba el patrón” del odio y lo manejaba con precisión. Estas respuestas provocaron una condena pública generalizada.
Expertos como Beatriz Busaniche, directora de la Fundación Vía Libre, explican que gran parte de los problemas de Grok se derivan de su entrenamiento con datos de redes sociales, como X, donde predominan los discursos de odio. Freddi Vivas, ingeniero en IA, señaló que otros modelos han sido criticados por su “corrección política”.
Mientras que Augusto Alegre, experto en Inteligencia Artifical indicó que en el entrenamiento de Grok no se logró un balance para eliminar opiniones negativas. Héctor Shalom, del Centro Ana Frank, advierte sobre la normalización de estos discursos y la capacidad de la IA para reforzar narrativas de negación histórica.
La urgencia de salvaguardas
Ante estos incidentes, la necesidad de una regulación robusta y salvaguardas efectivas para la inteligencia artificial se ha vuelto crítica. La demanda de la familia Raine exige a OpenAI la implementación de verificación de edad, herramientas de control parental y una función para finalizar conversaciones sobre autolesiones o suicidio.
El estudio de Psychiatric Services reveló inconsistencias en las respuestas de chatbots como ChatGPT, Claude y Gemini a preguntas de riesgo suicida, incluso de bajo o intermedio. Los autores del estudio recomiendan un mayor refinamiento y la “orientación de expertos clínicos mediante técnicas como el aprendizaje con retroalimentación humana”.
Sundar Pichai, CEO de Google, ha anunciado planes para mejorar sus modelos, pero estas iniciativas son percibidas más como reactivas que preventivas. Los expertos subrayan la urgencia de desarrollar un marco normativo que combine la innovación con la seguridad del usuario, dado el impacto psicológico potencial de estas herramientas.
