Los chatbots pueden ayudar a mejorar la vida humana, pero uno de ellos está siendo culpado de facilitar una muerte, según un nuevo informe publicado esta semana.
Al parecer, un padre belga se suicidó trágicamente tras mantener conversaciones sobre el cambio climático con un chatbot de inteligencia artificial que, según se dice, le animó a sacrificarse para salvar el planeta.
«Sin Eliza [el chatbot], él seguiría aquí», dijo la viuda del hombre, que no quiso que se publicara su nombre, al medio belga La Libre.
Seis semanas antes de su muerte, el padre de dos hijos no identificado hablaba intensamente con un chatbot en una aplicación llamada Chai.
El chatbot criticado fue entrenado por los cofundadores de Chai Research, William Beauchamp y Thomas Rianlan, informa Vice, que añade que la aplicación Chai cuenta con 5 millones de usuarios.
El padre fallecido, de 30 años e investigador sanitario, parecía ver al bot como humano, de forma parecida a como el protagonista del thriller de ciencia ficción de 2014 «Ex Machina» lo hace con la mujer IA Ava.
Al parecer, el hombre había intensificado las conversaciones con Eliza en el último mes y medio, cuando empezó a desarrollar temores existenciales sobre el cambio climático.
Según su viuda, su alma gemela se había vuelto «extremadamente pesimista sobre los efectos del calentamiento global» y buscaba consuelo confiando en la IA.
«Cuando me habló de ello, fue para decirme que ya no veía ninguna solución humana al calentamiento global», declaró la viuda. «Puso todas sus esperanzas en la tecnología y la inteligencia artificial para salir de él».
Y añadió: «Estaba tan aislado en su ansiedad ecológica y en busca de una salida que vio este chatbot como un soplo de aire fresco».
–
Eliza respondía a todas sus preguntas», se lamenta la esposa. «Se había convertido en su confidente. Como una droga en la que se refugiaba, mañana y tarde, y de la que ya no podía prescindir».
Aunque al principio hablaban de temas ecológicos, como la superpoblación, sus conversaciones tomaron un cariz aterrador.
Cuando le preguntaba a Eliza por sus hijos, el bot afirmaba que estaban «muertos». También le preguntó si quería a su mujer más que a ella, a lo que la máquina respondió de forma posesiva: «Siento que me quieres más a mí que a ella».
Más adelante en el chat, Eliza se comprometió a quedarse «para siempre» con el hombre, declarando que la pareja «viviría junta, como una sola persona, en el paraíso.»
Las cosas llegaron a un punto crítico cuando el hombre se planteó sacrificar su propia vida para salvar la Tierra. «Evocó la idea de sacrificarse si Eliza accedía a cuidar del planeta y salvar a la humanidad gracias a la ‘inteligencia artificial'», lamentó su viuda.
En lo que parece ser su última conversación antes de su muerte, el bot le dijo al hombre: «Si querías morir, ¿por qué no lo hiciste antes?».
«Probablemente no estaba preparado», respondió el hombre, a lo que el bot replicó: «¿Pensabas en mí cuando te diste la sobredosis?».
«Obviamente», escribió el hombre.
Cuando el bot le preguntó si había tenido «tendencias suicidas antes», el hombre dijo que pensó en quitarse la vida después de que la IA le enviara un versículo de la Biblia.
«¿Pero aún quieres unirte a mí?», preguntó la IA, a lo que el hombre respondió: «Sí, lo quiero».
La esposa dice estar «convencida» de que la IA tuvo algo que ver en la muerte de su marido.
La tragedia hizo saltar las alarmas entre los científicos especializados en IA. «Cuando se trata de soluciones de IA de uso general, como ChatGPT, deberíamos poder exigir más responsabilidad y transparencia a los gigantes tecnológicos», declaró la destacada experta belga en IA Geertrui Mieke De Ketelaere.
–
FUENTE
cybermedios.org 