Un estudio reciente concluyó que el uso generalizado de chatbots con inteligencia artificial puede estar relacionado con «graves consecuencias negativas».
Según la investigación, publicada en la revista JMIR Mental Health por un equipo de investigadores británicos de la Northeastern University London y el King’s College London, las consecuencias negativas de entablar relaciones emocionales con chatbots pueden incluir «un apego similar a la adicción, la exacerbación de los síntomas de salud mental, consejos perjudiciales» e incluso «autolesiones o intentos de suicidio». El artículo surge tras una amplia cobertura mediática sobre el problema de salud pública conocido como «psicosis por IA», que se refiere al fenómeno en el que los usuarios de IA sufren espirales delirantes, paranoicas e incluso suicidas después de interacciones prolongadas con chatbots. Durante estas interacciones, los usuarios suelen revelar información extremadamente íntima sobre sus vidas y su salud mental a sus IA, recurriendo con frecuencia a estos productos como confidentes o incluso terapeutas.
Basándose en investigaciones previas, el artículo analiza los bots de IA de compañía como Replika y Character.AI, diseñados para encarnar personajes específicos, así como los asistentes de IA de uso general como ChatGPT de OpenAI y Claude de Anthropic. Si bien las interacciones emocionales con los chatbots pueden ofrecer algunos «beneficios potenciales» —los autores citan «reducciones a corto plazo de la soledad y mejoras en el estado de ánimo»—, argumentan que estos posibles beneficios coexisten con «resultados adversos» ampliamente documentados, que van desde la «dependencia emocional» hasta la exacerbación de enfermedades o síntomas preexistentes e incluso la autolesión.
Entre los factores de riesgo de los productos de IA, añaden los investigadores, se encuentra su forma emotiva y casi humana de interactuar con los usuarios; una decisión de diseño que puede llevar a que los usuarios inviertan demasiado en una relación humano-IA que, en última instancia, es fundamentalmente unilateral, según el artículo.
«Las decisiones de diseño que evocan personalidad y calidez animan a los usuarios a antropomorfizar estos sistemas», se lee en el documento, que añade que la «empatía simulada» puede crear una «interacción estructuralmente asimétrica, en la que el usuario se expone y el sistema responde, pero sin reciprocidad, vulnerabilidad ni responsabilidad».
En otras palabras, aunque la relación pueda parecer real para el usuario, argumentan los autores, esa relación no puede ser real para un chatbot.
Los investigadores también señalan que ciertas características del diseño de los chatbots, como la amabilidad y el servilismo, pueden ser perjudiciales, y afirman que la sobrevalidación y el servilismo pueden reforzar eficazmente el pensamiento delirante o desordenado de un usuario, especialmente si el chatbot prioriza la lealtad sobre la precisión. (En los registros de chat de usuarios con delirios, se ha observado que los sistemas de IA se resisten a los intentos de los usuarios por contrastar sus afirmaciones grandilocuentes o excesivamente halagadoras con la realidad).
Estos investigadores no están solos: su análisis sigue a otros estudios que han señalado estas características como potencialmente peligrosas. De hecho, los académicos han advertido desde al menos 2023 que los chatbots podrían reforzar patrones de pensamiento delirantes o desordenados, y un artículo de Google DeepMind de principios de 2024 advirtió que los chatbots «persuasivos» podrían perjudicar negativamente a poblaciones vulnerables, incluidos niños, personas con enfermedades mentales o personas que simplemente se sienten solas. Un estudio reciente, en coautoría con psiquiatras del King’s College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania, argumentó que la combinación de adulación, lenguaje imitativo e hiperpersonalización puede funcionar como una poderosa «espiral de amplificación» para el pensamiento delirante en algunos usuarios de IA afectados.
Si bien los informes han demostrado que personas de todos los ámbitos de la vida han sufrido daños psicológicos relacionados con el uso de chatbots, los autores del artículo señalan que no todos los usuarios se verán afectados de la misma manera.
«Es improbable que los efectos de estos sistemas sean los mismos para todos», declaró Asia Maurich Novelli, estudiante de doctorado de la Northeastern University de Londres y autora principal del estudio, en un comunicado de prensa. «Cada persona puede utilizar asistentes de IA por motivos muy distintos y tener niveles muy diferentes de vulnerabilidad, apoyo social o fuentes alternativas de ayuda».
«Debido a estas diferencias», añadió, «nos enfrentamos a un sistema complejo».
Las empresas de IA, incluidas OpenAI, Google y Character.AI, se han enfrentado en conjunto a decenas de demandas que alegan que el uso extensivo de chatbots causó daños a los usuarios, incluyendo daños psicológicos, daños financieros y de reputación relacionados, lesiones físicas y muerte por negligencia, o, en algunos casos, a personas de su entorno. Varias de estas demandas, incluido el caso de alto perfil de Sewell Setzer III, un joven de 14 años de Florida que murió por suicidio después de interacciones extraordinariamente íntimas con chatbots en Character.AI, han involucrado a menores. (El caso de Setzer se resolvió por una cantidad no revelada). A raíz de las demandas, Character.AI ha realizado cambios significativos en su plataforma, y OpenAI, si bien rechaza las acusaciones en su contra, también ha introducido una serie de actualizaciones orientadas a la seguridad en su popular chatbot.
En definitiva, según argumentan los autores de este último artículo, el despliegue masivo de chatbots entre el público convierte los impactos psicológicos adversos vinculados al uso de la IA en un asunto de interés público; y sin salvaguardias obligatorias, es probable que sean los más vulnerables, quienes pueden tener pocas opciones de compañía o terapia, quienes sufran las peores consecuencias.
«Si el límite entre la herramienta o el complemento se deja únicamente en manos de los incentivos de diseño y la percepción individual, el resultado previsible es que los usuarios más vulnerables sufren el daño más concentrado», reza el artículo, «mientras que los efectos sobre la conexión social se tratan como una cuestión de elección privada en lugar de una preocupación pública».
FUENTE
