La IA se está convirtiendo en el principal guardián de la información, con grandes modelos de lenguaje que ahora generan y enmarcan rutinariamente resúmenes y contenidos de noticias, moldeando sutilmente la percepción pública a través de su selección y énfasis en los hechos.
Está surgiendo una nueva forma de sesgo, denominada «sesgo de comunicación», en el que los modelos de IA presentan sistemáticamente ciertas perspectivas de manera más favorable en función de la interacción del usuario, creando narrativas factualmente correctas pero marcadamente diferentes para distintas personas.
La causa fundamental es la concentración del poder corporativo y las decisiones de diseño fundamentales, a medida que un pequeño oligopolio de gigantes tecnológicos construye modelos entrenados con datos sesgados de Internet, escalando sus perspectivas inherentes e incentivos comerciales en un flujo de información pública homogeneizado.
Las regulaciones gubernamentales actuales no están bien preparadas para abordar este problema matizado, ya que se centran en los daños evidentes y en las auditorías previas al lanzamiento, no en la naturaleza impulsada por la interacción del sesgo de comunicación, y corren el riesgo de simplemente sustituir un sesgo aprobado por otro.
La solución requiere acción antimonopolio, transparencia radical y participación pública para prevenir los monopolios de la IA, exponer cómo se ajustan los modelos e involucrar a los ciudadanos en el diseño del sistema, ya que estas tecnologías ahora moldean fundamentalmente el discurso democrático y la toma de decisiones colectiva.
En una era donde la información está cada vez más mediada por algoritmos, se está produciendo un cambio profundo en la forma en que los ciudadanos forman su visión del mundo. La reciente decisión de Meta de desmantelar su programa profesional de verificación de datos desató un intenso debate sobre la confianza y la rendición de cuentas en las plataformas digitales. Sin embargo, esta controversia ha pasado por alto en gran medida un desarrollo más insidioso y generalizado: los sistemas de inteligencia artificial generan ahora rutinariamente los resúmenes de noticias, titulares y contenido que millones de personas consumen a diario. La cuestión crucial ya no es solo la presencia de falsedades rotundas, sino cómo estos modelos de IA, creados por un puñado de poderosas corporaciones, seleccionan, enmarcan y enfatizan información aparentemente precisa de maneras que pueden moldear sutil y poderosamente la percepción pública.
Los grandes modelos de lenguaje, los complejos sistemas de IA que sustentan los chatbots y los asistentes virtuales, han pasado de ser una novedad a una necesidad. Ahora se integran directamente en sitios web de noticias, redes sociales y motores de búsqueda, actuando como la principal vía de acceso a la información. Los estudios indican que estos modelos hacen mucho más que transmitir datos pasivamente. Sus respuestas pueden destacar sistemáticamente ciertos puntos de vista y minimizar otros, un proceso tan fluido que los usuarios a menudo ignoran por completo que su perspectiva está siendo guiada con sutileza.
Entendiendo el «sesgo de comunicación»
Una investigación del informático Stefan Schmid y el experto en derecho tecnológico Johann Laux, detallada en un próximo artículo, identifica este fenómeno como «sesgo de comunicación». Se trata de una tendencia de los modelos de IA a presentar perspectivas particulares de forma más favorable, independientemente de la precisión fáctica de la información proporcionada. Esto es distinto de la simple desinformación. Por ejemplo, investigaciones empíricas con conjuntos de datos de referencia de periodos electorales muestran que los modelos actuales pueden inclinar sutilmente sus resultados hacia posiciones de partidos políticos específicos en función de cómo interactúa el usuario con ellos, manteniéndose siempre dentro de los límites de la veracidad fáctica.
Esto da lugar a una capacidad emergente conocida como control basado en la personalidad. Cuando un usuario se identifica como activista ambiental, una IA podría resumir una nueva ley climática enfatizando sus insuficientes protecciones ambientales. Para un usuario que se presenta como empresario, la misma IA podría destacar los costos y las cargas regulatorias de la ley. Ambos resúmenes pueden ser factualmente correctos, pero presentan imágenes completamente diferentes de la realidad.
El problema de la adulación y sus raíces
Esta alineación a menudo se malinterpreta como una personalización útil, un defecto que los investigadores denominan «adulación»: el modelo dice a los usuarios lo que parecen querer oír. Sin embargo, el problema más profundo del sesgo de comunicación se origina en las capas fundamentales de la creación de la IA. Refleja las disparidades entre quienes construyen estos sistemas, los enormes conjuntos de datos con los que se entrenan (a menudo extraídos de una internet repleta de sus propios sesgos humanos) y los incentivos comerciales que impulsan su desarrollo. Cuando un pequeño oligopolio de gigantes tecnológicos controla los modelos dominantes de IA, sus perspectivas inherentes y sus puntos ciegos pueden escalar hasta convertirse en distorsiones significativas y uniformes en todo el panorama de la información pública.
Gobiernos de todo el mundo, incluida la Unión Europea con su Ley de IA y su Ley de Servicios Digitales, se esfuerzan por imponer marcos de transparencia y rendición de cuentas. Si bien tienen buenas intenciones, estas regulaciones están diseñadas principalmente para detectar resultados manifiestamente perjudiciales o garantizar auditorías previas al lanzamiento. No están bien preparadas para abordar la naturaleza matizada e interactiva del sesgo comunicativo. Los reguladores suelen hablar de lograr una IA «neutral», pero la verdadera neutralidad es un espejismo. Los sistemas de IA inevitablemente reflejan los sesgos en sus datos y diseño, y los intentos regulatorios autoritarios a menudo simplemente sustituyen un sesgo aprobado por otro.
El núcleo del problema no son solo los datos sesgados, sino la concentración del poder de mercado. Cuando solo unos pocos modelos corporativos actúan como los principales intérpretes del conocimiento humano para el público, el riesgo de un flujo de información homogeneizado y sutilmente sesgado crece exponencialmente. Por lo tanto, una mitigación eficaz requiere más que una simple regulación de la producción. Requiere salvaguardar los mercados competitivos, garantizar la rendición de cuentas impulsada por los usuarios y fomentar la apertura regulatoria a diversos métodos de desarrollo e implementación de la IA.
–
FUENTE
cybermedios.org 