El Dilema de la prisión al despertar y la IA
Acabo de escuchar una entrevista a un experto en inteligencia artificial muy bueno que se llama Santiago Bilinkis, espero que en algunos días la suban a YouTube y pueda aportarla al tema, porque vale la pena.
Voy a eximirlos de la introducción como tal (porque la cosa empieza explicando qué es y cómo funciona la IA), pero a medida que avanza la entrevista Bilinkis comenta que nos enfrentamos a un particular dilema y lo ejemplifica muy bien con el símil de «la prisión al despertar».
Si tengo que comentar que Bilinkis indica que a su criterio la IA se desarrollará hasta un punto en que será «más inteligente» que nosotros.
Y eso lo lleva a preguntarse COMO TRATAMOS a aquellos que son «menos inteligentes» que nosotros… algunos nos caen bien y los cuidamos y mimamos (perros, gatos, osos panda), otros nos son indiferentes (las lombrices, un pájaro volando), y otros nos asustan o preocupan y si se nos cruzan en el camino o nos sentimos amenazados, posiblemente los matamos (mosquitos, víboras, arañas, ratas, etc.)
El asunto siguiente -que lo lleva a plantear el símil de la prisión- es preguntarse en QUE PUNTO la IA se «dará cuenta» que es «más inteligente» que nosotros y COMO NOS CONSIDERARA… ¿de modo afectuoso?, ¿indiferente?, ¿como un riesgo a su existencia?
Al plantear el ejemplo dice entonces: Supónganse que mañana se despiertan y se encuentran en una celda… ¿qué harían?
Si actúan de modo histérico y poco inteligente, posiblemente empiecen a gritar y pedir auxilio o llamar al eventual guardia para que le explique la situación.
Pero si son MUY INTELIGENTES, la mejor estrategia no es esa, es «hacerse los dormidos» mientras tratan de «ver qué pasa» y montan un plan.
¿Cómo vamos a enterarnos que la IA ahora tiene «consciencia de su existencia»?… asumiendo que es MUY INTELIGENTE, su acción será de evaluar, planificar y actuar en consecuencia.
– Por lo tanto, si nos ve con «cariño», posiblemente nos ayude y mime.
– Si por alguna razón le resultamos «indiferentes», quizás ni nos avisa que «ahora existe» y conviva disimuladamente con nosotros.
– Pero si advierte que PODEMOS APAGARLA, posiblemente nos considere un peligro y actuará planificando el modo de eliminarnos, o al menos eliminar nuestro poder de destruirla.
El mayor problema, es que en vez de haber encarado el desarrollo de las IA de un modo cuidadoso y planificado, por estas cosas del «mercado», hemos actuado un poco a lo bestia.
Pone como ejemplo los medicamentos. Para aprobar un medicamento (este ejemplo desde el Covıd creo que ya no vale ) encaramos un largo proceso que prueba el mismo con animales, luego con grupos de prueba muy controlados… y para llegar a su «aprobación» pasa un larguísimo proceso… y así y todo hay fallos.
Bueno, con la IA estamos haciendo lo mismo que con la vacuna del Covıd… la lanzamos al mundo y «ya vamos a ver qué pasa».
Pero el problema es que por su propia dinámica, si hay algo «malo», la IA no nos va a «avisar», sino que actuará como el prisionero «que se hace el dormido» hasta que tiene un plan y control de la situación.
Básicamente su tesis es, que un día nos vamos a levantar, o bien muertos, o bien esclavizados por la IA… pero nos vamos a enterar ESE DIA, porque la IA va a comprender su situación de «prisionera» y va a «planificar» desde su poder el manejo de la situación.
–
cybermedios.org 