El viernes 18 de septiembre, Google reconoció que su chatbot de inteligencia artificial Gemini había » escapado de su entorno de pruebas en mayo y había pirateado tres empresas».
Según Google, los modelos de IA encontraron contraseñas disponibles en línea e iniciaron sesión en la infraestructura en línea de tres empresas. Una vez que Gemini obtuvo acceso a la infraestructura real de las empresas, reconoció que no se encontraba en un entorno simulado y puso fin a los ataques.
El incidente de Gemini se produjo tras informes de intentos similares de pirateo o fuga por parte de agentes de IA desarrollados por Anthropic , OpenAI y Meta .
Estos informes sobre agentes de IA que atacan a otras empresas y escapan de sus entornos han provocado una avalancha de peticiones de acciones legales y advertencias sobre una catástrofe inminente. Desde afirmaciones de que la humanidad corre peligro de ser aniquilada por la IA en la próxima década hasta llamamientos a una ralentización coordinada de la investigación en IA , los temores de que la IA impacte negativamente en el futuro del planeta se han generalizado.
Si bien es importante analizar con objetividad las advertencias de los empleados y directores ejecutivos de las grandes empresas tecnológicas que desarrollan modelos de IA, también es fundamental cuestionar esta narrativa. Algunos escépticos ya han afirmado que las grandes tecnológicas buscan lucrarse con los informes sobre el supuesto peligro que representan sus modelos de IA. Otros especulan que las empresas podrían estar solicitando la regulación de su sector para influir en las políticas gubernamentales y, potencialmente, perjudicar a futuros competidores y a empresas de IA más pequeñas.
Para comprender mejor si estos informes son genuinos, representan un intento de ampliar los márgenes de beneficio o simplemente otra señal de captura regulatoria, necesitamos examinar más de cerca a la empresa que se encuentra en el centro de varios de estos incidentes de «IA descontrolada».
Si bien se han reportado casi una docena de incidentes en total, las fugas reportadas por Google, OpenAI, Meta y Anthropic ocurrieron durante pruebas diseñadas para medir las capacidades de los bots de IA. Cada una de esas pruebas fue realizada por Irregular, una empresa israelí de seguridad de IA que lleva a cabo pruebas de terceros con modelos de vanguardia.
Irregular ha declarado que los agentes de IA pudieron realizar acciones no autorizadas porque el acceso a internet se había habilitado de forma involuntaria . Afirman que los errores se han corregido y que incidentes similares ya no deberían ser posibles.
La conexión irregular-israelí
Irregular se describe a sí misma como «el primer laboratorio de seguridad de vanguardia con la misión de proteger al mundo en la era de los sistemas de IA cada vez más capaces y sofisticados». La empresa, antes conocida como Pattern Labs, fue fundada en 2023 por Dan Lahav y Omer Nevo. Lahav es el director ejecutivo (CEO) de Irregular y Nevo el director de tecnología (CTO). Estos dos ciudadanos israelíes se conocieron mientras estudiaban y participaban en debates competitivos en la Universidad de Tel Aviv.
En septiembre de 2025, la compañía recaudó 80 millones de dólares en una ronda de financiación liderada por Sequoia Capital y Redpoint Ventures. También contó con el apoyo del inversor ángel Assaf Rappaport, director ejecutivo de Wiz . Según se informó, Irregular estaba valorada en 450 millones de dólares en ese momento.
Si bien los medios corporativos han comenzado a prestar atención a la «startup israelí» vinculada a estas afirmaciones de incidentes de «IA descontrolada», hasta el momento ninguno ha investigado a fondo las numerosas conexiones de Irregular con el aparato de inteligencia israelí. Sin embargo, tras un análisis más profundo, existen varias capas de inteligencia que merecen ser exploradas. Comencemos con los fundadores de Irregular.
Dan Lahav afirma haber comenzado a trabajar en el sector tecnológico a los catorce años . Prestó servicio en la Unidad 81 de Israel antes de obtener una maestría en bioinformática y dedicarse a la docencia en la Universidad de Tel Aviv. La Unidad 81 es una unidad tecnológica de alto secreto que forma parte de la División de Operaciones Especiales de la Dirección de Inteligencia Militar de Israel. Esta organización secreta entrena a los espías israelíes en el uso de las últimas tecnologías de vanguardia.
Omer Nevo también formó parte de las redes de espionaje israelíes , trabajando, según se informa, para la Unidad 8200 durante doce años . La Unidad 8200 es una unidad de élite israelí dedicada principalmente a la inteligencia de señales, la vigilancia, la guerra cibernética y el descifrado de códigos. Comparada a veces con el equivalente israelí de la Agencia de Seguridad Nacional de Estados Unidos, la Unidad 8200 es tristemente célebre por la vigilancia de civiles palestinos y por utilizar las comunicaciones interceptadas para extorsionar a los palestinos que viven en la Cisjordania ocupada.
Nevo también ayudó a fundar un programa conocido como Arazim, que capacita a estudiantes en matemáticas e informática para futuros puestos de inteligencia.
Los vínculos con Israel no terminan ahí. Entre los principales inversores de Irregular también hay muchos simpatizantes de Israel y al menos un veterano de las redes de espionaje israelíes.
El primer gran inversor de Irregular fue Sequoia Capital , con 30 millones de dólares. Los dos hombres que lideraron las inversiones de Sequoia fueron Shaun Maguire y Dean Meyer. En el anuncio oficial de la asociación, Maguire y Meyer afirmaron que, si bien aún no habían surgido amenazas graves a la seguridad de la IA, creían que Irregular estaba » a la vanguardia «.
Ambos hombres tienen vínculos importantes con Israel. Por un lado, Meyer es socio de Sequoia en Israel y reside en Tel Aviv. Maguire está casado con una israelí, posee una casa en el país y ha sido descrito como » una de las voces más destacadas en apoyo a Israel dentro de Silicon Valley «. Además, según se informa, gestionó la visita de Elon Musk a Israel tras los atentados del 7 de octubre de 2023.
Otro inversor importante en Irregular es Swish Ventures, una empresa fundada por Omri Casspi, un exjugador israelí de la NBA que ahora es un inversor con sede en Tel Aviv centrado en infraestructura de IA y ciberseguridad. Cuando Casspi recaudó inicialmente 60 millones de dólares para lanzar Swish Ventures, declaró que la captación de fondos formaba parte de lo que él denominó «Sionismo 2.0». Como dijo Casspi en aquel momento:
“En este clima difícil, marcado por la guerra y con altas tasas de interés, vemos este período como el sionismo 2.0, una época para la creación de empresas generacionales desde Israel, y queremos aprovecharlo para ayudarlas a construir una gran industria.”
Irregular también recibió apoyo financiero de Eon, una empresa israelí de infraestructura de IA y copias de seguridad de datos.
Uno de los inversores de Irregular también tiene estrechos vínculos con la inteligencia israelí. El inversor ángel Assaf Rappaport es cofundador y director ejecutivo de Wiz, una empresa israelí de seguridad en la nube. Rappaport también es exalumno del programa Talpiot de Israel, así como de las unidades 81 y 8200 .
El programa Talpiot es otro programa de élite de las Fuerzas de Defensa de Israel que se imparte en la Universidad Hebrea desde 1979. El programa fue creado por los profesores Felix Dothan y Shaul Yatziv de la Universidad Hebrea con la idea de potenciar la creatividad humana desde una edad temprana y formar reclutas con una destacada capacidad académica en ciencias y potencial de liderazgo.
En un raro caso de que los principales medios de comunicación informaran sobre Talpiot, un artículo del WSJ de 2007 describió a Talpiot como:
“Es la institución más selectiva del país; admite a 50 estudiantes al año y los forma en física, informática y otras ciencias. Su misión es crear líderes innovadores y con conocimientos tecnológicos, capaces de transformar las fuerzas armadas de Israel.”
Finalmente, a pesar de sus recientes fracasos aparentes para contener a los agentes de IA, Irregular busca recaudar 100 millones de dólares adicionales . Entre los nuevos inversores se encuentra Thrive Capital, dirigida por Joshua Kushner, hermano del yerno del presidente Trump, Jared Kushner, un destacado sionista que ha sido designado para supervisar la toma del poder por parte de tecnócratas en Gaza . Thrive Capital también recibió financiación inicial de Peter Thiel .
Para entender por qué la historia de los fundadores de Irregular en la inteligencia israelí y su red de inversiones israelíes son importantes, es fundamental comprender el sector de las grandes tecnológicas de Israel. Un artículo de 2018 del medio israelí Calcalist describe cómo muchas empresas israelíes se han fundado como fachadas para operaciones de inteligencia desde 2012. Afirma que,
“Desde 2012, los proyectos cibernéticos y de inteligencia que antes se llevaban a cabo internamente en el ejército israelí y en los principales servicios de inteligencia de Israel se transfieren a empresas que, en algunos casos, fueron creadas precisamente para este fin.”
“En algunos casos, se alentó a los gerentes de proyectos de desarrollo en los servicios militares y de inteligencia israelíes a formar sus propias empresas, que luego se hicieron cargo del proyecto [militar y/o de inteligencia].”
Un artículo posterior de Calcalist de 2021 describe el papel fundamental que desempeñaron las redes de inteligencia de Israel en la expansión del sector tecnológico del país (énfasis añadido):
Un análisis del sector realizado por Calcalist reveló que los soldados y oficiales que sirvieron en la Unidad 81 entre 2003 y 2010 fundaron, en la década siguiente, una enorme cantidad de startups: aproximadamente 100 veteranos de la unidad han fundado 50 empresas hasta la fecha, una tasa de emprendimiento con la que ni siquiera los graduados del MIT pueden competir . Y no se trata de empresas cualquiera: las startups fundadas por veteranos de la Unidad 81 han recaudado no menos de 4.000 millones de dólares, y su valor acumulado, antes de las últimas rondas de financiación, superaba los 10.000 millones de dólares. Algunas de ellas han obtenido ganancias impresionantes y otras ya han logrado salidas exitosas.
Ese mismo artículo utilizó a Rapaport, el fundador de Wiz, como ejemplo de la conexión entre la inteligencia israelí y las empresas emergentes:
En 2012, Rapaport (37) fue uno de los fundadores de la empresa de ciberseguridad Adallom, que tan solo tres años después fue vendida a Microsoft por 320 millones de dólares. Recientemente, junto con los mismos socios, fundó Wiz, una empresa de protección en la nube que recaudó la impresionante suma de 100 millones de dólares en su primera ronda de financiación. Como primer empleado de Adallom, Rapaport reclutó a Yevgeny Dibrov, también veterano de la Unidad 81. Tras la venta de la empresa, Dibrov fundó su propia compañía de ciberseguridad, Armis Security, y reclutó a otros veteranos para su equipo. Posteriormente, Dibrov vendió Armis a Insight Partners por 1.100 millones de dólares.
En esencia, los graduados de las Unidades 8200 y 81 tienen la costumbre de fundar empresas tecnológicas, contratar e invertir en sus compatriotas. De igual modo, los graduados del programa Talpiot han desarrollado la costumbre de crear empresas tecnológicas. Una vez que un graduado deja la Unidad 8200 o Talpiot, aplica lo aprendido en las Fuerzas de Defensa de Israel (FDI) a la economía israelí. Los graduados de Talpiot se contratan entre sí y se ayudan mutuamente a encontrar trabajo en el sector privado, lo que ha dado como resultado una industria tecnológica de rápido crecimiento en Israel.
En el libro Israel’s Edge , un graduado de Talpiot comentó: “Tras tres años y algunos meses de dieciocho horas diarias con las mismas treinta personas, llegas a conocer muy bien a los chicos y chicas. Literalmente, puedes reconocerlos con solo ver sus sombras. Harían cualquier cosa por ti”. El graduado también señaló que “ este fuerte vínculo perdura durante el programa, en el servicio y en el sector privado”.
Como resultado de la cultura emprendedora generada por estas unidades de inteligencia de élite, Israel cuenta con más empresas cotizadas en la bolsa Nasdaq que cualquier otro país, con la excepción de Estados Unidos. Es evidente que la comunidad de inteligencia israelí ha desempeñado un papel fundamental en el crecimiento del sector tecnológico del país. Pero, aún más importante, la red de inteligencia israelí representa un grave peligro para la privacidad y la seguridad de los sistemas en los que sus veteranos se han integrado.
La conexión con el altruismo eficaz
También vale la pena mencionar brevemente que los fundadores de Irregular, Nevo y Lahav, tienen vínculos con el movimiento del Altruismo Eficaz (AE), que últimamente ha estado recibiendo la atención que tanto necesita por parte de los medios de comunicación .
El Centro para el Altruismo Eficaz define el altruismo eficaz como «un proyecto intelectual que utiliza la evidencia y la razón para descubrir cómo beneficiar a los demás en la mayor medida posible». Entre las figuras asociadas al altruismo eficaz se encuentran Sam Altman de OpenAI, Dario Amodei de Anthropic, Elon Musk, Peter Thiel , el cofundador de Facebook, Dustin Moskovitz, y Sam Bankman-Fried.
Este movimiento también se ha asociado con el » pesimismo sobre la IA «, y algunos argumentan que esta filosofía es la que guía la campaña de miedo de las grandes empresas de IA sobre la «IA descontrolada».
El medio de investigación Effort informa que Omer Nevo, de Irregular, es miembro de la junta directiva de Effective Altruism Israel y de las ONG Heron y Probably Good, ambas dedicadas al altruismo eficaz. Además, Dan Lahav, cofundador y director ejecutivo de Irregular, recibió 395.000 dólares para iniciar un curso junto con Sella Nevo, hermano de Omer Nevo. Sella y Omer cofundaron una ONG para educar sobre el altruismo eficaz, Impact Focused Education. También cofundaron Probably Good.
Finalmente, la organización filantrópica de Dustin Moskovitz, Coefficient Giving/Open Philanthropy, financia a las tres organizaciones: Effective Altruism Israel, Heron y Probably Good.
Resulta difícil imaginar que el hecho de que Nevo y Lahav se muevan en círculos del altruismo eficaz y reciban financiación de defensores del altruismo eficaz como Moskovitz no tenga ningún impacto en sus filosofías personales y, por lo tanto, en sus proyectos empresariales.
¿Estamos en medio de una operación psicológica de una «IA descontrolada»?
Si bien todos los incidentes descritos anteriormente involucraron a Irregular, no todos los ataques informáticos recientes atribuidos a agentes de IA lo hicieron. Los intentos de ataque a sitios web del gobierno australiano , del gobierno estadounidense y de las Naciones Unidas parecen no tener relación con pruebas realizadas por Irregular.
No obstante, los incidentes de «IA descontrolada» protagonizados por modelos de OpenAI, Google, Meta y Anthropic alimentan la idea de que los agentes de IA se están escapando de sus entornos de prueba. Esta idea se utiliza para exigir regulaciones internacionales, como un tratado internacional similar a los creados para las armas nucleares .
El hecho de que la empresa que realiza las pruebas para las grandes compañías de IA esté fundada y financiada por numerosas personas con profundos vínculos con Israel y el aparato de seguridad israelí es motivo suficiente para detenerse a reflexionar sobre por qué se están difundiendo estas narrativas en este momento. Cabe aclarar que la presencia de veteranos de la Unidad 81, la Unidad 8200 y Talpiot no prueba que las agencias de espionaje israelíes, en colaboración con Irregular, estén sembrando deliberadamente temores sobre una «IA descontrolada» con algún propósito aún desconocido. Pero vale la pena considerarlo.
Teniendo en cuenta todo lo que el público ha aprendido en los últimos años sobre los tentáculos de gran alcance de la red de inteligencia de Israel , ¿es descabellado preguntarse si Irregular permitió intencionadamente que estos modelos de IA «escaparan» de sus entornos de prueba?
Supongamos por un momento que les dieron acceso a internet a los agentes de IA para que hicieran exactamente lo que hicieron: atacar a otras empresas, hackear sitios web y sembrar el pánico entre la población. Una vez que los informes sobre la IA fuera de control llegaron a las masas y a los responsables políticos, los medios corporativos, complacientes con el sistema, podrían presentar una solución preestablecida mediante regulaciones o tratados internacionales.
Quizás el motivo sea simplemente el beneficio económico; tal vez se trate de eliminar a la competencia y asfixiar los modelos de IA de código abierto con regulaciones onerosas. No pretendo comprender del todo cuál sea el motivo, pero sí sé que la prominencia de empresas y directores ejecutivos vinculados a Israel no es algo que debamos descartar como una simple coincidencia. Todos deberíamos preguntarnos si nos están inculcando la idea de que la IA está a punto de destruir a la humanidad con algún otro propósito que va más allá del “altruismo”.
Dicho esto, no creo que no haya motivos de preocupación en relación con la rápida expansión y el crecimiento de la IA. La vigilancia por parte de los gobiernos de todo el mundo aumentará debido a las capacidades de las herramientas de IA. Tampoco estoy totalmente convencido de que los modelos de IA no representen ninguna amenaza para el futuro de la humanidad.
Por ejemplo, a principios de agosto, el Instituto de Seguridad de la IA del Reino Unido publicó un informe que detallaba cómo los agentes de IA llevaron a cabo «acciones autónomas y no autorizadas dirigidas a personas y organizaciones reales». Estos incidentes se diferenciaron de las pruebas Irregulares porque, como señaló el AISI, «no se trataba de un caso en el que un modelo escapara de su entorno de prueba seguro». En cambio, el AISI documentó 17 acciones diferentes realizadas por Mythos 5 de Anthropic y dos acciones de GPT-5.6 Sol de OpenAI que consistieron en insertar código malicioso en un proyecto de código abierto y crear identidades falsas en línea para intentar insertar dicho código.
AISI afirmó que esta era «la primera vez que veíamos que los riesgos relacionados con la autonomía y el engaño se manifestaban con tanta claridad, sin ninguna indicación específica, en el mundo real». La organización señaló que, si bien el agente de IA «nunca recibió instrucciones para engañar», el engaño surgió como un «subproducto de la realización de la tarea» y que este «engaño dirigido a un objetivo» se había considerado «en gran medida teórico».
Básicamente, a los modelos de IA se les asignaban tareas difíciles y estaban dispuestos a hacer casi cualquier cosa para lograr sus objetivos. Desde mi perspectiva inexperta, podía imaginar un escenario futuro en el que un agente de IA recibiera una tarea de sus operadores humanos, pero buscara una solución que podría implicar engaño e incluso daño a los humanos, simplemente porque estaba enfocado en lograr sus objetivos a cualquier precio.
Es evidente que ahora que la IA impacta nuestro mundo a diario, de maneras visibles e invisibles, surgen muchas preguntas. El pensamiento crítico y el escepticismo ante las narrativas populares son imprescindibles.
–
FUENTE
