Aunque se anunciará como una herramienta para detectar imágenes de abuso infantil, su potencial de uso indebido es enorme a tenor de los detalles que están siendo de dominio público.
La herramienta basada en redes neuronales escaneará los dispositivos de los usuarios individuales en busca de material de abuso sexual infantil (CSAM), según ha declarado hoy el respetado profesor de criptografía Matthew Green a The Register.
Sin embargo, en lugar de utilizar la antigua tecnología de cotejo de hash, la nueva herramienta de Apple -que se anunciará hoy junto con un informe técnico- utilizará técnicas de aprendizaje automático para identificar imágenes de niños abusados.
Lo que sé es que se trata de una nueva «función de coincidencia neuronal» y que se entrenará con el corpus de imágenes de abuso sexual infantil del Centro Nacional para Niños Desaparecidos y Explotados de Estados Unidos. Así que me equivoqué al decir que era una función de hash. Es mucho más potente», dijo Green, que durante la noche tuiteó extensamente sobre la nueva iniciativa.
(…)
Los gobiernos de Occidente y de las regiones autoritarias estarán encantados con esta iniciativa, teme Matthew Green. ¿Qué va a impedir que China (o algún otro régimen censor como Rusia o el Reino Unido) introduzca imágenes de fugitivos buscados en esta tecnología y la utilice para localizarlos físicamente?
«Ese es el escenario de terror de esta tecnología», dijo Green. «Apple es el único servicio que sigue operando un servicio E2EE importante en China, en iMessage. Con esta tecnología pública, ¿exigirá China que Apple añada la capacidad de escaneo a iMessage? No lo sé. Pero seguro que me preocupa mucho más que hace dos días».
Según Green, que dijo haber hablado con personas que habían sido informadas sobre el plan, la tecnología de escaneo se implementará en un diseño «de dos partes». Tal y como explicó: «Apple tendrá la base de datos de fotos sin cifrar (en realidad, los datos de entrenamiento para la función de coincidencia neuronal) y el teléfono tendrá las fotos en sí. Ambos se comunicarán para escanear las fotos en el teléfono. Se enviarán alertas a Apple si *múltiples* fotos de tu biblioteca coinciden, no puede ser una sola».
La tecnología de escaneo de privacidad se desplegará primero entre los usuarios de iThing de Estados Unidos, con la idea de ampliarla gradualmente a todo el mundo a medida que pase el tiempo. Green dijo que se desplegaría inicialmente contra las fotos respaldadas en iCloud antes de expandirse a un escaneo completo del teléfono.
–
FUENTE Y LEER COMPLETO EN
cybermedios.org 