La empresa de investigación de inteligencia artificial OpenAI ha eliminado silenciosamente su prohibición de utilizar sus herramientas mejoradas con IA con fines militares y ahora está trabajando con el Departamento de Defensa en proyectos de software, incluidos los relacionados con la ciberseguridad.
El creador de ChatGPT también está en conversaciones con el gobierno federal sobre el desarrollo de herramientas para reducir los suicidios de veteranos , dijo Anna Makanju, vicepresidenta de asuntos globales de la compañía, al tiempo que agregó que la compañía ha mantenido su prohibición del uso de IA para desarrollar armas. (Relacionado: OpenAI cree que el genocidio blanco no es gran cosa ).
Las políticas de OpenAI especificaban anteriormente que la compañía no permitía el uso de sus modelos para «actividades que tengan un alto riesgo de daño físico», como el desarrollo de armas o el ejército y la guerra. OpenAI ha eliminado la referencia específica al ejército, aunque su política aún establece que los usuarios no deben «usar nuestro servicio para dañarse a sí mismo o a otros», incluido «desarrollar o usar armas».
«Debido a que anteriormente teníamos lo que era esencialmente una prohibición general sobre [los] militares, mucha gente pensó que eso prohibiría muchos de estos casos de uso, que la gente cree que están muy alineados con lo que queremos ver en el mundo», dijo Makanju.
«Nuestra política no permite que nuestras herramientas se utilicen para dañar a personas, desarrollar armas, vigilar las comunicaciones, herir a otros o destruir propiedades», dijo el portavoz. «Sin embargo, existen casos de uso de seguridad nacional que se alinean con nuestra misión».
La noticia llega después de años de controversia sobre las empresas de tecnología que desarrollan tecnología para uso militar, resaltada por las preocupaciones públicas de los trabajadores del sector tecnológico, especialmente aquellos que trabajan en IA.
El Pentágono ha ganado a Silicon Valley
Silicon Valley ha suavizado su postura sobre la colaboración con el ejército estadounidense en los últimos años. El Pentágono, por su parte, también ha hecho un esfuerzo concertado para ganarse a las nuevas empresas de Silicon Valley para ayudar a desarrollar nuevas tecnologías defensivas y ofensivas e integrar herramientas avanzadas en las operaciones actuales y futuras del departamento.
Las crecientes tensiones entre Estados Unidos y China y la operación militar especial en curso de Rusia en Ucrania también han servido como un medio para disipar muchos de los escrúpulos que alguna vez tuvieron los empresarios sobre la colaboración militar al aumentar los temores de riesgos para la seguridad nacional .
Los expertos en defensa se han mostrado optimistas sobre el impacto que tendrá la IA en el ejército. El ex director ejecutivo de Google, Eric Schmidt, ahora una figura prominente de la industria de defensa, ha comparado la llegada de la IA con la llegada de las armas nucleares.
«Einstein escribió una carta a Roosevelt en la década de 1930 diciendo que existe esta nueva tecnología –las armas nucleares– que podría cambiar la guerra, lo cual claramente hizo. Yo diría que la autonomía (impulsada por la IA) y los sistemas distribuidos y descentralizados son tan poderosos, » dijo Schmidt.
Microsoft, el mayor inversor de OpenAI, ya trabaja ampliamente con las Fuerzas Armadas de EE. UU. y otras ramas del gobierno. Además de OpenAI y Microsoft, empresas tecnológicas como Anthropic y Google ya están participando en los esfuerzos continuos de la Agencia de Investigación Avanzada de Defensa para encontrar software que pueda corregir automáticamente vulnerabilidades en la ciberseguridad de EE. UU. y defender la infraestructura crítica de los ciberataques.
–
FUENTE
cybermedios.org 