Este miércoles en Nueva York, el Secretario General de la ONU, António Guterres, y el Alto Comisionado para los Derechos Humanos, Volker Türk, ofrecieron una conferencia de prensa en donde advirtieron los peligros del rápido avance de la Inteligencia Artificial (IA).
Una de las preocupaciones expresadas por Guterres fue la falta de regulación del uso de la IA para dirigir ataques en conflictos bélicos recientes, así como el desarrollo de sistemas diseñados para vulnerar la ciberseguridad de infraestructuras críticas y la propagación de deepfakes para manipular la opinión pública y descarrilar la diplomacia.
La mayor preocupación que la IA genera ante el Consejo de Seguridad de la ONU es su capacidad para transformar los conflictos de guerra. Al respecto, uno de los usos militares mejor documentados ha sido el de un sistema de aprendizaje automático conocido como Lavender en el conflicto Israel-Gaza.
Fuentes de inteligencia militar israelí involucradas en el conflicto revelaron al periódico The Guardian que Lavender tiene la capacidad de analizar grandes cantidades de datos y asignar puntuaciones a personas según la probabilidad estimada de pertenecer a Hamás o la Yihad Islámica.
Según las declaraciones, la nueva tecnología identificó cerca de 37 000 objetivos potenciales, lo que provocó decenas de miles de muertes al inicio del conflicto.
El Washington Post también describió la utilización de la IA a través de otro dispositivo de las fuerzas israelís. El sistema conocido como The Gospel o Habsora, aceleró la selección de objetivos militares mediante la identificación de patrones de comportamiento para generar recomendaciones sobre qué edificios, túneles, lanzadores de cohetes y otras infraestructuras, podrían ser atacados.
A estas revelaciones y preocupaciones se suman las declaraciones que hizo recientemente el investigador británico Jacob Coxon, quién es excolaborador de OpenAI y Anthropic, dos de las Inteligencias Artificiales que lideran el mercado. Coxon, advirtió que quienes impulsan la carrera por la IA se precipitan de manera irresponsable hacia el desarrollo de sistemas superinteligentes capaces de mejorarse a sí mismos, lo que pone en riesgo a la humanidad.
“Creo que ambas empresas están jugando con nuestras vidas”, escribió Coxon en un mensaje de X que se hizo viral al comunicar su salida de Anthropic.
El uso militar de la IA que el ejército israelí ha llevado a cabo en el conflicto contra Gaza y la crisis humanitaria en la que ha sumergido a su población, así como las recientes declaraciones de excolaboradores de las principales inteligencias artificiales conlleva a plantear además de las implicaciones en seguridad para las naciones y la sociedad, los límites legales, morales y éticos de la IA en su desarrollo e implementación.
–
¡Consulta nuestras redes sociales!
No olvides seguirnos en X
