NACIONES UNIDAS.- Este jueves, el Secretario General de la ONU, António Guterres, pidió en el Consejo de Seguridad de la ONU por “evitar a toda costa” la integración de la inteligencia artificial (IA) en las armas nucleares, algo que podría tener “consecuencias potencialmente desastrosas“.
“La IA sin supervisión humana dejaría al mundo ciego, y pondría la paz y la seguridad mundiales en un lugar peligroso y temerario“, indicó Guterres ante el Consejo de Seguridad, donde hoy se celebra una sesión ministerial, presidida por el Secretario de Estado de EE.UU., Anthony Blinken, sobre los avances de esta herramienta y sus implicaciones en la seguridad mundial.
The UN can bring people together to ensure Artificial Intelligence is used for good.
This stunning AI artwork from @refikanadol was displayed during this year’s UN General Assembly, serving as a reminder of the need for strong leadership for our common future.#YearInReview pic.twitter.com/xt4JMFMARk
— United Nations (@UN) December 19, 2024
El Secretario General subrayó que, si bien la IA está marcando “una diferencia positiva” en países que sufren conflictos, inseguridad alimentaria o los efectos del cambio climático, también ha entrado “en el campo de batalla de una forma más problemática”.
En este sentido, indicó que los conflictos recientes se han convertido en terreno de prueba para las aplicaciones militares de la IA, lo que “crea un terreno fértil para malentendidos, errores de cálculo y equivocaciones”.
Así, recordó que esta herramienta ya se ha usado para seleccionar objetivos y tomar decisiones “de vida o muerte“, y señaló que los ciberataques posibilitados por la IA “podrían paralizar las infraestructuras críticas de un país y sus servicios esenciales”.
“Seamos claros: el destino de la humanidad nunca debe dejarse en manos de la ‘caja negra’ de un algoritmo. Los humanos siempre deben tener el control en la toma de decisiones guiados por el derecho internacional, incluidas las leyes internacionales humanitarias y de derechos humanos y los principios éticos“, agregó.
Además de sus efectos en la seguridad internacional, Guterres incidió en el peligro que supone que la IA cree “contenidos muy realistas” que luego se difunden en Internet y “manipulan la opinión pública, amenazan la integridad de la información y hacen que la verdad sea indistinguible de la mentira”.
El político portugués trajo a colación el Pacto Mundial Digital de la ONU, que fue aprobado el pasado septiembre y aborda el rápido avance de la IA, y compartió su intención de financiar oportunidades innovadoras de esta herramienta “donde más se necesita”.
“Un mundo de ricos y pobres en IA sería un mundo de inestabilidad perpetua. Nunca debemos permitir que (esta tecnología) derive en un avance de la desigualdad“, subrayó, y aseveró que la tecnología debe estar “al servicio de toda la humanidad”.
