“La inteligencia artificial no sólo está transformando nuestro mundo, sino que lo está revolucionando”, dijo el jueves el Secretario General de la ONU, recordando que las tareas que antes requerían años de experiencia humana ahora se completan en un instante. Sin embargo, alertó, “los riesgos son enormes”.
António Guterres participó en un debate ministerial del Consejo de Seguridad sobre inteligencia artificial moderado por el secretario de Estado estadounidense, Antony Blinken, cuyo país ocupa la presidencia rotatoria del órgano resolutivo.
Guterres se refirió al acelerado crecimiento de esas tecnologías, advirtiendo que supera la capacidad de gobernarlo, planteando cuestiones fundamentales sobre la rendición de cuentas, la igualdad, la seguridad y la protección.
“Y sobre el papel de la humanidad en el proceso de toma de decisiones. La inteligencia artificial sin supervisión humana dejaría al mundo ciego, y tal vez de manera más peligrosa e imprudente en la esfera de la paz y la seguridad mundiales”, señaló.
Toma de decisiones automatizada
En adelante la tecnología avanzará más rápidamente que hoy, aseguró, citando las inversiones récord que vuelven cada día más potente, versátil y accesible la inteligencia artificial, y que han automatizado la toma de decisiones.
También subrayó la consecuencias imprevistas de esos sistemas, y aseveró que cada avance da lugar a vulnerabilidades nuevas e inimaginables.
En esta línea de reflexión, aludió al peligro que corren los derechos humanos, la dignidad y el estado de derecho con los sistemas que van “desde la vigilancia autónoma de fronteras hasta la vigilancia predictiva y más allá”.
Guterres advirtió que la carrera armamentista basada en la inteligencia artificial crea un terreno fértil para malentendidos y errores de cálculo; y que los ciberataques habilitados por esas tecnologías podrían paralizar la infraestructura crítica y los servicios esenciales de un país.
“Lo más grave es que la inteligencia artificial está erosionando el principio fundamental del control humano sobre el uso de la fuerza”, apuntó, mencionando la selección de objetivos a través de algoritmos para tomar decisiones de vida o muerte.
Inteligencia artificial y armas nucleares
El titular de la ONU mostró especial alarma por la integración de la inteligencia artificial con las armas nucleares, que tendría “consecuencias potencialmente desastrosas”, y llamó a “evitarla a toda costa”.
“El destino de la humanidad nunca debe dejarse en manos de la ´caja negra´ de un algoritmo”, enfatizó, y añadió que los humanos siempre deben conservar el control sobre la toma de decisiones, guiados por el derecho internacional y los principios éticos.
La mano de la humanidad creó la inteligencia artificial y debe ser la que la guíe, abundó.
Gobernanza y desarrollo equitativo de la inteligencia artificial
En este sentido, conminó una vez más a los Estados miembros de la ONU a establecer una gobernanza de la inteligencia artificial que se ajuste al marco de los principios de las Naciones Unidas.
Asimismo, Guterres pugnó por la creación de un marco global que promueva el desarrollo equitativo de la inteligencia artificial y que haga hincapié en apoyar a los países en desarrollo para evitar una brecha en el acceso a esas tecnologías que dé lugar a un mundo de rico y «pobres.
“También reitero mi llamamiento a la prohibición de las armas autónomas letales. Debemos establecer nuevas prohibiciones y restricciones a los sistemas de armas autónomas para 2026”, puntualizó.
Guterres indicó que ningún país debería diseñar, desarrollar, desplegar o utilizar aplicaciones militares de inteligencia artificial en conflictos armados que violen el derecho internacional, el derecho humanitario y los derechos humanos, lo que incluye no confiar en la inteligencia artificial para seleccionar o atacar objetivos de forma autónoma.
El Consejo de Seguridad debe dar el ejemplo
“Los miembros de este Consejo deben dar el ejemplo y garantizar que la competencia por las tecnologías emergentes no desestabilice la paz y la seguridad internacionales. Los urjo a que unan sus fuerzas para construir un futuro de la inteligencia artificial seguro, protegido e inclusivo”, recalcó.
Nuestras próximas acciones serán cruciales y las elecciones que hagamos ahora definirán el futuro de todos, aseveró Guterres.
“Cada retraso en el establecimiento de una gobernanza internacional de la inteligencia artificial incrementará el riesgo para todos”, insistió, y agregó que esto exigirá una cooperación global sin precedentes que esté a la altura de los desafíos.
El sector público debe liderar el avance y la gobernanza
En la sesión del Consejo de Seguridad participó también Fei-Fei Li, profesora del Departamento de Ciencias Cibernéticas de la Universidad de Stanford, quien consideró imperativo que sea el sector público el que lidere el avance y gobernanza de la inteligencia artificial.
“El sector público de la inteligencia artificial debe garantizar que sus beneficios se distribuyan ampliamente y estén alineados con los intereses públicos”, los gobiernos deben tomar medidas audaces, dijo Li, quien también es integrante de la Junta de Asesoramiento Científico de la ONU.
La académica instó a los gobiernos a ver la inteligencia artificial “no sólo como una tecnología para regular, sino como un activo estratégico en el cual invertir, lo que significa financiar la investigación básica, apoyar la educación y el desarrollo de la fuerza laboral, y crear plataformas inclusivas para la colaboración global”.
Según Li, únicamente la inversión pública sostenida puede asegurar que la inteligencia artificial refleje las variadas necesidades y valores de la humanidad.
