El rápido desarrollo de la inteligencia artificial volvió a ocupar un lugar central en la agenda de Naciones Unidas, luego de que el secretario general de la organización, António Guterres, llamara a los gobiernos a establecer mecanismos internacionales que permitan reducir los riesgos asociados con esta tecnología.

Durante una conferencia previa al inicio de la semana de alto nivel de la Asamblea General de la ONU, Guterres señaló que el desarrollo de la inteligencia artificial está avanzando a una velocidad superior a la comprensión de algunos de sus posibles riesgos.

El funcionario reconoció que esta tecnología tiene un amplio potencial para contribuir en áreas como la salud, educación, acción climática y desarrollo sostenible. Sin embargo, advirtió que sus beneficios deben estar acompañados de medidas de seguridad y mecanismos de responsabilidad.

Uno de los principales planteamientos del secretario general es que los países trabajen de manera coordinada. La razón, explicó, es que los sistemas de inteligencia artificial y sus efectos no se limitan a las fronteras nacionales.

Guterres también hizo referencia a la necesidad de establecer “guardrails”, o barreras de protección, que permitan que la IA sea desarrollada y utilizada de manera segura, transparente y responsable.

El llamado ocurre pocos días antes de que líderes mundiales se reúnan en Nueva York para la semana de alto nivel de la Asamblea General de Naciones Unidas, programada del 18 al 28 de septiembre.

Otro de los asuntos que preocupa a Naciones Unidas es la posibilidad de que sistemas de inteligencia artificial sean utilizados para generar información falsa, manipular contenidos o producir materiales difíciles de distinguir de información auténtica.

El secretario general también destacó la necesidad de mantener la supervisión humana en decisiones relacionadas con el uso de la fuerza. Naciones Unidas ha advertido previamente sobre los riesgos de utilizar inteligencia artificial en contextos militares sin controles adecuados.

La organización considera que la discusión internacional debe incluir tanto los beneficios como los riesgos de esta tecnología. Entre sus posibles aplicaciones se encuentran herramientas para mejorar diagnósticos médicos, fortalecer sistemas educativos, apoyar la agricultura y enfrentar fenómenos relacionados con el cambio climático.

Para avanzar en esta discusión, Naciones Unidas impulsa un Panel Científico Internacional Independiente sobre Inteligencia Artificial y un diálogo global sobre la gobernanza de esta tecnología. El objetivo es incorporar evidencia científica a las discusiones entre gobiernos y contribuir a una mayor coordinación internacional.

Guterres planteó que la regulación no debe quedar exclusivamente en manos de algunos países, debido al carácter global de la tecnología.

El debate internacional llega en un momento de rápida expansión de las herramientas de IA, con nuevos sistemas capaces de generar textos, imágenes, audio, video y realizar tareas cada vez más complejas.

La discusión que se avecina en Naciones Unidas buscará definir cómo aprovechar esas capacidades sin dejar de lado aspectos como la seguridad, la transparencia, los derechos humanos y la responsabilidad de quienes desarrollan y utilizan estas tecnologías.