La inteligencia artificial (IA) está transformando industrias, economías y la geopolítica a una velocidad sin precedentes. Pero, ¿Cómo podemos asegurarnos de que su desarrollo sea seguro y responsable?

Este fue el tema central en el encuentro virtual organizado por el Consejo Asesor Científico de las Naciones Unidas sobre «Verificación de la IA», donde nuestro Director Matías Bianchi junto con expertas/os del mundo académico, la industria y la política debatieron sobre la construcción de sistemas fiables para monitorear su implementación.

6 claves sobre la verificación de la IA

1️⃣ Un imperativo geopolítico
El avance de la IA plantea el riesgo de una «carrera armamentista» sin regulaciones claras. La verificación de los sistemas es clave para reducir tensiones, generar confianza y evitar usos indebidos que podrían derivar en accidentes o pérdida de control.

2️⃣ La gobernanza informática como pilar de la verificación
Dado que la IA depende de una gran capacidad de cómputo, rastrear y regular su uso puede ser una estrategia efectiva para garantizar un desarrollo seguro. Sin embargo, estas medidas deben ser sólidas y difíciles de eludir por actores con intenciones adversas.

3️⃣ Nuevas tecnologías prometedoras, pero en desarrollo
Avances como la prueba criptográfica y el hardware confiable (como el proyecto FlexHEG) ofrecen soluciones viables, pero aún están en fases tempranas. Para que sean efectivas, se requiere mayor inversión y cooperación internacional.

4️⃣ El papel clave de la ONU
Las Naciones Unidas pueden facilitar el diálogo global, promover herramientas de verificación de código abierto y actuar como una entidad neutral que fomente la cooperación entre países para garantizar una IA segura.

5️⃣ El tiempo es crucial
El desarrollo de la IA avanza a gran velocidad. Si no se implementan pronto mecanismos de verificación efectivos, en la década de 2030 podríamos enfrentarnos a sistemas autónomos de alto riesgo sin una regulación adecuada.

6️⃣ Involucrar a la ciudadanía en la gobernanza de la IA
La conciencia pública sobre los riesgos y oportunidades de la IA es fundamental. Informar y educar a la sociedad puede generar apoyo político para la implementación de sistemas de verificación sólidos y garantizar un desarrollo tecnológico alineado con el bien común.

Un paso adelante en la regulación de la IA

Este encuentro marcó un avance en la conversación global sobre cómo verificar la IA de manera efectiva. La colaboración internacional será clave para garantizar que la inteligencia artificial se desarrolle con mecanismos de control que permitan aprovechar su potencial sin comprometer la seguridad global.

💡 Desde Asuntos del Sur, entendemos que es clave impulsa el debate sobre el impacto de la inteligencia artificial en nuestras sociedades, contribuyendo a la construcción de marcos que garanticen su desarrollo ético y responsable.