La inteligencia artificial (IA) está transformando industrias, economías y la geopolítica a una velocidad sin precedentes. Pero, ¿Cómo podemos asegurarnos de que su desarrollo sea seguro y responsable?

Este fue el tema central en el encuentro virtual organizado por el Consejo Asesor Científico de las Naciones Unidas sobre «Verificación de la IA», donde nuestro Director Matías Bianchi junto con expertas/os del mundo académico, la industria y la política debatieron sobre la construcción de sistemas fiables para monitorear su implementación.

6 claves sobre la verificación de la IA

1️⃣ Un imperativo geopolítico
El avance de la IA plantea el riesgo de una «carrera armamentista» sin regulaciones claras. La verificación de los sistemas es clave para reducir tensiones, generar confianza y evitar usos indebidos que podrían derivar en accidentes o pérdida de control.

2️⃣ La gobernanza informática como pilar de la verificación
Dado que la IA depende de una gran capacidad de cómputo, rastrear y regular su uso puede ser una estrategia efectiva para garantizar un desarrollo seguro. Sin embargo, estas medidas deben ser sólidas y difíciles de eludir por actores con intenciones adversas.

3️⃣ Nuevas tecnologías prometedoras, pero en desarrollo
Avances como la prueba criptográfica y el hardware confiable (como el proyecto FlexHEG) ofrecen soluciones viables, pero aún están en fases tempranas. Para que sean efectivas, se requiere mayor inversión y cooperación internacional.

4️⃣ El papel clave de la ONU
Las Naciones Unidas pueden facilitar el diálogo global, promover herramientas de verificación de código abierto y actuar como una entidad neutral que fomente la cooperación entre países para garantizar una IA segura.

5️⃣ El tiempo es crucial
El desarrollo de la IA avanza a gran velocidad. Si no se implementan pronto mecanismos de verificación efectivos, en la década de 2030 podríamos enfrentarnos a sistemas autónomos de alto riesgo sin una regulación adecuada.

6️⃣ Involucrar a la ciudadanía en la gobernanza de la IA
La conciencia pública sobre los riesgos y oportunidades de la IA es fundamental. Informar y educar a la sociedad puede generar apoyo político para la implementación de sistemas de verificación sólidos y garantizar un desarrollo tecnológico alineado con el bien común.

Un paso adelante en la regulación de la IA

Este encuentro marcó un avance en la conversación global sobre cómo verificar la IA de manera efectiva. La colaboración internacional será clave para garantizar que la inteligencia artificial se desarrolle con mecanismos de control que permitan aprovechar su potencial sin comprometer la seguridad global.

💡 Desde Asuntos del Sur, entendemos que es clave impulsa el debate sobre el impacto de la inteligencia artificial en nuestras sociedades, contribuyendo a la construcción de marcos que garanticen su desarrollo ético y responsable. 

Nuestro Director Matías Bianchi fue invitado a formar parte del Consejo Global para la Inteligencia Artificial Responsable como embajador global.

El 20 de febrero, la Cámara de los Lores en Londres fue sede de la primera reunión del Consejo Global para la Inteligencia Artificial Responsable, un espacio comprometido con el desarrollo de tecnologías de IA éticas, seguras y beneficiosas para la humanidad, proporcionando una plataforma inclusiva para que todos debatan, influyan y den forma al futuro de la Inteligencia Artificial. Con la representación de 64 países, embajadores y embajadoras asumieron el compromiso de impulsar los más altos estándares en la gobernanza de la IA.

Entre ellos, Matías Bianchi, Director de Asuntos del Sur, prestó juramento como embajador global. Desde Asuntos del Sur, reafirmamos nuestro compromiso de contribuir a este espacio desde nuestra experiencia en gobernanza tecno-política, promoviendo el bienestar social a través del diálogo inclusivo, la cooperación internacional y la construcción de estándares integrales. 

Para fortalecer la democracia es clave que los servidores públicos se capaciten en desarrollo tecnológico en pos de una gestión innovadora al servicio de la ciudadanía comprendiendo la importancia, beneficios y desafíos de la IA. Esto implica también asegurar que el diseño de la Inteligencia Artificial respete el Estado de derechos, los marcos regulatorios existentes, así como los valores democráticos y la diversidad.

«La IA está transformando cada aspecto de nuestras vidas a una velocidad sin precedentes. Ante desafíos globales, la respuesta debe ser global. Este espacio busca compartir experiencias, preocupaciones, marcos legales y mejores prácticas en todo el mundo». — Matías Bianchi.

Junto con investigadores, empresarios y líderes políticos de diversos países, nos comprometimos a trabajar por una IA ética, transparente y que respete la diversidad, la privacidad y la seguridad de nuestras comunidades.

🎯 Objetivos clave de la reunión inaugural:
✅ Revisar y fortalecer los marcos existentes de IA responsable.
✅ Definir directrices globales para su gobernanza ética.
✅ Establecer estándares internacionales unificados.
✅ Sentar las bases para certificaciones globales que garanticen el cumplimiento de estos principios.

Desde Asuntos del Sur, seguimos impulsando el debate sobre el impacto de la inteligencia artificial en nuestras sociedades, contribuyendo a la construcción de marcos que garanticen su desarrollo ético y responsable.

Desde Asuntos del Sur, enfrentamos los retrocesos fortaleciendo redes de activismo, denunciando amenazas a la democracia y capacitando a +900 líderes y lideresas del sector público y la ciudadanía en nuestra Academia de Innovación Política. Con impacto en +40 países del Sur Global, colaboramos con gobiernos, organizaciones, comunidades y activistas para construir mejores democracias desde la innovación política.

📢 Nuestro Informe Anual 2024 muestra cómo, incluso en contextos adversos, tomamos acción para avanzar hacia un Nuevo Acuerdo Democrático. Nuestra misión es clara: fortalecer instituciones, promover la inclusión, la igualdad de género y la participación ciudadana, impulsando el estudio, el análisis y la producción de conocimiento en políticas públicas, desarrollo social, democracia y derechos humanos. Cada día, buscamos fomentar mejores instituciones, inclusión, igualdad de género y participación a través del estudio, análisis y producción de contenido sobre políticas públicas, desarrollo social, democracia y derechos humanos. 

💡 Nuestros logros en 2024:
🔹 Articulamos con +110 organizaciones de América Latina y el Sur Global.
🔹 Publicamos +22 investigaciones y herramientas para reflexionar y actuar.
🔹 Impulsamos la inteligencia colectiva con +29 talleres y encuentros, reuniendo a +1200 participantes del sector público y la sociedad civil.

🚀 Cada desafío fue una oportunidad para redoblar esfuerzos:
✅ Promovimos debates públicos.
✅ Diseñamos estrategias innovadoras con funcionarias/os públicos.
✅ Impulsamos investigaciones y proyectos con impacto regional.

🔍 Descargá nuestro reporte y conocé los aprendizajes y decisiones que marcaron nuestro camino [Haciendo clic aquí]

Con entusiasmo y propuestas innovadoras, se llevó a cabo el lanzamiento oficial de la Red Argentina de Juventudes, un espacio colaborativo y federal que reúne a jóvenes de organizaciones de la sociedad civil, gobiernos locales, partidos políticos y centros de investigación. La Red busca fortalecer la incidencia juvenil en las políticas públicas, articulando esfuerzos para enfrentar los desafíos del presente y construir un futuro más inclusivo y equitativo.

El encuentro inicial tuvo lugar en Casa Sur, donde referentes y organizaciones de todo el país celebraron el nacimiento de la Red. Durante el evento, se presentaron las propuestas y compromisos surgidos del Encuentro Nacional de Juventudes (ENJU), que se destacó como el motor impulsor de esta iniciativa. Además, se llevó a cabo un conversatorio moderado por Nicolás Ferrero, miembro de Asuntos del Sur, con la participación de Belén Mediona (Centro de Estudios Históricos de la Universidad nacional de Misiones), Oriana Cherini (REDAPPE), Arturo Cuello (Jóvenes por el Clima), Catalina Barros (GDN), Emiliano Blanco (Jóvenes por San Luis) y Agustina Donnet (Igualdad).

“Esta Red no solo busca dar voz a las juventudes, sino también garantizar que esa voz se traduzca en acción concreta”, destacó uno de los organizadores. La Red se propone integrar las perspectivas de todas las regiones del país, visibilizando los saberes y prácticas locales como herramientas clave para fortalecer la democracia y promover la justicia social.

Democracia desde lo colectivo

En un contexto marcado por la crisis democrática, la Red Argentina de Juventudes se presenta como una respuesta necesaria para descentralizar los debates y recuperar los saberes locales como herramientas de transformación. “Es urgente generar espacios de diálogo en cada rincón del país, valorizando las prácticas situadas y construyendo soluciones inclusivas desde lo colectivo”, señalaron los organizadores.
El evento de lanzamiento, cuya grabación está disponible en YouTube, marca el inicio de una etapa prometedora para las juventudes argentinas. La invitación sigue abierta: cada voz cuenta en este proyecto para transformar la participación juvenil y construir un país más justo y sostenible.

Ingresa aquí para acceder a la galería de fotos.