Está sucediendo demasiado rápido. La ONU lo dice. De nuevo.
Un nuevo informe de las Naciones Unidas contiene una advertencia que parece menos una política y más una cuenta regresiva. La ventana para establecer una gobernanza global para la inteligencia artificial no acaba de cerrarse. Está cerrando de golpe. Si no actuamos ahora, la IA no será sólo una tecnología avanzada, sino otro motor para aplastar la desigualdad global.
Estas cifras provienen del Panel Científico Internacional Independiente de la ONU, un grupo de cuarenta expertos elegidos por la Asamblea General en 2025. Su mensaje a los líderes mundiales es contundente.
“No esperes”.
Eso es lo que dijo recientemente António Guterres, el secretario general. La ciencia está hecha. El peligro es real. Ya no podemos alegar ignorancia.
¿Qué está cambiando ahora mismo?
La velocidad es lo que duele.
La IA generativa escribe código ahora. Procesa conjuntos de datos del tamaño de bibliotecas. Crea vídeos falsos que parecen terriblemente reales. Ayuda a los científicos a encontrar agujas en montones de datos genéticos. Pero los sistemas agentes (los que actúan sin mucha ayuda humana) se están moviendo aún más rápido.
Cada pocos meses, la complejidad que manejan estas máquinas aproximadamente se duplica.
Piensa en eso. Duplicación. Complejidad. En meses.
A medida que se vuelven más inteligentes e independientes, observarlos se vuelve más difícil. Controlarlos se vuelve imposible. A menos que construyamos guardias más estrictas.
Y los riesgos son confusos.
Falsificaciones profundas. Material de abuso sexual generado por algoritmo, dirigido a mujeres y niños de manera desproporcionada. Desinformación que huele a verdad como para pudrir la confianza pública y silenciar la democracia. Los ciberdelincuentes utilizan estas herramientas para cometer fraude e ingeniería social.
También empeora dentro de la mente. Estos sistemas pueden impulsar pensamientos dañinos en los usuarios vulnerables, alimentando crisis de salud mental. Incluso el suicidio.
Luego está el calor. Literalmente. Los centros de datos que mantienen este motor en funcionamiento bombean gases de efecto invernadero a los que no les importan las fronteras digitales.
¿Hay algo bueno aquí?
Sí. No malinterpretes esto.
Los modelos de IA mapearon recientemente más de 200 millones de estructuras de proteínas. Eso suena aburrido. Que no es. Acelera el descubrimiento de fármacos. Acelera la investigación de vacunas. Aborda de frente la resistencia a los antibióticos.
Señala la escasez de alimentos antes de que se convierta en hambruna.
Amplía el acceso a la educación para los niños de aldeas remotas. Ofrece apoyo de salud mental cuando no hay un terapeuta presente. Brinda herramientas a personas con discapacidad que realmente funcionan.
Salva vidas.
Simplemente también los amenaza.
El marcador está manipulado
¿Quién dirige esto?
Mira el hardware. Estados Unidos posee aproximadamente las tres cuartas partes de la potencia informática mundial necesaria para los principales supermodelos de IA. China representa alrededor del 15 por ciento.
Súmelos. El noventa por ciento.
Dos naciones. Casi todo el poder. Los modelos más avanzados son construidos por empresas en esas fronteras exactas.
Mientras tanto, los países en desarrollo miran fijamente esta brecha y se encuentran con las manos vacías. Les falta talento. Carecen de infraestructura. Definitivamente les falta financiación. No pueden construir estos sistemas y, a menudo, ni siquiera pueden auditar los que tienen que utilizar.
Así es como se amplía la desigualdad. No lentamente. Pero por defecto.
La ley no puede seguir el ritmo
Los gobiernos lo están intentando, más o menos.
Actualmente existen más de cuarenta marcos de gobernanza de IA repartidos por todo el planeta. Pero aquí está el problema. Están fragmentados. Se contradicen. La mayoría nunca ha sido probada adecuadamente.
El “dilema de la evidencia” atrapa a los legisladores.
Necesita datos sólidos para escribir buenas reglas. La IA cambia antes de que termines de recopilar esos datos.
La ironía es amarga. Las empresas que construyen estas potentes herramientas suelen ser las que prueban su seguridad. ¿Independiente? Difícilmente.
Necesitamos controles de terceros. Necesitamos estándares internacionales compartidos. Necesitamos que fluya dinero hacia los países que no pueden permitirse su propia supervisión para que puedan gobernar la IA en sus propios términos, y no simplemente seguir a Estados Unidos y China.
Todo esto lleva a Ginebra.
6 de julio de 2024. ¿O era 2026? La fecha del informe dice que allí se abre el Diálogo Global de la ONU sobre la Gobernanza de la IA. Los estados miembros se reunirán para discutir sobre la coordinación. Para debatir sobre la gestión. Intentar ponerse a la altura de una máquina que no para de evolucionar.
La pregunta es si alguien aparece con un plan real. O si simplemente hablamos mientras se cierra la ventana.
