Gobernar la IA: el mayor desafío de la humanidad en el siglo XXI

En algún punto de la última década, la inteligencia artificial (IA) dejó de ser una promesa futurista para convertirse en el asesor silencioso de nuestras vidas. Decide qué vemos, qué compramos, con quién hablamos y, a veces, hasta qué pensamos. Sus algoritmos aprenden más rápido que nuestras leyes y se expanden más velozmente que nuestra capacidad de comprenderlos. 

Lo inquietante no es su poder, sino nuestra falta de reglas para contenerlo. Mientras las máquinas aprenden a razonar, la humanidad aún debate cómo y quién debe vigilarlas. El futuro no espera, y la gobernanza de la IA ya no es un tema de ciencia ficción, es una urgencia que puede definir hacia qué tipo de futuro nos encaminamos.

“Estamos ante el problema de gestión más complejo que jamás haya enfrentado la humanidad, la IA. Por encargo de Naciones Unidas, desde el 2021 se trabaja en cómo hacer que todos los países nos pongamos de acuerdo en un sistema regulatorio internacional antes de que surja una IA que no sea de nuestro agrado”, señaló Guillermo Gándara, Director de la Red Iberoamericana de Prospectiva  – RIBER, en la presentación del libro “Estado del Futuro 20.0”.

El libro publicado por el Millennium Project fue presentado en la ciudad de La Paz, en el marco del Futures Week 2025. El informe global, que reúne el trabajo de expertos en más de sesenta países, alerta sobre los grandes desafíos que definirán la próxima década: desde el cambio climático y las desigualdades económicas hasta la gobernanza de la IA, el nuevo motor y riesgo del siglo XXI.

“Este libro es fruto de la inteligencia colectiva. Se ve el protagonismo de la mirada Latinoamericana y entendemos que ya no podemos ser espectadores sino protagonistas. Debemos ver qué papel vamos a jugar como región al momento de negociar la gobernanza sobre la IA”, añadió Verónica Agreda, rectora de la Universidad Franz Tamayo.  

La IA entre la promesa y la amenaza

El documento dedica un capítulo al desarrollo acelerado de la IA. La considera una herramienta poderosa para resolver problemas globales como la gestión del agua, la reducción de emisiones de carbono o la optimización de sistemas sanitarios, pero también advierte que su evolución podría escapar al control humano si no se establecen mecanismos adecuados.

El punto crítico, de acuerdo al informe, no es si la inteligencia artificial alcanzará una inteligencia superior a la humana, sino si los gobiernos y las instituciones serán capaces de ponerse de acuerdo en cómo regularla antes de que eso ocurra.

Para Gándara, la clave no está en detener la innovación, sino en dotarla de propósito ético. “Podemos usar la IA para sensibilizar a las personas sobre la huella hídrica de sus consumos o para monitorear en tiempo real las emisiones de CO₂. Pero si no hay gobernanza global, corremos el riesgo de que la misma herramienta que puede salvarnos sea la que nos lleve a un escenario catastrófico”.

Menos de 10 años para actuar 

En el libro se describen tres tipos de inteligencias artificiales: la estrecha, la general y la súper inteligencia artificial. La IA Estrecha o IAE es la que conocemos actualmente, la que todos utilizan en el colegio, el trabajo o nuestros momentos de ocio. 

A esta IA es a la que le hacemos preguntas, le pedimos que genere resúmenes, que contraste datos, que genere escenarios posibles, que cree imágenes o las edite, etc. Si bien hace maravillas aún es limitada. 

“La que viene después es la IA General  IAG. Esta tiene como propósito y característica que puede aprender. Podrá editar su código, actuar de forma autónoma para abordar problemas con estrategias similares o mejores a las de los humanos”, explica Gándara.

La IAG dará pie a la Super IA. Esta es  la que llegará a ser independiente de los humanos. Desarrollará sus propios propósitos, metas y estrategias, sin el entendimiento, conciencia y control humano. Podrá aumentar continuamente su inteligencia y alcanzar acciones más allá de la humanidad en su conjunto. 

“Me dijeron que hablara del futuro… es esto que se visualiza”, sentencia Gándara. 

Es por ello la importancia de que los países se pongan de acuerdo para poner como  prioridad la creación de un sistema regulatorio internacional. Este sistema deberá poner las reglas, parámetros, auditorías, barreras y similares a la IA antes que llegue la IAG, porque de ella puede surgir una inteligencia que no sea de nuestro agrado.

El futuro no se predice, se construye

El Estado del Futuro 20.0 insiste en que el estudio del porvenir no debe ser un ejercicio contemplativo, sino una herramienta transformadora. 

“El estudio del futuro no es solo mirar hacia adelante como quien juega a adivinar. Debe servir para transformar el presente. Los informes que producimos están al servicio de la sociedad, porque el conocimiento del futuro es el primer paso para evitar ser víctimas de quienes lo diseñen sin nosotros”, insiste Gándara.

Enfatiza en la responsabilidad compartida y sostiene que todos tenemos un rol: los estudiantes deben formarse en pensamiento de futuros; los profesores, generar currículos que fomenten la creatividad y la reflexión; los gobiernos, pensar en planes de largo plazo; los empresarios, preguntarse cómo generar rentabilidad resolviendo los grandes retos del milenio. Nadie puede quedar al margen.

Los jóvenes: protagonistas del porvenir

Consciente de la importancia de la juventud en la construcción de los futuros posibles, Agreda sostiene que no pueden ser espectadores, sino agentes activos del cambio y que para ello la educación es muy importante.

“Nosotros, en Unifranz, creemos firmemente que los jóvenes deben desarrollar pensamiento de futuro. Por eso impulsamos actividades como la Future Week, que se convierte en una plataforma de cocreación, reflexión y diálogo. Allí los estudiantes presentan prototipos, políticas públicas y proyectos con impacto real. Sabemos que ellos serán nuestros futuros gobernantes, empresarios e innovadores”, afirma.

Para Ágreda, el libro del Millennium Project encaja con la visión de su universidad: una educación que no solo forme profesionales, sino diseñadores del futuro. “Las universidades no podemos seguir preparando a los jóvenes para un mundo que ya no existe. Debemos enseñarles a construir el que viene”.

Gobernanza y conciencia colectiva

El libro no deja espacio para el pesimismo, pero sí lanza una advertencia: sin cooperación internacional, sin una gobernanza ética de la inteligencia artificial y sin la participación activa de los jóvenes, los avances tecnológicos podrían desembocar en nuevas formas de desigualdad y control.

El futuro, parece decirnos este informe, no pertenece a quienes lo adivinan, sino a quienes se atreven a imaginarlo con responsabilidad. Desde La Paz, entre los ecos de la Future Week y la presentación del Estado del futuro 20.0, la conversación sobre la IA, la ética y la juventud adquiere un nuevo sentido: el de una humanidad que, pese a sus crisis, aún conserva el poder de elegir su destino.

“A los jóvenes de ahora, sigan de manera proactiva y creando reflexiones hacia el futuro. Tomen este ejercicio como una carta de navegación y como una oportunidad para generar oportunidades ya sea desde el punto de vista empresarial o de la atención de las causas sociales. A los jóvenes en el futuro les digo: espérennos, nos veremos muy pronto», finaliza Gándara.