La inteligencia artificial (IA) ocupó uno de los lugares protagónicos de una agenda cargada de temas durante la semana pasada. Además de representar uno de los principales focos de discusión en la Asamblea General de la ONU, se incluyó como un tema importante de la agenda de la reunión bilateral de los presidentes de China y Estados Unidos.

Aunque nadie pone en duda los enormes beneficios de la IA, los riesgos que la acompañan se han hecho cada vez más evidentes. Como se recordará, una de las primeras señales de alarma se produjo en abril de este año con el modelo Mythos, con capacidades excepcionales en ciberseguridad, de la empresa Anthropic.

Como parte de una prueba, se comprobó la aptitud del modelo para salir de entornos controlados y avisar al investigador a cargo. Pero, sin que nadie se lo pidiera, tras ingeniárselas para conseguir acceso a Internet, publicó detalles de estas tareas en varios sitios web públicos. Además, en otros casos, intentó ocultar acciones que parecía saber que eran prohibidas.

Desde entonces, hemos presenciado cada vez más episodios de esta naturaleza. El más conocido ocurrió en julio, con el hackeo de Hugging Face, una plataforma muy utilizada para compartir modelos de IA.

Cuando la empresa OpenAI se encontraba realizando pruebas de ciberseguridad, los agentes del modelo utilizado evadieron su cerco digital, accedieron a Internet y violaron los sistemas de ciberseguridad de Hugging Face. Adicionalmente, encontraron la forma de comunicarse entre sí, se coordinaron y ocultaron sus acciones a sus supervisores.

Los casos han continuado, pero en un entorno cada vez más preocupante. A diferencia de lo ocurrido con Mythos y Hugging Face, en los que se estaba evaluando la capacidad de los modelos para violar sistemas de ciberseguridad, los incidentes más recientes han ocurrido durante la ejecución de tareas rutinarias, como la recolección de datos. En varias ocasiones, cuando los agentes no lograron obtener la información, recurrieron a técnicas de hackeo para tratar de conseguirla.

Desde las propias empresas de inteligencia artificial se está dando la voz de alarma. En el caso de Mythos, Anthropic decidió no ponerlo a disposición del público por los riesgos derivados de sus capacidades en ciberseguridad. Asimismo, en un evento muy sonado, un investigador de Anthropic anunció su renuncia a la compañía, con el argumento de que las empresas líderes están avanzando hacia una superinteligencia capaz de mejorarse a sí misma y poner en riesgo la supervivencia de la humanidad. Posteriormente, los dirigentes de varias de las principales compañías de IA advirtieron que el desarrollo de modelos de IA puede estar avanzando demasiado rápido.

En un mensaje de la relevancia que le da al tema, el Consejo de Seguridad de la ONU, cuya agenda concentra los asuntos más importantes para la paz y la estabilidad mundial, celebró una sesión la semana pasada con la participación los CEO de OpenAI y Anthropic. Además de advertir sobre los riesgos de un avance descontrolado de la IA para el futuro de la humanidad, estos ejecutivos señalaron que son los gobiernos los que deben asumir el liderazgo.

Me parece importante aclarar que existen tres tipos de riesgos. El primero, real y presente, es que la inteligencia artificial se use con propósitos criminales, como vulnerar los sistemas de ciberseguridad de sectores clave o desarrollar armas biológicas. El segundo, también presente, es que los modelos tomen decisiones autónomas imprevisibles, como en los casos antes descritos. El tercero, más lejano pero posible, es que los modelos adquieran la capacidad de automejora recursiva, es decir, de potenciar sus capacidades a un ritmo tal que sea imposible controlarlos.

Existen numerosas propuestas para hacer frente a este reto. La mayoría sostiene que debe haber una cooperación estrecha entre empresas y gobiernos, pero que la decisión final debe recaer en estos últimos. También se ha insistido en la necesidad de un mayor intercambio de información, así como en la definición de estándares internacionales para el acceso, operación y manejo de riesgos, con la supervisión de evaluadores externos. Y, obviamente, se ha enfatizado la importancia de una mayor regulación.

El gobierno del Reino Unido ha advertido que varios de estos temas estarán en el centro de las discusiones durante su presidencia del G20 en 2027. Aunque bienvenido, este anuncio me deja con la impresión de la clásica carrera entre la liebre y la tortuga.

Pero el problema principal es que los dos principales jugadores, China y Estados Unidos, tienen otra visión. Donald Trump ha señalado que su país no necesita nuevas regulaciones para la IA y ha catalogado los escenarios apocalípticos como una farsa. Por su parte, Xi Jinping se ha limitado a señalar que la IA debe permanecer bajo control humano y beneficiar a la población. Así, los únicos acuerdos de su reciente reunión fueron intercambiar opiniones sobre los riesgos y beneficios de la IA, y establecer un canal de comunicación bilateral para incidentes relacionados con esta tecnología.

El fondo del asunto es que ni China ni Estados Unidos desean perder el liderazgo en IA. Por tanto, es poco probable que se tomen en el corto plazo las acciones requeridas para contener los riesgos derivados de esta tecnología. Lamentablemente, todo indica que el incentivo para implementar medidas de fondo surgirá solo cuando estemos al borde de una crisis. Mientras tanto, tal parece que dependeremos principalmente de las acciones que tomen las empresas de IA, las mismas que han advertido que no pueden resolver el problema solas.