Microsoft mantiene bajo control a los agentes de IA

CIUDAD DE MÉXICO.- A medida que los agentes de inteligencia artificial se incorporan a las tareas operativas de las empresas y organizaciones, este rol también abre nuevos riesgos de seguridad.
Ante el panorama actual, Microsoft presentó un nuevo conjunto de capacidades y herramientas diseñadas para identificar, restringir y supervisar a estos sistemas autónomos en tiempo real sin perder el control de sus datos, aplicaciones y sistemas. La estrategia contempla asignarles identidades propias, limitar sus permisos y modificar su nivel de acceso conforme cambia su comportamiento.
En entrevista con Tech Bit de EL UNIVERSAL, Yina Arenas, vicepresidenta corporativa de Gestión de Productos y directora de Productos de Microsoft Identity & Network Access, explicó por qué los agentes de IA no deben tratarse como una aplicación tradicional ni como una extensión automática del empleado.

Un desafío distinto a las amenazas tradicionales
A diferencia de un software convencional, los agentes de IA adaptan sus planes y cambian de contexto a medida que ejecutan una tarea, operando la velocidad y escala de las máquinas.
"Los agentes se están convirtiendo rápidamente en parte de la forma en que se realiza el trabajo [...] Eso no significa que los agentes sean inherentemente maliciosos. Son herramientas capaces a las que se puede otorgar acceso a sistemas importantes y que pueden cometer errores, ser manipuladas o verse comprometidas", explica Yina Arenas.
Además, señala que, a diferencia de una persona, un agente puede operar continuamente y ejecutar tareas a la velocidad de una máquina. Por ello, los mecanismos de seguridad deben ser capaces de identificar cambios y responder sin depender exclusivamente de la supervisión humana.
En este sentido, una de las medidas centrales de Microsoft consiste en establecer una identidad independiente para cada agente, de manera que las empresas puedan identificarlo, conocer quién es responsable de su operación y decidir qué acciones realiza.
A partir de esa identificación, la compañía plantea que los agentes no hereden automáticamente todos los permisos de los empleados que los utilizan. En su lugar, deben recibir únicamente los accesos necesarios para completar una tarea específica y conservarlos durante el tiempo indispensable.
Esta lógica se materializa en Dynamic Permissions, una funcionalidad que permite delimitar los permisos de acuerdo con la tarea autorizada y retirarlos cuando esta cambia o termina. Las políticas de la organización establecen los límites de acceso, mientras que determinadas acciones de mayor impacto pueden requerir una aprobación humana verificable.
"Como ha dicho Satya Nadella, debemos separar la provisión de inteligencia de la autoridad sobre ella. Los controles que determinan a qué puede acceder un agente y qué puede hacer deben estar fuera del modelo, donde este no pueda eludirlos ni alterarlos", agrega la experta.
La compañía también trabaja en ampliar la detección de agentes que operan dentro de las organizaciones. De acuerdo con la directiva, Microsoft está extendiendo sus capacidades a 35 tipos adicionales de agentes locales, para alcanzar un total de 60, e incorporándolos a un registro unificado.
El objetivo es que las empresas tengan mayor visibilidad sobre los sistemas de IA que utilizan, incluso cuando no se trata de herramientas desplegadas directamente en la nube.

Detectar riesgos antes de que escalen
Es importante saber que la asignación de permisos mínimos no elimina por completo las amenazas. Un agente puede comenzar a trabajar con los accesos adecuados y, posteriormente, recibir instrucciones maliciosas, ocultas en un documento externo, una técnica conocida como prompt injection o inyección de instrucciones.
Para atender este tipo de situaciones, Microsoft presentó Dynamic Agent Risk, una capacidad diseñada para evaluar continuamente el nivel de riesgo de los agentes y determinar si sus permisos siguen siendo adecuados.
"No es una puntuación única asignada durante la incorporación inicial. Es una evaluación continuamente actualizada del riesgo actual del agente y de si su acceso vigente sigue siendo adecuado para ese nivel de riesgo. Por lo tanto, la pregunta no es solo '¿debería este agente continuar o detenerse?', sino '¿qué debería permitírsele leer, modificar o aprobar en este momento?'", explica Arenas.
De esta manera, la seguridad no depende únicamente de una revisión al momento de incorporar un agente, sino de una evaluación que se actualiza mientras trabaja.
Por otro lado, una de las consideraciones que ha tomado en cuenta Microsoft es la contención de la amenaza sin detener toda la operación que está realizando. Para ello, destaca Dynamic Conditional Access, que amplía las capacidades de Microsoft Entra Conditional Access a los agentes, un cambio en el nivel de riesgo puede activar medidas como reducir permisos, limitar el acceso a determinados datos, restringir conexiones de red o solicitar la autorización de una persona antes de ejecutar una acción relevante.
Yina Arenas ejemplifica esto con un agente encargado de revisar gastos. Cuando este recibe instrucciones sospechosas e intenta aprobar una operación que no corresponde a su tarea, la organización podría permitirle seguir consultarle informes, pero impedirle autorizar pagos hasta que una persona verifique la acción.
Además, solo ante los niveles de riesgo más altos se contempla asilar al agente o detenerlo por completo.
A esta estrategia también se integra Project Perception, que incorpora Playbooks y Guardian Agents para apoyar la respuesta a incidentes de forma continua. Estas herramientas ayudan a investigar cambios en el riesgo y recomendar o aplicar medidas de contención dentro de las políticas y los límites de aprobación definidos por las personas.
"Las personas mantienen el control sobre los objetivos y las decisiones importantes. El sistema asume el trabajo continuo que no puede realizarse manualmente", asegura Arenas.

La seguridad también debe adoptar la IA
Para Microsoft, el crecimiento de agentes de IA los obliga a replantear la manera en la que las empresas administran su seguridad. Si una organización utiliza miles de estos sistemas, revisar manualmente cada alerta y coordinar todas las respuestas puede dejar de ser viable.
La compañía plantea que los equipos de seguridad también utilicen mecanismos automatizados para vigilar el comportamiento de los agentes, investigar evidencias y responder a posibles amenazas, siempre bajo reglas establecidas por las personas.
Arenas señaló que Microsoft ya opera con cientos de miles de agentes y que esa experiencia influye en las capacidades que desarrolla para sus clientes.
De cara a los próximos años, la directiva prevé que estos sistemas se gestionen con controles similares a los que existen para los empleados: "Los agentes se gestionarán con el mismo rigor que los empleados, con identidad propia, una persona responsable claramente identificada y un registro preciso de lo que hizo una persona frente a lo que hizo un agente en su nombre. La seguridad será continua en lugar de periódica: reevaluará los riesgos y adaptará la protección mientras cada agente trabaja. Y, a medida que los modelos sean más transparentes, los sistemas de seguridad obtendrán evidencias más profundas sobre por qué un agente hace algo, no solo sobre qué está haciendo".
Así, el reto para las empresas no será únicamente incorporar inteligencia artificial a sus operaciones, sino garantizar que los agentes puedan trabajar con autonomía sin obtener más acceso del necesario ni ejecutar acciones que comprometan la información o los sistemas de la organización.