La inteligencia artificial está más que presente en el día a día de la mayoría de las empresas, mejorando notablemente su eficiencia. Sus funcionalidades han evolucionado a un ritmo vertiginoso y ya no solo se limitan a las capacidades generativas, que de por sí marcaron un antes y un después. Hoy también existen sistemas con capacidades de automatización avanzada y de toma de decisiones sin intervención humana, como es el caso de los agentes de IA. Sin ir más lejos, de acuerdo con un estudio de McKinsey, el 62% de las empresas afirma estar experimentando con ellos.
Sin embargo, hay un punto crucial que aún no se está abordando con suficiente profundidad y relacionado con estos agentes: no son solo sistemas autónomos, sino nuevas identidades dentro de la organización. Y al igual que las identidades de los empleados, estas también necesitan ser gestionadas, controladas y auditadas.
Se trata de un nuevo reto que se abre ante las empresas y sobre el que ahondaremos en este artículo.
Qué es un agente de IA y por qué considerarlo una identidad digital
Un agente de IA es un sistema que interpreta información, toma decisiones y completa tareas de forma autónoma o semiautónoma, con capacidad de razonamiento, aprendizaje y planificación. Es decir, puede actuar directamente sobre los procesos, aplicaciones y datos de la organización, adaptándose al entorno en el que opera.
Las capacidades de un agente de IA dentro de una empresa se pueden resumir en funciones clave como:
- Conexión con aplicaciones e interacción con infraestructuras críticas.
- Acceso a datos corporativos y confidenciales para usarlos en sus procesos.
- Ejecución de acciones en nombre de la compañía.
En la práctica, está haciendo lo mismo que haría un empleado. Por esa razón, tiene sentido tratarlos como identidades digitales (en su caso, no humanas) que requieren la misma seguridad, control, trazabilidad y, en definitiva, gobernanza que las identidades humanas.
¿Cuál es el principal riesgo de los agentes de IA?
El principal riesgo de los agentes de IA está en el acceso sin control a los sistemas corporativos y la falta de gestión de sus identidades. Operativamente, este problema se traduce en:
- Agentes con permisos excesivos.
- Acceso a información sensible sin una supervisión clara.
- Dificultad para saber qué acciones ejecuta cada agente.
Pongamos un ejemplo para entender mejor este escenario. Supongamos un agente de IA que está conectado al repositorio de GitHub de una empresa de software, lo que le permite leer el código fuente completo de sus productos, detectar bugs y proponer mejoras. Si este acceso no está bien definido, el riesgo no reside en la tarea que ejecuta el agente, sino en el alcance que puede llegar a tener debido a los permisos concedidos.
En este contexto, las empresas deben plantearse preguntas clave para evaluar estos accesos:
- ¿Se puede garantizar que la información a la que acceden los agentes de IA no será compartida o expuesta?
- ¿Responden estos accesos a una necesidad real y específica, o superan los permisos necesarios para su función?
¿Cómo impacta el descontrol de las identidades de IA en la seguridad?
Como cabe esperar, este descontrol también afecta directamente a la seguridad. Existe la posibilidad de que los agentes se conviertan en un vector de ataque y en objetivo de suplantación por parte de atacantes, obteniendo de esta manera el mismo nivel de permisos del que goza el agente.
Además, la ausencia de gestión sobre estas identidades también disminuye la capacidad de reacción de la organización en caso de que el agente cometa errores o ejecute acciones que no debería. Incluso, se puede dar lugar a situaciones de shadow IA, en las que la organización pierde visibilidad sobre qué agentes están operando sin su aprobación.
Estos escenarios pueden derivar en consecuencias de gran impacto, desde la filtración y exposición de información confidencial (modelos financieros, datos de clientes, el propio código fuente de un software, etc.) hasta fallos en la operatividad. Según un informe de Gravitee, el 88% de las organizaciones que han desplegado agentes de IA han confirmado o sospechado incidentes de seguridad.
Si un agente de IA accede a los sistemas de la empresa o ejecuta acciones, debe tener una identidad fuerte, verificable y revocable. De lo contrario, se está ampliando la superficie de ataque.
Por qué incluir los agentes de IA en un modelo de gestión de identidad
Cuando los agentes de IA no se gestionan correctamente ni se integran en un marco definido, las empresas están permitiendo que estas identidades operen dentro de sus sistemas sin estar gobernadas. Esto supone un riesgo, sobre todo, cuando cada vez más procesos se automatizan y con ello crece el número de agentes de IA en las arquitecturas empresariales.
La necesidad de establecer medidas para supervisar y controlar dichas identidades resulta evidente, aunque muchas empresas continúan adaptándose a esta nueva realidad. Según recoge un informe de CyberArk, en el 94% de las compañías españolas la definición de «usuario privilegiado» se aplica únicamente a las identidades humanas. Además, el 70% de estas organizaciones no posee controles de seguridad de identidad para la IA.
Esto muestra que, si bien las empresas ya implantan modelos de gestión de identidades y accesos, no todas incluyen en ellos las identidades de agentes de IA. ¿Y cuáles son las consecuencias?
- Falta de visibilidad sobre a qué recursos acceden o en qué procesos intervienen.
- Ausencia de políticas de control específicas sobre las acciones que pueden realizar.
- Complejidad para auditar lo que hacen.
Esta situación se agrava si se tiene en cuenta que el 68% de las compañías, según Cloud Security Alliance, no puede distinguir con fiabilidad entre las acciones ejecutadas por agentes de IA y las realizadas por usuarios humanos. En otras palabras, las empresas que ya están adoptando agentes de IA en sus ecosistemas deben incorporar a su vez los mecanismos necesarios para gestionar y gobernar estas identidades.
Los equipos de seguridad y tecnología no deben ver los límites a la inteligencia artificial como un obstáculo, sino como algo necesario para poder controlarla y gestionarla adecuadamente.
El certificado digital como mecanismo de control y trazabilidad
La cuestión ya no es si hay que gestionar y controlar las acciones de los agentes de IA, sino cómo hacerlo de forma efectiva. Una de las claves para tratar a estos agentes como si fueran un usuario o empleado más de la organización pasa por dotarlos de un certificado digital.
¿Qué aporta asignar un certificado a la identidad de un agente de IA?
- Permite identificar de manera única a cada agente.
- Facilita la definición de políticas de control sobre sus accesos.
- Agiliza la revocación y la modificación de permisos a través de un solo clic.
- Habilita una auditoría detallada de las acciones ejecutadas por el agente.
- Facilita la limitación temporal del acceso a los recursos.
Construir arquitecturas que permitan administrar y auditar qué identidades de agentes de IA acceden a qué, para qué y cuándo es clave. Sin este enfoque, la IA deja de ser una ventaja para convertirse en un punto ciego operativo y en un riesgo evidente.
Los certificados digitales permiten autorizar y auditar las acciones de las identidades de agentes de IA, garantizando el nivel de confianza necesario para adoptarlas de forma segura.
Si en tu empresa ya trabajas con agentes de IA, hazte estas preguntas:
- ¿Sabes donde acede cada agente?
- ¿Conoces qué puede hacer o cuáles son sus límites?
- ¿Tienes evidencias de qué acciones o tareas ha ejecutado?
Si la respuesta a alguna de ellas es no, la gobernanza sobre tus agentes de IA está en el aire.
Consulta nuestras publicaciones relacionadas con IA en los medios
Europa puede ganar la carrera de la IA si convierte la confianza digital en su ventaja competitiva
La gestión de identidades como base de la seguridad TI; certificados digitales y la hoja de ruta hacia la era postcuántica
