La inteligencia artificial está más que presente en el día a día de la mayoría de las empresas, mejorando notablemente la eficiencia. Lo vemos en herramientas que ayudan a analizar información o en sistemas que automatizan tareas y toman decisiones sin intervención humana, entre otras aplicaciones. Sin ir más lejos, de acuerdo con un estudio de McKinsey, el 62% de empresas afirma estar experimentando con agentes de IA.
Sin embargo, hay un punto crucial que aún no se está abordando con suficiente profundidad: los agentes de IA no son solo sistemas autónomos, sino nuevas identidades dentro de la organización. Y al igual que las identidades de los empleados, estas también necesitan ser gestionadas, controladas y auditadas.
Se trata de un nuevo reto que se abre ante las empresas y sobre el que ahondaremos en este artículo.
Qué es un agente de IA y por qué considerarlo una identidad digital
Un agente de IA es un sistema capaz de interpretar información, tomar decisiones y ejecutar acciones de forma autónoma o semiautónoma. No solo realiza tareas basadas en prompts o automatizaciones aisladas: actúa directamente sobre los procesos, aplicaciones y datos de la organización.
Las capacidades de un agente de IA dentro de una empresa se pueden resumir en funciones clave como:
- Conexión con aplicaciones e interacción con infraestructuras críticas.
- Acceso a datos corporativos y confidenciales para usarlos en sus procesos.
- Ejecución de acciones en nombre de la compañía.
En la práctica, está haciendo lo mismo que haría un empleado. Por eso, tiene sentido tratarlos como identidades digitales (en su caso, no humanas) que requieren la misma seguridad, control, trazabilidad y, en definitiva, gobernanza que las identidades humanas.
¿Cuál es el principal riesgo de los agentes de IA?
El principal riesgo de los agentes de IA no es la tecnología en sí, sino el acceso sin control a los sistemas corporativos y la falta de gestión de sus identidades. Operativamente, este problema se traduce en:
- Agentes con permisos excesivos.
- Acceso a información sensible sin una supervisión clara.
- Dificultad para saber qué acciones ha ejecutado cada agente.
Pongamos un ejemplo para entender mejor este escenario. Supongamos un agente de IA que está conectado al repositorio de GitHub de una empresa de software, lo que le permite leer el código fuente completo de sus productos, detectar bugs y proponer mejoras. Si este acceso no está bien definido, el riesgo no reside en la tarea que ejecuta el agente, sino en el alcance que puede llegar a tener debido a los permisos concedidos.
En este contexto, las empresas deben plantearse preguntas clave para evaluar estos accesos:
- ¿Se puede garantizar que la información a la que acceden los agentes de IA no será compartida o expuesta?
- ¿Responden estos accesos a una necesidad real y específica, o superan los permisos necesarios para su función?
¿Cómo impacta el descontrol de las identidades de IA en la seguridad?
Como cabe esperar, este descontrol también afecta directamente a la seguridad. Existe la posibilidad de que los agentes se conviertan en un vector de ataque y en objetivo de suplantación por parte de atacantes, obteniendo de esta manera el mismo nivel de permisos del que goza el agente.
Además, la ausencia de gestión sobre estas identidades también disminuye la capacidad de reacción de la organización en caso de que el agente cometa errores o ejecute acciones que no debería. Incluso, se puede dar lugar a situaciones de shadow IA, en las que la organización pierde visibilidad sobre qué agentes están operando sin su aprobación.
Estos escenarios pueden derivar en consecuencias de gran impacto, desde la filtración y exposición de información confidencial (modelos financieros, datos de clientes, el propio código fuente de un software, etc.) hasta fallos en la operatividad. Según un informe de Gravitee, el 88% de las organizaciones que han desplegado agentes de IA han confirmado o sospechado incidentes de seguridad.
Si un agente de IA accede a los sistemas de la empresa o ejecuta acciones, debe tener una identidad fuerte, verificable y revocable. De lo contrario, se está ampliando la superficie de ataque.
Por qué incluir los agentes de IA en un modelo de gestión de identidad
Muchas empresas ya tienen implantados sistemas de gestión de identidades y accesos, aunque principalmente están diseñados pensando en personas. En el 94% de las compañías españolas, la definición de «usuario privilegiado» se aplica únicamente a las identidades humanas, como recoge un informe de CyberArk. Es decir, todo aquello que no sea un “usuario tradicional” queda fuera del foco.
¿Cuál es el resultado de no incluir a los agentes de IA dentro de un modelo de gestión de identidades?
- Falta de visibilidad sobre estas identidades y a qué recursos acceden.
- Ausencia de políticas de control específicas sobre sus acciones.
- Complejidad para auditar lo que hacen.
En otras palabras, si los agentes de IA no se gestionan correctamente ni se integran en un marco definido, las empresas están permitiendo que existan identidades que operan sin estar gobernadas. Este problema se agrava si se tiene en cuenta que el 68% de las compañías, según Cloud Security Alliance, no puede distinguir con fiabilidad entre las acciones ejecutadas por agentes de IA y las realizadas por usuarios humanos.
Esto no hace sino aumentar los riesgos en un contexto donde cada vez más procesos se automatizan y crece el número de agentes en las arquitecturas empresariales (y con ello, el de identidades).
Los equipos de seguridad y tecnología no deben ver los límites a la inteligencia artificial como un obstáculo, sino como algo necesario para poder controlarla y gestionarla adecuadamente.
El certificado digital como mecanismo de control y trazabilidad
La cuestión ya no es si hay que gestionar y controlar las acciones de los agentes de IA, sino cómo hacerlo de forma efectiva. Una de las claves para tratar a estos agentes como si fueran un usuario o empleado más de la organización pasa por dotarlos de un certificado digital.
¿Qué aporta asignar un certificado a la identidad de un agente de IA?
- Permite identificar de manera única a cada agente.
- Facilita la definición de políticas de control sobre sus accesos.
- Agiliza la revocación y la modificación de permisos a través de un solo clic.
- Habilita una auditoría detallada de las acciones ejecutadas por el agente.
- Facilita la limitación temporal del acceso a los recursos.
Construir arquitecturas que permitan administrar y auditar qué identidades de agentes de IA acceden a qué, para qué y cuándo es clave. Sin este enfoque, la IA deja de ser una ventaja para convertirse en un punto ciego operativo y en un riesgo evidente.
Los certificados digitales permiten autorizar y auditar las acciones de las identidades de agentes de IA, garantizando el nivel de confianza necesario para adoptarlas de forma segura.
Si en tu empresa ya trabajas con agentes de IA, hazte estas preguntas:
- ¿Sabes donde acede cada agente?
- ¿Conoces qué puede hacer o cuáles son sus límites?
- ¿Tienes evidencias de qué acciones o tareas ha ejecutado?
Si la respuesta a alguna de ellas es no, la gobernanza sobre tus agentes de IA está en el aire.
Consulta nuestras publicaciones relacionadas con IA en los medios
Europa puede ganar la carrera de la IA si convierte la confianza digital en su ventaja competitiva
La gestión de identidades como base de la seguridad TI; certificados digitales y la hoja de ruta hacia la era postcuántica
