Gobernanza de agentes de IA: el permiso que precede a la decisión
Antes de que un agente de IA decida algo, necesita identidad propia y permisos mínimos: los controles de acceso que toda gobernanza de agentes de IA debe resolver primero.
· · 7 min

En esta guía
- Por qué identidad propia y permisos mínimos son el primer control de la gobernanza de agentes de IA
- Qué es identidad propia para un agente de IA
- Permisos mínimos: acotar el acceso a la tarea, no al sistema completo
- Un modelo de cuatro capas, de la consulta a la acción sensible
- Registro de cada acción: lo que no se registra queda fuera de control
- Un responsable de negocio para cada agente
- Aprobación humana para lo que no se puede deshacer
- Qué revisar antes de conectar un agente de IA a un sistema de la empresa
Un agente de IA se conectó al ERP de una empresa. Para que funcionara rápido, alguien le dio una cuenta de administrador. Con esa cuenta, el agente podía leer todos los registros, modificar precios y enviar correos a clientes sin que nadie confirmara cada paso. Cuando algo salió mal, nadie pudo decir con certeza qué hizo el agente, cuándo lo hizo ni por qué.
Ese es el punto de partida real de muchas implementaciones de agentes de IA, y también el punto donde empieza, o falla, la gobernanza de agentes de IA de una empresa. Antes de discutir cuánta autonomía darle a un agente, hay que resolver algo más básico: qué identidad tiene y qué puede hacer con ella.
Por qué identidad propia y permisos mínimos son el primer control de la gobernanza de agentes de IA
A un empleado nuevo no se le entregan todas las llaves de la oficina el primer día. Se le da acceso a lo que su puesto requiere, y ese acceso crece a medida que gana responsabilidad y confianza. Con un agente de IA debería pasar lo mismo, y sin embargo la práctica más común es la opuesta: se le da una cuenta compartida, con permisos amplios, porque es más rápido de configurar.
El problema no es solo de seguridad. Es de trazabilidad. Si el agente comparte identidad con una persona o con una cuenta genérica de administrador, cualquier acción del agente queda mezclada con la actividad humana. No hay forma limpia de aislar qué decidió el agente y qué decidió alguien del equipo.
Según un análisis público sobre cómo se diseña y se gobierna la autonomía de los agentes de IA, un agente debe recibir el mínimo privilegio necesario para completar su tarea: ni acceso permanente a todo el sistema, ni una identidad compartida con una persona. Esa frase resume los dos controles que suelen faltar antes de cualquier conversación sobre autonomía: identidad propia y permiso acotado.
Para ordenar esto, conviene apoyarse en marcos ya publicados en lugar de inventar criterios propios. El NIST AI Risk Management Framework organiza la gestión de riesgo de un sistema de IA en gobernar, mapear, medir y gestionar, en ese orden. OWASP, por su parte, publica una guía específica para asegurar aplicaciones agénticas con un top 10 de riesgos propios de aplicaciones basadas en modelos de lenguaje. Ninguno de los dos reemplaza el trabajo de definir permisos en su empresa, pero ambos dan un piso común para no partir de cero.
Esto no es un problema teórico. Según un informe citado por El Diario Salmón sobre la seguridad de la IA agéntica, más del 6% de las conversaciones con chatbots corporativos filtra datos sensibles de la empresa, mayormente información personal, y un 47% de esa fuga ocurre a través de cuentas personales sin supervisión. El mismo informe señala que más del 40% de los usuarios empresariales instaló extensiones de IA en el navegador, y que un 25% de esas extensiones cambia sus propios permisos dentro de los primeros 12 meses. Ninguno de esos números depende de que el agente sea malicioso: dependen de que nadie definió, desde el inicio, qué identidad y qué permiso le correspondía.
Qué es identidad propia para un agente de IA
Identidad propia significa que el agente tiene su propia cuenta, su propio registro de inicio de sesión y su propio set de permisos, separado de cualquier persona del equipo. No es una cuenta de servicio genérica compartida entre varios procesos: es una identidad que se puede nombrar, auditar y, si hace falta, desactivar sin afectar a nadie más.
Esto tiene una consecuencia práctica inmediata: si hoy un agente de IA en su empresa usa el usuario de un empleado, de un gerente o una cuenta de administrador compartida, ese agente no tiene gobernanza real, sin importar cuántos otros controles tenga encima.
Permisos mínimos: acotar el acceso a la tarea, no al sistema completo
El segundo control es el permiso en sí. La pregunta correcta no es "¿qué tan confiable es este agente?", sino "¿qué necesita hacer exactamente esta tarea?". Un agente que responde preguntas de inventario no necesita permiso para modificar precios. Un agente que redacta borradores de correos no necesita permiso para enviarlos sin revisión.
Esto se revisa cada vez que la tarea del agente cambia o se amplía. Un permiso que fue razonable para una tarea puntual puede dejar de serlo cuando ese mismo agente empieza a hacer algo distinto. El permiso mínimo no es una configuración que se hace una vez: es una revisión que se repite.
Un modelo de cuatro capas, de la consulta a la acción sensible
Una forma útil de ordenar los permisos de un agente de IA es pensarlos en capas, de menor a mayor riesgo:
- Consulta: el agente lee información para responder preguntas, sin modificar nada.
- Lectura ampliada: el agente accede a más datos para análisis o recomendaciones, sigue sin escribir.
- Acciones reversibles: el agente puede modificar registros que se pueden corregir fácilmente si hay un error, como actualizar un campo o programar un recordatorio.
- Acciones sensibles: cualquier cosa con efecto económico, de cara al cliente o difícil de revertir. Esta capa siempre pasa por aprobación humana antes de ejecutarse.
Cuando un agente se conecta por primera vez a un sistema como un ERP, suele empezar en la capa de consulta. Subir de capa es una decisión explícita, no un efecto secundario de haberle dado una cuenta con permisos amplios desde el principio.
Registro de cada acción: lo que no se registra queda fuera de control
La identidad propia y el permiso acotado solo funcionan si además queda un registro de qué hizo el agente, cuándo y con qué resultado. Ese registro es lo que permite reconstruir qué pasó cuando algo sale mal, en lugar de especular. Sin él, ni siquiera un agente con permisos bien definidos es auditable: solo se sabe lo que pudo hacer, no lo que efectivamente hizo.
Un responsable de negocio para cada agente
Cada agente de IA en producción necesita una persona responsable, no solo un equipo técnico que lo instaló. Esa persona es quien revisa el registro de acciones, quien decide si el permiso actual sigue siendo el correcto cuando la tarea cambia, y quien responde si el agente comete un error. Sin ese responsable asignado por nombre, los otros controles quedan documentados en una política, pero sin nadie que los haga cumplir en el día a día.
Aprobación humana para lo que no se puede deshacer
Hay un tipo de acción que no debería automatizarse por completo, sin importar cuánto se confíe en el agente: la que no se puede deshacer con facilidad. Cambiar un precio publicado, enviar un correo a una lista de clientes o cerrar un caso sin confirmar con la persona afectada son ejemplos de esto.
Esta no es una limitación temporal mientras el agente "aprende": es un criterio permanente para cualquier acción con impacto económico, reputacional o sobre datos sensibles. El agente puede proponer la acción, pero una persona la confirma antes de que se ejecute. Una vez resuelta la identidad y el permiso, esta aprobación es exactamente el punto donde conecta nuestra guía sobre quién autoriza cada decisión de un agente de IA.
Vale la pena decirlo también al revés: muchos de los problemas que atribuimos a "agentes mal construidos" son, en el fondo, problemas de acceso mal definido desde el día uno. Repasamos varios de esos casos en las fallas más comunes de los agentes de IA que los encarecen.
Qué revisar antes de conectar un agente de IA a un sistema de la empresa
Antes de dar luz verde a un agente de IA sobre un ERP, un CRM o el correo corporativo, conviene responder estas preguntas:
- ¿Este agente tiene su propia identidad, separada de cualquier persona del equipo?
- ¿El permiso que tiene hoy corresponde a la tarea que hace hoy, o es más amplio "por si acaso"?
- ¿Queda un registro de cada acción que el agente ejecuta?
- ¿Hay una persona asignada por nombre como responsable de este agente?
- ¿Las acciones irreversibles o sensibles pasan siempre por aprobación humana antes de ejecutarse?
Si la respuesta a alguna de estas preguntas es "no lo sabemos", esa es la señal de que falta resolver el permiso antes de seguir hablando de autonomía. Es el mismo orden que seguimos en Bprosys cuando integramos un agente de IA a un proceso existente: primero la identidad y el permiso, después la conversación sobre cuánto puede decidir solo.
Si lo que tiene hoy no es un agente propio sino aplicaciones de IA de terceros ya conectadas al correo corporativo, el mismo principio de permiso mínimo aplica: conviene auditar qué permisos tienen esas apps de IA sobre su correo corporativo antes de asumir que están bien configuradas por default.
- permisos de agentes de IA
- gobernanza de agentes de IA
- identidad de agentes de IA
Preguntas frecuentes sobre permisos y acceso de agentes de IA
¿Por qué no alcanza con darle al agente la cuenta de un empleado?
Porque esa cuenta trae consigo todos los permisos de esa persona, no solo los que la tarea del agente necesita. Si el agente erra, queda mezclado con la actividad humana y no hay forma de aislar qué hizo el agente y qué hizo la persona. La identidad propia es la base: sin ella, el resto de los controles de la gobernanza de agentes de IA no tiene a quién aplicarse.
¿Qué significa en la práctica 'permisos mínimos' para un agente de IA?
Significa que el agente recibe acceso solo a los módulos, tablas o acciones que su tarea puntual requiere, nunca a todo el sistema por defecto. Si un agente responde consultas de inventario, no necesita permiso para modificar precios ni para enviar correos a clientes. Ese recorte se revisa cada vez que la tarea del agente cambia, en el modelo de cuatro capas de acceso.
¿Qué acciones de un agente de IA deberían pedir siempre aprobación humana?
Las que no se pueden deshacer con facilidad, las que afectan dinero o datos de clientes, y las que dependen de información ambigua o incompleta. Enviar un correo masivo, cambiar un precio publicado o cerrar un ticket de un cliente sin confirmar son ejemplos típicos. El resto puede moverse en capas de menor riesgo, como se detalla en la sección sobre aprobación humana para lo irreversible.
¿Quién debería revisar los permisos de un agente de IA una vez que ya está en producción?
Una persona responsable de ese agente en particular, no solo el equipo técnico que lo conectó. Esa persona revisa el registro de acciones, ajusta permisos cuando la tarea del agente cambia y responde si algo sale mal. Sin ese responsable asignado, ni el registro ni la aprobación humana funcionan como control real.
¿Esto aplica solo a agentes conectados a un ERP, o también a otros sistemas?
Aplica a cualquier sistema donde un agente de IA pueda leer o modificar información de la empresa: ERP, CRM, correo corporativo, bases de datos o herramientas de soporte. El mismo principio de identidad propia y permiso acotado a la tarea vale para todos. Si lo que le preocupa es el correo corporativo en particular, en Bprosys también describimos cómo auditar los permisos de apps de IA conectadas a esa cuenta.
Cómo lo resolvemos en Bprosys
Si este tema ya frena a su equipo, en estas páginas le contamos cómo lo trabajamos y qué incluye.
- ServicioHiper-Automatización