Resumen: un agente de IA debe tener solo los permisos imprescindibles para su tarea, con aprobación humana en las acciones que no se pueden deshacer, y con un registro de todo lo que hace. Estos son los principios básicos antes de conectarlo a tus datos.
El principio de mínimo privilegio
Dale acceso solo a lo que necesita para la tarea concreta. Si el agente solo prepara recordatorios de cobro, no necesita permiso para enviar correos ni para cambiar la facturación. Cada permiso extra es una superficie de error o de abuso.
Separar lectura y escritura
Empieza con permisos de solo lectura. Cuando el resultado sea fiable, añade escritura en un ámbito limitado, por ejemplo una carpeta concreta o un tipo de documento.
Aprobación humana en lo irreversible
Hay acciones que no se pueden deshacer fácilmente: enviar un pago, enviar un correo a un cliente, borrar registros o publicar. Para esas, el agente prepara el borrador y una persona lo aprueba.
Registro de actividad
Guarda qué hizo el agente, cuándo y con qué datos. Sin ese registro no puedes revisar errores ni demostrar qué pasó si un cliente pregunta.
Datos personales y RGPD
Si el agente trata datos de clientes o empleados, cuenta como tratamiento de datos. Revisa qué proveedor procesa la información, dónde se almacena y si tu política de privacidad lo recoge. Este punto lo tratamos con detalle en las guías de cumplimiento.
Lista rápida antes de activar un agente
- ¿Qué permisos tiene exactamente? ¿Son los mínimos?
- ¿Qué acciones requieren aprobación humana?
- ¿Hay registro de actividad y alguien lo revisa?
- ¿Sabes qué datos personales trata y dónde se guardan?
- ¿Sabes cómo desactivarlo en cinco minutos si falla?