Escanea con tu teléfono
Conectar un agente de IA con sistemas empresariales amplía su utilidad y también su responsabilidad. Consultar información, modificar un registro o iniciar un pago son capacidades distintas y no deben compartir el mismo nivel de permiso.
El gobierno establece fronteras verificables: quién autoriza, qué puede hacer el agente, con qué evidencia, durante cuánto tiempo y bajo qué supervisión.
La respuesta corta
Gobernar un agente de IA significa decidir quién lo autoriza, qué datos puede consultar, qué acciones puede ejecutar, qué evidencia necesita y cuándo debe escalar. Esas decisiones deben quedar documentadas y probarse antes y durante la operación.
Permisos por herramienta
Consultar inventario no equivale a modificar precios; leer un ticket no equivale a cerrarlo; preparar un pago no equivale a confirmarlo. Cada conector, API o servidor MCP debe aplicar privilegio mínimo, autenticación, límites y registro de actividad.
Riesgo según el caso
La misma tecnología tiene consecuencias distintas según el uso. El marco AI RMF de NIST propone gestionar riesgos a lo largo del ciclo de vida y observar validez, seguridad, resiliencia, transparencia, explicabilidad, privacidad y sesgos perjudiciales.
Operar con trazabilidad
Una bitácora útil conserva versión del agente, fuente consultada, acción solicitada, resultado, intervención humana y correcciones. También hacen falta pruebas periódicas, responsables definidos y un procedimiento para suspender o degradar funciones cuando aparece un riesgo.