Límites de seguridad para interfaces agénticas
Un agente debe razonar sobre una solicitud, pero el servidor debe mantener la responsabilidad de los permisos y las acciones consecuentes.
Una interfaz conversacional puede sentirse unificada, pero su modelo de seguridad debe estar deliberadamente separado. El modelo puede interpretar la intención y preparar una acción propuesta; no debe decidir si tiene permiso para ejecutar esa acción.
Los controles del lado del servidor deben validar las entradas, hacer cumplir la autorización, limitar las herramientas, proteger los secretos y registrar la operación final confirmada. Las instrucciones del prompt no son un sustituto de estos controles.
Esta separación hace que la experiencia sea más segura y más fácil de probar. El modelo propone, la interfaz confirma y el código de la aplicación de confianza decide qué está permitido.
Code Horizon · Sobre mí · Servicios · Perspectivas · Contacto