Limites de sécurité pour les interfaces agentiques

Un agent doit raisonner sur une demande, mais le serveur doit rester responsable des autorisations et des actions consécutives.

Une interface conversationnelle peut sembler unifiée, mais son modèle de sécurité doit être délibérément séparé. Le modèle peut interpréter l'intention et préparer une action proposée ; il ne doit pas décider s'il a l'autorisation d'exécuter cette action.

Les contrôles côté serveur doivent valider les entrées, imposer l'autorisation, limiter les outils, protéger les secrets et enregistrer l'opération finale confirmée. Les instructions de prompt ne sont pas un substitut à ces contrôles.

Cette séparation rend l'expérience plus sûre et plus facile à tester. Le modèle propose, l'interface confirme, et le code d'application de confiance décide ce qui est autorisé.

Code Horizon · À propos · Services · Analyses · Contact