Confini di sicurezza per le interfacce agentiche
Un agente dovrebbe ragionare su una richiesta, ma il server deve rimanere responsabile delle autorizzazioni e delle azioni conseguenti.
Un'interfaccia conversazionale può sembrare unitaria, ma il suo modello di sicurezza dovrebbe essere deliberatamente separato. Il modello può interpretare l'intenzione e preparare un'azione proposta; non dovrebbe decidere se ha l'autorizzazione per eseguire quell'azione.
I controlli lato server devono validare gli input, imporre l'autorizzazione, limitare gli strumenti, proteggere i segreti e registrare l'operazione finale confermata. Le istruzioni del prompt non sono un sostituto di questi controlli.
Questa separazione rende l'esperienza più sicura e più facile da testare. Il modello propone, l'interfaccia conferma e il codice dell'applicazione fidato decide ciò che è consentito.
Code Horizon · Chi sono · Servizi · Approfondimenti · Contatti