エージェントインターフェースのセキュリティ境界

エージェントはリクエストについて推論すべきですが、サーバーは権限と結果的なアクションの責任を負う必要があります。

対話型インターフェースは一見統合されているように感じられますが、そのセキュリティモデルは意図的に分離されるべきです。モデルは意図を解釈し、提案されたアクションを準備することはできますが、そのアクションを実行する権限があるかどうかを決定すべきではありません。

サーバーサイドの制御は、入力を検証し、権限を強制し、ツールを制限し、機密情報を保護し、最終的に確認された操作を記録する必要があります。プロンプト指示はこれらの制御の代わりにはなりません。

この分離により、体験はより安全になり、テストも容易になります。モデルが提案し、インターフェースが確認し、信頼できるアプリケーションコードが何が許可されているかを決定します。