에이전트 인터페이스의 보안 경계

에이전트는 요청에 대해 추론해야 하지만, 서버는 권한 및 결과적 조치에 대한 책임을 유지해야 합니다.

대화형 인터페이스는 통합되어 보일 수 있지만, 보안 모델은 의도적으로 분리되어야 합니다. 모델은 의도를 해석하고 제안된 조치를 준비할 수 있지만, 해당 조치를 실행할 권한이 있는지 여부를 결정해서는 안 됩니다.

서버 측 제어는 입력을 유효성 검사하고, 권한을 강제하며, 도구를 제한하고, 기밀 정보를 보호하며, 최종 확인된 작업을 기록해야 합니다. 프롬프트 지시는 이러한 제어의 대안이 될 수 없습니다.

이러한 분리는 경험을 더 안전하고 테스트하기 쉽게 만듭니다. 모델이 제안하고, 인터페이스가 확인하며, 신뢰할 수 있는 애플리케이션 코드가 무엇이 허용되는지 결정합니다.