Batas keamanan untuk antarmuka agentic

Agen harus merefleksikan permintaan, tetapi server harus tetap bertanggung jawab atas izin dan tindakan konsekuensial.

Antarmuka percakapan mungkin terasa terpadu, tetapi model keamanannya harus dipisahkan secara sengaja. Model dapat menafsirkan niat dan menyiapkan tindakan yang diusulkan; ia tidak boleh memutuskan apakah ia memiliki izin untuk mengeksekusi tindakan tersebut.

Kontrol sisi server harus memvalidasi input, menegakkan otorisasi, membatasi alat, melindungi rahasia, dan merekam operasi yang dikonfirmasi pada akhirnya. Instruksi prompt bukan pengganti kontrol-kontrol ini.

Pemisahan ini membuat pengalaman lebih aman dan lebih mudah diuji. Model mengusulkan, antarmuka mengonfirmasi, dan kode aplikasi yang terpercaya memutuskan apa yang diizinkan.

Code Horizon · Tentang · Layanan · Wawasan · Kontak