智能体应针对请求进行推理，但服务器必须负责权限和后续操作。
对话界面可能感觉统一，但其安全模型应有意识地分离。模型可以解释意图并准备拟议的操作；它不应决定是否有权执行该操作。
服务器端控制必须验证输入、执行授权、限制工具、保护密钥并记录最终确认的操作。提示指令不能替代这些控制措施。
这种分离使体验更安全且更容易测试。模型提出建议，界面予以确认，受信任的应用程序代码决定允许什么。
Code Horizon · 关于 · 服务 · 洞察 · 联系