当检索、提示和工具围绕明确的任务进行设计时，一个专注的模型会显得异常强大。
较小的模型不需要知道一切。它需要正确的证据、狭窄的责任范围以及与系统其余部分的可预测接口。
这改变了工程问题。我们不再询问如何使模型具有普遍的智能，而是询问哪些上下文是必要的，哪些操作是被允许的，以及如何衡量成功。
深思熟虑的系统降低了延迟，减少了基础设施需求，并使评估更加现实。模型成为产品中的一个组件，而不是产品本身。
Code Horizon · 关于 · 服务 · 洞察 · 联系