小さなモデルと意図的なシステム

検索、プロンプト、およびツールが明確な仕事に合わせて設計されている場合、焦点を当てたモデルは驚くほど能力が高いように感じられます。

小さなモデルはすべてを知っている必要はありません。それは、適切な証拠、限られた責任、そしてシステム残りの部分との予測可能なインターフェースが必要です。

これはエンジニアリングの問いを変えます。モデルを普遍的に知能化する方法を問うのではなく、どの文脈が必要か、どのアクションが許可されるか、そして成功がどのように測定されるかを問います。

意図的なシステムはレイテンシを削減し、インフラストラクチャの要件を低下させ、評価をより現実的ものにします。モデルは製品そのものではなく、製品内のコンポーネントの一つとなります。