Petits modèles, systèmes délibérés
Un modèle axé peut sembler remarquablement capable lorsque la récupération, les prompts et les outils sont conçus autour d'un rôle clair.
Un modèle plus petit n'a pas besoin de tout savoir. Il a besoin des bonnes preuves, d'une responsabilité étroite et d'une interface prévisible avec le reste du système.
Cela change la question d'ingénierie. Au lieu de demander comment rendre le modèle universellement intelligent, nous demandons quel contexte est nécessaire, quelles actions sont autorisées et comment le succès sera mesuré.
Les systèmes délibérés réduisent la latence, diminuent les demandes d'infrastructure et rendent l'évaluation plus réaliste. Le modèle devient un composant à l'intérieur d'un produit plutôt que le produit lui-même.
Code Horizon · À propos · Services · Analyses · Contact