작은 모델, 신중한 시스템

검색, 프롬프트 및 도구가 명확한 작업에 맞춰 설계되면 집중된 모델은 놀라운 능력을 발휘할 수 있습니다.

작은 모델은 모든 것을 알아야 하는 것은 아닙니다. 올바른 증거, 좁은 책임, 그리고 시스템의 나머지 부분과의 예측 가능한 인터페이스가 필요합니다.

이는 엔지니어링 질문을 변화시킵니다. 모델을 보편적으로 지능지게 만드는 방법을 묻는 대신, 어떤 컨텍스트가 필요한지, 어떤 행동이 허용되는지, 그리고 성공이 어떻게 측정될지 묻습니다.

신중한 시스템은 지연 시간을 줄이고 인프라 요구 사항을 낮추며 평가를 더 현실적으로 만듭니다. 모델은 제품 자체가 아니라 제품 내부의 하나의 구성 요소가 됩니다.