Карликовые модели: зачем компании обучают крошечную LLM под одну узкую задачу
Нет никакого смысла нанимать нобелевского лауреата, чтобы он отвечал на однотипные звонки в колл-центр. Примерно так же выглядит ситуация, когда повторяющуюся узкую задачу — разметить запись, проверить формат ответа, отнести обращение к одной из десяти категорий — отдают флагманской языковой модели через API. Читать далее