От прототипа до продукта: как на самом деле проектируют приложения на базе LLM
Самое опасное в больших языковых моделях — то, насколько легко с ними можно что-нибудь сделать. Вернее, даже не так: прототип продукта с LLM сделать удивительно легко, а вот хорошее приложение на его основе — удивительно трудно. Именно об этот подводный камень и спотыкаются большинство разработчиков на этапе перехода от минимально работоспособной модели к созданию полноценного продукта. Причина, на самом деле, банальна: между «смотрите, я за вечер навайбкодил работающего чат-бота» и «этим ботом ежедневно пользуются десять тысяч человек» лежит примерно такая же пропасть, как между собранным в гараже прототипом карта из водопроводных труб с мотором от триммера и гоночным болидом «Формулы-1».Именно эта проблема рассматривается в книге Сухаса Пая «Разработка приложений на базе больших языковых моделей. Целостный подход к LLM», вышедшей недавно в издательстве «БХВ». А теперь - чуть подробнее!