Закрытый Jev против открытой Laya: сравниваем decision-модели в RAG-реранжировании
Можно ли заменить облачный Jev локальной Laya? Проверил обе модели и три специализированных реранкера на SciFact, FiQA и NFCorpus. Сравнил качество поиска, время обработки двадцати документов и потребление видеопамяти. Код и результаты доступны на GitHub. Читать далее