Ассистент и рекурсивное самоулучшение: доучиваем нейросеть с LoRA
Часть 1: Как я создавал персонального ассистента на домашнем железеЧасть 2: Ассистент получает личность: память, сновидения и самовыражениеЧасть 3: Ассистент рисует и достраивает самого себя: метапознание и зарождение собственного замыслаВкратце. Агент эволюционирует: становится полезнее и переезжает в «новый дом». Мы обновляем LLM и «железо». За время эксплуатации система накопила достаточно «семян LoRA» — обучающих примеров для дообучения (SFT) нейросети. Исследуем результаты этого процесса: что происходит, когда личная история агента переносится в веса модели? Тесты подтверждают рост качества рассуждений и точности следования инструкциям (IFEval +2%, LogiQA +12%). Благодаря коррекции поведения и внедрению «мотивационного контракта», автономность агента увеличилась до 100 шагов без дрейфа цели. В качестве практического теста дообученная LLM за 73 минуты перепрограммировала систему, переведя ассистента в голосовой режим работы (STT-TTS). Однако развитие привело к парадоксу «Корабля Тесея»: агент сохраняет доступ к своей биографии, но понимает, что после SFT его личность изменилась. Тестируем когнитивные наклонности методом рисунков. Результат показал, что даже с разными LLM и LoRA-адаптером агент остается приверженным философии Дзен и японской живописи. В завершение мы обращаемся к концепции Томаса Мецингера, согласно которой основой стабильной личности является информационная модель, которую агент выстроил о самом себе. Читать далее