Учим ZX Spectrum сочинять нейросказки
Начитавшись статей о сверхкомпактных языковых моделях, я задался вопросом: заведется ли такая на любимом компьютере детства, ZX Spectrum, у которого нет даже аппаратного умножения? И не просто заведется, а будет писать так, чтобы ответа можно было дождаться.Так появился HippoGPT — языковая модель на 120 тысяч параметров, которая сочиняет детские сказки на обычном Spectrum 128K, примерно по токену за четыре секунды. Под катом — как измерить ум крошечной модели, умножать без умножения и зачем бегемоту сказки про Dizzy. А запустить его можно прямо в браузере. Читать далее