Как я раздаю агентам 733 инструмента из 23 мцп серверов
Подключил к AI-ассистенту 23 мцп сервера, они отдают 733 инструмента. Решил посчитать, сколько это в токенах: вышло 170 256 при окне модели в 131 072. То есть каталог инструментов в модель уже просто не влезает. Рассказываю, как я раздаю его агентам порциями, и почему у оркестратора в промте всего 180 токенов вместо 170 тысяч. Читать далее