Почему LLMProvider недостаточно: проектируем AI Gateway для SaaS на Go
Один интерфейс LLMProvider быстро перестаёт быть достаточным, когда в SaaS появляются разные модели, требования к приватности, fallback, стоимость и observability. Разбираю, как вынести эти решения в отдельный AI Gateway на Go и не размазать AI-логику по всему backend. Читать далее