LiteLLM-прокси · экономия токенов

Запрос

Текст уйдёт двумя путями: напрямую в модель и через TOKEN SAVER с выбранными middleware

Middleware

Каждая карточка — независимый слой экономии. Включай нужные, комбинации складываются.
cURL-запрос к сервису (то, что выполнит любой клиент)

      
    
Напрямую к провайдеру baseline
Запрос ещё не отправлялся
Через TOKEN SAVER middleware
Запрос ещё не отправлялся