LangChain

Кеш

Узлы кэша LangChain

Кэширование может помочь вам сэкономить деньги, уменьшая количество API-запросов к провайдеру LLM, особенно если вы часто запрашиваете одни и те же ответы. Также оно ускоряет работу вашего приложения за счет снижения числа API-вызовов.

Узлы кэша:

Кэш в памяти
Кэш в памяти для встраиваний
Momento Cache
Кэш Redis
Кэш встраиваний Redis
Кэш Upstash Redis

Агент XML

Агент, предназначенный для крупных языковых моделей, хорошо умеющих выполнять рассуждения и писать XML (например, Anthropic Claude).

Кэш в памяти InMemory Cache

Кэширует ответы LLM в локальной памяти, будет очищен при перезапуске приложения.