Кеш

Кэш Redis

Кэширует ответы LLM в Redis, что удобно для совместного использования кэша между несколькими процессами или серверами.

Этот раздел находится в разработке. Мы будем признательны за любую помощь в его завершении.

Кэш Momento (Momento Cache)

Кэширует ответы LLM с использованием Momento — распределенного и безсерверного кэша.

Кэш встраиваний Redis

Кэширует в Redis ответы LLM в виде векторных представлений (эмбеддингов), что полезно для общего доступа к кэшу между несколькими процессами или серверами.