Кеш

Кэш встраиваний Redis

Кэширует в Redis ответы LLM в виде векторных представлений (эмбеддингов), что полезно для общего доступа к кэшу между несколькими процессами или серверами.

Этот раздел находится в разработке. Мы будем признательны за любую помощь в его завершении.

Кэш Redis

Кэширует ответы LLM в Redis, что удобно для совместного использования кэша между несколькими процессами или серверами.

Кэш Redis Upstash

Кэширует ответы LLM в Upstash Redis — безсерверных хранилищ данных для Redis и Kafka.