Osmi
БД векторов

Chroma

Chroma

Предварительные условия

Вам потребуется сервер Chroma. Вы можете:

  1. Установить CLI Chroma и запустить сервер командой chroma run
  2. Зарегистрироваться в Chroma Cloud.
  3. Развернуть собственный экземпляр Chroma в Docker.

Настройка

Входные данныеОписаниеЗначение по умолчаниюОблако
DocumentМожно подключать к узлам и Загрузчик документов
EmbeddingsМожно подключать к узлам из Вложения
Collection NameНазвание коллекции Chroma. Обратитесь сюда для правил именования
Chroma URLУкажите URL вашего экземпляра Chromahttp://localhost:8000https://api.trychroma.com:8000

Для Chroma Cloud нужно получить ID арендатора, создать базу данных и API агента

Дополнительные шаги

Если вы запускаете osmi_ai и Chroma на Docker, необходимо выполнить дополнительные шаги.

  1. Запустите Docker контейнер Chroma
docker compose up -d --build
  1. Откройте файл docker-compose.yml в папке osmi_ai
cd osmi_ai && cd docker
  1. Modify the file to:
version: '3.1'

services:
    osmi_ai:
        image: osmi_ai/osmi_ai
        restart: always
        environment:
            - PORT=${PORT}
            - DEBUG=${DEBUG}
            - DATABASE_PATH=${DATABASE_PATH}
            - SECRETKEY_PATH=${SECRETKEY_PATH}
            - OSMI_AI_SECRETKEY_OVERWRITE=${osmi_ai_SECRETKEY_OVERWRITE}
            - LOG_PATH=${LOG_PATH}
            - LOG_LEVEL=${LOG_LEVEL}
            - EXECUTION_MODE=${EXECUTION_MODE}
        ports:
            - '${PORT}:${PORT}'
        volumes:
            - ~/.osmi_ai:/root/.osmi_ai
        networks:
            - osmi_ai_net
        command: /bin/sh -c "sleep 3; osmi_ai start"
networks:
    osmi_ai_net:
        name: chroma_net
        external: true
  1. Запустите контейнер osmi_ai
docker compose up -d
  1. Настройка URL Chroma: Для Windows и MacOS используйте: http://host.docker.internal:8000 Для Linux-систем, где host.docker.internal недоступен, используйте адрес Docker-шлюза, например: http://172.17.0.1:8000