Введение
OSMI AI - это платформа для создания генеративных AI-агентов и рабочих процессов LLM.
Она предлагает комплексное решение, которое включает:
- Визуальный конструктор
- Отслеживание и аналитика
- Оценки эффективности,
- Человек в цепочке (Human in the Loop)
- API, CLI, SDK, встроенный чат-бот
- Команды и рабочие пространства
Существует три основных визуальных конструктора:
- Ассистент (Помощник)
- Агенты (Чат-процесс),
- Мульти агенты (Агент-процесс)
Ассистент
Ассистент — самый удобный для начинающих способ создания ИИ-агента. Пользователи могут создать чат-ассистента, который способен следовать инструкциям, использовать инструменты при необходимости и получать информацию из базы знаний, загруженных файлов (RAG), чтобы отвечать на запросы пользователя.
Агент
Агент предназначен для создания систем с одним агентом, чатботов и простых рабочих процессов LLM. Он более гибкий, чем ассистент. Пользователи могут использовать продвинутые техники, такие как Graph RAG, Reranker, Retriever и другие.
Мульти агенты
Мульти агент включает в себя функции и возможности агента и ассистента. Его можно использовать для создания чат-ассистентов, систем с одним агентом, многогодных систем и сложной оркестрации рабочих процессов. Подробнее — Мульти агенты.
Возможности OSMI AI
| Область функции | Возможности OSMI AI |
|---|---|
| Оркестрация | Визуальный редактор, поддержка открытых и проприетарных моделей, выражений, пользовательского кода, ветвления/цикла/навигационной логики |
| Ввод данных и интеграция | Подключение к 100+ источникам, инструментам, векторным базам данных, памяти |
| Мониторинг | Логи выполнения, визуальный отладчик, внешнее потоковое логирование |
| Развертывание | Варианты самостоятельного хостинга, развертывание в изолированной среде |
| Обработка данных | Трансформации данных, фильтры, агрегации, пользовательский код, пайплайны индексирования RAG |
| Память и планирование | Различные техники оптимизации памяти и интеграции |
| Интеграция MCP | Клиент/сервер MCP, список инструментов, SSE, поддержка аутентификации |
| Безопасность и контроль | Модерация входных данных и обработка выходных, управление доступом (RBAC), SSO, шифрование учетных данных, менеджеры секретов, ограничение скорости, ограниченные домены |
| Масштабируемость | Вертикальное/горизонтальное масштабирование, высокая пропускная способность и нагрузка рабочих процессов |
| Оценки | Датасеты, оценивающие показатели и оценки эффективности |
| Поддержка сообщества | Активный форум сообщества |
| Поддержка поставщиков | SLA, консультации, фиксированные или детерминированные цены |