Haystack
Промышленный фреймворк RAG и поиска от deepset: пайплайны, компоненты и масштабируемые поисковые приложения.
Промышленный фреймворк RAG и поиска от deepset: пайплайны, компоненты и масштабируемые поисковые приложения.
Фреймворк для приложений с данными: индексация любых источников, RAG-конвейеры и агенты поверх корпоративных данных.
Фреймворк для контролируемых агентов от создателей LangChain: графы состояний, ветвления, циклы и человек в цикле.
Самый известный фреймворк для LLM-приложений: цепочки, агенты, ретриверы и сотни интеграций с моделями и хранилищами.
Высокопроизводительный сервер инференса LLM с PagedAttention: в разы большая пропускная способность на GPU.
Эталонная реализация инференса LLM на чистом C/C++: запускает большие модели на обычном железе, включая CPU.
Самый простой способ запускать локальные LLM на своём компьютере: одна команда — и модель работает, плюс OpenAI-совместимый API.
Единый интерфейс к сотне LLM: один код для всех провайдеров, плюс прокси с балансировкой, бюджетами и фолбэками.
Наблюдаемость и кэширование LLM-запросов через прокси: логи, кэш, рейт-лимиты и аналитика без изменения кода.
Открытая платформа наблюдаемости LLM: трейсы, оценки, датасеты и мониторинг стоимости запросов к моделям.
Шаблон от E2B для приложений с генерацией кода: агент пишет и исполняет код в облачной песочнице прямо в интерфейсе.
Инфраструктура изолированных сред для ИИ-агентов: мгновенные безопасные песочницы для запуска кода агентами.
Открытый форк Bolt: генерирует полноценные веб-приложения в браузере и позволяет подключить любую модель — от OpenAI до локальных.
Визуальный конструктор LLM-приложений на Langchain: drag-and-drop цепочки, агенты и инструменты без кода.
Открытая платформа для создания ИИ-приложений: визуальный конструктор агентов, оркестрация LLM, RAG и публикация в API.
Открытая инфраструктура MCP: хостинг серверов, коннекторы к сервисам и управление интеграциями для агентов.
Командная утилита для проверки MCP-серверов из терминала: список инструментов, ресурсов и промптов без запуска клиента.
Официальный MCP-сервер Zapier: агенты получают доступ к тысячам приложений и автоматизаций платформы.
Платформа интеграций для агентов: сотни готовых инструментов для приложений, единая аутентификация и управление доступом.
MCP-сервер для WhatsApp: читает чаты, ищет по переписке и отвечает на сообщения через агента.