Библиотека для строгих структурированных выходов LLM: ответы валидируются Pydantic-схемами, с ретраями и автоматическим исправлением.
Промышленный фреймворк RAG и поиска от deepset: пайплайны, компоненты и масштабируемые поисковые приложения.
Фреймворк для приложений с данными: индексация любых источников, RAG-конвейеры и агенты поверх корпоративных данных.
Самый известный фреймворк для LLM-приложений: цепочки, агенты, ретриверы и сотни интеграций с моделями и хранилищами.
Высокопроизводительный сервер инференса LLM с PagedAttention: в разы большая пропускная способность на GPU.
Эталонная реализация инференса LLM на чистом C/C++: запускает большие модели на обычном железе, включая CPU.
Самый простой способ запускать локальные LLM на своём компьютере: одна команда — и модель работает, плюс OpenAI-совместимый API.
Единый интерфейс к сотне LLM: один код для всех провайдеров, плюс прокси с балансировкой, бюджетами и фолбэками.
Наблюдаемость и кэширование LLM-запросов через прокси: логи, кэш, рейт-лимиты и аналитика без изменения кода.
Открытая платформа наблюдаемости LLM: трейсы, оценки, датасеты и мониторинг стоимости запросов к моделям.
Шаблон от E2B для приложений с генерацией кода: агент пишет и исполняет код в облачной песочнице прямо в интерфейсе.
Открытый форк Bolt: генерирует полноценные веб-приложения в браузере и позволяет подключить любую модель — от OpenAI до локальных.
Лёгкий кроссплатформенный клиент для ChatGPT-совместимых API: маски промптов, история, один файл для развёртывания.
Современный открытый ИИ-чат фреймворк: поддержка десятков провайдеров, агенты, ассистенты с базами знаний и плагинами.
Открытый клон ChatGPT с расширениями: мультипровайдер, агенты, плагины, код-интерпретатор и гранулярные права пользователей.
Самый популярный открытый веб-интерфейс для локальных LLM: чаты, RAG, инструменты и поддержка Ollama/OpenAI из коробки.
Инструмент автоматизации с ИИ: соединяет сотни сервисов, а новые ИИ-ноды позволяют встроить LLM прямо в рабочие процессы.
Открытая платформа для создания ИИ-приложений: визуальный конструктор агентов, оркестрация LLM, RAG и публикация в API.
Официальный MCP-сервер Zapier: агенты получают доступ к тысячам приложений и автоматизаций платформы.
Платформа интеграций для агентов: сотни готовых инструментов для приложений, единая аутентификация и управление доступом.