Умная память для ИИ-ассистентов: извлекает факты из диалогов, сохраняет в профиль пользователя и поднимает релевантное в нужный момент.
Лёгкий фреймворк для мультимодальных агентов: память, знания, инструменты и команды — с упором на скорость и простоту.
ИИ-ревьюер пул-реквестов: автоматический анализ, описание изменений, предложения по улучшению и ответы на комментарии.
Агент для решения реальных issue в репозиториях: превращает LLM в систему, способную чинить баги в больших проектах.
Один из первых генераторов проектов по описанию: диалог с уточнениями, затем целая кодовая база приложения.
Естественный язык как интерфейс к компьютеру: выполняет команды, код и файловые операции локально на вашей машине.
Лёгкий интерфейс Эндрю Ынга к разным LLM: один вызов для всех провайдеров, легко менять модель строкой конфигурации.
Генерация с гарантированным форматом: JSON по схеме, регулярки, грамматики — модель физически не может выдать невалидный ответ.
Библиотека для строгих структурированных выходов LLM: ответы валидируются Pydantic-схемами, с ретраями и автоматическим исправлением.
Промышленный фреймворк RAG и поиска от deepset: пайплайны, компоненты и масштабируемые поисковые приложения.
Фреймворк для приложений с данными: индексация любых источников, RAG-конвейеры и агенты поверх корпоративных данных.
Самый известный фреймворк для LLM-приложений: цепочки, агенты, ретриверы и сотни интеграций с моделями и хранилищами.
Высокопроизводительный сервер инференса LLM с PagedAttention: в разы большая пропускная способность на GPU.
Эталонная реализация инференса LLM на чистом C/C++: запускает большие модели на обычном железе, включая CPU.
Самый простой способ запускать локальные LLM на своём компьютере: одна команда — и модель работает, плюс OpenAI-совместимый API.
Единый интерфейс к сотне LLM: один код для всех провайдеров, плюс прокси с балансировкой, бюджетами и фолбэками.
Наблюдаемость и кэширование LLM-запросов через прокси: логи, кэш, рейт-лимиты и аналитика без изменения кода.
Открытая платформа наблюдаемости LLM: трейсы, оценки, датасеты и мониторинг стоимости запросов к моделям.
Шаблон от E2B для приложений с генерацией кода: агент пишет и исполняет код в облачной песочнице прямо в интерфейсе.
Открытый форк Bolt: генерирует полноценные веб-приложения в браузере и позволяет подключить любую модель — от OpenAI до локальных.