Marker
Быстрый и точный конвертер PDF в Markdown: качественно восстанавливает разметку, формулы и таблицы из сложных документов.
Быстрый и точный конвертер PDF в Markdown: качественно восстанавливает разметку, формулы и таблицы из сложных документов.
Библиотека IBM для парсинга документов: PDF, DOCX, PPTX и таблицы превращаются в чистый структурированный формат для LLM.
Векторная база данных без сервера: встраивается в приложение как библиотека, хранит векторы и данные в обычных файлах.
Память типа ETL для агентов: превращает неструктурированные данные в граф знаний, который агент может эффективно запрашивать.
Память и временное знание для агентов: автоматическое суммирование истории, граф сущностей и поиск по памяти.
Платформа для агентов с долговременной памятью: состояние агента хранится между сессиями, есть REST API и веб-интерфейс.
Умная память для ИИ-ассистентов: извлекает факты из диалогов, сохраняет в профиль пользователя и поднимает релевантное в нужный момент.
Лёгкий фреймворк для мультимодальных агентов: память, знания, инструменты и команды — с упором на скорость и простоту.
Лёгкий интерфейс Эндрю Ынга к разным LLM: один вызов для всех провайдеров, легко менять модель строкой конфигурации.
Генерация с гарантированным форматом: JSON по схеме, регулярки, грамматики — модель физически не может выдать невалидный ответ.
Библиотека для строгих структурированных выходов LLM: ответы валидируются Pydantic-схемами, с ретраями и автоматическим исправлением.
Фреймворк Стэнфорда для программирования, а не промптинга, моделей: оптимизация промптов и весов как обучение.
Промышленный фреймворк RAG и поиска от deepset: пайплайны, компоненты и масштабируемые поисковые приложения.
Фреймворк для приложений с данными: индексация любых источников, RAG-конвейеры и агенты поверх корпоративных данных.
Фреймворк для контролируемых агентов от создателей LangChain: графы состояний, ветвления, циклы и человек в цикле.
Самый известный фреймворк для LLM-приложений: цепочки, агенты, ретриверы и сотни интеграций с моделями и хранилищами.
Высокопроизводительный сервер инференса LLM с PagedAttention: в разы большая пропускная способность на GPU.
Эталонная реализация инференса LLM на чистом C/C++: запускает большие модели на обычном железе, включая CPU.
Самый простой способ запускать локальные LLM на своём компьютере: одна команда — и модель работает, плюс OpenAI-совместимый API.
Единый интерфейс к сотне LLM: один код для всех провайдеров, плюс прокси с балансировкой, бюджетами и фолбэками.