Плагины под экосистему OpenAI: расширяют возможности вашей среды одной установкой. Новые позиции добавляются регулярно.
Параметрически эффективное дообучение: адаптеры LoRA и десятки других методов позволяют доучивать гигантские модели на одном GPU.
Самая популярная библиотека для работы с готовыми моделями: десятки тысяч LLM, визуальных и речевых моделей в одном API.
Краулер, превращающий сайт в файл знаний для GPTs: обходит страницы и собирает JSON для загрузки в кастомных GPT.
Готовые React-компоненты для чат-интерфейсов ИИ: стриминг, ветвление диалогов, вложения — совместим с Vercel AI SDK.
Все-в-одном фреймворк семантического поиска и LLM: эмбеддинги, векторный индекс, пайплайны и API в одной библиотеке.
Фреймворк RAG как сервис: загружаете данные любых форматов — получаете готового чат-бота с знаниями через несколько строк кода.
Утилита Microsoft для конвертации файлов в Markdown: PDF, Office, аудио и изображения — единый текстовый формат для LLM.
Пайплайны парсинга, управляемые LLM: описываете схему данных — библиотека сама находит их на странице.
Оптимизированный для LLM краулер: превращает сайты в чистый Markdown, готовый для RAG, за секунды.
Генерация SQL вопросами на естественном языке: обучается на вашей схеме и примерах запросов, работает с любой БД.
Сверхбыстрая маршрутизация запросов по смыслу: направляет вопросы нужным промптам, агентам или инструментам за миллисекунды.
Библиотека, упрощающая продвинутый RAG-ретрив: ColBERT-подобный поздний взаимодействие, индексация и реранкинг.
Сжатие промптов и контекста от Microsoft: до 20-кратного уменьшения длины без потери качества ответа — экономия токенов.
Автоматическая оптимизация текста через «текстовые градиенты»: промпты, ответы и код улучшаются обратной связью модели.
Стандартный инструмент бенчмаркинга языковых моделей от EleutherAI: сотни задач, по которым сравниваются все открытые модели.
Программируемые рельсы безопасности для LLM от NVIDIA: топики, диалоговые потоки и проверки контента на языке Colang.
Валидация выходов LLM декларативными правилами: проверка фактов, PII, токсичности и собственных валидаторов на Python.
Открытый стандарт наблюдаемости LLM на OpenTelemetry: единая телеметрия для всех фреймворков, моделей и векторных БД.
Наблюдаемость и эксперименты LLM в одном инструменте: трейсинг, оценки, датасеты и дрифт эмбеддингов.
Открытая платформа трейсинга и оценки LLM от Comet: логи, метрики, плейграунд и самохостинг.