Плагины под экосистему OpenAI: расширяют возможности вашей среды одной установкой. Новые позиции добавляются регулярно.
Фреймворк RAG как сервис: загружаете данные любых форматов — получаете готового чат-бота с знаниями через несколько строк кода.
Сверхбыстрая маршрутизация запросов по смыслу: направляет вопросы нужным промптам, агентам или инструментам за миллисекунды.
Сжатие промптов и контекста от Microsoft: до 20-кратного уменьшения длины без потери качества ответа — экономия токенов.
Автоматическая оптимизация текста через «текстовые градиенты»: промпты, ответы и код улучшаются обратной связью модели.
Стандартный инструмент бенчмаркинга языковых моделей от EleutherAI: сотни задач, по которым сравниваются все открытые модели.
Программируемые рельсы безопасности для LLM от NVIDIA: топики, диалоговые потоки и проверки контента на языке Colang.
Валидация выходов LLM декларативными правилами: проверка фактов, PII, токсичности и собственных валидаторов на Python.
Открытый стандарт наблюдаемости LLM на OpenTelemetry: единая телеметрия для всех фреймворков, моделей и векторных БД.
Наблюдаемость и эксперименты LLM в одном инструменте: трейсинг, оценки, датасеты и дрифт эмбеддингов.
Открытая платформа трейсинга и оценки LLM от Comet: логи, метрики, плейграунд и самохостинг.
CLI для тестирования и сравнения промптов: red teaming, оценки, A/B-тесты моделей — всё из командной строки и конфигов.
Фреймворк юнит-тестирования LLM-выходов: метрики качества, синтетические данные и CI/CD для промптов и RAG.
Минималистичный фреймворк мультиагентного программирования: агенты как объекты с задачами, инструментами и делегированием.
Мультиагентная платформа от Alibaba: отказоустойчая реляционная модель сообщений, визуализация и готовые агенты.
Исследовательский фреймворк для мультиагентного общения: агенты ролевого типа договариваются и решают задачи вместе.
Память типа ETL для агентов: превращает неструктурированные данные в граф знаний, который агент может эффективно запрашивать.
Память и временное знание для агентов: автоматическое суммирование истории, граф сущностей и поиск по памяти.
Умная память для ИИ-ассистентов: извлекает факты из диалогов, сохраняет в профиль пользователя и поднимает релевантное в нужный момент.
Лёгкий фреймворк для мультимодальных агентов: память, знания, инструменты и команды — с упором на скорость и простоту.
Лёгкий интерфейс Эндрю Ынга к разным LLM: один вызов для всех провайдеров, легко менять модель строкой конфигурации.