Виртуальная ИТ-компания из агентов: CEO, CTO, программисты и тестировщики обсуждают задачу в чате и выдают готовый софт.
Терминальный агент для больших задач на больших репозиториях: планирует изменения, применяет их атомарно и откатывает при ошибках.
Агент, разрабатывающий реальные приложения целиком: задаёт вопросы как разработчик, пишет код по шагам и поддерживает его.
Визуальный конструктор агентов от DataStax: drag-and-drop компоненты LangChain с API, памятью и публикацией в один клик.
Готовые React-компоненты для чат-интерфейсов ИИ: стриминг, ветвление диалогов, вложения — совместим с Vercel AI SDK.
Все-в-одном фреймворк семантического поиска и LLM: эмбеддинги, векторный индекс, пайплайны и API в одной библиотеке.
Фреймворк RAG как сервис: загружаете данные любых форматов — получаете готового чат-бота с знаниями через несколько строк кода.
Сверхбыстрая маршрутизация запросов по смыслу: направляет вопросы нужным промптам, агентам или инструментам за миллисекунды.
Сжатие промптов и контекста от Microsoft: до 20-кратного уменьшения длины без потери качества ответа — экономия токенов.
Автоматическая оптимизация текста через «текстовые градиенты»: промпты, ответы и код улучшаются обратной связью модели.
Фреймворк оценки ИИ-систем от Института безопасности ИИ Великобритании: проверки моделей, агентов и защиты.
Стандартный инструмент бенчмаркинга языковых моделей от EleutherAI: сотни задач, по которым сравниваются все открытые модели.
Программируемые рельсы безопасности для LLM от NVIDIA: топики, диалоговые потоки и проверки контента на языке Colang.
Валидация выходов LLM декларативными правилами: проверка фактов, PII, токсичности и собственных валидаторов на Python.
Открытый стандарт наблюдаемости LLM на OpenTelemetry: единая телеметрия для всех фреймворков, моделей и векторных БД.
Наблюдаемость и эксперименты LLM в одном инструменте: трейсинг, оценки, датасеты и дрифт эмбеддингов.
Открытая платформа трейсинга и оценки LLM от Comet: логи, метрики, плейграунд и самохостинг.
CLI для тестирования и сравнения промптов: red teaming, оценки, A/B-тесты моделей — всё из командной строки и конфигов.
Фреймворк юнит-тестирования LLM-выходов: метрики качества, синтетические данные и CI/CD для промптов и RAG.
DSL для надёжного извлечения структурированных данных из LLM: типизированные функции, быстрая проверка и генерация клиентов.