NeMo Guardrails
Программируемые рельсы безопасности для LLM от NVIDIA: топики, диалоговые потоки и проверки контента на языке Colang.
Программируемые рельсы безопасности для LLM от NVIDIA: топики, диалоговые потоки и проверки контента на языке Colang.
Валидация выходов LLM декларативными правилами: проверка фактов, PII, токсичности и собственных валидаторов на Python.
Открытый стандарт наблюдаемости LLM на OpenTelemetry: единая телеметрия для всех фреймворков, моделей и векторных БД.
Наблюдаемость и эксперименты LLM в одном инструменте: трейсинг, оценки, датасеты и дрифт эмбеддингов.
Открытая платформа трейсинга и оценки LLM от Comet: логи, метрики, плейграунд и самохостинг.
CLI для тестирования и сравнения промптов: red teaming, оценки, A/B-тесты моделей — всё из командной строки и конфигов.
Фреймворк юнит-тестирования LLM-выходов: метрики качества, синтетические данные и CI/CD для промптов и RAG.
DSL для надёжного извлечения структурированных данных из LLM: типизированные функции, быстрая проверка и генерация клиентов.
Минималистичный фреймворк мультиагентного программирования: агенты как объекты с задачами, инструментами и делегированием.
Мультиагентная платформа от Alibaba: отказоустойчая реляционная модель сообщений, визуализация и готовые агенты.
Легендарный проект, запустивший волну автономных агентов: теперь это платформа для создания, тестирования и монетизации агентов.
Исследовательский фреймворк для мультиагентного общения: агенты ролевого типа договариваются и решают задачи вместе.
Фреймворк, превращающий одну строку требований в целую команду агентов-специалистов: аналитик, архитектор, разработчик, тестировщик.
Экспериментальный агент-программист с открытым кодом: минимальный, расширяемый и внимательный к деталям от создателя libGDX.
Память типа ETL для агентов: превращает неструктурированные данные в граф знаний, который агент может эффективно запрашивать.
Память и временное знание для агентов: автоматическое суммирование истории, граф сущностей и поиск по памяти.
Платформа для агентов с долговременной памятью: состояние агента хранится между сессиями, есть REST API и веб-интерфейс.
Умная память для ИИ-ассистентов: извлекает факты из диалогов, сохраняет в профиль пользователя и поднимает релевантное в нужный момент.
Открытый форк VS Code с агентным ИИ: редактор привычного вида, где ассистент работает с любой моделью и без привязки к облаку.
Самохостящийся копилот для кода: автодополнение и чат в IDE на собственном сервере — код не покидает компанию.