Официальные модели Meta Llama: от компактных до огромных — база для локальных LLM, дообучения и инференса.
Официальный сборник рецептов от Meta по Llama: промптинг, файнтюнинг, RAG, агенты и деплой — с запускаемыми ноутбуками.
Ультрабыстрый ИИ-шлюз с открытым кодом: единая точка для сотни LLM с кэшем, фолбэками и наблюдаемостью — на edge.
Главный бенчмарк ИИ-агентов-программистов: реальные issue из популярных репозиториев и автоматическая проверка исправлений.
Открытый агент-ассистент от Block: работает локально, расширяется расширениями (MCP) и управляет инструментами от разработки до аналитики.
Мета-модель сегментации от Meta: выделяет любой объект на изображении по точке, прямоугольнику или тексту — без дообучения.
Современная версия YOLO: обнаружение объектов, сегментация, оценка поз и трекинг одной библиотекой — от обучения до продакшна.
Прорывная модель OpenAI, связывающая изображения и текст: основа современного векторного поиска и классификации.
Инструментарий цикла разработки LLM-приложений от Microsoft: потоки промптов, оценки, тонкая настройка и деплой в Azure.
Структурированный язык написания промптов: шаблоны с ролями, правилами и workflow делают сложные промпты поддерживаемыми.
Официальная JavaScript-библиотека для Ollama: локальные LLM из Node и браузера с полной поддержкой чата и стриминга.
Официальная Python-библиотека для Ollama: запуск локальных моделей, чат, эмбеддинги и управление моделями.
Открытый набор инструментов безопасности LLM от Meta: оценки уязвимостей, кибербенчмарки и движок фильтрации Llama Guard.
Сканеры безопасности для LLM-входов и выходов: фильтрация инъекций, чувствительных данных и токсичности одной библиотекой.
Тестирование и защита ИИ-моделей: автоматические проверки на предвзятость, утечки и уязвимости для LLM и классического ML.
Оценка и мониторинг ML и LLM: 100+ метрик дрейфа данных и качества моделей, отчёты и дашборды без настройки.
Инструментарий наблюдаемости и оценки GenAI от W&B: трейсы LLM, датасеты для оценки и сравнение версий приложений.
Открытая платформа жизненного цикла ML: трекинг экспериментов, реестр моделей, упаковка и деплой — от Databricks.
Фреймворк упаковки и развёртывания моделей: обучили — упаковали в Bento — развернули где угодно как API.
Быстрый сервер инференса LLM от исследователей: RadixAttention для переиспользования кэша и сложные программы генерации.