Инструментарий наблюдаемости и оценки GenAI от W&B: трейсы LLM, датасеты для оценки и сравнение версий приложений.
Открытая реализация глубокого исследования в стиле OpenAI от LangChain: многошаговый агент с промежуточными отчётами и цитатами.
Открытая платформа жизненного цикла ML: трекинг экспериментов, реестр моделей, упаковка и деплой — от Databricks.
Десктопный клиент «все чат-боты сразу»: один вопрос отправляется ChatGPT, Claude, Gemini и десяткам других — ответы рядом для сравнения.
Платформа для обучения, оценки и сервинга чат-моделей от создателей Chatbot Arena: OpenAI-совместимый API для любых моделей.
Фреймворк упаковки и развёртывания моделей: обучили — упаковали в Bento — развернули где угодно как API.
Быстрый сервер инференса LLM от исследователей: RadixAttention для переиспользования кэша и сложные программы генерации.
Продакшн-сервер инференса LLM от Hugging Face: стриминг, квантование, кэширование — сердце Inference Endpoints.
Безкодовое дообучение моделей от Hugging Face: загружаете данные — получаете дообученную модель без единой строки кода.
Стандарт отслеживания ML-экспериментов: метрики, графики, версии моделей и сравнение запусков в одном дашборде.
Автоматизация подбора гиперпараметров и нейроархитектурного поиска от Microsoft: десятки алгоритмов оптимизации в одном инструменте.
Структурирование PyTorch-кода: убирает бойлерплейт обучения, оставляя исследовательскую логику чистой и воспроизводимой.
Библиотека Microsoft для обучения гигантских моделей: параллелизм данных, конвейеров и тензоров на тысячах GPU.
Фреймворк NVIDIA для предобучения на больших кластерах: тензорный и конвейерный параллелизм, на нём обучены модели с сотнями миллиардов параметров.
Нативное дообучение LLM на чистом PyTorch от команды PyTorch: без тяжёлых зависимостей, с контролем над каждым шагом.
100+ моделей для дообучения через веб-интерфейс: визуальный Gradio-UI делает файнтюнинг доступным без программирования.
Дообучение LLM через YAML-конфиг: один файл описывает модель, данные и метод — фреймворк делает всё остальное.
Дообучение LLM в разы быстрее и с меньшей памятью: оптимизированные ядра ускоряют QLoRA-обучение на 2–5 раз.
Библиотека для выравнивания LLM: SFT, DPO, PPO и другие методы обучения с подкреплением на человеческих предпочтениях.
Библиотека для работы с датасетами: загрузка тысяч готовых наборов, эффективная предобработка и интеграция с Trainer.