Здесь собраны дополнения для моделей DeepSeek — расширяют возможности вашей среды одной установкой. Выбирайте по рубрике или добавляйте в избранное.
Официальная Python-библиотека для Ollama: запуск локальных моделей, чат, эмбеддинги и управление моделями.
Открытая платформа жизненного цикла ML: трекинг экспериментов, реестр моделей, упаковка и деплой — от Databricks.
Фреймворк упаковки и развёртывания моделей: обучили — упаковали в Bento — развернули где угодно как API.
Фреймворк NVIDIA для предобучения на больших кластерах: тензорный и конвейерный параллелизм, на нём обучены модели с сотнями миллиардов параметров.
100+ моделей для дообучения через веб-интерфейс: визуальный Gradio-UI делает файнтюнинг доступным без программирования.
Дообучение LLM в разы быстрее и с меньшей памятью: оптимизированные ядра ускоряют QLoRA-обучение на 2–5 раз.
Библиотека для выравнивания LLM: SFT, DPO, PPO и другие методы обучения с подкреплением на человеческих предпочтениях.
Открытая платформа трейсинга и оценки LLM от Comet: логи, метрики, плейграунд и самохостинг.
Минималистичный фреймворк мультиагентного программирования: агенты как объекты с задачами, инструментами и делегированием.
Мультиагентная платформа от Alibaba: отказоустойчая реляционная модель сообщений, визуализация и готовые агенты.
Высокопроизводительный сервер инференса LLM с PagedAttention: в разы большая пропускная способность на GPU.
Самый простой способ запускать локальные LLM на своём компьютере: одна команда — и модель работает, плюс OpenAI-совместимый API.
Единый интерфейс к сотне LLM: один код для всех провайдеров, плюс прокси с балансировкой, бюджетами и фолбэками.
Минималистичный агентный фреймворк от Hugging Face: агенты пишут и выполняют код вместо JSON-вызовов инструментов.