TensorRT-LLM
Максимальная производительность LLM на GPU NVIDIA: квантование FP8, спекулятивный декодинг и оптимизации ядер.
Максимальная производительность LLM на GPU NVIDIA: квантование FP8, спекулятивный декодинг и оптимизации ядер.
Высокопроизводительный сервер эмбеддингов от Hugging Face: сотни моделей, квантование и OpenAI-совместимый API.
Лёгкая локальная генерация эмбеддингов от Qdrant: без тяжёлых зависимостей, быстрый старт в одну строку.
Официальная книга рецептов по моделям Phi: файнтюнинг, оптимизация, развёртывание на edge и сценарии с маленькими моделями.
Сильнейшая открытая мультимодальная модель: понимает изображения, документы и видео на уровне закрытых систем.
Мощное открытое семейство моделей Zhipu AI: агентные сценарии, рассуждения и кодинг — с открытыми весами.
Первая открытая модель OpenAI со времен GPT-2: гибридная архитектура MXFP4, мощный tool calling и веса для локального запуска.
Огромная открытая модель Moonshot AI с сильным tool calling: триллион параметров, агентные сценарии и открытые веса.
Прорывная рассуждающая модель DeepSeek с открытыми весами: обучение с подкреплением сделало её сильнейшей в математике и коде.
Флагманское семейство открытых моделей Alibaba: гибридное рассуждение, десятки языков и размеры от 0.6 до 235 миллиардов параметров.
Ультрабыстрый ИИ-шлюз с открытым кодом: единая точка для сотни LLM с кэшем, фолбэками и наблюдаемостью — на edge.
Фреймворк оценки моделей от OpenAI: YAML-шаблоны оценок, сравнение промптов и бенчмарки для любых LLM.
Главный бенчмарк ИИ-агентов-программистов: реальные issue из популярных репозиториев и автоматическая проверка исправлений.
Открытый агент-ассистент от Block: работает локально, расширяется расширениями (MCP) и управляет инструментами от разработки до аналитики.
Генератор коротких видео одной кнопкой: тема → сценарий от LLM → озвучка → субтитры → готовое видео для соцсетей.
Открытая реализация генерации видео по тексту: воссоздаёт пайплайн Sora полностью открытым кодом и открытыми моделями.
Нодовый интерфейс генерации изображений: визуальные графы рабочих процессов делают сложные пайплайны воспроизводимыми.
Прорывная модель OpenAI, связывающая изображения и текст: основа современного векторного поиска и классификации.
Быстрая мультиязычная модель распознавания от Alibaba: транскрибация, детекция эмоций и определение языка одним проходом.
Порт Whisper на чистый C/C++: распознавание речи на CPU любого устройства — от десктопа до Raspberry Pi.