TorchTitan
Референсное обучение LLM от команды PyTorch: современные методы параллелизма FSDP2 — эталонная реализация для обучения моделей на множестве GPU.
Референсное обучение LLM от команды PyTorch: современные методы параллелизма FSDP2 — эталонная реализация для обучения моделей на множестве GPU.
Распределённое обучение больших моделей: параллелизм всех видов — tensor, pipeline, sequence и ZeRO — запуск GPT и LLaMA на кластерах GPU.
Комплексная оценка LLM из Шанхая: сотни датасетов и моделей — официальная платформа ведущих китайских и мировых лидербордов.
Сервинг LLM от Shanghai AI Lab: тот самый движок Turbomind обслуживает тысячи запросов в секунду на GPU с потоковым выводом.
Лёгкий инструмент дообучения от Shanghai AI Lab: 70B-модель на одной видеокарте за счёт clever offload — конфиги из коробки для сотен моделей.
Фреймворк дообучения сотен моделей от Alibaba: LLM, мультимодальные и аудио-модели — полный цикл от SFT до RLHF с одной командой.
Единый инструмент оценки зрительно-языковых моделей: десятки бенчмарков от VQA до OCRBench с воспроизводимым пайплайном — стандарт для сравнения MLLM.
Открытая платформа computer-use агентов: воспроизводит реальные рабочие сценарии на виртуальных машинах — от бронирования билетов до заполнения отчётов.
Запускайте ML-задачи на любом облаке одной командой: SkyPilot сам подбирает дешёвые GPU, поднимает окружение и следит за расходами.
Фреймворк RL-обучения LLM от ByteDance: GRPO, PPO и их гибриды с FSDP/Megatron, коллаборативное обучение на GPU-кластерах.
Открытая аудио-LLM от Moonshot AI: понимает речь, музыку и звуки, отвечает голосом и поёт — полный стек аудиоинтеллекта с открытыми весами.
Приватный ИИ-ассистент для баз данных: text-to-SQL, диалог с данными и RAG поверх десятков СУБД — всё через единый интерфейс, без утечки данных.
Популярный бридж ChatGPT для WeChat: подключает GPT к личным и групповым чатам, поддерживает голос, плагины и другие модели.
Массивная библиотека промтов: тысячи проверенных промтов под роли, задачи и стили — от копирайтинга до программирования с примерами результатов.
Открытая альтернатива Perplexity: поисковик на базе LLM с поддержкой XAI, OpenAI и Groq — красивый интерфейс и прозрачные ответы со ссылками.
Лёгкий GraphRAG от университета Гонконга: быстрее и дешевле Microsoft GraphRAG, тот же принцип графа знаний поверх векторного поиска.
Универсальный CLI для LLM от автора Datasette: запуск моделей из командной строки, пайпы, фрагменты и плагины.
Реалистичный бенчмарк компьютерных агентов: задачи в настоящих ОС и приложениях — от редактора таблиц до системных настроек.
Дубляж и субтитры видео силами ИИ: перевод, озвучка нейроголосом и субтитры для вертикальных платформ — всё в одном инструменте.
Продвинутый ИИ-чат для профессионалов: множество моделей, beam-агрегация ответов, personas и работа с документами.