Референсное обучение LLM от команды PyTorch: современные методы параллелизма FSDP2 — эталонная реализация для обучения моделей на множестве GPU.
Распределённое обучение больших моделей: параллелизм всех видов — tensor, pipeline, sequence и ZeRO — запуск GPT и LLaMA на кластерах GPU.
Комплексная оценка LLM из Шанхая: сотни датасетов и моделей — официальная платформа ведущих китайских и мировых лидербордов.
Сервинг LLM от Shanghai AI Lab: тот самый движок Turbomind обслуживает тысячи запросов в секунду на GPU с потоковым выводом.
Лёгкий инструмент дообучения от Shanghai AI Lab: 70B-модель на одной видеокарте за счёт clever offload — конфиги из коробки для сотен моделей.
Фреймворк дообучения сотен моделей от Alibaba: LLM, мультимодальные и аудио-модели — полный цикл от SFT до RLHF с одной командой.
Единый инструмент оценки зрительно-языковых моделей: десятки бенчмарков от VQA до OCRBench с воспроизводимым пайплайном — стандарт для сравнения MLLM.
Фреймворк RL-обучения LLM от ByteDance: GRPO, PPO и их гибриды с FSDP/Megatron, коллаборативное обучение на GPU-кластерах.
Открытая аудио-LLM от Moonshot AI: понимает речь, музыку и звуки, отвечает голосом и поёт — полный стек аудиоинтеллекта с открытыми весами.
Популярный бридж ChatGPT для WeChat: подключает GPT к личным и групповым чатам, поддерживает голос, плагины и другие модели.
Массивная библиотека промтов: тысячи проверенных промтов под роли, задачи и стили — от копирайтинга до программирования с примерами результатов.
Лёгкий GraphRAG от университета Гонконга: быстрее и дешевле Microsoft GraphRAG, тот же принцип графа знаний поверх векторного поиска.
Универсальный CLI для LLM от автора Datasette: запуск моделей из командной строки, пайпы, фрагменты и плагины.
Реалистичный бенчмарк компьютерных агентов: задачи в настоящих ОС и приложениях — от редактора таблиц до системных настроек.
Распределённый инференс LLM из устройств под рукой: несколько компьютеров, телефонов и одноплатников объединяются в кластер.
Гетерогенный инференс гигантских LLM: GPU считает внимание, CPU — остальное — запуск моделей с сотнями миллиардов параметров на домашнем железе.
Огромная открытая модель Moonshot AI с сильным tool calling: триллион параметров, агентные сценарии и открытые веса.
Структурированный язык написания промптов: шаблоны с ролями, правилами и workflow делают сложные промпты поддерживаемыми.
Официальная Python-библиотека для Ollama: запуск локальных моделей, чат, эмбеддинги и управление моделями.
100+ моделей для дообучения через веб-интерфейс: визуальный Gradio-UI делает файнтюнинг доступным без программирования.