veRL
Фреймворк RL-обучения LLM от ByteDance: GRPO, PPO и их гибриды с FSDP/Megatron, коллаборативное обучение на GPU-кластерах.
Плагины под экосистему OpenAI: расширяют возможности вашей среды одной установкой. Новые позиции добавляются регулярно.
Фреймворк RL-обучения LLM от ByteDance: GRPO, PPO и их гибриды с FSDP/Megatron, коллаборативное обучение на GPU-кластерах.
Модель, начавшая эпоху генеративного ИИ: код и веса GPT-2 — исторический артефакт, с которого началась гонка больших языковых моделей.
Открытая аудио-LLM от Moonshot AI: понимает речь, музыку и звуки, отвечает голосом и поёт — полный стек аудиоинтеллекта с открытыми весами.
Быстрое и экономичное внимание от Tri Dao: IO-оптимизированные кернелы ускоряют обучение трансформеров в 3-5 раз без потери точности.
Симуляция обществ ИИ-агентов от OpenBMB: запускайте команды агентов, которые обсуждают, спорят и решают задачи вместе — как в Sims для LLM.
Аудио-LLM от Alibaba: распознаёт речь и звуки, общается голосом и поёт — понимает музыку, голоса и акустические события.
Омни-модель с локального устройства: видит, слышит и говорит в реальном времени — камера и микрофон телефона превращаются в живого ассистента.
Векторный поиск от Redis для LLM-приложений: семантический кэш, RAG и routing поверх Redis — Python-библиотека от официальной команды.
Открытая модель MiniMax с контекстом миллион токенов: первая массовая LLM с lightning attention, сильна в длинном рассуждении и коде.
Инференс LLM на чистом Rust: быстрая загрузка моделей в 4-битном квантовании, поддержка Vision-Language моделей и Metal-ускорение на Mac.
Сильнейшее открытое зрение от Alibaba: точно распознаёт документы и рукописи, управляет компьютером по скриншотам, понимает часовые видео.
Открытое зрение от Allen AI: модели Molmo показывают точность закрытых конкурентов и указывают на объекты кликом, доступны для дообучения.
SDK для агентов на инфраструктуре Cloudflare: stateful-агенты с памятью, веб-сокеты, планировщики и деплой одной командой wrangler.
Фреймворк глубоких агентов от LangChain: планирование через to-do, виртуальная файловая система и субагенты для задач, требующих часов работы.
Инструменты Stripe для ИИ-агентов: платежи, подписки, счета и возвраты через единый API — агенты могут продавать и выставлять счета.
Контроллер инференса LLM для Kubernetes от команды vLLM: автомасштабирование, маршрутизация, кэширование и мультитенантность в одном.
Открытый фреймворк дообучения LLM от Allen AI: SFT, DPO, RLHF и RLVR с воспроизводимыми рецептами обучения Olmo.
OCR от Allen AI на своей модели: извлечение текста из PDF в маркдаун для обучения LLM — быстрее и дешевле облачных сервисов.
Мультимодальная модель Apple с указанием на область изображения: отвечает про конкретный участок картинки и рисует рамки по текстовому запросу.
Открытый тулкит речевых технологий: ASR, TTS, перевод речи, диаризация и диалог — всё в одном исследовательском фреймворке.