Контроллер инференса LLM для Kubernetes от команды vLLM: автомасштабирование, маршрутизация, кэширование и мультитенантность в одном.
OCR от Allen AI на своей модели: извлечение текста из PDF в маркдаун для обучения LLM — быстрее и дешевле облачных сервисов.
Открытый VTuber с локальной LLM: живой анимированный аватар, голосовой диалог, распознавание эмоций и зрительный контакт — всё на вашем железе.
Автономные агенты R&D от Microsoft: агент сам формулирует гипотезы, проводит эксперименты и совершенствует ML-модели без участия человека.
Фреймворк RAG и агентов для корпоративных документов: парсинг тысяч форматов, работа с моделями на CPU и быстрый старт без GPU-кластера.
Агент глубокого поиска по своим данным от создателей Milvus: раскладывает вопрос на подзапросы, ищет в векторной БД и синтезирует развёрнутый ответ со ссылками.
Лёгкий GraphRAG от университета Гонконга: быстрее и дешевле Microsoft GraphRAG, тот же принцип графа знаний поверх векторного поиска.
Всё-в-одном CLI для LLM: чат, роли, RAG поверх документов, функции и запуск кода — на Rust, один бинарник.
Открытая коллекция паттернов промптов с CLI: суммаризация, анализ, вывод мыслей — сотни готовых сценариев сообщества.
Универсальный CLI для LLM от автора Datasette: запуск моделей из командной строки, пайпы, фрагменты и плагины.
Элегантный ИИ-агент в терминале от создателей Glow: чат с моделями, работа с файлами и красивый TUI.
Честный бенчмарк программирования без утечек: новые задачи с Codeforces и LeetCode, которые модели гарантированно не видели.
Бенчмарк ИИ в соревнованиях по машинному обучению: модель сама строит ML-решения Kaggle-контестов и получает медали.
Дубляж и субтитры видео силами ИИ: перевод, озвучка нейроголосом и субтитры для вертикальных платформ — всё в одном инструменте.
Продвинутый ИИ-чат для профессионалов: множество моделей, beam-агрегация ответов, personas и работа с документами.
Платформа запуска любых моделей локально: LLM, эмбеддинги, речь и мультимодальные модели с OpenAI-совместимым API.
Распределённый инференс LLM из устройств под рукой: несколько компьютеров, телефонов и одноплатников объединяются в кластер.
Гетерогенный инференс гигантских LLM: GPU считает внимание, CPU — остальное — запуск моделей с сотнями миллиардов параметров на домашнем железе.
Официальный шаблон чат-бота от Vercel: Next.js, Vercel AI SDK, стриминг, авторизация и история — готовый фундамент продукта.
Большая подборка по генеративному ИИ: модели, инструменты, библиотеки и сервисы — от текста и изображений до музыки и 3D.