mistral.rs
Инференс LLM на чистом Rust: быстрая загрузка моделей в 4-битном квантовании, поддержка Vision-Language моделей и Metal-ускорение на Mac.
Плагины под экосистему OpenAI: расширяют возможности вашей среды одной установкой. Новые позиции добавляются регулярно.
Инференс LLM на чистом Rust: быстрая загрузка моделей в 4-битном квантовании, поддержка Vision-Language моделей и Metal-ускорение на Mac.
Сильнейшее открытое зрение от Alibaba: точно распознаёт документы и рукописи, управляет компьютером по скриншотам, понимает часовые видео.
Открытое зрение от Allen AI: модели Molmo показывают точность закрытых конкурентов и указывают на объекты кликом, доступны для дообучения.
SDK для агентов на инфраструктуре Cloudflare: stateful-агенты с памятью, веб-сокеты, планировщики и деплой одной командой wrangler.
Фреймворк глубоких агентов от LangChain: планирование через to-do, виртуальная файловая система и субагенты для задач, требующих часов работы.
Инструменты Stripe для ИИ-агентов: платежи, подписки, счета и возвраты через единый API — агенты могут продавать и выставлять счета.
Контроллер инференса LLM для Kubernetes от команды vLLM: автомасштабирование, маршрутизация, кэширование и мультитенантность в одном.
Открытый фреймворк дообучения LLM от Allen AI: SFT, DPO, RLHF и RLVR с воспроизводимыми рецептами обучения Olmo.
OCR от Allen AI на своей модели: извлечение текста из PDF в маркдаун для обучения LLM — быстрее и дешевле облачных сервисов.
Мультимодальная модель Apple с указанием на область изображения: отвечает про конкретный участок картинки и рисует рамки по текстовому запросу.
Открытый тулкит речевых технологий: ASR, TTS, перевод речи, диаризация и диалог — всё в одном исследовательском фреймворке.
Парсер документов без потерь форматирования: PDF, DOCX, PPTX превращаются в чистый markdown с таблицами и колонтитулами для RAG.
Клиентская библиотека MCP для агентов: подключение любых MCP-серверов к LangChain, CrewAI и собственным агентам парой строк.
Мост между MCP и LangChain/LangGraph: любой MCP-сервер становится набором инструментов для ваших агентов за пару строк.
Кэш для LLM-запросов: похожие вопросы отдаются из кэша за копейки — снижение задержки и расходов на API до 90%.
Векторное расширение PostgreSQL: храните эмбеддинги в привычной базе рядом с данными — без отдельной векторной СУБД.
Фреймворк RAG и агентов для корпоративных документов: парсинг тысяч форматов, работа с моделями на CPU и быстрый старт без GPU-кластера.
Автоматический аудит данных: находит ошибочные метки, дубликаты и выбросы в датасетах — типичные данные становятся чище без ручной проверки.
Автономные агенты разметки от создателей Label Studio: агент учится размечать данные по вашим примерам и доводит качество до заданной планки.
Автоматическая разметка датасетов LLM: несколько строк кода превращают сырые данные в размеченные — с оценкой точности каждой метки.