Ollama
Самый простой способ запускать локальные LLM на своём компьютере: одна команда — и модель работает, плюс OpenAI-совместимый API.
Плагины под экосистему OpenAI: расширяют возможности вашей среды одной установкой. Новые позиции добавляются регулярно.
Самый простой способ запускать локальные LLM на своём компьютере: одна команда — и модель работает, плюс OpenAI-совместимый API.
Единый интерфейс к сотне LLM: один код для всех провайдеров, плюс прокси с балансировкой, бюджетами и фолбэками.
Наблюдаемость и кэширование LLM-запросов через прокси: логи, кэш, рейт-лимиты и аналитика без изменения кода.
Открытая платформа наблюдаемости LLM: трейсы, оценки, датасеты и мониторинг стоимости запросов к моделям.
Платформа интеграций для агентов: сотни готовых инструментов для приложений, единая аутентификация и управление доступом.
TypeScript-фреймворк для агентов: память, воркфлоу, интеграции и оценка — всё для продакшн-агентов на JS-стеке.
Минималистичный агентный фреймворк от Hugging Face: агенты пишут и выполняют код вместо JSON-вызовов инструментов.
Агентный фреймворк от создателей Pydantic: типизированные выходы, валидация схемами, зависимости и наблюдаемость.
SDK Microsoft для оркестрации ИИ: плагины-функции, планировщики, память и интеграция с корпоративными сервисами.
Фреймворк Microsoft для многоагентных разговоров: агенты обсуждают задачу между собой и приходят к решению.
Фреймворк для команд ИИ-агентов: каждый агент — роль, задачи распределяются автоматически, есть визуальная среда.
Официальный SDK OpenAI для построения агентов: цепочки, инструменты, guardrails и handoff между агентами.