Фреймворк голосовых ИИ-агентов в реальном времени: телефония, стриминговая речь, прерывания mid-speech и интеграции с Twilio, SIP и вебом.
Память для ИИ: единый API, который запоминает пользовательский контекст — страницы, заметки, диалоги — и подмешивает его в любые LLM-приложения.
Официальный CLI для LM Studio: загрузка моделей из терминала, локальный сервер с OpenAI-совместимым API и скриптование вокруг локального инференса.
Запуск LLM на чём угодно: компиляция моделей под GPU/CPU смартфонов, ноутбуков и браузеров через TVM — локальный инференс без облака.
OpenTelemetry-наблюдаемость для GenAI: одна строка кода покрывает трейсы, токены, стоимость и метрики OpenAI, Anthropic, LangChain и десятков SDK.
Open-source observability для LLM- и агентных приложений: трейсы, оценки, датасеты для evals и промт-менеджмент в одной панели.
Оценка LLM-приложений: 20+ готовых метрик качества — галлюцинации, релевантность, тон, безопасность — с объяснениями и дашбордом.
Единая платформа метаданных с data quality и линейностью: каталог, глоссарий, профилирование таблиц и алерты прямо из коробки.
Низкокодовый AutoML на Python: сравнение десятков моделей, настройка, ансамбли и деплой ML-пайплайнов в несколько строк.
Агент глубокого поиска по своим данным от создателей Milvus: раскладывает вопрос на подзапросы, ищет в векторной БД и синтезирует развёрнутый ответ со ссылками.
Лёгкий GraphRAG от университета Гонконга: быстрее и дешевле Microsoft GraphRAG, тот же принцип графа знаний поверх векторного поиска.
JavaScript-версия официального SDK OpenAI для агентов: тот же API циклов, guardrails и handoffs — для Node.js и браузерных стеков.
Официальный Python-SDK OpenAI для агентов: передача контекста между рукопожатиями, guardrails, трассировка и handoff между агентами.
Улучшенный Whisper со стабильными таймкодами: точные границы слов и сегментов без «плавания» времени.
Открытая модель понимания и генерации речи: понимает эмоции, разговаривает и клонирует голоса.
Всё-в-одном CLI для LLM: чат, роли, RAG поверх документов, функции и запуск кода — на Rust, один бинарник.
Открытая коллекция паттернов промптов с CLI: суммаризация, анализ, вывод мыслей — сотни готовых сценариев сообщества.
Генерация команд shell по описанию: «sgpt find all log files» — и получаете готовую команду с пояснением.
Универсальный CLI для LLM от автора Datasette: запуск моделей из командной строки, пайпы, фрагменты и плагины.
Элегантный ИИ-агент в терминале от создателей Glow: чат с моделями, работа с файлами и красивый TUI.