Генеративный ИИ для начинающих
Официальный курс Microsoft: 21 урок по генеративному ИИ — от устройства LLM до RAG, агентов и развёртывания.
Официальный курс Microsoft: 21 урок по генеративному ИИ — от устройства LLM до RAG, агентов и развёртывания.
Системный гид по промпт-инженерии от DAIR.AI: техники от few-shot до CoT, руководства по моделям и интерактивные примеры.
Инструментарий цикла разработки LLM-приложений от Microsoft: потоки промптов, оценки, тонкая настройка и деплой в Azure.
Структурированный язык написания промптов: шаблоны с ролями, правилами и workflow делают сложные промпты поддерживаемыми.
Самая известная коллекция промптов для ChatGPT: сотни готовых ролей и сценариев — от переводчика до интервьюера.
Официальный JavaScript-клиент OpenAI: полная типизация, стриминг, функции и поддержка Deno, Bun и браузера.
Официальный Python-клиент OpenAI: чат, функции, ассистенты, стриминг и все новые возможности API.
Сканеры безопасности для LLM-входов и выходов: фильтрация инъекций, чувствительных данных и токсичности одной библиотекой.
Тестирование и защита ИИ-моделей: автоматические проверки на предвзятость, утечки и уязвимости для LLM и классического ML.
Инструментарий наблюдаемости и оценки GenAI от W&B: трейсы LLM, датасеты для оценки и сравнение версий приложений.
Открытая реализация глубокого исследования в стиле OpenAI от LangChain: многошаговый агент с промежуточными отчётами и цитатами.
Открытая платформа жизненного цикла ML: трекинг экспериментов, реестр моделей, упаковка и деплой — от Databricks.
Десктопный клиент «все чат-боты сразу»: один вопрос отправляется ChatGPT, Claude, Gemini и десяткам других — ответы рядом для сравнения.
Платформа для обучения, оценки и сервинга чат-моделей от создателей Chatbot Arena: OpenAI-совместимый API для любых моделей.
Быстрый сервер инференса LLM от исследователей: RadixAttention для переиспользования кэша и сложные программы генерации.
Продакшн-сервер инференса LLM от Hugging Face: стриминг, квантование, кэширование — сердце Inference Endpoints.
Библиотека Microsoft для обучения гигантских моделей: параллелизм данных, конвейеров и тензоров на тысячах GPU.
100+ моделей для дообучения через веб-интерфейс: визуальный Gradio-UI делает файнтюнинг доступным без программирования.
Дообучение LLM в разы быстрее и с меньшей памятью: оптимизированные ядра ускоряют QLoRA-обучение на 2–5 раз.
Параметрически эффективное дообучение: адаптеры LoRA и десятки других методов позволяют доучивать гигантские модели на одном GPU.