academy@academyit.ru
DIFF-MODELS
Для технических специалистов
40 ак. часов
Диффузионные модели в NLP
63000 ₽
Онлайн класс. Удаленное подключение к очным курсам.
Для обучения достаточно иметь доступ в Интернет.
Время онлайн трансляции курса устанавливается в зависимости от города проведения очного обучения. Предусмотрено предоставление записей слушателям в отдаленных часовых поясах.
Забронировать курс
26 октября 2026
-
О курсе
- Специализированный курс, посвященный применению диффузионных моделей для задач обработки естественного языка.
- Программа охватывает математический аппарат диффузии, дискретные (D3PM) и непрерывные (Diffusion-LM) подходы, методы управляемой генерации (Classifier Guidance, CFG), техники ускорения сэмплинга (DDIM, DPM-Solver) и инструменты промышленной эксплуатации.
- Курс завершается разработкой полноценного проекта на реальном бизнес-кейсе.
Целевая аудитория
Разработчики, интересующиеся передовыми методами генерации текста
ML-инженеры и исследователи в области генеративных моделей
Data Scientists с опытом работы в глубоком обучении
NLP-специалисты, желающие выйти за пределы авторегрессионных подходов
Программа курса
1
Модуль 1. Ландшафт генеративного ИИ и концепция шума
Цель: Понять место диффузионных моделей в экосистеме NLP и их отличие от авторегрессионных моделей (GPT).
- 1.1. Эволюция генерации текста
- От n-грамм к RNN/LSTM. Архитектура Transformer. Проблемы LLM: галлюцинации, mode collapse, сложность контроля стиля.
- 1.2. Диффузия как новая парадигма
- История: от термодинамики к DDPM (2020). Преимущества: стабильность обучения, вариативность, управляемость.
- 1.3. Прикладные задачи NLP для диффузионных моделей
- Перефразирование, условная генерация, предсказание предлогов, POS-tagging, сжатие текстов.
- Практика: Реализация скрипта зашумления текста (замена токенов на [MASK]).
2
Модуль 2. Математический аппарат: Прямой и обратный процессы
Цель: Глубокое изучение теории вероятностей и вариационного вывода.
- 2.1. Марковские цепи в диффузии
- Forward Process: гауссовский шум. Трюк репараметризации (Reparameterization Trick).
- 2.2. Обучение восстановлению (Reverse Process)
- Аппроксимация с помощью нейронных сетей. Variational Lower Bound (VLB). Упрощение до предсказания шума.
- 2.3. Noise Schedules
- Линейное, косинусное и сигмоидальное зашумление.
- Практика: Визуализация процесса диффузии в 2D-пространстве признаков на Python.
3
Модуль 3. Дискретные диффузионные модели (D3PM)
Цель: Освоить методы работы с текстом как с дискретными данными.
- 3.1. Архитектура D3PM
- Матрицы переходов: Uniform, Absorbing, Bit-manipulation.
- 3.2. Категориальные распределения
- Проблемы Softmax в диффузии. Gumbel-Softmax Trick.
- 3.3. Современные подходы
- VMLM (Variational Masked Language Models): связь диффузии и BERT.
- Практика: Обучение мини-модели D3PM для восстановления пропущенных слов.
4
Модуль 4. Непрерывная диффузия: Diffusion-LM
Цель: Научиться использовать пространство эмбеддингов для генерации текстов.
- 4.1. Пространство эмбеддингов как поле для диффузии
- Архитектура Diffusion-LM. Интеграция предобученных моделей (BERT, RoBERTa, GPT).
- 4.2. Проблема округления (Rounding Problem)
- Nearest Neighbor, VQ-VAE, Learnable Rounding.
- 4.3. Гладкость и семантика
- Почему непрерывная диффузия лучше для длинных текстов.
- Практика: Пайплайн генерации в пространстве эмбеддингов с Hugging Face.
5
Модуль 5. Управляемая генерация (Guidance)
Цель: Освоить методы контроля стиля, тональности и содержания.
- 5.1. Classifier Guidance
- Использование внешних классификаторов. Масштабирование градиента (Guidance Scale).
- 5.2. Classifier-Free Guidance (CFG)
- Обучение в условном и безусловном режимах. CFG как стандарт.
- 5.3. Продвинутые фреймворки
- ParaGuide, Dior-CVAE.
- Практика: Условная генерация текста с заданным Sentiment.
6
Модуль 6. Оптимизация и ускорение сэмплинга
Цель: Сделать диффузионные модели пригодными для промышленного использования.
- 6.1. Немарковские процессы (DDIM)
- Ускорение генерации с 1000 до 50 шагов без потери качества.
- 6.2. DPM-Solver
- Обратный процесс как решение ODE. Генерация текста за 20 шагов.
- 6.3. Latent Diffusion (LDM)
- Диффузия в сжатом латентном пространстве. Снижение требований к VRAM.
- Практика: Бенчмарк скорости генерации DDPM vs DDIM vs DPM-Solver.
7
Модуль 7. Инструментарий, мониторинг и LLMOps
Цель: Подготовка к релизу: логирование, эксперименты и выбор стека.
- 7.1. Мониторинг обучения
- TensorBoard, Weights & Biases: версионирование, гиперпараметры, артефакты.
- 7.2. Оптимизация гиперпараметров
- Learning rate, оптимизатор (AdamW vs SGD), размерность скрытых слоев.
- 7.3. Self-Conditioning
- Подача предыдущего предсказания на вход для стабилизации длинных последовательностей.
- Практика: Настройка дашборда в W&B для мониторинга обучения.
8
Модуль 8. Финальный проект и будущее технологий
Цель: Закрепление знаний на реальном бизнес-кейсе.
- 8.1. Проектирование системы "Умный помощник"
- Кейс: Генератор разнообразных и персонализированных ответов для отдела продаж.
- 8.2. Современные тренды (Research 2026)
- Multimodal Diffusion: текст-изображение-звук. Diffusion для NLU.
- 8.3. Защита проектов
- Презентация архитектуры, анализ метрик качества и демонстрация работы модели.
-
По окончании курса слушатели смогут:
- Понимать место диффузионных моделей в экосистеме NLP и их отличия от авторегрессионных моделей
- Владеть математическим аппаратом: прямой и обратный процессы диффузии, VLB, noise schedules
- Реализовывать дискретные (D3PM) и непрерывные (Diffusion-LM) диффузионные модели для текста
- Применять методы управляемой генерации: Classifier Guidance, Classifier-Free Guidance, ParaGuide
- Оптимизировать сэмплинг: DDIM, DPM-Solver, Latent Diffusion для достижения real-time производительности
- Настраивать мониторинг обучения (TensorBoard, W&B) и оптимизировать гиперпараметры
- Разрабатывать и защищать полноценный проект диффузионной модели для бизнес-задачи
-
Необходимая подготовка
- Глубокие знания линейной алгебры, теории вероятностей и математической статистики
- Уверенное владение Python, PyTorch и Hugging Face Transformers
- Понимание архитектуры Transformer, BERT, GPT и механизмов обучения LLM
- Знакомство с вариационными автоэнкодерами (VAE) будет преимуществом
