academy@academyit.ru
LLM-1
Машинное обучение и наука о данных
32 ак.часа
Разработка на основе LLM: Языковые модели для бизнеса
-
О КУРСЕКурс предназначен для специалистов, стремящихся максимально использовать потенциал современных языковых моделей (LLM) для разработки эффективных продуктов и решений. Вы изучите архитектуру и применение frontier- и open-source моделей, научитесь тонкой настройке и оптимизации моделей под конкретные бизнес-задачи. Особое внимание уделяется методам Retrieval-Augmented Generation (RAG), мультимодальным агентам и использованию LLM в качестве мощного инструмента для генерации и оптимизации кода.
В рамках курса вы выполните серию практических проектов: от создания клиентской поддержки на основе AI до реализации автономной системы поиска выгодных предложений. Вы приобретете опыт работы с популярными библиотеками и инструментами, такими как HuggingFace, LangChain, CrewAI, Autogen и получите навыки для эффективного деплоя многоагентных систем
Технологии и инструменты, которыми будете владеть
Frontier
open-source LLM
RAG
QLoRA
Agents и Tool Calling
GenAI-приложения
AI/ML-специалисты, Python-разработчики, дата-инженеры, системные архитекторы, DevOps-инженеры, создающие или внедряющие LLM-решения
-
Содержание программы
Модуль 1. Основы LLM и старт проекта- Архитектура трансформеров
- Эксперименты с Frontier-моделями
- Первый проект: генерация брошюры с Web-scraping и навигацией по сайту
Модуль 2. API Frontier LLM и мультимодальные агенты- Сравнение API разных моделей (GPT-4, Claude, Gemini и др.)
- UI + voice + image + function calling
- Проект: AI-ассистент клиентской поддержки для авиакомпании
Модуль 3. Open-Source LLM и HuggingFace
- Знакомство с open LLM: LLaMA, Mistral, Falcon
- HuggingFace Transformers + Diffusers
- Проект: генерация meeting minutes из аудиозаписей
Модуль 4. Генерация и оптимизация кода с помощью LLM
- Prompt engineering для кода
- Использование LLM как компилятора и оптимизатора
- Проект: перевод Python в C++ с приростом производительности в 60 000
Модуль 5. Retrieval-Augmented Generation (RAG) и векторные БД
- Embeddings, FAISS, Chroma, Weaviate
- Архитектура RAG-решения
- Проект: knowledge worker, отвечающий на вопросы по данным компании
Модуль 6. Тонкая настройка моделей (fine-tuning)
- Разница между inference и training
- Fine-tuning Frontier LLM на бизнес-задачу
- Проект: Capstone A — предсказание цены продукта по описанию
Модуль 7. QLoRA и обучение open-source моделей
- Методика QLoRA, LoRA, 8bit/4bit weights
- Fine-tuning open LLM → против Frontier
- Проект: Capstone B — open-source модель для прогноза цен
Модуль 8. Многоагентные системы и деплой
- Архитектура agentic workflows
- Orchestration с LangChain, CrewAI, Autogen
- Деплой с UI, agents, tool use
- Capstone C - автономная система, находящая выгодные предложения
-
Предварительные требования:
◉ уверенное владение Python
◉ знание API-интерфейсов
◉ опыт работы с JSON
◉ базовое понимание нейросетевых архитектур и REST-запросов
-
Получаемый документ:
