academy@academyit.ru
LANGCHAIN
Для технических специалистов
8 ак.часов
LangChain Enterprise: От локальной модели до агентных систем
22680 ₽
Онлайн класс. Удаленное подключение к очным курсам.
Для обучения достаточно иметь доступ в Интернет.
Время онлайн трансляции курса устанавливается в зависимости от города проведения очного обучения. Предусмотрено предоставление записей слушателям в отдаленных часовых поясах.
-
О КУРСЕ8-часовой мастер-класс о создании on-premise стека и приложений на базе LLM. За день участники разворачивают инфраструктуру через Docker, знакомятся с локальными моделями (в т.ч. Qwen-2.5) и фреймворками запуска (Ollama, vLLM, SGLang), подключают LLM в LangChain, используют LCEL и структурированный вывод с Pydantic, а также работают с мультимодальной LLaVA для анализа изображений.
Далее на практике строится RAG над корпоративными документами с векторными БД, полнотекстовым и гибридным поиском. Рассматривается извлечение троек и построение графов знаний, проектирование агентных workflow в LangGraph, стратегии работы с ограниченным контекстом и основы вывода в продакшен: ключевые метрики, логирование/трассировка и простой UI на Gradio
Технологии и инструменты, которыми будете владеть
Sliding Window
Базовый роутер инструментов
Условный роутинг
Tool Calling
Состояние/узлы/рёбра
Загрузка/чанкинг
Чему вы научитесь
Извлекать факты
Включать результатов в цепочку
Развернуть локальный стек LLM через Docker/docker-compose
Запускать модели (например, Qwen, Llama) через CLI и API
Подключать локальную модель к приложению через LangChain
Получать структурированный вывод (Pydantic/JSON)
Собирать базовый RAG над документами
Индексация в ChromaDB
Полнотекстовый и гибридный поиск
Строить простой граф знаний с поиском по нему
проектировать и реализовывать агента в LangGraph
Учитывать ограничение контекста
Применять сжатие истории
Поднимать простой веб-интерфейс на Gradio
Включать базовое логирование шагов исполнения
Применять суммаризацию и простой fallback при ошибках/зацикливаниях
Целевая аудитория
Разработчики и инженеры, вовлечённые во внедрение ИИ/LLM
Backend-разработчики, инженеры по данным и архитекторы решений
Аналитики, собирающие прототипы ассистентов на собственных данных
Аналитики, собирающие прототипы RAG-систем на собственных данных
Содержание программы:
1
Модуль 1. Локальная инфраструктура
- Почему on-premise: безопасность данных, контроль затрат, кастомизация, независимость
- Обзор локальных LLM: сравнение моделей; Qwen-2.5 как оптимальный выбор для enterprise
- Сравнение фреймворков запуска: Ollama (прототипы), vLLM (production-пропускная способность), SGLang (скорость для сложных промптов и RAG)
- Развёртывание стека через docker-compose
- Загрузка и тестовые прогоны моделей (Qwen, Llama) через CLI и API
2
Модуль 2. Основы LangChain + локальные модели
- Архитектура LangChain для on-prem: перенаправление на локальные эндпоинты
- LCEL: декларативные цепочки со streaming, async и параллелизмом
- Структурированный вывод с Pydantic (валидный JSON)
- Подключение к локальной LLM через ChatOllama
- Создание первой LCEL-цепочки и парсинг вывода в JSON/Pydantic
- Мультимодальная LLaVA: анализ изображений
3
Модуль 3. Поисковые системы и RAG
- Введение в Retrieval-Augmented Generation (RAG)
- Векторный поиск: от ChromaDB к enterprise-решениям (Qdrant, Milvus)
- Полнотекстовый поиск (BM25) и гибридный поиск
- Загрузка и чанкинг корпоративных документов
- Создание векторной базы в ChromaDB
- Сборка RAG-цепочки на LCEL
- Реализация гибридного поиска с EnsembleRetriever
4
Модуль 4. Графы знаний
- Что такое графы знаний и как они дополняют RAG
- Извлечение троек (субъект-предикат-объект) с помощью LLM
- Создание цепочки для извлечения троек
- Построение и визуализация графа (NetworkX)
- Кастомный ретривер для поиска по графу
5
Модуль 5. Агентные системы и LangGraph
- Отличие агентов от цепочек: динамическое принятие решений
- Архитектура LangGraph: State, Nodes, Edges
- Tool Calling для вызова внешних функций
- Создание кастомных инструментов
- Построение графа состояний и условный роутинг
- Стратегия для 20+ инструментов: агент-роутер (категоризация → выбор инструмента)
6
Модуль 6. Продвинутые кейсы и ограничения
- Ограниченное контекстное окно: проблемы и подходы
- Стратегии: сжатие истории, Sliding Window, явная суммаризация
- Реализация сжатия истории в стейте LangGraph
- Применение Sliding Window для простых случаев
- Fallback-механизм на счётчике рекурсии (зацикливания и ошибки агента)
7
Модуль 7. Мониторинг и production
- Ключевые метрики: Latency, Accuracy, Token Usage
- Логирование и трассировка вызовов
- Создание простого UI с Gradio
- Callbacks для логирования шагов агента в консоль (прототип для ELK/Datadog)
-
Необходимая подготовка
- Базовые навыки Python; умение работать с Docker/docker-compose и командной строкой;
- Понимание принципов работы веб-API (CLI/API вызовы)
