MLSecOps: обеспечение безопасности и отказоустойчивости систем машинного обучения

Подробнее о программе "MLSecOps: обеспечение безопасности и отказоустойчивости систем машинного обучения" по ссылке

Подробнее о программе "AI Governance в критических отраслях: от рисков и угроз к этике и доверию" по ссылке

Искусственный интеллект стремительно развивается и меняет мир. Но насколько безопасны и отказоустойчивы ваши ИИ-системы?

Сегодня каждый день российские компании внедряют модели машинного обучения и нейросети в свои бизнес-процессы. Но вместе с возможностями приходят и новые угрозы: отравление данных, атаки на модели, утечки конфиденциальной информации, уязвимости в больших языковых моделях и агентах искусственного интеллекта.

MLSecOps – это новая критически важная дисциплина на стыке машинного обучения, отказоустойчивости и кибербезопасности. Специалисты этого направления сегодня очень востребованы (рост по числу вакансий в 6 раз за 2024-2025 годы).

На вебинаре мы разобрали:

Что такое MLSecOps и LLMSecOps? Включая:

• Современные тренды ИТ-сферы и причины появления MLSecOps, дальнейшее развитие и перспективы этого направления

• Ключевые принципы и эффективная архитектура безопасности ИИ-систем

• Место MLSecOps в общей стратегии кибербезопасности компании

• Топ-10 атак на LLM-системы и агентские приложения по версии OWASP

• Отравление данных и примеры других уязвимостей, реальных инцидентов MLSecOps

• Основные ошибки и трудности современных компаний, в процессе обеспечения безопасности и отказоустойчивости ИИ-систем

• Безопасный цикл разработки ML-моделей (Secure by Design)

• Техники валидации входных данных и предотвращения утечек

• Мониторинг, реагирование на инциденты и Postmortem-анализ

• Обеспечение отказоустойчивости и надежности ML-систем

• Международные и российские стандарты безопасности ИИ

• Этичное применение AI-систем, внутрикорпоративные правила и стандарты MLSecOps

• AI Governance как новое направление в сфере ИИ, способствующее развитию MLSecOps

Спикер: Николай Павлов, архитектор MLSecOps и AI Governance, участник разработки национальных ГОСТов, ПНСТов и законопроектов в сфере ИИ, автор учебных программ в Академии АйТи (ГК Softline).

Приятного просмотра!