Prompt injection и управление ИИ: как защитить рабочие процессы в Microsoft 365 и Power Platform (ИИ-дубляж)

Чат-бот, призванный помогать сотрудникам, уже через несколько минут может предлагать предвзятые или вводящие в заблуждение действия, а одной скрытой фразы в запросе достаточно, чтобы сбить ИИ-ассистента с курса. В этом выпуске — как работает prompt injection и какие шаги по управлению ИИ применить в Power Platform и Microsoft 365.

Что вы узнаете:

1. Что такое prompt injection: почему базовые модели считают любую грамотно сформулированную инструкцию допустимой и как скрытые команды обходят правила безопасности
2. Детерминированные и недетерминированные системы: потоки Power Platform на правилах против генеративных копилотов и как дрейф меняет кредитное решение с «одобрено» на «отказано»
3. Закон ЕС об ИИ (EU AI Act): уровни риска — минимальный, ограниченный, высокий и неприемлемый — и требования к высокорисковым сценариям, таким как подбор персонала и кредитный скоринг
4. Защита в экосистеме Microsoft: Responsible AI Dashboard, предотвращение утечки данных, журналы аудита, тесты в песочнице и red teaming
5. Как создать совет по управлению ИИ: кросс-функциональная команда, регулярные аудиты справедливости и первым шагом — инвентаризация всех сценариев использования ИИ

Этот выпуск — русская версия с ИИ-дубляжом анимированного видео из M365 Show от Microsoft MVP Мирко Петерса.

Mirko Peters · Microsoft MVP

Mirko Peters — Microsoft MVP, ведущий подкаста M365.FM и инициатор бесплатной онлайн-конференции M365Con.

Mirko Peters — Microsoft MVP, ведущий подкаста M365.FM и инициатор бесплатной онлайн-конференции M365Con.