Prompt injection і врядування ШІ: як захистити робочі процеси в Microsoft 365 та Power Platform (ШІ-дубляж)

Чат-бот, який мав би допомагати працівникам, уже за кілька хвилин може пропонувати упереджені чи оманливі дії, а однієї прихованої фрази в запиті досить, щоб збити ШІ-асистента з курсу. У цьому випуску — як працює prompt injection і які кроки врядування застосувати в Power Platform та Microsoft 365.

Що ви дізнаєтеся:

1. Що таке prompt injection: чому базові моделі вважають будь-яку вдало сформульовану інструкцію чинною і як приховані команди обходять правила безпеки
2. Детерміновані й недетерміновані системи: потоки Power Platform на правилах проти генеративних копілотів і як дрейф змінює кредитне рішення з «схвалено» на «відхилено»
3. Закон ЄС про ШІ (EU AI Act): рівні ризику — мінімальний, обмежений, високий і неприйнятний — та вимоги до високоризикових сценаріїв, як-от найм чи кредитний скоринг
4. Захист в екосистемі Microsoft: Responsible AI Dashboard, запобігання втраті даних, журнали аудиту, тести в пісочниці та red teaming
5. Як створити раду з врядування ШІ: міжфункційна команда, регулярні аудити справедливості та першим кроком — інвентаризація всіх сценаріїв використання ШІ

Цей випуск — українська версія з ШІ-дубляжем анімованого відео з M365 Show від Microsoft MVP Мірко Петерса.

Mirko Peters · Microsoft MVP

Mirko Peters — Microsoft MVP, ведучий подкасту M365.FM та ініціатор безкоштовної онлайн-конференції M365Con.

Mirko Peters — Microsoft MVP, ведучий подкасту M365.FM та ініціатор безкоштовної онлайн-конференції M365Con.