Prompt injection i zarządzanie AI: jak chronić przepływy pracy w Microsoft 365 i Power Platform (Dubbing AI)

Chatbot, który ma pomagać pracownikom, w ciągu kilku minut może podsuwać stronnicze lub mylące działania, a jedno ukryte zdanie w zapytaniu wystarczy, by zmienić kurs asystenta AI. Ten odcinek pokazuje, jak działa prompt injection i jakie kroki z zakresu governance zastosować w Power Platform i Microsoft 365.

Czego się dowiesz:

1. Prompt injection w praktyce: dlaczego modele bazowe traktują każde dobrze sformułowane polecenie jako ważne i jak ukryte komendy omijają zasady bezpieczeństwa
2. Deterministyczne kontra niedeterministyczne: regułowe przepływy Power Platform a generatywne copiloty oraz jak dryf zmienia decyzję kredytową z „zatwierdzono” na „odrzucono”
3. Unijny AI Act: poziomy ryzyka minimalne, ograniczone, wysokie i niedopuszczalne oraz wymagania dla zastosowań wysokiego ryzyka, takich jak rekrutacja czy ocena kredytowa
4. Tarcze w ekosystemie Microsoft: Responsible AI Dashboard, zapobieganie utracie danych, ścieżki audytu, testy w sandboxie i red teaming
5. Jak powołać komitet ds. governance: zespół międzydziałowy, regularne audyty sprawiedliwości i na początek inwentaryzacja wszystkich zastosowań AI

Ten odcinek to polska wersja z dubbingiem AI animowanego wideo z M365 Show prowadzonego przez Microsoft MVP Mirko Petersa.

Mirko Peters · Microsoft MVP

Mirko Peters jest Microsoft MVP, gospodarzem podcastu M365.FM i inicjatorem bezpłatnej konferencji online M365Con.

Mirko Peters jest Microsoft MVP, gospodarzem podcastu M365.FM i inicjatorem bezpłatnej konferencji online M365Con.