프롬프트 인젝션과 AI 거버넌스: Microsoft 365와 Power Platform 워크플로를 보호하는 방법 (AI 더빙)

직원을 돕기 위한 챗봇이 몇 분 만에 편향되거나 오해를 부르는 제안을 할 수 있고, 요청 속에 숨겨진 한 문장만으로도 AI 어시스턴트의 방향을 바꿀 수 있습니다. 이번 에피소드에서는 프롬프트 인젝션의 작동 방식과 Power Platform 및 Microsoft 365에서 적용할 수 있는 거버넌스 단계를 다룹니다.

이번 에피소드에서 배울 내용:

1. 프롬프트 인젝션 이해하기: 기반 모델이 잘 쓰인 모든 지시를 유효하다고 보는 이유와 숨겨진 명령이 보안 규칙을 우회하는 방식
2. 결정론적 vs 비결정론적: 규칙 기반 Power Platform 흐름과 생성형 Copilot의 차이, 그리고 드리프트로 대출 결정이 ‘승인’에서 ‘거절’로 바뀌는 사례
3. EU AI Act: 최소·제한·고위험·수용 불가의 위험 등급과 채용, 신용 평가 같은 고위험 용도에 요구되는 사항
4. Microsoft 생태계의 보호막: Responsible AI Dashboard, 데이터 손실 방지, 감사 추적, 샌드박스 테스트, 레드팀
5. 거버넌스 위원회 구성: 교차 기능 팀, 정기적인 공정성 감사, 그리고 첫 단계로 모든 AI 활용 사례 목록화

이 에피소드는 Microsoft MVP 미르코 피터스의 M365 Show 애니메이션 영상을 AI로 더빙한 한국어 버전입니다.

Mirko Peters · Microsoft MVP

Mirko Peters는 Microsoft MVP이자 팟캐스트 M365.FM의 진행자이며 무료 온라인 컨퍼런스 M365Con의 주최자입니다.

Mirko Peters는 Microsoft MVP이자 팟캐스트 M365.FM의 진행자이며 무료 온라인 컨퍼런스 M365Con의 주최자입니다.