Prompt Injection dan Tata Kelola AI: Cara Melindungi Alur Kerja Microsoft 365 dan Power Platform (Sulih Suara AI)

Chatbot yang seharusnya membantu karyawan bisa dalam hitungan menit menyarankan tindakan yang bias atau menyesatkan, dan satu kalimat tersembunyi dalam permintaan sudah cukup untuk membelokkan asisten AI. Episode ini menjelaskan cara kerja prompt injection dan langkah tata kelola yang bisa Anda terapkan di Power Platform dan Microsoft 365.

Yang akan Anda pelajari:

1. Prompt injection dijelaskan: mengapa model dasar menganggap setiap instruksi yang tersusun rapi sebagai sah dan bagaimana perintah tersembunyi menembus aturan keamanan
2. Deterministik vs. non-deterministik: flow Power Platform berbasis aturan dibandingkan copilot generatif, serta bagaimana drift mengubah keputusan kredit dari “disetujui” menjadi “ditolak”
3. EU AI Act: tingkat risiko minimal, terbatas, tinggi, dan tidak dapat diterima, serta tuntutan untuk penggunaan berisiko tinggi seperti rekrutmen dan penilaian kredit
4. Perisai di ekosistem Microsoft: Responsible AI Dashboard, pencegahan kehilangan data, jejak audit, pengujian di sandbox, dan red teaming
5. Membentuk dewan tata kelola: tim lintas fungsi, audit keadilan rutin, dan sebagai langkah pertama inventarisasi semua kasus penggunaan AI

Episode ini adalah versi Bahasa Indonesia dengan sulih suara AI dari video animasi M365 Show oleh Microsoft MVP Mirko Peters.

Mirko Peters · Microsoft MVP

Mirko Peters adalah Microsoft MVP, pembawa podcast M365.FM, dan penggagas konferensi online gratis M365Con.

Mirko Peters adalah Microsoft MVP, pembawa podcast M365.FM, dan penggagas konferensi online gratis M365Con.