حقن الأوامر وحوكمة الذكاء الاصطناعي: كيف تحمي مسارات العمل في Microsoft 365 وPower Platform (دبلجة بالذكاء الاصطناعي)

قد يقترح روبوت محادثة صُمّم لمساعدة الموظفين، خلال دقائق، إجراءات منحازة أو مضللة، وتكفي جملة واحدة مخفية في الطلب لتحويل مسار مساعد الذكاء الاصطناعي. تشرح هذه الحلقة كيف يعمل حقن الأوامر (Prompt Injection) وما خطوات الحوكمة التي يمكنك تطبيقها في Power Platform وMicrosoft 365.

ما ستتعلمه:

1. شرح حقن الأوامر: لماذا تتعامل النماذج الأساسية مع كل تعليمات مصاغة جيدًا على أنها صالحة، وكيف تتجاوز الأوامر المخفية قواعد الأمان
2. الحتمي مقابل غير الحتمي: تدفقات Power Platform القائمة على القواعد مقارنة بمساعدي Copilot التوليديين، وكيف يحوّل الانجراف قرار ائتمان من «موافقة» إلى «رفض»
3. قانون الذكاء الاصطناعي الأوروبي: مستويات المخاطر الدنيا والمحدودة والعالية وغير المقبولة، وما تتطلبه الاستخدامات عالية المخاطر مثل التوظيف وتقييم الائتمان
4. الدروع في منظومة Microsoft: لوحة Responsible AI Dashboard، ومنع فقدان البيانات، وسجلات التدقيق، والاختبار في بيئة معزولة، والفريق الأحمر
5. إنشاء مجلس حوكمة: فريق متعدد التخصصات، وتدقيقات دورية للعدالة، وجرد لجميع حالات استخدام الذكاء الاصطناعي كخطوة أولى

هذه الحلقة نسخة عربية مدبلجة بالذكاء الاصطناعي من الفيديو التوضيحي المتحرك ضمن M365 Show للخبير MVP من مايكروسوفت Mirko Peters.

Mirko Peters · Microsoft MVP

Mirko Peters خبير Microsoft MVP ومقدّم بودكاست M365.FM ومُطلق مؤتمر M365Con المجاني عبر الإنترنت.

Mirko Peters خبير Microsoft MVP ومقدّم بودكاست M365.FM ومُطلق مؤتمر M365Con المجاني عبر الإنترنت.