प्रॉम्प्ट इंजेक्शन और AI गवर्नेंस: Microsoft 365 और Power Platform वर्कफ़्लो को कैसे सुरक्षित रखें (AI डबिंग)

कर्मचारियों की मदद के लिए बना चैटबॉट कुछ ही मिनटों में पक्षपाती या भ्रामक सुझाव दे सकता है, और अनुरोध में छिपा एक वाक्य ही AI असिस्टेंट को भटकाने के लिए काफ़ी है। यह एपिसोड बताता है कि प्रॉम्प्ट इंजेक्शन कैसे काम करता है और Power Platform व Microsoft 365 में कौन-से गवर्नेंस कदम अपनाए जा सकते हैं।

आप क्या सीखेंगे:

1. प्रॉम्प्ट इंजेक्शन समझें: बेस मॉडल हर अच्छी तरह लिखे निर्देश को वैध क्यों मानते हैं और छिपे आदेश सुरक्षा नियमों को कैसे बायपास करते हैं
2. डिटर्मिनिस्टिक बनाम नॉन-डिटर्मिनिस्टिक: नियम-आधारित Power Platform फ़्लो बनाम जनरेटिव Copilot, और ड्रिफ़्ट कैसे लोन निर्णय को “स्वीकृत” से “अस्वीकृत” कर देता है
3. EU AI Act: न्यूनतम, सीमित, उच्च और अस्वीकार्य जोखिम स्तर, और भर्ती या क्रेडिट मूल्यांकन जैसे उच्च-जोखिम उपयोगों की ज़रूरतें
4. Microsoft इकोसिस्टम की सुरक्षा ढालें: Responsible AI Dashboard, डेटा लॉस प्रिवेंशन, ऑडिट ट्रेल, सैंडबॉक्स टेस्टिंग और रेड टीमिंग
5. गवर्नेंस बोर्ड बनाना: क्रॉस-फ़ंक्शनल टीम, नियमित निष्पक्षता ऑडिट और पहले कदम के रूप में सभी AI उपयोग मामलों की सूची

यह एपिसोड Microsoft MVP मिर्को पीटर्स के M365 Show के एनिमेटेड वीडियो का AI से डब किया गया हिंदी संस्करण है।

Mirko Peters · Microsoft MVP

Mirko Peters Microsoft MVP, पॉडकास्ट M365.FM के होस्ट और निःशुल्क ऑनलाइन कॉन्फ़्रेंस M365Con के आयोजक हैं।

Mirko Peters Microsoft MVP, पॉडकास्ट M365.FM के होस्ट और निःशुल्क ऑनलाइन कॉन्फ़्रेंस M365Con के आयोजक हैं।