यह क्यों मायने रखता है

सेवा प्रबंधन में बहुत अधिक भाषा और पैटर्न की पहचान शामिल है: टिकट पढ़ना, घटनाओं का सार बनाना, ज्ञान खोजना, उत्तर का मसौदा बनाना, निगरानी डेटा में असामान्य संकेत पहचानना। ये वे कार्य हैं जिनमें हाल की AI प्रणालियाँ सबसे सक्षम दिखती हैं, और विक्रेताओं ने उन्हें सेवा डेस्क और संचालन औज़ारों में जोड़ने में जल्दबाज़ी की है। टीमों से, यदि पहले नहीं तो अब, पूछा जाएगा कि क्या उनका उपयोग करें।

अवसर वास्तविक है, और ख़तरे भी। AI प्रणालियाँ आत्मविश्वास से असत्य कह सकती हैं, अपने प्रशिक्षण और दिए गए डेटा के पक्षपात दोहरा सकती हैं, लापरवाही से खिलाने पर गोपनीय जानकारी उजागर कर सकती हैं, और लोगों को ऐसे आउटपुट पर भरोसा करने की ओर ले जा सकती हैं जिसे उन्होंने जाँचा नहीं है। कई व्यापक रूप से रिपोर्ट किए मामले ग़लत जगह भरोसे की क़ीमत दिखाते हैं। जो सेवा संगठन बिना सोचे AI अपनाता है वह अपने ग्राहकों और अपनी प्रतिष्ठा को नुकसान पहुँचा सकता है।

2026 तक, AI फ़्रेमवर्क में भी आ गया है। PeopleCert का सार्वजनिक प्रमाणन पन्ना नए ITIL को "डिज़ाइन से व्यावहारिक और AI-नेटिव" के रूप में वर्णित करता है और ITIL AI Governance (संस्करण 5) मॉड्यूल सूचीबद्ध करता है जो AI को "ज़िम्मेदारी से और पैमाने पर" शासित करने को ढँकता है (देखें विषय 2.2 — ITIL)। यह गाइड स्वामी के प्रकाशनों से सत्यापित नहीं कर सकी कि ITIL 5 AI के बारे में विस्तार से क्या कहता है, इसलिए यह विषय उन कथनों से आगे फ़्रेमवर्क की स्थिति का वर्णन नहीं करता। यह AIOps और AI भ्रम पर विकिपीडिया लेखों, NIST के AI जोखिम प्रबंधन फ़्रेमवर्क पन्ने, और व्यावहारिक तर्क पर आधारित है, और प्रथा को उसी रूप में चिह्नित करता है।

मूल अवधारणाएँ

सेवा प्रबंधन में AI कहाँ मदद करता है

अधिकांश उपयोग कुछ समूहों में आते हैं। तालिका उदाहरण और हर एक के जोखिम का प्रकार दिखाती है, इस गाइड की पढ़त के रूप में।

उपयोग AI क्या करता है मुख्य जोखिम
पहचान और सहसंबंध (AIOps) विसंगतियाँ खोजता है, संबंधित घटनाओं को समूहित करता है, संभावित कारण सुझाता है झूठे अलार्म, छूटी घटनाएँ, अपारदर्शी तर्क
सेवा डेस्क सहायता उत्तर सुझाता है, टिकटों का सार बनाता है, उत्तरों का मसौदा बनाता है, अनुरोध रूट करता है ग़लत या गढ़े उत्तर, लहजा, गोपनीयता
ज्ञान कार्य लेखों का मसौदा बनाता और सुधारता है, ज्ञान खोजता है गढ़ी सामग्री, बासी स्रोत
घटना और समस्या विश्लेषण समयरेखाओं का सार बनाता है, परिकल्पनाएँ सुझाता है, समीक्षाओं का मसौदा बनाता है विश्वसनीय पर निराधार कारण
परिवर्तन और रिलीज़ सहायता बदलावों की समीक्षा करता है, नोटों का मसौदा बनाता है, जोखिम सुझाता है अति-आत्मविश्वास, छूटा संदर्भ
कोड और स्वचालन स्क्रिप्ट और कॉन्फ़िगरेशन लिखता है असुरक्षित या ग़लत कोड, छिपी निर्भरताएँ
विश्लेषण और रिपोर्टिंग डेटा का सार बनाता है, रिपोर्टों का मसौदा बनाता है ग़लत गणनाएँ, गढ़े आँकड़े

AIOps

विकिपीडिया लेख AIOps को डेटा सेंटर प्रबंधन को स्वचालित करने और सुधारने के लिए AI, मशीन लर्निंग और बड़े डेटा विश्लेषण के उपयोग के रूप में वर्णित करता है, जिसका लक्ष्य पारंपरिक तरीक़ों से अधिक कुशलता से आईटी समस्याओं को पहचानना, निदान करना और सुलझाना है। वह कहता है कि Gartner ने 2016 में पहली बार AIOps को परिभाषित किया। लेख क्षमताएँ सूचीबद्ध करता है जिनमें घटना सहसंबंध, विसंगति पहचान, मूल कारण विश्लेषण, कार्य-कारण निर्धारण, पूर्वानुमान विश्लेषण, घटना प्रबंधन, स्वचालित उपचार, प्रदर्शन पूर्वानुमान, संसाधन आवंटन और क्षमता प्रबंधन शामिल हैं। वह कहता है कि AIOps अवलोकन डेटा, जैसे लॉग और निगरानी, और संवाद डेटा, जैसे टिकट, घटनाएँ और घटना रिकॉर्ड, पर आधारित है।

लेख लाभों का दावा करता है, जैसे पहचानने के माध्य समय में 15 से 20 प्रतिशत सुधार और गंभीर घटनाओं में 50 प्रतिशत से अधिक कमी, पर नोट करता है कि ये एक परामर्श लेख से आते हैं और पाठ में स्वतंत्र रूप से सत्यापित नहीं हैं। वह कोई आलोचना, विफलता के मामले या सीमाएँ नहीं बताता। विक्रेता के दावों को उसी तरह लें, और किसी भी औज़ार को अपनी घटनाओं पर परखें (देखें विषय 3.10 — निगरानी और घटना प्रबंधन)।

जनरेटिव AI और भ्रम

AI में भ्रम पर विकिपीडिया लेख इसे ऐसी प्रतिक्रिया के रूप में परिभाषित करता है जिसमें असत्य या भ्रामक जानकारी तथ्य के रूप में प्रस्तुत है, और नोट करता है कि शब्द की सॉफ़्टवेयर को मानवरूप देने के लिए आलोचना होती है। वह कारण देता है: अगले-शब्द पूर्वानुमान पर पूर्व-प्रशिक्षण तब अनुमान को पुरस्कृत करता है जब मॉडल के पास जानकारी नहीं होती, डेटासेट अधूरे या अप्रतिनिधि हो सकते हैं, और OpenAI के शोधकर्ता तर्क देते हैं कि प्रशिक्षण और मूल्यांकन अनिश्चितता स्वीकार करने की जगह अनुमान को पुरस्कृत करते हैं। जो उदाहरण वह दर्ज करता है उनमें शामिल हैं:

  • Mata v. Avianca (मई 2023): एक वकील ने ChatGPT द्वारा बनाए छह नक़ली मामले जमा किए; न्यायाधीश ने 23 जून 2023 को US$5,000 का जुर्माना लगाया।
  • Moffatt v. Air Canada (फ़रवरी 2024): न्यायाधिकरण ने एयरलाइन को ऐसी शोक-छुट्टी नीति से बाँधा जो उसके चैटबॉट ने गढ़ी थी।
  • एक परामर्श फ़र्म की रिपोर्टें जिनमें झूठे उद्धरण थे, और एक अध्ययन जिसमें GPT-3 के 178 संदर्भों में से 69 के पहचानकर्ता ग़लत या अस्तित्वहीन पाए गए।

ये असत्यापित आउटपुट पर भरोसा करने के परिणाम हैं: क़ानूनी दायित्व, वित्तीय जोखिम और क्षतिग्रस्त भरोसा। सेवा प्रबंधन में, चैटबॉट जो नीति या प्रक्रिया गढ़ता है वही श्रेणी का जोखिम बनाता है।

शमन: आधार और जाँचें

लेख रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) को उत्तर देने से पहले मॉडल को बाहरी स्रोतों तक पहुँचने देने के रूप में वर्णित करता है। वह डेटा-संबंधी विधियाँ, मॉडल और अनुमान विधियाँ, और गार्डरेल सॉफ़्टवेयर तथा विश्वास स्कोरिंग जैसे प्रस्ताव भी सूचीबद्ध करता है, और नोट करता है कि उसके दिए किसी स्रोत में यह परिमाणित नहीं है कि इनमें से कोई भी भ्रम कितना घटाता है। सेवा टीम के लिए, व्यावहारिक शमन हैं:

  • उत्तर अपनी स्वीकृत सामग्री में आधारित करें, जैसे ज्ञान आधार, और स्रोत दिखाएँ।
  • व्यक्ति को चक्र में रखें जो भी ग्राहक, प्रतिबद्धता या प्रोडक्शन को प्रभावित करता हो।
  • पूछें कि AI किस बारे में अनिश्चित है, और असमर्थित कथनों को असत्यापित मानें।
  • नियमित रूप से परखें वास्तविक मामलों पर, उन मामलों सहित जहाँ सही उत्तर "मुझे नहीं पता" है।

जोखिम प्रबंधन फ़्रेमवर्क

नेशनल इंस्टीट्यूट ऑफ़ स्टैंडर्ड्स एंड टेक्नोलॉजी (NIST) ने 26 जनवरी 2023 को AI जोखिम प्रबंधन फ़्रेमवर्क (AI RMF 1.0) प्रकाशित किया, जिसे वह स्वैच्छिक उपयोग के लिए बताता है, व्यक्तियों, संगठनों और समाज के लिए AI के जोखिम प्रबंधित करने और AI उत्पादों, सेवाओं और प्रणालियों के डिज़ाइन, विकास, उपयोग और मूल्यांकन में विश्वसनीयता के विचार शामिल करने की क्षमता सुधारने में मदद करने के लिए। NIST का पन्ना चार कार्य बताता है, शासन करें, मानचित्रित करें, मापें और प्रबंधित करें, पर उनका वर्णन नहीं करता। उसने 26 जुलाई 2024 को जनरेटिव आर्टिफ़िशियल इंटेलिजेंस प्रोफ़ाइल (NIST-AI-600-1) भी जारी की, ताकि संगठन जनरेटिव AI के विशिष्ट जोखिम पहचान सकें, और कहता है कि फ़्रेमवर्क संशोधित हो रहा है। ब्योरे के लिए फ़्रेमवर्क स्वयं पढ़ें। AI पर अन्य नियम, जैसे क़ानून और मानक, देश और क्षेत्र के अनुसार भिन्न हैं; अपने क़ानूनी और अनुपालन कार्यों से पूछें, और पाठ प्राप्त करें (देखें विषय 5.7 — शासन, जोखिम और अनुपालन)।

डेटा सुरक्षा और गोपनीयता

AI सेवा को दी गई हर चीज़ संग्रहीत, प्रशिक्षण में उपयोग, या उजागर हो सकती है, सेवा और शर्तों के अनुसार। टिकटों, लॉग और चैट प्रतिलेखों में अक्सर व्यक्तिगत डेटा, क्रेडेंशियल और गोपनीय व्यावसायिक जानकारी होती है। वास्तविक डेटा के साथ किसी भी AI औज़ार का उपयोग करने से पहले, पता करें कि डेटा कहाँ जाता है, कौन उसे देख सकता है, कितने समय तक रखा जाता है, और क्या वह मॉडल प्रशिक्षित करने में उपयोग होता है, और अपनी सूचना सुरक्षा नीति लागू करें (देखें विषय 3.13 — सूचना सुरक्षा प्रबंधन)। जिस औज़ार को आपने स्वीकृत नहीं किया उसमें चिपकाने से पहले व्यक्तिगत और गुप्त डेटा हटाएँ या बदलें।

जवाबदेही और पारदर्शिता

जिन निर्णयों में AI योगदान देता है उनके लिए किसी व्यक्ति या टीम को जवाबदेह रहना चाहिए। जब AI उत्तर का मसौदा बनाता है, तो भेजने वाला ज़िम्मेदार है। जब AI मूल कारण सुझाता है, तो जाँचकर्ता उसे परखने के लिए ज़िम्मेदार है। जहाँ क़ानून, अनुबंध या निष्पक्षता माँगे, वहाँ ग्राहकों को बताएँ कि वे स्वचालित प्रणाली से बात कर रहे हैं, और व्यक्ति तक पहुँचने का रास्ता दें। महत्वपूर्ण निर्णयों के लिए रिकॉर्ड रखें कि AI से क्या पूछा गया और उसने क्या बनाया, जैसा आप अन्य औज़ारों के लिए करेंगे (प्रमाण के लिए देखें विषय 5.1 — एजाइल सेवा प्रबंधन)।

पक्षपात और निष्पक्षता

AI प्रणालियाँ ऐसे डेटा से सीखती हैं जो पिछले निर्णयों और कमियों को दर्शाता है। ऐतिहासिक टिकटों पर प्रशिक्षित छँटाई सहायक उपयोगकर्ताओं के कुछ समूहों या कुछ तरह की समस्याओं को कम प्राथमिकता वाला मान सकता है। समूहों में आउटपुट जाँचें, परीक्षण में अलग दृष्टिकोण वाले लोगों को शामिल करें, और पैटर्न पर नज़र रखें। इस गाइड के लिए पढ़े स्रोत पक्षपात का विस्तार नहीं देते, इसलिए यह सामान्य सावधानी है, निष्कर्ष नहीं।

AI को मापना

किसी भी AI चरण की गुणवत्ता और प्रभाव मापें, केवल उसकी मात्रा नहीं: मनुष्य कितनी बार उसे ओवरराइड करते हैं, वह कितनी बार ग़लत है, उसके साथ और बिना कार्यों में कितना समय लगता है, और उपयोगकर्ता क्या कहते हैं (देखें विषय 5.6 — मेट्रिक्स और मापन)। विक्रेता के आँकड़ों के प्रति सतर्क रहें; AIOps लेख के अपने लाभ के दावे एक स्रोत पर टिके हैं।

कौशल और प्रॉम्प्ट

AI के साथ काम करने के व्यावहारिक कौशल में स्पष्ट निर्देश लिखना, सही सामग्री देना, अनिश्चितता माँगना और आउटपुट सत्यापित करना शामिल हैं। विषय 6.3 — AI कौशल और प्रॉम्प्ट इसे विस्तार से ढँकता है।

स्रोतों की सीमाएँ

AIOps लेख में कोई आलोचना नहीं है और उसके लाभ के आँकड़े एक स्रोत से आते हैं; भ्रम लेख अद्यतन की ज़रूरत के रूप में चिह्नित है और आंशिक पढ़ा गया; NIST का पन्ना फ़्रेमवर्क के कार्यों का वर्णन नहीं करता; और PeopleCert का पन्ना नहीं बताता कि ITIL 5 AI के बारे में क्या कहता है। इसलिए यह विषय सतर्क वर्णन देता है और विशिष्टताएँ प्राथमिक स्रोतों पर छोड़ता है।

सर्वोत्तम प्रथाएँ

  1. कम जोखिम वाले उपयोग और स्पष्ट प्रश्न से शुरू करें। ऐसा कार्य चुनें जहाँ त्रुटियाँ सस्ती और पकड़ने में आसान हों, जैसे आंतरिक उपयोग के लिए सार का मसौदा, और परिभाषित करें कि सफलता का क्या अर्थ है।
  2. व्यक्ति को जवाबदेह रखें। नामित करें कि AI जिसमें योगदान देता है उसके लिए कौन ज़िम्मेदार है, और जो कुछ ग्राहक तक पहुँचता है, प्रोडक्शन बदलता है, या प्रतिबद्धता करता है उसके लिए समीक्षा अनिवार्य करें।
  3. उत्तर स्वीकृत सामग्री में आधारित करें। जहाँ आप उत्तरों के लिए AI उपयोग करते हैं, उसे अपने ज्ञान आधार से जोड़ें और स्रोत दिखाएँ। जब उसके पास कोई न हो तो उसे "मुझे नहीं पता" कहने दें।
  4. डेटा की रक्षा करें। तय करें कि कौन-सा डेटा किस औज़ार में जा सकता है, व्यक्तिगत और गुप्त डेटा हटाएँ, और जिन शर्तों को आपने पढ़ा है उनके साथ स्वीकृत औज़ार उपयोग करें। सुरक्षा और क़ानूनी कर्मचारियों को जल्दी शामिल करें।
  5. वास्तविक मामलों से परखें। ज्ञात उत्तरों वाले वास्तविक टिकटों और घटनाओं का समूह जुटाएँ, उस पर AI चलाएँ, और दर्ज करें कि वह कहाँ विफल होता है। औज़ार या सेटिंग बदलने के बाद दोहराएँ।
  6. दावे और संदर्भ सत्यापित करें। नाम, संख्याएँ, उद्धरण और प्रक्रियाएँ स्रोतों से जाँचें, जैसा गढ़े अदालती उद्धरणों के मामले दिखाते हैं। जो संदर्भ आपने नहीं देखे उन्हें कभी स्वीकार न करें।
  7. ग्राहकों के प्रति ईमानदार रहें। जहाँ मायने रखता है वहाँ बताएँ कि स्वचालित प्रणाली उत्तर दे रही है, और व्यक्ति तक पहुँचने का आसान रास्ता दें।
  8. पक्षपात पर नज़र रखें। उपयोगकर्ता समूहों और समस्याओं के प्रकारों में आउटपुट की समीक्षा करें, और ऐसे लोगों को शामिल करें जो कमियाँ देख सकें। जहाँ नुकसान दिखे वहाँ उपयोग समायोजित करें या रोकें।
  9. गुणवत्ता और प्रभाव मापें। ओवरराइड दरें, त्रुटि दरें, बचा समय और उपयोगकर्ता दृष्टिकोण ट्रैक करें। AI के बिना प्रक्रिया से तुलना करें, और विक्रेता के आँकड़ों पर संशय रखें।
  10. रिकॉर्ड रखें। महत्वपूर्ण निर्णयों के लिए रखें कि क्या पूछा गया और बना, किसने समीक्षा की, और क्या तय हुआ। यह जवाबदेही और ऑडिट को सहारा देता है।
  11. जोखिम फ़्रेमवर्क उपयोग करें। यह संरचित करने के लिए मान्यता प्राप्त दृष्टिकोण अपनाएँ, जैसे NIST का AI RMF या संगठनात्मक AI नीति, कि AI कहाँ अनुमत है। इसे सोचने के मार्गदर्शक के रूप में लें।
  12. लोगों को प्रशिक्षित करें। कर्मचारियों को सिखाएँ कि औज़ार कैसे काम करते हैं, कहाँ विफल होते हैं, और क्या अनुमत है। औज़ार और नियम बदलने पर प्रशिक्षण अद्यतन करें।

टीम के साथ चर्चा के प्रश्न

हम पहले से कहाँ AI उपयोग कर रहे हैं, आधिकारिक रूप से या नहीं?

ईमानदारी से पूछें। कर्मचारी अक्सर वास्तविक टिकटों के साथ सार्वजनिक औज़ार उपयोग करते हैं। उद्देश्य दंड देना नहीं, समझना है। उपयोग और शामिल डेटा की सूची बनाएँ। चर्चा करें कि कौन-से स्वीकार्य हैं और किन्हें सुरक्षित रास्ता चाहिए। छोटी नीति पर सहमत हों।

हम किस कार्य में सबसे अधिक मदद चाहेंगे, और यदि AI उसे ग़लत करे तो क्या होगा?

कार्य चुनें और विफलता के मामले से गुज़रें। यदि उत्तर माफ़ी का ईमेल है, तो जोखिम छोटा है; यदि वह ग्राहक को ग़लत निर्देश है, तो जोखिम अधिक है। यह उपयोगों को जोखिम से क्रम देने में मदद करता है। सीमित नुकसान वाला पहला पायलट चुनें।

हमें कैसे पता चलेगा कि AI का उत्तर ग़लत है?

पूछें कि उत्तर कौन जाँचता है और कैसे। आम उत्तर: कोई नहीं, या पूछने वाला। स्रोतों, परीक्षणों और दूसरी समीक्षाओं पर चर्चा करें। हर तरह के उपयोग के लिए न्यूनतम जाँच पर सहमत हों।

हम AI औज़ार में कौन-सा डेटा डालने में सहज हैं, और कौन-सा नहीं?

प्रकार जुटाएँ: टिकट, लॉग, ग्राहक नाम, क्रेडेंशियल, अनुबंध। हर एक को स्वीकार्य, संवेदनशील हिस्से हटाने के बाद स्वीकार्य, या कभी नहीं के रूप में चिह्नित करें। सुरक्षा और क़ानूनी से जाँचें। इसे एक पन्ने की गाइड के रूप में लिखें।

जब AI-सहायता वाला निर्णय ग़लत होता है तो जवाबदेह कौन है?

औज़ार-सहायता वाले पिछले निर्णय का उदाहरण उपयोग करें। पूछें कि किसने उत्तर दिया। सहमत हों कि नामित व्यक्ति जवाबदेह रहता है और उसे कौन-सा प्रमाण रखना चाहिए। उस कमी को नोट करें जहाँ कोई जवाबदेह नहीं होता।

हमें क्या मनाएगा कि औज़ार रखने योग्य है?

टीम से उस प्रमाण का वर्णन करने को कहें जो वे स्वीकार करेंगे: समान या बेहतर गुणवत्ता के साथ बचा समय, कम त्रुटियाँ, उपयोगकर्ता संतुष्टि। चर्चा करें कि परीक्षण में उसे कैसे जुटाएँ। समीक्षा की तारीख़ पर सहमत हों।

व्यवहार में: एक एजाइल ITIL उदाहरण

एक राष्ट्रीय कर प्राधिकरण की आईटी सेवा डेस्क कर्मचारियों से प्रति सप्ताह लगभग 1,200 संपर्क सँभालती है, कई नियमित प्रश्नों पर। डेस्क प्रबंधक ज्ञान आधार से उत्तर सुझाने और उत्तरों का मसौदा बनाने के लिए AI सहायक प्रस्तावित करता है। प्राधिकरण का सुरक्षा अधिकारी टिकटों में व्यक्तिगत डेटा और कर्मचारियों तक ग़लत उत्तर पहुँचने को लेकर चिंतित है।

वे सीमित पायलट पर सहमत होते हैं। सहायक केवल स्वीकृत ज्ञान लेखों से काम करता है, दिखाता है कि हर सुझाव किस लेख से आता है, और बताता है जब उसे कुछ प्रासंगिक नहीं मिलता। विश्लेषक भेजने से पहले हर सुझाए उत्तर की समीक्षा करते हैं, और औज़ार अपने आप नहीं भेज सकता। टिकटों में व्यक्तिगत डेटा और क्रेडेंशियल स्कैन किए जाते हैं, जो सहायक के देखने से पहले हटा दिए जाते हैं। पायलट से पहले ज्ञात उत्तरों वाले 200 पिछले टिकटों का परीक्षण समूह उपयोग होता है, और टीम दर्ज करती है कि सहायक कहाँ विफल होता है। डेस्क प्रबंधक और सुरक्षा अधिकारी मापनों पर सहमत होते हैं: विश्लेषक कितनी बार सुझाव संपादित या अस्वीकार करते हैं, पहली प्रतिक्रिया का समय, और कर्मचारियों के लिए छोटा संतुष्टि प्रश्न। पायलट तीन महीने चलता है, और प्रबंधक ऐसी संयुक्त समीक्षा को रिपोर्ट करता है जिसमें एक विश्लेषक और एक कर्मचारी प्रतिनिधि हैं।

अंत में, विश्लेषक आम प्रश्नों के लिए अधिकांश सुझाव स्वीकार करते हैं और इनके लिए प्रतिक्रिया का समय गिरता है। परीक्षण समूह दिखाता है कि हाल में बदली नीति पर प्रश्नों के लिए सहायक आत्मविश्वासी पर ग़लत उत्तर देता है, क्योंकि ज्ञान लेख पुराना था। कुछ समस्याएँ बाक़ी हैं। दो विश्लेषकों ने व्यस्त होने पर कम जाँच के साथ सुझाव भेजना शुरू कर दिया, गैर-मानक प्रश्न वाले कर्मचारी को नीरस उत्तर मिला जो मुद्दा चूक गया, और डेटा प्रतिधारण पर विक्रेता की शर्तें अस्पष्ट थीं। प्रबंधक नियम जोड़ता है कि नीति बदलावों को लागू होने से पहले ज्ञान लेख अद्यतन करना होगा, वरिष्ठ विश्लेषक द्वारा भेजे उत्तरों की नमूना जाँच उपयोग करता है, और ख़रीद तथा सुरक्षा अधिकारी से पायलट बढ़ाने से पहले शर्तें स्पष्ट करने को कहता है।

चार दृष्टिकोण

उत्पाद और डिलीवरी टीमें

डिलीवरी टीमें उत्पादों में AI फ़ीचर जोड़ सकती हैं और कोड तथा परीक्षण लिखने के लिए AI उपयोग कर सकती हैं। बनाए कोड की शुद्धता और सुरक्षा जाँचें, प्रॉम्प्ट में गुप्त जानकारी न रखें, और उपयोगकर्ताओं को स्पष्ट करें कि कब AI शामिल है। अपनी सेवा में AI व्यवहार की निगरानी बनाएँ।

सेवा और संचालन टीमें

संचालन टीमें निगरानी, डेस्क औज़ारों और विश्लेषण में AI से मिलेंगी। AI के सुझावों को परिकल्पना मानें, उन्हें परखें, और रिकॉर्ड रखें। परिभाषित करने में मदद करें कि कौन-सा डेटा उपयोग हो सकता है, और आधार सामग्री सुधारने के लिए प्रतिक्रिया दें।

नेतृत्व और शासन

नेता AI के लिए नीति, जोखिम की भूख और जवाबदेही तय करते हैं। उपयोग सूची, जोखिम फ़्रेमवर्क और पायलटों से प्रमाण माँगें, विक्रेता के दावे नहीं। सुनिश्चित करें कि क़ानूनी, सुरक्षा और गोपनीयता कर्मचारी शुरू से शामिल हैं।

ग्राहक और उपयोगकर्ता

ग्राहकों और उपयोगकर्ताओं को बताया जाना चाहिए जब वे स्वचालित प्रणाली से निपट रहे हों, जहाँ मायने रखता है, और उनके पास व्यक्ति तक का रास्ता हो। ग़लत या अजीब उत्तर रिपोर्ट करें, क्योंकि वे प्रमाण हैं। प्रदाताओं से पूछें कि वे आपके डेटा की रक्षा और AI आउटपुट की जाँच कैसे करते हैं।

आम विफलता के तरीके

  • असत्यापित आउटपुट पर भरोसा। गढ़े तथ्य ग्राहकों तक पहुँचते हैं। इसके बजाय, उत्तर स्वीकृत सामग्री में आधारित करें और भेजने से पहले सत्यापित करें।
  • छाया AI। कर्मचारी सार्वजनिक औज़ारों में वास्तविक डेटा चिपकाते हैं। इसके बजाय, स्वीकृत औज़ार और स्पष्ट डेटा नीति दें।
  • कोई जवाबदेह व्यक्ति नहीं। AI-सहायता वाले निर्णयों के लिए कोई उत्तर नहीं देता। इसके बजाय, स्वामी नामित करें और समीक्षा अनिवार्य करें।
  • विक्रेता के आँकड़ों पर विश्वास। लाभ के दावे बिना जाँचे रह जाते हैं। इसके बजाय, अपने मामलों पर परखें और मापें।
  • बासी आधार। ज्ञान आधार ग़लत है और AI उसे दोहराता है। इसके बजाय, लेख अद्यतन और स्वामित्व वाले रखें।
  • छिपा पक्षपात। कुछ उपयोगकर्ताओं या मुद्दों के साथ बुरा व्यवहार होता है। इसके बजाय, समूहों में परखें और आउटपुट की समीक्षा करें।
  • समझने से पहले स्वचालन। AI बिना जाँच प्रोडक्शन पर कार्य करता है। इसके बजाय, सुझाव और समीक्षा से शुरू करें, और मज़बूत सुरक्षा उपायों के साथ ही कार्रवाई की ओर बढ़ें।
  • कोई रिकॉर्ड नहीं। निर्णयों का ऑडिट नहीं हो सकता। इसके बजाय, क्या पूछा, बना और तय हुआ इसके लॉग रखें।

परिपक्वता मॉडल

आयाम आरंभ विकास मानकीकरण प्रबंधन समन्वय
नीति और जवाबदेही उपयोग तदर्थ और अदर्ज है कुछ टीमों के नियम हैं लिखित नीति, उपयोगों की सूची और नामित स्वामी नीति अनुपालन और घटनाओं की समीक्षा होती है नीति टीमों, आपूर्तिकर्ताओं और नियामकों में संरेखित है
गुणवत्ता और आधार आउटपुट पर डिफ़ॉल्ट रूप से भरोसा है महत्वपूर्ण उपयोगों पर कुछ जाँचें उत्तर स्वीकृत स्रोतों में आधारित और वास्तविक मामलों पर परखे जाते हैं त्रुटि और ओवरराइड दरें मापी और उन पर कार्रवाई होती है आधार और परीक्षण टीमों में साझा और सुधारे जाते हैं
डेटा सुरक्षा और निष्पक्षता डेटा खुलकर चिपकाया जाता है कुछ डेटा नियम मौजूद हैं डेटा संभालने के नियम और पक्षपात जाँच नियमित हैं डेटा घटनाएँ और निष्पक्षता निष्कर्ष ट्रैक और ठीक होते हैं डेटा और निष्पक्षता प्रथाएँ संगठन और आपूर्तिकर्ताओं में समन्वित हैं
मूल्य और सीखना मूल्य मान लिया जाता है कुछ परीक्षण चलते हैं पायलटों के सहमत मापन और निर्णय हैं लाभ और लागतें आधाररेखाओं के विरुद्ध मापे जाते हैं AI उपयोग से सीखना सेवाओं में लगातार फैलता है

जाँच-सूची

  • हमारे पास सूची है कि हमारी सेवाओं में या आसपास AI कहाँ उपयोग होता है, अनौपचारिक उपयोग सहित।
  • हर AI-सहायता वाले उपयोग के लिए नामित व्यक्ति जवाबदेह है।
  • लिखित नीति बताती है कि कौन-सा डेटा किन औज़ारों में जा सकता है।
  • उन औज़ारों के साथ जिनके लिए वे स्वीकृत नहीं हैं, उपयोग से पहले व्यक्तिगत डेटा और गुप्त जानकारी हटाई या छिपाई जाती है।
  • ग्राहकों को दिखाए या निर्णयों में उपयोग किए उत्तर स्वीकृत सामग्री में आधारित और समीक्षित हैं।
  • हमारे पास वास्तविक मामलों का परीक्षण समूह है और हम बदलावों के बाद उसे फिर चलाते हैं।
  • जहाँ मायने रखता है वहाँ ग्राहकों को बताया जाता है कि स्वचालित प्रणाली उत्तर देती है, और उनके पास व्यक्ति तक का रास्ता है।
  • हम ओवरराइड दर, त्रुटि दर, बचा समय और उपयोगकर्ता दृष्टिकोण मापते हैं।
  • महत्वपूर्ण AI-सहायता वाले निर्णयों के रिकॉर्ड रखे जाते हैं।
  • क़ानूनी, सुरक्षा और गोपनीयता कर्मचारियों ने हमारे उपयोग और औज़ार की शर्तों की समीक्षा की है।

AI प्रॉम्प्ट

उद्देश्य: लोग जो बताते हैं उससे AI उपयोग सूची का मसौदा बनाना।

हमारे सेवा संगठन में AI उपयोग की सूची संरचित करने में मेरी मदद करें।

लोगों ने हमें बताया कि वे AI का किसके लिए उपयोग करते हैं (नोट चिपकाएँ; नाम हटा दें): [चिपकाएँ]।
उल्लिखित औज़ार: [सूची दें]।
शामिल डेटा के प्रकार, जहाँ तक हम जानते हैं: [सूची दें]।

तालिका बनाएँ: उपयोग, औज़ार, शामिल डेटा, जवाबदेह कौन (नहीं दिया तो "अज्ञात" उपयोग करें), ग़लत होने पर जोखिम (मेरे नोटों से एक वाक्य के कारण के साथ निम्न, मध्यम, उच्च), और पूछने के लिए एक प्रश्न। जिन औज़ारों या शर्तों का मैंने उल्लेख नहीं किया उनका अनुमान न लगाएँ। पहले स्पष्टीकरण प्रश्न पूछें, और जिन बातों के बारे में अनिश्चित हैं उनकी सूची दें।

उद्देश्य: AI सहायक के लिए परीक्षण समूह डिज़ाइन करना।

सेवा डेस्क प्रश्नों के उत्तर सुझाने वाले AI सहायक के लिए परीक्षण समूह डिज़ाइन करें।

ज्ञान स्रोत जो वह उपयोग करेगा: [वर्णन करें]।
हमें मिलने वाले प्रश्नों के प्रकार: [सूची दें, यदि पता हो तो मोटे हिस्से के साथ]।
मामले जहाँ सही उत्तर "ज्ञान आधार में नहीं" या "एस्केलेट करें" है: [वर्णन करें]।

100-200 परीक्षण मामलों की संरचना (श्रेणियाँ, वास्तविक उदाहरण कैसे चुनें, सही उत्तर और उसका स्रोत कैसे दर्ज करें), उत्तरों को कैसे अंक दें (सही, आंशिक सही, ग़लत, आत्मविश्वास से ग़लत, सही ढंग से अस्वीकार), और बदलावों के बाद कैसे दोहराएँ, यह प्रस्तावित करें। परीक्षण सामग्री न गढ़ें; मुझे बताएँ क्या जुटाना है। पहले स्पष्टीकरण प्रश्न पूछें, और जिन बातों के बारे में अनिश्चित हैं उनकी सूची दें।

उद्देश्य: टीम के लिए एक पन्ने की AI उपयोग नीति लिखना।

[टीम] के लिए एक पन्ने की AI उपयोग नीति का मसौदा बनाएँ।

स्वीकृत औज़ार: [सूची दें, या "अभी कोई नहीं" लिखें]।
हम जो डेटा संभालते हैं (प्रकार और संवेदनशीलता): [सूची दें]।
नियम जिनका हमें पालन करना है, क़ानूनी, सुरक्षा या अनुबंधों के स्रोत-पाठ के साथ: [चिपकाएँ, या "कोई ज्ञात नहीं" लिखें]।
भूमिकाएँ: [सूची दें]।

सरल भाषा के खंड लिखें: AI किसके लिए उपयोग हो सकता है, कौन-सा डेटा औज़ारों में डाला जा सकता है और नहीं, उपयोग से पहले व्यक्ति को क्या जाँचना चाहिए, कौन जवाबदेह है, महत्वपूर्ण उपयोगों को कैसे दर्ज करें, समस्याएँ कैसे रिपोर्ट करें। हर मद जो मान्यता है उसे चिह्नित करें। यह न कहें कि कोई क़ानून कुछ माँगता है जब तक मैंने उसका पाठ न चिपकाया हो। पहले स्पष्टीकरण प्रश्न पूछें, और जिन बातों के बारे में अनिश्चित हैं उनकी सूची दें।

उद्देश्य: AI-निर्मित उत्तर को उपयोगकर्ता तक जाने से पहले समीक्षित करना।

यहाँ मसौदा उत्तर है जो AI औज़ार ने उपयोगकर्ता के प्रश्न के लिए बनाया।

उपयोगकर्ता का प्रश्न: [चिपकाएँ, व्यक्तिगत डेटा हटाकर]।
ज्ञान लेख जिन पर उत्तर आधारित होना चाहिए: [चिपकाएँ]।
मसौदा उत्तर: [चिपकाएँ]।

मसौदे को केवल लेख से जाँचें। वे कथन सूचीबद्ध करें जो लेख से समर्थित हैं (हिस्सा उद्धृत करें), वे जो समर्थित नहीं हैं, कुछ भी ग़ायब जो उपयोगकर्ता को चाहिए, और लहजा। केवल लेख का उपयोग करने वाला सुधारा संस्करण सुझाएँ। तथ्य न जोड़ें। जिन बातों के बारे में अनिश्चित हैं उनकी सूची दें।

AI कौशल

  • prompt-engineering: ऐसे स्पष्ट प्रॉम्प्ट लिखने के लिए उपयोग करें जो सही सामग्री दें और अनिश्चितता माँगें।
  • machine-learning-model-card: दस्तावेज़ करने के लिए उपयोग करें कि मॉडल किसके लिए है, कैसे परखा गया, और उसकी सीमाएँ।
  • data-governance: तय करने के लिए उपयोग करें कि कौन-सा डेटा किन औज़ारों के साथ उपयोग हो सकता है।
  • legal-data-privacy-compliance: AI उपयोग के बारे में क़ानूनी और गोपनीयता कर्मचारियों के लिए प्रश्न तैयार करने के लिए उपयोग करें।
  • risk-register: AI-संबंधी जोखिम, स्वामी और उपचार दर्ज करने के लिए उपयोग करें।

(ये कौशल स्वयं अंग्रेज़ी में लिखे गए हैं।)

प्रमुख स्रोत

  • AIOps (विकिपीडिया): आईटी संचालन के लिए AI, उसकी क्षमताओं और दावा किए गए लाभों का संक्षिप्त वर्णन, बिना आलोचनाओं के।
  • भ्रम (कृत्रिम बुद्धिमत्ता) (विकिपीडिया): ग़लत आउटपुट के कारण, उदाहरण और शमन के विचार।
  • AI जोखिम प्रबंधन फ़्रेमवर्क (NIST): स्वैच्छिक फ़्रेमवर्क और उसकी जनरेटिव AI प्रोफ़ाइल; ब्योरे के लिए फ़्रेमवर्क स्वयं पढ़ें।
  • ITIL प्रमाणन (PeopleCert): नए ITIL और उसके AI शासन मॉड्यूल के बारे में स्वामी के सार्वजनिक कथन।

ये स्रोत अंग्रेज़ी में हैं।

संदर्भ

  1. AIOps — Wikipedia — https://en.wikipedia.org/wiki/AIOps
  2. Hallucination (artificial intelligence) — Wikipedia — https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)
  3. AI Risk Management Framework — NIST — https://www.nist.gov/itl/ai-risk-management-framework
  4. ITIL certifications — PeopleCert — https://www.peoplecert.org/browse-certifications/it-governance-and-service-management/ITIL-1
  5. Retrieval-augmented generation — Wikipedia — https://en.wikipedia.org/wiki/Retrieval-augmented_generation
  6. Artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Artificial_intelligence
  7. Large language model — Wikipedia — https://en.wikipedia.org/wiki/Large_language_model
  8. Algorithmic bias — Wikipedia — https://en.wikipedia.org/wiki/Algorithmic_bias
  9. IT service management — Wikipedia — https://en.wikipedia.org/wiki/IT_service_management