یہ کیوں اہم ہے

سروس مینجمنٹ میں بہت سی زبان اور نمونوں کی پہچان شامل ہے: ٹکٹ پڑھنا، واقعات کا خلاصہ کرنا، علم تلاش کرنا، جواب کا مسودہ بنانا، نگرانی کے ڈیٹا میں غیر معمولی اشارے پکڑنا۔ یہ وہ کام ہیں جن میں حالیہ اے آئی نظام سب سے زیادہ قابل لگتے ہیں، اور فروخت کنندگان نے انہیں سروس ڈیسکوں اور آپریشنز کے اوزار میں جلدی سے شامل کیا ہے۔ ٹیموں سے، اگر پہلے نہیں تو اب، پوچھا جائے گا کہ آیا انہیں برتنا ہے۔

موقع حقیقی ہے، اور خطرے بھی۔ اے آئی نظام اعتماد کے ساتھ جھوٹ بول سکتے ہیں، اپنی تربیت اور دیے گئے ڈیٹا کے تعصب کی عکاسی کر سکتے ہیں، لاپروائی سے کھلائے جانے پر خفیہ معلومات ظاہر کر سکتے ہیں، اور لوگوں کو ایسے نتیجے پر بھروسا کرنے پر لا سکتے ہیں جسے انہوں نے جانچا نہیں۔ کئی وسیع طور پر رپورٹ شدہ معاملات غلط جگہ بھروسے کی قیمت دکھاتے ہیں۔ جو سروس کا ادارہ بغیر سوچے اے آئی اپنائے وہ اپنے گاہکوں اور اپنی ساکھ کو نقصان پہنچا سکتا ہے۔

2026 تک اے آئی فریم ورک میں بھی داخل ہو چکی ہے۔ PeopleCert کا عوامی سرٹیفکیشن صفحہ نئے ITIL کو "عملی اور ڈیزائن کے لحاظ سے AI-نیٹو" بیان کرتا ہے اور ITIL AI Governance (ورژن 5) ماڈیول گنواتا ہے جو اے آئی کو "ذمہ داری سے اور بڑے پیمانے پر" چلانے کو ڈھانپتا ہے (دیکھیں موضوع 2.2 — ITIL)۔ یہ گائیڈ مالک کی اشاعتوں سے تصدیق نہ کر سکی کہ ITIL 5 اے آئی کے بارے میں تفصیل سے کیا کہتا ہے، اس لیے یہ موضوع فریم ورک کے موقف کو ان بیانات سے آگے بیان نہیں کرتا۔ یہ AIOps اور اے آئی کی ہیلوسینیشن پر ویکیپیڈیا کے مضامین، NIST کے AI Risk Management Framework کے صفحے، اور عملی استدلال پر مبنی ہے، اور عمل کو اسی طرح نشان زد کرتا ہے۔

بنیادی تصورات

سروس مینجمنٹ میں اے آئی کہاں مدد کرتی ہے

زیادہ تر استعمال چند گروہوں میں آتے ہیں۔ جدول مثالیں اور ہر ایک کے خطرے کی قسم دکھاتا ہے، اس گائیڈ کی قرأت کے مطابق۔

استعمال اے آئی کیا کرتی ہے اہم خطرات
شناخت اور ربط (AIOps) بے قاعدگیاں پاتی ہے، متعلقہ ایونٹس کو گروہ بند کرتی ہے، ممکنہ وجوہات تجویز کرتی ہے جھوٹے الارم، چوکے ہوئے ایونٹس، غیر شفاف استدلال
سروس ڈیسک کی معاونت جوابات تجویز کرتی ہے، ٹکٹوں کا خلاصہ کرتی ہے، جوابات کا مسودہ بناتی ہے، درخواستیں روٹ کرتی ہے غلط یا گھڑے ہوئے جوابات، لہجہ، رازداری
علمی کام مضامین کا مسودہ بناتی اور بہتر کرتی ہے، علم تلاش کرتی ہے گھڑا ہوا مواد، باسی ماخذ
واقعے اور مسئلے کا تجزیہ ٹائم لائنز کا خلاصہ کرتی ہے، مفروضے تجویز کرتی ہے، جائزوں کا مسودہ بناتی ہے معقول لگنے والی مگر بے بنیاد وجوہات
تبدیلی اور ریلیز کی معاونت تبدیلیوں کا جائزہ لیتی ہے، نوٹس کا مسودہ بناتی ہے، خطرہ تجویز کرتی ہے حد سے زیادہ اعتماد، چھوٹا ہوا سیاق
کوڈ اور خودکاری اسکرپٹ اور ترتیب لکھتی ہے غیر محفوظ یا غلط کوڈ، چھپے انحصار
تجزیہ اور رپورٹنگ ڈیٹا کا خلاصہ کرتی ہے، رپورٹوں کا مسودہ بناتی ہے غلط حساب، گھڑے ہوئے اعداد

AIOps

ویکیپیڈیا کا مضمون AIOps کو ڈیٹا سینٹر کے انتظام کو خودکار اور بہتر بنانے کے لیے اے آئی، مشین لرننگ اور بگ ڈیٹا اینالیٹکس کا استعمال بیان کرتا ہے، جس کا مقصد آئی ٹی مسائل کو روایتی طریقوں سے زیادہ مؤثر طریقے سے پکڑنا، تشخیص کرنا اور حل کرنا ہے۔ وہ کہتا ہے کہ Gartner نے AIOps کو پہلی بار 2016 میں متعین کیا۔ مضمون صلاحیتیں گنواتا ہے جن میں ایونٹ کا ربط، بے قاعدگی کی شناخت، بنیادی وجہ کا تجزیہ، سببیت کا تعین، پیش گو اینالیٹکس، واقعات کا انتظام، خودکار علاج، کارکردگی کی پیش گوئی، وسائل کی تقسیم، اور گنجائش کا انتظام شامل ہیں۔ وہ کہتا ہے کہ AIOps مشاہداتی ڈیٹا، جیسے لاگز اور نگرانی، اور تعاملی ڈیٹا، جیسے ٹکٹ، ایونٹس اور واقعات کے ریکارڈ، پر مبنی ہے۔

مضمون فوائد کا دعویٰ کرتا ہے، جیسے پکڑنے کے اوسط وقت میں 15 سے 20 فیصد بہتری اور اہم واقعات میں 50 فیصد سے زیادہ کمی، مگر نوٹ کرتا ہے کہ یہ ایک مشاورتی ادارے کے مضمون سے آتے ہیں اور متن میں آزادانہ تصدیق شدہ نہیں۔ وہ کوئی تنقید، ناکامی کے معاملات، یا حدود نہیں بتاتا۔ فروخت کنندگان کے دعووں کو اسی طرح لیں، اور کسی بھی ٹول کو اپنے واقعات پر آزمائیں (دیکھیں موضوع 3.10 — نگرانی اور ایونٹ کا انتظام)۔

جنریٹو اے آئی اور ہیلوسینیشن

اے آئی میں ہیلوسینیشن پر ویکیپیڈیا کا مضمون اسے ایسا جواب متعین کرتا ہے جس میں غلط یا گمراہ کن معلومات حقیقت کے طور پر پیش ہوں، اور نوٹ کرتا ہے کہ اصطلاح پر سافٹ ویئر کو انسان جیسا بنانے کی تنقید ہوتی ہے۔ وہ وجوہات دیتا ہے: اگلے لفظ کی پیش گوئی پر پہلے سے تربیت اس وقت اندازہ لگانے کو انعام دیتی ہے جب ماڈل کے پاس معلومات نہ ہو، ڈیٹا سیٹ نامکمل یا غیر نمائندہ ہو سکتے ہیں، اور OpenAI کے محققین دلیل دیتے ہیں کہ تربیت اور جانچ غیر یقینی کے اعتراف پر اندازے کو انعام دیتی ہیں۔ جو مثالیں وہ ریکارڈ کرتا ہے ان میں شامل ہیں:

  • Mata v. Avianca (مئی 2023): ایک وکیل نے ChatGPT کے بنائے چھ جعلی مقدمات پیش کیے؛ جج نے 23 جون 2023 کو 5,000 امریکی ڈالر کا جرمانہ عائد کیا۔
  • Moffatt v. Air Canada (فروری 2024): ٹریبونل نے ایئر لائن کو اس سوگ کی پالیسی کا پابند کیا جو اس کے چیٹ بوٹ نے گھڑی تھی۔
  • ایک مشاورتی ادارے کی رپورٹیں جن میں جھوٹے حوالے تھے، اور ایک مطالعہ جس نے پایا کہ GPT-3 کے 178 حوالوں میں سے 69 کے شناخت کنندہ غلط یا غیر موجود تھے۔

یہ غیر تصدیق شدہ نتیجے پر بھروسے کے نتائج ہیں: قانونی ذمہ داری، مالی نمائش، اور مجروح اعتماد۔ سروس مینجمنٹ میں چیٹ بوٹ جو پالیسی یا طریقۂ کار گھڑ دے وہ خطرے کی اسی قسم پیدا کرتا ہے۔

تخفیف: گراؤنڈنگ اور جانچیں

مضمون retrieval-augmented generation (RAG) کو ماڈل کو جواب دینے سے پہلے بیرونی ماخذوں تک رسائی دینے والا بیان کرتا ہے۔ وہ ڈیٹا سے متعلق طریقے، ماڈل اور استنباط کے طریقے، اور گارڈ ریل سافٹ ویئر اور اعتماد کے اسکور جیسی تجاویز بھی گنواتا ہے، اور نوٹ کرتا ہے کہ اس کا دیا کوئی ماخذ یہ مقدار نہیں بتاتا کہ ان میں سے کوئی ہیلوسینیشن کتنی کم کرتا ہے۔ سروس ٹیم کے لیے عملی تخفیفات:

  • جوابات اپنے منظور شدہ مواد میں گراؤنڈ کریں، جیسے علمی ذخیرہ، اور ماخذ دکھائیں۔
  • ہر اس چیز کے لیے انسان کو لوپ میں رکھیں جو گاہک، وعدے، یا پروڈکشن کو متاثر کرے۔
  • پوچھیں کہ اے آئی کس بارے میں غیر یقینی ہے، اور غیر تائید شدہ بیانات کو غیر تصدیق شدہ سمجھیں۔
  • حقیقی معاملات پر باقاعدگی سے آزمائیں، ان معاملات سمیت جہاں صحیح جواب "مجھے نہیں پتا" ہے۔

رسک مینجمنٹ کے فریم ورک

National Institute of Standards and Technology (NIST) نے 26 جنوری 2023 کو AI Risk Management Framework (AI RMF 1.0) شائع کیا، جسے وہ رضاکارانہ استعمال کے لیے بیان کرتا ہے، اے آئی سے افراد، اداروں اور معاشرے کو ہونے والے خطرات سنبھالنے اور اے آئی کی مصنوعات، سروسز اور نظاموں کے ڈیزائن، ترقی، استعمال اور جانچ میں قابلِ اعتماد ہونے کے لحاظ شامل کرنے کی صلاحیت بہتر کرنے کے لیے۔ NIST کا صفحہ چار افعال کا نام لیتا ہے، Govern، Map، Measure اور Manage، مگر انہیں بیان نہیں کرتا۔ اس نے 26 جولائی 2024 کو Generative Artificial Intelligence Profile (NIST-AI-600-1) بھی جاری کیا تاکہ ادارے جنریٹو اے آئی کے منفرد خطرات پہچان سکیں، اور کہتا ہے کہ فریم ورک پر نظرِ ثانی ہو رہی ہے۔ تفصیل کے لیے خود فریم ورک پڑھیں۔ اے آئی کے بارے میں دوسرے قواعد، جیسے قوانین اور معیارات، ملک اور شعبے کے لحاظ سے مختلف ہیں؛ اپنے قانونی اور تعمیل کے شعبوں سے پوچھیں اور متن حاصل کریں (دیکھیں موضوع 5.7 — گورننس، رسک اور تعمیل)۔

ڈیٹا کا تحفظ اور رازداری

اے آئی سروس کو دی گئی ہر چیز محفوظ، تربیت کے لیے برتی، یا ظاہر ہو سکتی ہے، سروس اور شرائط کے لحاظ سے۔ ٹکٹوں، لاگز اور چیٹ کی نقول میں اکثر ذاتی ڈیٹا، اسناد اور خفیہ کاروباری معلومات ہوتی ہیں۔ کسی بھی اے آئی ٹول کو حقیقی ڈیٹا کے ساتھ برتنے سے پہلے معلوم کریں کہ ڈیٹا کہاں جاتا ہے، کون دیکھ سکتا ہے، کتنی دیر رکھا جاتا ہے، اور آیا ماڈل تربیت کے لیے برتا جاتا ہے، اور اپنی معلومات کی سلامتی کی پالیسی لاگو کریں (دیکھیں موضوع 3.13 — معلومات کی سلامتی کا انتظام)۔ ایسے ٹول میں جو آپ نے منظور نہیں کیا چسپاں کرنے سے پہلے ذاتی اور خفیہ ڈیٹا ہٹائیں یا بدل دیں۔

جواب دہی اور شفافیت

اے آئی جن فیصلوں میں حصہ ڈالے ان کے لیے کوئی شخص یا ٹیم جواب دہ رہنی چاہیے۔ جب اے آئی جواب کا مسودہ بنائے تو بھیجنے والا ذمہ دار ہے۔ جب اے آئی بنیادی وجہ تجویز کرے تو تحقیق کرنے والا اسے آزمانے کا ذمہ دار ہے۔ جہاں قانون، معاہدہ، یا انصاف تقاضا کرے وہاں گاہکوں کو بتائیں کہ وہ خودکار نظام سے بات کر رہے ہیں، اور انسان تک پہنچنے کا راستہ دیں۔ اہم فیصلوں کے لیے ریکارڈ رکھیں کہ اے آئی سے کیا پوچھا گیا اور اس نے کیا پیدا کیا، جیسے دوسرے اوزار کے لیے رکھتے ہیں (شواہد کے لیے دیکھیں موضوع 5.1 — چابک سروس کا انتظام)۔

تعصب اور انصاف

اے آئی نظام اس ڈیٹا سے سیکھتے ہیں جو ماضی کے فیصلوں اور خلا کی عکاسی کرتا ہے۔ تاریخی ٹکٹوں پر تربیت یافتہ چھانٹی کا معاون صارفین کے کچھ گروہوں یا مسائل کی کچھ اقسام کو کم ترجیح سمجھ سکتا ہے۔ گروہوں میں نتائج جانچیں، آزمائش میں مختلف نقطہ ہائے نظر والے لوگ شامل کریں، اور نمونوں پر نظر رکھیں۔ اس گائیڈ کے لیے پڑھے گئے ماخذ تعصب کی تفصیل نہیں دیتے، اس لیے یہ عمومی احتیاط ہے، نتیجہ نہیں۔

اے آئی کی پیمائش

کسی بھی اے آئی مرحلے کے معیار اور اثر کو ناپیں، صرف اس کا حجم نہیں: انسان کتنی بار اسے اوور رائیڈ کرتے ہیں، یہ کتنی بار غلط ہے، اس کے ساتھ اور بغیر کام میں کتنا وقت لگتا ہے، اور صارفین کیا کہتے ہیں (دیکھیں موضوع 5.6 — میٹرکس اور پیمائش)۔ فروخت کنندہ کے اعداد سے محتاط رہیں؛ AIOps کے مضمون کے اپنے فوائد کے دعوے ایک ماخذ پر ٹکے ہیں۔

سکلز اور پرامپٹس

اے آئی کے ساتھ کام کرنے کی عملی مہارت میں واضح ہدایات لکھنا، صحیح مواد فراہم کرنا، غیر یقینی کے بارے میں پوچھنا، اور نتیجے کی تصدیق شامل ہے۔ موضوع 6.3 — اے آئی سکلز اور پرامپٹس اسے تفصیل سے ڈھانپتا ہے۔

ماخذوں کی حدود

AIOps کے مضمون میں کوئی تنقید نہیں اور اس کے فوائد کے اعداد ایک ماخذ سے آتے ہیں؛ ہیلوسینیشن کا مضمون اپ ڈیٹ کی ضرورت کے لیے نشان زد ہے اور جزوی پڑھا گیا؛ NIST کا صفحہ فریم ورک کے افعال بیان نہیں کرتا؛ اور PeopleCert کا صفحہ نہیں سمجھاتا کہ ITIL 5 اے آئی کے بارے میں کیا کہتا ہے۔ اس لیے یہ موضوع محتاط بیان دیتا ہے اور تفصیلات بنیادی ماخذوں پر چھوڑتا ہے۔

بہترین طریقے

  1. کم خطرے کے استعمال اور واضح سوال سے شروع کریں۔ ایسا کام چنیں جہاں غلطیاں سستی اور پکڑنے میں آسان ہوں، جیسے اندرونی استعمال کے لیے خلاصے کا مسودہ، اور متعین کریں کہ کامیابی کا کیا مطلب ہے۔
  2. ایک شخص کو جواب دہ رکھیں۔ نامزد کریں کہ اے آئی جس چیز میں حصہ ڈالے اس کا ذمہ دار کون ہے، اور ہر اس چیز کے لیے جائزہ لازم کریں جو گاہک تک پہنچے، پروڈکشن بدلے، یا وعدہ کرے۔
  3. جوابات منظور شدہ مواد میں گراؤنڈ کریں۔ جہاں آپ جوابات کے لیے اے آئی برتیں اسے اپنے علمی ذخیرے سے جوڑیں اور ماخذ دکھائیں۔ جب اس کے پاس نہ ہو تو اسے "مجھے نہیں پتا" کہنے پر لگائیں۔
  4. ڈیٹا کی حفاظت کریں۔ طے کریں کہ کون سا ڈیٹا کس ٹول کو جا سکتا ہے، ذاتی اور خفیہ ڈیٹا ہٹائیں، اور منظور شدہ اوزار ان شرائط کے ساتھ برتیں جو آپ نے پڑھی ہوں۔ سکیورٹی اور قانونی عملے کو جلد شامل کریں۔
  5. حقیقی معاملات سے آزمائیں۔ معلوم جوابات والے حقیقی ٹکٹوں اور واقعات کا مجموعہ جمع کریں، اے آئی کو ان پر چلائیں، اور ریکارڈ کریں کہ یہ کہاں ناکام ہوتی ہے۔ ٹول یا ترتیب کی کسی بھی تبدیلی کے بعد دہرائیں۔
  6. دعووں اور حوالوں کی تصدیق کریں۔ نام، اعداد، حوالے، اور طریقۂ کار ماخذوں کے مقابل جانچیں، جیسا گھڑے ہوئے عدالتی حوالوں کے معاملات دکھاتے ہیں۔ وہ حوالے کبھی قبول نہ کریں جو آپ نے دیکھے نہیں۔
  7. گاہکوں سے دیانت دار رہیں۔ جہاں اہم ہو بتائیں کہ خودکار نظام جواب دے رہا ہے، اور انسان تک آسان راستہ دیں۔
  8. تعصب پر نظر رکھیں۔ صارفین کے گروہوں اور مسائل کی اقسام میں نتائج کا جائزہ لیں، اور خلا پہچاننے والے لوگوں کو شامل کریں۔ جہاں نقصان ظاہر ہو وہاں استعمال ایڈجسٹ کریں یا روکیں۔
  9. معیار اور اثر ناپیں۔ اوور رائیڈ کی شرحیں، غلطی کی شرحیں، بچا ہوا وقت، اور صارفین کی رائے ٹریک کریں۔ اے آئی کے بغیر عمل سے موازنہ کریں، اور فروخت کنندہ کے اعداد پر شک رکھیں۔
  10. ریکارڈ رکھیں۔ اہم فیصلوں کے لیے رکھیں کہ کیا پوچھا گیا اور کیا پیدا ہوا، کس نے جائزہ لیا، اور کیا فیصلہ ہوا۔ یہ جواب دہی اور آڈٹ کو سہارا دیتا ہے۔
  11. رسک فریم ورک برتیں۔ اے آئی کہاں اجازت یافتہ ہے اس کے فیصلوں کو ساخت دینے کے لیے تسلیم شدہ طریقہ اپنائیں، جیسے NIST کا AI RMF یا ادارے کی اے آئی پالیسی۔ اسے سوچنے کی رہنما سمجھیں۔
  12. لوگوں کو تربیت دیں۔ عملے کو سکھائیں کہ اوزار کیسے کام کرتے ہیں، کہاں ناکام ہوتے ہیں، اور کیا اجازت ہے۔ اوزار اور قواعد بدلنے پر تربیت اپ ڈیٹ کریں۔

ٹیم کے ساتھ بحث کے سوالات

ہم پہلے سے اے آئی کہاں برت رہے ہیں، رسمی طور پر یا نہیں؟

دیانت داری سے پوچھیں۔ عملہ اکثر حقیقی ٹکٹوں کے ساتھ عوامی اوزار برتتا ہے۔ مقصد سزا دینا نہیں بلکہ سمجھنا ہے۔ استعمال اور شامل ڈیٹا کی فہرست بنائیں۔ بحث کریں کہ کون سے قابلِ قبول ہیں اور کن کو محفوظ راستہ چاہیے۔ مختصر پالیسی پر متفق ہوں۔

ہم کس کام میں سب سے زیادہ مدد چاہیں گے، اور اگر اے آئی اسے غلط کرے تو کیا ہوگا؟

کام چنیں اور ناکامی کے معاملے سے گزریں۔ اگر جواب معذرت کی ای میل ہے تو خطرہ چھوٹا ہے؛ اگر وہ گاہک کو غلط ہدایت ہے تو خطرہ زیادہ ہے۔ یہ استعمال کو خطرے سے درجہ بند کرنے میں مدد دیتا ہے۔ محدود نقصان والا پہلا پائلٹ چنیں۔

ہمیں کیسے پتا چلے گا کہ اے آئی کا جواب غلط ہے؟

پوچھیں کہ جوابات کون اور کیسے جانچتا ہے۔ عام جوابات: کوئی نہیں، یا وہ شخص جس نے پوچھا۔ ماخذوں، ٹیسٹوں اور دوسرے جائزوں پر بحث کریں۔ ہر قسم کے استعمال کے لیے کم از کم جانچ پر متفق ہوں۔

ہم اے آئی ٹول میں کون سا ڈیٹا ڈالنے میں آرام محسوس کرتے ہیں، اور کون سا نہیں؟

اقسام جمع کریں: ٹکٹ، لاگز، گاہک کے نام، اسناد، معاہدے۔ ہر ایک کو قابلِ قبول، حساس حصے ہٹانے کے بعد قابلِ قبول، یا کبھی نہیں کے طور پر نشان زد کریں۔ سکیورٹی اور قانونی سے جانچیں۔ اسے ایک صفحے کی گائیڈ کے طور پر لکھیں۔

جب اے آئی کی مدد والا فیصلہ غلط ہو تو جواب دہ کون ہے؟

ٹول کی مدد والے فیصلے کی ماضی کی مثال برتیں۔ پوچھیں کہ جواب کس نے دیا۔ اس پر متفق ہوں کہ نامزد شخص جواب دہ رہتا ہے اور اسے کون سے شواہد رکھنے چاہییں۔ کسی بھی خلا کو نوٹ کریں جہاں کوئی نہیں ہوگا۔

ہمیں کیا قائل کرے گا کہ ٹول رکھنے کے لائق ہے؟

ٹیم سے ان شواہد بیان کرنے کو کہیں جو وہ قبول کریں گے: برابر یا بہتر معیار کے ساتھ بچا وقت، کم غلطیاں، صارف کا اطمینان۔ بحث کریں کہ آزمائش میں انہیں کیسے جمع کریں۔ جائزے کی تاریخ پر متفق ہوں۔

عملی مثال: چابک ITIL کی ایک مثال

ایک قومی ٹیکس اتھارٹی کا آئی ٹی سروس ڈیسک عملے سے ہفتے میں تقریباً 1,200 رابطے سنبھالتا ہے، جن میں سے بہت سے معمول کے سوالات ہیں۔ ڈیسک کا مینیجر ایسا اے آئی معاون تجویز کرتا ہے جو علمی ذخیرے سے جوابات تجویز کرے اور جوابات کا مسودہ بنائے۔ اتھارٹی کا سکیورٹی افسر ٹکٹوں میں ذاتی ڈیٹا اور عملے تک غلط جوابات پہنچنے سے فکر مند ہے۔

وہ محدود پائلٹ پر متفق ہوتے ہیں۔ معاون صرف منظور شدہ علمی مضامین سے کام کرتا ہے، دکھاتا ہے کہ ہر تجویز کس مضمون سے آتی ہے، اور بتاتا ہے جب اسے کچھ متعلقہ نہ ملے۔ تجزیہ کار بھیجنے سے پہلے ہر تجویز کردہ جواب کا جائزہ لیتے ہیں، اور ٹول خود نہیں بھیج سکتا۔ ٹکٹوں میں ذاتی ڈیٹا اور اسناد اسکین ہوتی ہیں اور معاون کے دیکھنے سے پہلے ہٹا دی جاتی ہیں۔ پائلٹ سے پہلے معلوم جوابات والے 200 ماضی کے ٹکٹوں کا ٹیسٹ سیٹ برتا جاتا ہے، اور ٹیم ریکارڈ کرتی ہے کہ معاون کہاں ناکام ہوتا ہے۔ ڈیسک کا مینیجر اور سکیورٹی افسر پیمانوں پر متفق ہوتے ہیں: تجزیہ کار کتنی بار تجاویز میں ترمیم یا انہیں رد کرتے ہیں، پہلے جواب کا وقت، اور عملے کے لیے مختصر اطمینان کا سوال۔ پائلٹ تین مہینے چلتا ہے، اور مینیجر مشترکہ جائزے کو رپورٹ کرتا ہے جس میں ایک تجزیہ کار اور عملے کا نمائندہ شامل ہے۔

آخر میں تجزیہ کار عام سوالات کی زیادہ تر تجاویز قبول کرتے ہیں اور ان کے لیے جواب کا وقت گرتا ہے۔ ٹیسٹ سیٹ دکھاتا ہے کہ معاون حال ہی میں بدلی پالیسی کے سوالات پر پُراعتماد مگر غلط جواب دیتا ہے، کیونکہ علمی مضمون پرانا تھا۔ کچھ مسائل باقی ہیں۔ دو تجزیہ کاروں نے مصروف ہونے پر کم جانچ کے ساتھ تجاویز بھیجنا شروع کر دیں، غیر معیاری سوال والے عملے کے رکن کو پھیکا جواب ملا جو بات چوک گیا، اور ڈیٹا رکھنے کے بارے میں فروخت کنندہ کی شرائط غیر واضح تھیں۔ مینیجر قاعدہ شامل کرتا ہے کہ پالیسی کی تبدیلیاں نافذ ہونے سے پہلے علمی مضمون اپ ڈیٹ کریں، سینئر تجزیہ کار سے بھیجے گئے جوابات کا نمونہ جانچ شامل کرتا ہے، اور خریداری اور سکیورٹی افسر سے پائلٹ بڑھانے سے پہلے شرائط واضح کرنے کو کہتا ہے۔

چار نقطہ ہائے نظر

پروڈکٹ اور ڈیلیوری ٹیمیں

ڈیلیوری ٹیمیں مصنوعات میں اے آئی کے فیچرز شامل کر سکتی ہیں اور کوڈ اور ٹیسٹ لکھنے کے لیے اے آئی برت سکتی ہیں۔ تیار کردہ کوڈ کی درستی اور سکیورٹی جانچیں، راز پرامپٹس سے باہر رکھیں، اور صارفین کے سامنے واضح رہیں جب اے آئی شامل ہو۔ اپنی سروس میں اے آئی کے رویے کی نگرانی بنائیں۔

سروس اور آپریشنز ٹیمیں

آپریشنز ٹیمیں اے آئی سے نگرانی، ڈیسک کے اوزار اور تجزیے میں ملیں گی۔ اے آئی کی تجاویز کو مفروضے سمجھیں، انہیں آزمائیں، اور ریکارڈ رکھیں۔ متعین کرنے میں مدد دیں کہ کون سا ڈیٹا برتا جا سکتا ہے، اور گراؤنڈنگ کا مواد بہتر کرنے کے لیے رائے دیں۔

قیادت اور گورننس

قائدین اے آئی کی پالیسی، خطرے کی برداشت اور جواب دہی طے کرتے ہیں۔ استعمال کی فہرست، رسک فریم ورک، اور پائلٹوں کے شواہد مانگیں، فروخت کنندہ کے دعوے نہیں۔ یقینی بنائیں کہ قانونی، سکیورٹی اور رازداری کا عملہ شروع سے شامل ہے۔

گاہک اور صارفین

گاہکوں اور صارفین کو بتایا جانا چاہیے جہاں اہم ہو کہ وہ خودکار نظام سے بات کر رہے ہیں، اور انسان تک راستہ ہو۔ غلط یا عجیب جوابات رپورٹ کریں، کیونکہ وہ شواہد ہیں۔ فراہم کنندگان سے پوچھیں کہ وہ آپ کے ڈیٹا کی حفاظت کیسے کرتے ہیں اور اے آئی کے نتائج کیسے جانچتے ہیں۔

ناکامی کی عام صورتیں

  • غیر تصدیق شدہ نتیجے پر بھروسا۔ گھڑے ہوئے حقائق گاہکوں تک پہنچتے ہیں۔ اس کے بجائے جوابات منظور شدہ مواد میں گراؤنڈ کریں اور بھیجنے سے پہلے تصدیق کریں۔
  • سایہ دار اے آئی۔ عملہ حقیقی ڈیٹا عوامی اوزار میں چسپاں کرتا ہے۔ اس کے بجائے منظور شدہ اوزار اور واضح ڈیٹا کی پالیسی دیں۔
  • کوئی جواب دہ شخص نہیں۔ اے آئی کی مدد والے فیصلوں کا کوئی جواب دہ نہیں۔ اس کے بجائے مالک نامزد کریں اور جائزہ لازم کریں۔
  • فروخت کنندہ کے اعداد پر یقین۔ فوائد کے دعوے بغیر جانچے رہتے ہیں۔ اس کے بجائے اپنے معاملات پر آزمائیں اور ناپیں۔
  • باسی گراؤنڈنگ۔ علمی ذخیرہ غلط ہے اور اے آئی اسے دہراتی ہے۔ اس کے بجائے مضامین تازہ اور ملکیت میں رکھیں۔
  • چھپا تعصب۔ کچھ صارفین یا مسائل کے ساتھ بدتر سلوک ہوتا ہے۔ اس کے بجائے گروہوں میں آزمائیں اور نتائج کا جائزہ لیں۔
  • سمجھنے سے پہلے خودکاری۔ اے آئی بغیر جانچ پروڈکشن پر عمل کرتی ہے۔ اس کے بجائے تجویز اور جائزے سے شروع کریں، اور مضبوط حفاظتی انتظامات کے ساتھ ہی عمل کی طرف جائیں۔
  • کوئی ریکارڈ نہیں۔ فیصلوں کا آڈٹ نہیں ہو سکتا۔ اس کے بجائے لاگ رکھیں کہ کیا پوچھا گیا، کیا پیدا ہوا، اور کیا فیصلہ ہوا۔

پختگی کا ماڈل

پہلو آغاز ترقی معیار بندی انتظام ہم آہنگی
پالیسی اور جواب دہی استعمال ایڈہاک اور غیر ریکارڈ شدہ ہے کچھ ٹیموں کے قواعد ہیں تحریری پالیسی، استعمال کی فہرست، اور نامزد مالک پالیسی کی تعمیل اور واقعات کا جائزہ لیا جاتا ہے پالیسی ٹیموں، فراہم کنندگان اور ریگولیٹرز میں ہم آہنگ ہے
معیار اور گراؤنڈنگ نتیجے پر طے شدہ طور پر بھروسا کیا جاتا ہے اہم استعمال پر کچھ جانچیں جوابات منظور شدہ ماخذوں میں گراؤنڈ اور حقیقی معاملات پر آزمائے جاتے ہیں غلطی اور اوور رائیڈ کی شرحیں ناپی اور ان پر عمل ہوتا ہے گراؤنڈنگ اور ٹیسٹ ٹیموں میں بانٹے اور بہتر کیے جاتے ہیں
ڈیٹا کا تحفظ اور انصاف ڈیٹا آزادی سے چسپاں ہوتا ہے ڈیٹا کے کچھ قواعد موجود ہیں ڈیٹا کی ہینڈلنگ کے قواعد اور تعصب کی جانچیں معمول ہیں ڈیٹا کے واقعات اور انصاف کے نتائج ٹریک اور ٹھیک ہوتے ہیں ڈیٹا اور انصاف کے طریقے ادارے اور فراہم کنندگان میں مربوط ہیں
قدر اور سیکھنا قدر فرض کی جاتی ہے کچھ آزمائشیں چلتی ہیں پائلٹ کے متفقہ پیمانے اور فیصلے ہیں فوائد اور لاگتیں بنیادی لائنوں کے مقابل ناپی جاتی ہیں اے آئی کے استعمال سے سیکھنا سروسز میں مسلسل پھیلتا ہے

جانچ فہرست

  • ہمارے پاس ان جگہوں کی فہرست ہے جہاں ہماری سروسز میں یا ان کے گرد اے آئی برتی جاتی ہے، غیر رسمی استعمال سمیت۔
  • ہر اے آئی کی مدد والے استعمال کا ایک نامزد جواب دہ شخص ہے۔
  • تحریری پالیسی بتاتی ہے کہ کون سا ڈیٹا کن اوزار میں جا سکتا ہے۔
  • ان اوزار کے ساتھ برتنے سے پہلے ذاتی ڈیٹا اور راز ہٹائے یا ماسک کیے جاتے ہیں جو ان کے لیے منظور نہیں۔
  • جو جوابات گاہکوں کو دکھائے یا فیصلوں میں برتے جائیں وہ منظور شدہ مواد میں گراؤنڈ اور جائزہ شدہ ہیں۔
  • ہمارے پاس حقیقی معاملات کا ٹیسٹ سیٹ ہے اور تبدیلیوں کے بعد دوبارہ چلاتے ہیں۔
  • جہاں اہم ہو گاہکوں کو بتایا جاتا ہے جب خودکار نظام جواب دے، اور انسان تک راستہ ہے۔
  • ہم اوور رائیڈ کی شرح، غلطی کی شرح، بچا ہوا وقت، اور صارفین کی رائے ناپتے ہیں۔
  • اہم اے آئی کی مدد والے فیصلوں کے ریکارڈ رکھے جاتے ہیں۔
  • قانونی، سکیورٹی اور رازداری کے عملے نے ہمارے استعمال اور ٹول کی شرائط کا جائزہ لیا ہے۔

اے آئی پرامپٹس

مقصد: لوگوں کے بتانے سے اے آئی کے استعمال کی فہرست کا مسودہ بنانا۔

Help me structure an inventory of AI use in our service organization.

What people have told us they use AI for (paste notes; remove names): [paste].
Tools mentioned: [list].
Types of data involved, as far as we know: [list].

Produce a table with: use, tool, data involved, who is accountable (use "unknown" if not given), risk if wrong (low, medium, high with a one-sentence reason from my notes), and one question to ask. Do not guess about tools or terms I did not mention. Ask clarifying questions first, and list what you are unsure of.

مقصد: اے آئی معاون کے لیے ٹیسٹ سیٹ ڈیزائن کرنا۔

Design a test set for an AI assistant that suggests answers to service desk questions.

The knowledge sources it will use: [describe].
Types of question we get: [list with rough share if you know].
Cases where the right answer is "not in the knowledge base" or "escalate": [describe].

Propose a structure for 100-200 test cases (categories, how to choose real examples, how to record the correct answer and its source), how to score answers (correct, partly correct, wrong, confidently wrong, correctly declined), and how to repeat after changes. Do not invent test content; tell me what to collect. Ask clarifying questions first, and list what you are unsure of.

مقصد: ٹیم کے لیے ایک صفحے کی اے آئی استعمال کی پالیسی لکھنا۔

Draft a one-page AI use policy for [team].

Tools approved: [list, or write "none yet"].
Data we handle (types and sensitivity): [list].
Rules we must follow, with source text from legal, security, or contracts: [paste, or write "none known"].
Roles: [list].

Write plain-language sections: what AI may be used for, what data may and may not be put into tools, what must be checked by a person before use, who is accountable, how to record significant uses, how to report problems. Mark every item that is an assumption. Do not state that any law requires something unless I pasted its text. Ask clarifying questions first, and list what you are unsure of.

مقصد: صارف کو جانے سے پہلے اے آئی کے بنائے جواب کا جائزہ لینا۔

Here is a draft answer that an AI tool produced for a user question.

The user's question: [paste, with personal data removed].
The knowledge article(s) the answer should be based on: [paste].
The draft answer: [paste].

Check the draft against the article only. List statements that are supported by the article (quote the part), statements that are not supported, anything missing that the user would need, and the tone. Suggest a corrected version that uses only the article. Do not add facts. List what you are unsure of.

اے آئی سکلز

  • prompt-engineering: واضح پرامپٹس لکھنے کے لیے استعمال کریں جو صحیح مواد دیں اور غیر یقینی کے بارے میں پوچھیں۔
  • machine-learning-model-card: دستاویز کرنے کے لیے استعمال کریں کہ ماڈل کس لیے ہے، کیسے آزمایا گیا، اور اس کی حدود۔
  • data-governance: فیصلہ کرنے کے لیے استعمال کریں کہ کون سا ڈیٹا کن اوزار کے ساتھ برتا جا سکتا ہے۔
  • legal-data-privacy-compliance: اے آئی کے استعمال کے بارے میں قانونی اور رازداری کے عملے کے لیے سوالات تیار کرنے کے لیے استعمال کریں۔
  • risk-register: اے آئی سے متعلق خطرات، مالک اور علاج ریکارڈ کرنے کے لیے استعمال کریں۔

اہم ماخذ

  • AIOps (Wikipedia): آئی ٹی آپریشنز کے لیے اے آئی، اس کی صلاحیتوں، اور دعویٰ شدہ فوائد کی مختصر وضاحت، بغیر تنقید کے۔
  • Hallucination (artificial intelligence) (Wikipedia): غلط نتیجے کی وجوہات، مثالیں، اور تخفیف کے خیالات۔
  • AI Risk Management Framework (NIST): رضاکارانہ فریم ورک اور اس کا جنریٹو اے آئی پروفائل؛ تفصیلات کے لیے خود فریم ورک پڑھیں۔
  • ITIL certifications (PeopleCert): نئے ITIL اور اس کے اے آئی گورننس ماڈیول کے بارے میں مالک کے عوامی بیانات۔

حوالہ جات

  1. AIOps — Wikipedia — https://en.wikipedia.org/wiki/AIOps
  2. Hallucination (artificial intelligence) — Wikipedia — https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)
  3. AI Risk Management Framework — NIST — https://www.nist.gov/itl/ai-risk-management-framework
  4. ITIL certifications — PeopleCert — https://www.peoplecert.org/browse-certifications/it-governance-and-service-management/ITIL-1
  5. Retrieval-augmented generation — Wikipedia — https://en.wikipedia.org/wiki/Retrieval-augmented_generation
  6. Artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Artificial_intelligence
  7. Large language model — Wikipedia — https://en.wikipedia.org/wiki/Large_language_model
  8. Algorithmic bias — Wikipedia — https://en.wikipedia.org/wiki/Algorithmic_bias
  9. IT service management — Wikipedia — https://en.wikipedia.org/wiki/IT_service_management