الذكاء الاصطناعي في إدارة خدمات تقنية المعلومات
يستطيع الذكاء الاصطناعي تسريع الاكتشاف والفرز والعمل المعرفي في إدارة خدمات تقنية المعلومات، ولا يكون استخدامه آمنًا إلا حيث يبقى شخص مسؤولًا، وتستند الإجابات إلى مادتك الخاصة، وتُدار مخاطر الخطأ والتحيز وكشف البيانات.
لماذا يهم هذا
تتضمن إدارة الخدمات قدرًا كبيرًا من اللغة وتمييز الأنماط: قراءة التذاكر، وتلخيص الحوادث، والبحث في المعرفة، وصياغة الردود، واكتشاف الإشارات غير المعتادة في بيانات المراقبة. هذه المهام التي تبدو فيها أنظمة الذكاء الاصطناعي الحديثة أقدر، وسارع الموردون إلى إضافتها إلى مكاتب الخدمة وأدوات العمليات. ستُسأل الفرق، إن لم تُسأل بعد، هل تستخدمها.
الفرصة حقيقية، وكذلك المخاطر. يمكن لأنظمة الذكاء الاصطناعي ذكر أكاذيب بثقة، وعكس تحيزات في تدريبها وفي البيانات التي تُعطاها، وكشف معلومات سرية إن غُذيت بإهمال، ودفع الناس إلى الوثوق بمخرجات لم يفحصوها. تُظهر حالات عدة أُبلغ عنها على نطاق واسع كلفة الثقة في غير موضعها. مؤسسة خدمات تتبنى الذكاء الاصطناعي دون تفكير قد تضر عملاءها وسمعتها.
وبحلول 2026، دخل الذكاء الاصطناعي الإطار أيضًا. تصف صفحة الاعتماد العامة لدى PeopleCert ITIL الجديد بأنه "عملي وأصيل الذكاء الاصطناعي بالتصميم" وتسرد وحدة حوكمة الذكاء الاصطناعي في ITIL (الإصدار 5) التي تغطي حوكمة الذكاء الاصطناعي "بمسؤولية وعلى نطاق واسع" (انظر الموضوع 2.2 — ITIL). لم يستطع هذا الدليل التحقق من منشورات المالك ماذا يقول ITIL 5 عن الذكاء الاصطناعي بتفصيل، فلا يصف هذا الموضوع موقف الإطار خارج تلك العبارات. يعتمد على مقالتي ويكيبيديا عن AIOps وعن هلوسة الذكاء الاصطناعي، وصفحة إطار إدارة مخاطر الذكاء الاصطناعي من NIST، والتفكير العملي، ويعلّم الممارسة بهذه الصفة.
المفاهيم الأساسية
أين يساعد الذكاء الاصطناعي في إدارة الخدمات
تقع معظم الاستخدامات في بضع مجموعات. يُظهر الجدول أمثلة ونوع الخطر في كل منها، كما يقرأه هذا الدليل.
| الاستخدام | ما يفعله الذكاء الاصطناعي | المخاطر الرئيسية |
|---|---|---|
| الاكتشاف والربط (AIOps) | يجد الشواذ، ويجمع الأحداث المترابطة، ويقترح أسبابًا مرجحة | إنذارات كاذبة، وأحداث فائتة، واستدلال غامض |
| مساعدة مكتب الخدمة | يقترح إجابات، ويلخص التذاكر، ويصوغ ردودًا، ويوجه الطلبات | إجابات خاطئة أو مختلقة، والنبرة، والخصوصية |
| العمل المعرفي | يصوغ المقالات ويحسنها، ويبحث في المعرفة | محتوى مختلق، ومصادر متقادمة |
| تحليل الحوادث والمشكلات | يلخص الجداول الزمنية، ويقترح فرضيات، ويصوغ المراجعات | أسباب معقولة لكن بلا أساس |
| دعم التغيير والإصدار | يراجع التغييرات، ويصوغ الملاحظات، ويقترح الخطر | ثقة مفرطة، وسياق فائت |
| الكود والأتمتة | يكتب سكربتات وتكوينات | كود غير آمن أو غير صحيح، واعتماديات خفية |
| التحليل والتقارير | يلخص البيانات، ويصوغ تقارير | حسابات خاطئة، وأرقام مختلقة |
AIOps
تصف مقالة ويكيبيديا AIOps بأنها استخدام الذكاء الاصطناعي والتعلم الآلي وتحليلات البيانات الضخمة لأتمتة إدارة مراكز البيانات وتحسينها، بهدف اكتشاف مشكلات تقنية المعلومات وتشخيصها وحلها بكفاءة أكبر من الطرق التقليدية. وتقول إن Gartner عرّفت AIOps أول مرة في 2016. وتسرد المقالة قدرات منها ربط الأحداث، واكتشاف الشواذ، وتحليل السبب الجذري، وتحديد السببية، والتحليلات التنبؤية، وإدارة الحوادث، والمعالجة الآلية، والتنبؤ بالأداء، وتخصيص الموارد، وإدارة السعة. وتقول إن AIOps تستمد من بيانات ملاحظة، مثل السجلات والمراقبة، وبيانات تفاعل، مثل التذاكر والأحداث وسجلات الحوادث.
تدّعي المقالة فوائد، مثل تحسن متوسط زمن الاكتشاف بنسبة 15 إلى 20 بالمئة وانخفاض الحوادث الحرجة بأكثر من 50 بالمئة، لكنها تلاحظ أن هذه تأتي من مقالة استشارية واحدة وغير موثقة باستقلال في النص. ولا تذكر انتقادات أو حالات إخفاق أو قيودًا. تعامل مع ادعاءات الموردين وفقًا لذلك، واختبر أي أداة مقابل حوادثك (انظر الموضوع 3.10 — المراقبة وإدارة الأحداث).
الذكاء الاصطناعي التوليدي والهلوسة
تعرّف مقالة ويكيبيديا عن الهلوسة في الذكاء الاصطناعي إياها بأنها استجابة تحتوي معلومات كاذبة أو مضللة تُقدَّم حقيقةً، وتلاحظ أن المصطلح يُنتقد لتجسيمه البرمجيات. وتعطي أسبابًا: التدريب المسبق على التنبؤ بالكلمة التالية يكافئ التخمين حين ينقص النموذج معلومات، وقد تكون مجموعات البيانات ناقصة أو غير ممثلة، ويحتج باحثو OpenAI بأن التدريب والتقييم يكافئان التخمين على الاعتراف بعدم اليقين. من الأمثلة التي تسجلها:
- Mata v. Avianca (مايو 2023): قدم محامٍ ست قضايا مزيفة ولدها ChatGPT؛ وفرض القاضي غرامة 5,000 دولار أمريكي في 23 يونيو 2023.
- Moffatt v. Air Canada (فبراير 2024): ألزمت هيئة قضائية شركة طيران بسياسة حداد اختلقها روبوت الدردشة لديها.
- تقارير من شركة استشارية احتوت استشهادات كاذبة، ودراسة وجدت أن 69 من 178 مرجعًا من GPT-3 كانت لها معرّفات خاطئة أو غير موجودة.
هذه عواقب الثقة بمخرجات غير موثقة: مسؤولية قانونية، وتعرض مالي، وثقة متضررة. في إدارة الخدمات، يخلق روبوت دردشة يختلق سياسة أو إجراءً الصنف نفسه من الخطر.
التخفيف: الإسناد والفحوص
تصف المقالة التوليد المعزز بالاسترجاع (RAG) بأنه يتيح للنموذج الوصول إلى مصادر خارجية قبل الإجابة. وتسرد أيضًا طرقًا متعلقة بالبيانات، وطرق النموذج والاستدلال، ومقترحات مثل برمجيات ضوابط الحماية وتسجيل الثقة، وتلاحظ أن لا مصدر تعطيه يكمّم كم يقلل أي منها الهلوسة. بالنسبة لفريق خدمة، التخفيفات العملية هي:
- أسند الإجابات إلى مادتك المعتمدة، مثل قاعدة المعرفة، وأظهر المصدر.
- أبقِ شخصًا في الحلقة لأي شيء يؤثر في عميل أو التزام أو الإنتاج.
- اسأل عما لا يتيقن منه الذكاء الاصطناعي، وعامل العبارات غير المدعومة غير موثقة.
- اختبر بانتظام على حالات حقيقية، بما فيها حالات يكون فيها الجواب الصحيح "لا أعرف".
أطر إدارة المخاطر
نشر المعهد الوطني للمعايير والتقنية (NIST) إطار إدارة مخاطر الذكاء الاصطناعي (AI RMF 1.0) في 26 يناير 2023، الذي يصفه بأنه مقصود للاستخدام الطوعي، لمساعدة في إدارة مخاطر الذكاء الاصطناعي على الأفراد والمؤسسات والمجتمع وتحسين القدرة على دمج اعتبارات الجدارة بالثقة في تصميم منتجات الذكاء الاصطناعي وخدماته وأنظمته وتطويرها واستخدامها وتقييمها. وتسمي صفحة NIST أربع وظائف، الحوكمة والرسم والقياس والإدارة، لكنها لا تصفها. وأصدرت أيضًا ملف الذكاء الاصطناعي التوليدي (NIST-AI-600-1) في 26 يوليو 2024 لمساعدة المؤسسات على تحديد المخاطر الفريدة للذكاء الاصطناعي التوليدي، وتقول إن الإطار قيد التنقيح. اقرأ الإطار نفسه للتفصيل. تختلف قواعد أخرى عن الذكاء الاصطناعي، مثل القوانين والمعايير، بحسب البلد والقطاع؛ اسأل وظيفتيك القانونية والامتثال، واحصل على النص (انظر الموضوع 5.7 — الحوكمة والمخاطر والامتثال).
حماية البيانات والخصوصية
كل ما يُعطى لخدمة ذكاء اصطناعي قد يُخزَّن أو يُستخدم للتدريب أو يُكشف، بحسب الخدمة والشروط. تحتوي التذاكر والسجلات ونصوص الدردشة غالبًا بيانات شخصية وبيانات اعتماد ومعلومات أعمال سرية. قبل استخدام أي أداة ذكاء اصطناعي ببيانات حقيقية، اعرف أين تذهب البيانات، ومن يستطيع رؤيتها، وكم تُحفظ، وهل تُستخدم لتدريب النماذج، وطبّق سياسة أمن معلوماتك (انظر الموضوع 3.13 — إدارة أمن المعلومات). أزل أو استبدل البيانات الشخصية والسرية قبل لصقها في أداة لم تعتمدها.
المساءلة والشفافية
يجب أن يبقى شخص أو فريق مسؤولًا عن القرارات التي يساهم فيها الذكاء الاصطناعي. حين يصوغ الذكاء الاصطناعي ردًّا، المرسل هو المسؤول. وحين يقترح سببًا جذريًا، المحقق مسؤول عن اختباره. أخبر العملاء حين يتحدثون إلى نظام آلي حيث يشترط القانون أو العقد أو الإنصاف ذلك، وأعطِ طريقًا إلى شخص. احتفظ بسجلات عما سُئل الذكاء الاصطناعي وما أنتج للقرارات المهمة، كما تفعل مع أدوات أخرى (انظر الموضوع 5.1 — إدارة الخدمات بأسلوب أجايل للدليل).
التحيز والإنصاف
تتعلم أنظمة الذكاء الاصطناعي من بيانات تعكس قرارات وثغرات ماضية. مساعد فرز دُرّب على تذاكر تاريخية قد يعامل بعض مجموعات المستخدمين أو أنواع المشكلات أقل أولوية. افحص المخرجات عبر المجموعات، وأشرك أناسًا بوجهات نظر مختلفة في الاختبار، وراقب الأنماط. لا تفصّل المصادر المقروءة لهذا الدليل التحيز، فهذا تحذير عام لا نتيجة.
قياس الذكاء الاصطناعي
قِس جودة وأثر أي خطوة ذكاء اصطناعي، لا حجمها فقط: كم مرة يتجاوزها البشر، وكم مرة تخطئ، وكم تستغرق المهام بوجودها وبدونها، وماذا يقول المستخدمون (انظر الموضوع 5.6 — المقاييس والقياس). كن حذرًا من أرقام الموردين؛ ادعاءات فوائد مقالة AIOps نفسها تقوم على مصدر واحد.
المهارات والمطالبات
المهارة العملية في العمل مع الذكاء الاصطناعي تشمل كتابة تعليمات واضحة، وتقديم المادة الصحيحة، وطلب بيان عدم اليقين، والتحقق من المخرجات. يغطي الموضوع 6.3 — مهارات الذكاء الاصطناعي والمطالبات هذا بتفصيل.
حدود المصادر
لا تحتوي مقالة AIOps انتقادات وأرقام فوائدها من مصدر واحد؛ ومقالة الهلوسة معلَّمة بأنها تحتاج تحديثًا وقُرئت جزئيًا؛ وصفحة NIST لا تصف وظائف الإطار؛ وصفحة PeopleCert لا تشرح ما يقوله ITIL 5 عن الذكاء الاصطناعي. لذا يقدم هذا الموضوع رواية حذرة ويترك التفاصيل للمصادر الأولية.
أفضل الممارسات
- ابدأ باستخدام منخفض الخطر وسؤال واضح. اختر مهمة تكون فيها الأخطاء رخيصة وسهلة الالتقاط، مثل صياغة ملخص للاستخدام الداخلي، وحدد ما يعنيه النجاح.
- أبقِ شخصًا مسؤولًا. سمِّ من هو مسؤول عما يساهم فيه الذكاء الاصطناعي، واشترط المراجعة لأي شيء يصل إلى عميل أو يغير الإنتاج أو يقطع التزامًا.
- أسند الإجابات إلى مادة معتمدة. حيث تستخدم الذكاء الاصطناعي للإجابات، اربطه بقاعدة معرفتك وأظهر المصدر. اجعله يقول "لا أعرف" حين تنقصه واحدة.
- احمِ البيانات. قرر أي بيانات يجوز أن تذهب إلى أي أداة، وأزل البيانات الشخصية والسرية، واستخدم أدوات معتمدة بشروط قرأتها. أشرك موظفي الأمن والقانونية مبكرًا.
- اختبر بحالات حقيقية. اجمع مجموعة من التذاكر والحوادث الحقيقية بإجابات معروفة، وشغّل الذكاء الاصطناعي عليها، وسجّل أين يفشل. أعد بعد أي تغيير في الأداة أو الإعدادات.
- تحقق من الادعاءات والمراجع. افحص الأسماء والأرقام والاستشهادات والإجراءات مقابل المصادر، كما تُظهر حالات استشهادات المحاكم المختلقة. لا تقبل مراجع لم تَرَها.
- كن صادقًا مع العملاء. قل حين يجيب نظام آلي حيث يهم، وأعطِ طريقًا سهلًا إلى شخص.
- راقب التحيز. راجع المخرجات عبر مجموعات المستخدمين وأنواع المشكلات، وأشرك من يستطيعون رؤية الثغرات. عدّل أو أوقف الاستخدام حيث يظهر ضرر.
- قِس الجودة والأثر. تتبع معدلات التجاوز ومعدلات الخطأ والوقت الموفر وآراء المستخدمين. قارن مقابل العملية بدون ذكاء اصطناعي، وكن متشككًا في أرقام الموردين.
- احتفظ بالسجلات. للقرارات المهمة، احتفظ بما سُئل وما أُنتج ومن راجعه وما تقرر. هذا يدعم المساءلة والتدقيق.
- استخدم إطار مخاطر. تبنَّ نهجًا معترفًا به، مثل AI RMF من NIST أو سياسة ذكاء اصطناعي مؤسسية، لهيكلة القرارات عن أين يُسمح بالذكاء الاصطناعي. عامله دليلًا للتفكير.
- درّب الناس. علّم الموظفين كيف تعمل الأدوات وأين تفشل وما المسموح. حدّث التدريب مع تغير الأدوات والقواعد.
أسئلة للنقاش مع فريقك
أين نستخدم الذكاء الاصطناعي أصلًا، رسميًا أو لا؟
اسأل بصدق. كثيرًا ما يستخدم الموظفون أدوات عامة بتذاكر حقيقية. الهدف ليس المعاقبة بل الفهم. اسرد الاستخدامات والبيانات المعنية. ناقش أيها مقبول وأيها يحتاج طريقًا أكثر أمانًا. اتفقوا على سياسة قصيرة.
أي مهمة نود المساعدة فيها أكثر، وماذا يحدث إن أخطأ الذكاء الاصطناعي فيها؟
اختر مهمة وامشِ عبر حالة الإخفاق. إن كان الجواب بريد اعتذار، فالخطر صغير؛ وإن كان تعليمات خاطئة لعميل، فالخطر أعلى. هذا يساعد على ترتيب الاستخدامات بالخطر. اختر تجربة أولى بضرر محدود.
كيف نعرف أن إجابة ذكاء اصطناعي خاطئة؟
اسأل من يفحص الإجابات وكيف. الإجابات المعتادة: لا أحد، أو من سأل. ناقش المصادر والاختبارات والمراجعات الثانية. اتفقوا على حد أدنى من الفحص لكل نوع استخدام.
أي بيانات نرتاح لوضعها في أداة ذكاء اصطناعي، وأيها لا؟
اجمع الأنواع: التذاكر والسجلات وأسماء العملاء وبيانات الاعتماد والعقود. علّم كلًّا مقبولًا، أو مقبولًا بعد إزالة الأجزاء الحساسة، أو أبدًا. تحقق مع الأمن والقانونية. اكتبه دليلًا من صفحة واحدة.
من المسؤول حين يسوء قرار بمساعدة الذكاء الاصطناعي؟
استخدم مثالًا سابقًا لقرار بمساعدة أداة. اسأل من أجاب. اتفقوا على أن شخصًا مسمّى يبقى مسؤولًا وأي دليل ينبغي أن يحتفظ به. لاحظ أي ثغرة حيث لا يكون أحد.
ما الذي سيقنعنا أن أداة تستحق الإبقاء؟
اطلب من الفريق وصف الدليل الذي سيقبلونه: وقت موفر بجودة مساوية أو أفضل، وأخطاء أقل، ورضا المستخدمين. ناقش كيف يُجمع في تجربة. اتفقوا على تاريخ مراجعة.
في الممارسة: مثال على ITIL بأسلوب أجايل
يعالج مكتب خدمة تقنية المعلومات في مصلحة ضرائب وطنية نحو 1,200 اتصال أسبوعيًا من الموظفين، كثير منها أسئلة روتينية. يقترح مدير المكتب مساعد ذكاء اصطناعي لاقتراح إجابات من قاعدة المعرفة وصياغة ردود. يقلق مسؤول الأمن في المصلحة من البيانات الشخصية في التذاكر ومن وصول إجابات خاطئة إلى الموظفين.
يتفقون على تجربة محدودة. يعمل المساعد من مقالات المعرفة المعتمدة فقط، ويُظهر أي مقالة يأتي منها كل اقتراح، ويقول حين لا يجد شيئًا ذا صلة. يراجع المحللون كل رد مقترح قبل الإرسال، ولا تستطيع الأداة الإرسال وحدها. تُفحص التذاكر بحثًا عن بيانات شخصية وبيانات اعتماد، وتُزال قبل أن يراها المساعد. وتُستخدم مجموعة اختبار من 200 تذكرة سابقة بإجابات معروفة قبل التجربة، ويسجل الفريق أين يفشل المساعد. يتفق مدير المكتب ومسؤول الأمن على مقاييس: كم مرة يعدّل المحللون الاقتراحات أو يرفضونها، وزمن الاستجابة الأول، وسؤال رضا قصير للموظفين. تستمر التجربة ثلاثة أشهر، ويقدم المدير تقريرًا إلى مراجعة مشتركة تضم محللًا وممثلًا للموظفين.
في النهاية، يقبل المحللون معظم الاقتراحات للأسئلة الشائعة وينخفض زمن الاستجابة لها. وتُظهر مجموعة الاختبار أن المساعد يعطي إجابة واثقة لكن خاطئة لأسئلة عن سياسة تغيرت حديثًا، لأن مقالة المعرفة كانت متقادمة. وتبقى مشكلات. بدأ محللان إرسال الاقتراحات بفحص قليل حين ينشغلان، وتلقى موظف بسؤال غير معتاد ردًّا باهتًا فاته المغزى، وكانت شروط المورد عن الاحتفاظ بالبيانات غير واضحة. يضيف المدير قاعدة أن تغييرات السياسة يجب أن تحدّث مقالة المعرفة قبل أن تسري، ويستخدم فحص عينة للردود المرسلة بواسطة محلل أول، ويطلب من المشتريات ومسؤول الأمن توضيح الشروط قبل توسيع التجربة.
أربعة منظورات
فرق المنتج والتسليم
قد تضيف فرق التسليم ميزات ذكاء اصطناعي إلى المنتجات وتستخدم الذكاء الاصطناعي لكتابة الكود والاختبارات. افحص الكود المولَّد للصحة والأمن، وأبقِ الأسرار خارج المطالبات، وكن واضحًا للمستخدمين حين يشارك الذكاء الاصطناعي. ابنِ مراقبة سلوك الذكاء الاصطناعي في خدمتك.
فرق الخدمة والعمليات
ستقابل فرق التشغيل الذكاء الاصطناعي في المراقبة وأدوات المكتب والتحليل. عامل اقتراحات الذكاء الاصطناعي فرضيات، واختبرها، واحتفظ بالسجلات. ساعد في تحديد أي البيانات يجوز استخدامها، وأعطِ تغذية راجعة لتحسين مادة الإسناد.
القيادة والحوكمة
يضع القادة سياسة الذكاء الاصطناعي وشهية المخاطر والمساءلة. اطلب جردًا بالاستخدام وإطار مخاطر ودليلًا من التجارب، لا ادعاءات الموردين. تأكد أن موظفي القانونية والأمن والخصوصية مشاركون من البداية.
العملاء والمستخدمون
ينبغي إخبار العملاء والمستخدمين حين يتعاملون مع نظام آلي حيث يهم، وأن يكون لهم طريق إلى شخص. بلّغ عن الإجابات الخاطئة أو الغريبة، فهي دليل. اسأل المزودين كيف يحمون بياناتك ويفحصون مخرجات الذكاء الاصطناعي.
أنماط الإخفاق الشائعة
- الثقة بمخرجات غير موثقة. تصل حقائق مختلقة إلى العملاء. وبدلًا من ذلك، أسند الإجابات إلى مادة معتمدة وتحقق قبل الإرسال.
- ذكاء اصطناعي الظل. يلصق الموظفون بيانات حقيقية في أدوات عامة. وبدلًا من ذلك، وفّر أدوات معتمدة وسياسة بيانات واضحة.
- لا شخص مسؤول. لا أحد يجيب عن القرارات بمساعدة الذكاء الاصطناعي. وبدلًا من ذلك، سمِّ مالكًا واشترط المراجعة.
- تصديق أرقام الموردين. تمر ادعاءات الفوائد دون فحص. وبدلًا من ذلك، اختبر على حالاتك وقِس.
- إسناد متقادم. قاعدة المعرفة خاطئة والذكاء الاصطناعي يكررها. وبدلًا من ذلك، أبقِ المقالات محدثة ولها ملّاك.
- تحيز خفي. يُعامل بعض المستخدمين أو المسائل أسوأ. وبدلًا من ذلك، اختبر عبر المجموعات وراجع المخرجات.
- الأتمتة قبل الفهم. يتصرف الذكاء الاصطناعي على الإنتاج بلا فحوص. وبدلًا من ذلك، ابدأ بالاقتراح والمراجعة، وانتقل إلى الفعل بضمانات قوية فقط.
- لا سجلات. لا يمكن تدقيق القرارات. وبدلًا من ذلك، احتفظ بسجلات ما سُئل وأُنتج وتقرر.
نموذج النضج
| البُعد | البدء | التطوير | التوحيد | الإدارة | التنسيق |
|---|---|---|---|---|---|
| السياسة والمساءلة | الاستخدام ارتجالي وغير مسجل | لبعض الفرق قواعد | سياسة مكتوبة وجرد للاستخدامات وملّاك مسمّون | يُراجع الامتثال للسياسة والحوادث | تتوافق السياسة عبر الفرق والموردين والجهات التنظيمية |
| الجودة والإسناد | المخرجات موثوقة افتراضيًا | بعض الفحوص على الاستخدامات المهمة | الإجابات مسندة إلى مصادر معتمدة ومختبرة على حالات حقيقية | تُقاس معدلات الخطأ والتجاوز ويُتصرف حيالها | يُشارك الإسناد والاختبارات ويتحسنان عبر الفرق |
| حماية البيانات والإنصاف | تُلصق البيانات بحرية | توجد بعض قواعد البيانات | قواعد معالجة البيانات وفحوص التحيز روتينية | تُتتبع حوادث البيانات ونتائج الإنصاف وتُصلح | تُنسَّق ممارسات البيانات والإنصاف عبر المؤسسة والموردين |
| القيمة والتعلم | القيمة مفترضة | تُجرى بعض التجارب | للتجارب مقاييس وقرارات متفق عليها | تُقاس الفوائد والكلف مقابل خطوط الأساس | ينتشر التعلم من استخدام الذكاء الاصطناعي عبر الخدمات باستمرار |
قائمة التحقق
- لدينا جرد بأين يُستخدم الذكاء الاصطناعي في خدماتنا أو حولها، بما فيه الاستخدام غير الرسمي.
- شخص مسمّى مسؤول عن كل استخدام بمساعدة الذكاء الاصطناعي.
- سياسة مكتوبة تقول أي البيانات يجوز أن تدخل أي الأدوات.
- تُزال البيانات الشخصية والأسرار أو تُخفى قبل الاستخدام مع أدوات غير معتمدة لها.
- الإجابات المعروضة على العملاء أو المستخدمة في القرارات مسندة إلى مادة معتمدة ومراجعة.
- لدينا مجموعة اختبار من حالات حقيقية ونعيد تشغيلها بعد التغييرات.
- يُخبر العملاء حين يجيب نظام آلي، حيث يهم، ولهم طريق إلى شخص.
- نقيس معدل التجاوز ومعدل الخطأ والوقت الموفر وآراء المستخدمين.
- تُحفظ سجلات للقرارات المهمة بمساعدة الذكاء الاصطناعي.
- راجع موظفو القانونية والأمن والخصوصية استخدامنا وشروط الأداة.
مطالبات الذكاء الاصطناعي
الغرض: صياغة جرد استخدام الذكاء الاصطناعي مما يخبرك به الناس.
ساعدني على هيكلة جرد لاستخدام الذكاء الاصطناعي في مؤسسة خدماتنا.
ما أخبرنا به الناس أنهم يستخدمون الذكاء الاصطناعي من أجله (الصق ملاحظات؛ أزل الأسماء): [الصق].
الأدوات المذكورة: [اسرد].
أنواع البيانات المعنية، بقدر ما نعرف: [اسرد].
أنتج جدولًا فيه: الاستخدام، والأداة، والبيانات المعنية، ومن المسؤول (استخدم "غير معروف" إن لم يُعطَ)، والخطر إن أخطأ (منخفض أو متوسط أو عالٍ مع سبب في جملة من ملاحظاتي)، وسؤالًا واحدًا لطرحه. علّم التخمينات. لا تخمّن بشأن أدوات أو شروط لم أذكرها. اطرح أسئلة توضيحية أولًا، واذكر ما لست متأكدًا منه.
الغرض: تصميم مجموعة اختبار لمساعد ذكاء اصطناعي.
صمم مجموعة اختبار لمساعد ذكاء اصطناعي يقترح إجابات لأسئلة مكتب الخدمة.
مصادر المعرفة التي سيستخدمها: [صف].
أنواع الأسئلة التي نتلقاها: [اسرد مع الحصة التقريبية إن عرفتها].
الحالات التي يكون الجواب الصحيح فيها "غير موجود في قاعدة المعرفة" أو "صعّد": [صف].
اقترح بنية لـ100–200 حالة اختبار (الفئات، وكيف تُختار أمثلة حقيقية، وكيف تُسجَّل الإجابة الصحيحة ومصدرها)، وكيف تُقيَّم الإجابات (صحيحة، وصحيحة جزئيًا، وخاطئة، وخاطئة بثقة، ومرفوضة بشكل صحيح)، وكيف يُعاد بعد التغييرات. لا تختلق محتوى الاختبار؛ قل لي ماذا أجمع. اطرح أسئلة توضيحية أولًا، واذكر ما لست متأكدًا منه.
الغرض: كتابة سياسة استخدام ذكاء اصطناعي من صفحة واحدة لفريق.
صغ سياسة استخدام ذكاء اصطناعي من صفحة واحدة لـ[الفريق].
الأدوات المعتمدة: [اسرد، أو اكتب "لا شيء بعد"].
البيانات التي نعالجها (الأنواع والحساسية): [اسرد].
القواعد التي يجب أن نتبعها، مع نص المصدر من القانونية أو الأمن أو العقود: [الصق، أو اكتب "لا شيء معروف"].
الأدوار: [اسرد].
اكتب أقسامًا بلغة بسيطة: ما يجوز استخدام الذكاء الاصطناعي فيه، وما البيانات التي يجوز وما لا يجوز وضعها في الأدوات، وما يجب أن يفحصه شخص قبل الاستخدام، ومن المسؤول، وكيف تُسجَّل الاستخدامات المهمة، وكيف يُبلَّغ عن المشكلات. علّم كل بند هو افتراض. لا تقل إن قانونًا يشترط شيئًا ما لم ألصق نصه. اطرح أسئلة توضيحية أولًا، واذكر ما لست متأكدًا منه.
الغرض: مراجعة إجابة مولَّدة بالذكاء الاصطناعي قبل أن تذهب إلى مستخدم.
هذه مسودة إجابة أنتجتها أداة ذكاء اصطناعي لسؤال مستخدم.
سؤال المستخدم: [الصق، مع إزالة البيانات الشخصية].
مقالة (مقالات) المعرفة التي ينبغي أن تُبنى عليها الإجابة: [الصق].
مسودة الإجابة: [الصق].
افحص المسودة مقابل المقالة فقط. اسرد العبارات المدعومة بالمقالة (اقتبس الجزء)، والعبارات غير المدعومة، وأي شيء مفقود يحتاجه المستخدم، والنبرة. اقترح نسخة مصححة تستخدم المقالة فقط. لا تضف حقائق. اذكر ما لست متأكدًا منه.
مهارات الذكاء الاصطناعي
- prompt-engineering: استخدمها لكتابة مطالبات واضحة تقدم المادة الصحيحة وتطلب بيان عدم اليقين.
- machine-learning-model-card: استخدمها لتوثيق ما يصلح له نموذج وكيف اختُبر وحدوده.
- data-governance: استخدمها لتقرير أي البيانات يجوز استخدامها مع أي الأدوات.
- legal-data-privacy-compliance: استخدمها لتجهيز أسئلة لموظفي القانونية والخصوصية عن استخدام الذكاء الاصطناعي.
- risk-register: استخدمها لتسجيل مخاطر الذكاء الاصطناعي وملّاكها ومعالجاتها.
(هذه المهارات مكتوبة بالإنجليزية.)
المصادر الرئيسية
- AIOps (ويكيبيديا): وصف قصير للذكاء الاصطناعي لعمليات تقنية المعلومات وقدراته وفوائده المدّعاة، دون انتقادات.
- الهلوسة (الذكاء الاصطناعي) (ويكيبيديا): الأسباب والأمثلة وأفكار التخفيف للمخرجات الكاذبة.
- AI Risk Management Framework (NIST): الإطار الطوعي وملفه للذكاء الاصطناعي التوليدي؛ اقرأ الإطار نفسه للتفاصيل.
- ITIL certifications (PeopleCert): بيانات المالك العامة عن ITIL الجديد ووحدة حوكمة الذكاء الاصطناعي فيه.
هذه المصادر بالإنجليزية.
المراجع
- AIOps — Wikipedia — https://en.wikipedia.org/wiki/AIOps
- Hallucination (artificial intelligence) — Wikipedia — https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)
- AI Risk Management Framework — NIST — https://www.nist.gov/itl/ai-risk-management-framework
- ITIL certifications — PeopleCert — https://www.peoplecert.org/browse-certifications/it-governance-and-service-management/ITIL-1
- Retrieval-augmented generation — Wikipedia — https://en.wikipedia.org/wiki/Retrieval-augmented_generation
- Artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Artificial_intelligence
- Large language model — Wikipedia — https://en.wikipedia.org/wiki/Large_language_model
- Algorithmic bias — Wikipedia — https://en.wikipedia.org/wiki/Algorithmic_bias
- IT service management — Wikipedia — https://en.wikipedia.org/wiki/IT_service_management