เหตุใดเรื่องนี้จึงสำคัญ

การบริหารบริการเกี่ยวข้องกับภาษาและการจดจำรูปแบบเป็นอย่างมาก ได้แก่ การอ่านตั๋ว การสรุปเหตุการณ์ขัดข้อง การค้นหาความรู้ การร่างคำตอบ และการสังเกตสัญญาณผิดปกติในข้อมูลการเฝ้าติดตาม งานเหล่านี้เป็นงานที่ระบบ AI ล่าสุดดูเหมือนจะทำได้ดีที่สุด และผู้ขายรีบเพิ่มความสามารถเหล่านี้เข้าไปในศูนย์บริการและเครื่องมือปฏิบัติการ ทีมจะถูกถาม หากยังไม่ถูกถามมาก่อน ว่าจะใช้หรือไม่

โอกาสนั้นเป็นจริง และอันตรายก็เช่นกัน ระบบ AI สามารถกล่าวความเท็จด้วยความมั่นใจ สะท้อนอคติในข้อมูลที่ใช้ฝึกและในข้อมูลที่ได้รับ เปิดเผยข้อมูลลับหากป้อนอย่างไม่ระมัดระวัง และทำให้ผู้คนเชื่อผลลัพธ์ที่ตนยังไม่ได้ตรวจสอบ มีหลายกรณีที่รายงานอย่างแพร่หลายซึ่งแสดงต้นทุนของการไว้วางใจผิดที่ องค์กรบริการที่นำ AI มาใช้โดยไม่คิดให้ดีอาจทำร้ายลูกค้าและชื่อเสียงของตนเอง

ภายในปี 2026 AI ได้เข้าสู่กรอบแนวทางด้วย หน้าการรับรองสาธารณะของ PeopleCert อธิบาย ITIL ใหม่ว่า "Practical and AI-native by design" และระบุโมดูล ITIL AI Governance (Version 5) ที่ครอบคลุมการกำกับดูแล AI "อย่างมีความรับผิดชอบและในระดับขนาดใหญ่" (ดูหัวข้อ 2.2 — ITIL) คู่มือนี้ไม่สามารถตรวจสอบจากสิ่งพิมพ์ของเจ้าของได้ว่า ITIL 5 กล่าวอะไรเกี่ยวกับ AI โดยละเอียด หัวข้อนี้จึงไม่อธิบายจุดยืนของกรอบแนวทางเกินกว่าข้อความเหล่านั้น หัวข้อนี้อิงบทความ Wikipedia เรื่อง AIOps และ AI hallucination หน้ากรอบการบริหารความเสี่ยง AI ของ NIST และการให้เหตุผลเชิงปฏิบัติ และระบุว่าอะไรเป็นแนวปฏิบัติ

แนวคิดหลัก

AI ช่วยในการบริหารบริการตรงไหน

การใช้งานส่วนใหญ่แบ่งเป็นไม่กี่กลุ่ม ตารางแสดงตัวอย่างและประเภทความเสี่ยงของแต่ละอย่าง ตามการอ่านของคู่มือนี้

การใช้งาน AI ทำอะไร ความเสี่ยงหลัก
การตรวจจับและการสัมพันธ์ (AIOps) ค้นหาความผิดปกติ จัดกลุ่มเหตุการณ์ที่เกี่ยวข้อง เสนอสาเหตุที่เป็นไปได้ การแจ้งเตือนผิด การพลาดเหตุการณ์ การให้เหตุผลที่ไม่โปร่งใส
การช่วยเหลือศูนย์บริการ เสนอคำตอบ สรุปตั๋ว ร่างคำตอบ จัดเส้นทางคำขอ คำตอบผิดหรือแต่งขึ้น น้ำเสียง ความเป็นส่วนตัว
งานความรู้ ร่างและปรับปรุงบทความ ค้นหาความรู้ เนื้อหาที่แต่งขึ้น แหล่งข้อมูลที่ล้าสมัย
การวิเคราะห์เหตุการณ์ขัดข้องและปัญหา สรุปลำดับเหตุการณ์ เสนอสมมติฐาน ร่างการทบทวน สาเหตุที่ฟังดูมีเหตุผลแต่ไร้หลักฐาน
การสนับสนุนการเปลี่ยนแปลงและการปล่อยรุ่น ทบทวนการเปลี่ยนแปลง ร่างบันทึก เสนอความเสี่ยง ความมั่นใจเกินจริง พลาดบริบท
โค้ดและระบบอัตโนมัติ เขียนสคริปต์และคอนฟิกูเรชัน โค้ดที่ไม่ปลอดภัยหรือไม่ถูกต้อง การพึ่งพาที่ซ่อนอยู่
การวิเคราะห์และการรายงาน สรุปข้อมูล ร่างรายงาน การคำนวณผิด ตัวเลขที่แต่งขึ้น

AIOps

บทความ Wikipedia อธิบาย AIOps ว่าเป็นการใช้ AI การเรียนรู้ของเครื่อง และการวิเคราะห์ข้อมูลขนาดใหญ่เพื่อทำให้การบริหารศูนย์ข้อมูลเป็นอัตโนมัติและดีขึ้น โดยมุ่งตรวจจับ วินิจฉัย และแก้ปัญหาไอทีให้มีประสิทธิภาพกว่าวิธีดั้งเดิม บทความระบุว่า Gartner นิยาม AIOps เป็นครั้งแรกในปี 2016 บทความระบุความสามารถ ได้แก่ การสัมพันธ์เหตุการณ์ การตรวจจับความผิดปกติ การวิเคราะห์สาเหตุราก การระบุความเป็นเหตุเป็นผล การวิเคราะห์เชิงพยากรณ์ การบริหารเหตุการณ์ขัดข้อง การแก้ไขอัตโนมัติ การพยากรณ์ประสิทธิภาพ การจัดสรรทรัพยากร และการบริหารความจุ บทความกล่าวว่า AIOps อาศัยข้อมูลการสังเกต เช่น บันทึกและการเฝ้าติดตาม และข้อมูลการโต้ตอบ เช่น ตั๋ว เหตุการณ์ และบันทึกเหตุการณ์ขัดข้อง

บทความอ้างประโยชน์ เช่น เวลาเฉลี่ยในการตรวจจับดีขึ้น 15 ถึง 20 เปอร์เซ็นต์ และเหตุการณ์ขัดข้องวิกฤตลดลงกว่า 50 เปอร์เซ็นต์ แต่ระบุว่ามาจากบทความของบริษัทที่ปรึกษาแห่งเดียวและไม่ได้รับการตรวจสอบอย่างอิสระในข้อความ บทความไม่ระบุข้อวิจารณ์ กรณีล้มเหลว หรือข้อจำกัด ให้ปฏิบัติต่อข้ออ้างของผู้ขายตามนั้น และทดสอบเครื่องมือใดๆ กับเหตุการณ์ขัดข้องของคุณเอง (ดูหัวข้อ 3.10 — การเฝ้าติดตามและการบริหารเหตุการณ์)

AI เชิงสร้างสรรค์และ hallucination

บทความ Wikipedia เรื่อง hallucination ใน AI นิยามว่าเป็นคำตอบที่มีข้อมูลเท็จหรือทำให้เข้าใจผิดซึ่งนำเสนอเป็นข้อเท็จจริง และระบุว่าคำนี้ถูกวิจารณ์ว่าทำให้ซอฟต์แวร์มีลักษณะเหมือนมนุษย์ บทความให้สาเหตุ ได้แก่ การฝึกล่วงหน้าด้วยการทำนายคำถัดไปให้รางวัลแก่การเดาเมื่อแบบจำลองไม่มีข้อมูล ชุดข้อมูลอาจไม่สมบูรณ์หรือไม่เป็นตัวแทน และนักวิจัยของ OpenAI โต้แย้งว่าการฝึกและการประเมินให้รางวัลแก่การเดามากกว่าการยอมรับความไม่แน่นอน ตัวอย่างที่บทความบันทึกไว้รวมถึง

  • Mata v. Avianca (พฤษภาคม 2023): ทนายความยื่นคดีปลอมหกคดีที่ ChatGPT สร้างขึ้น ผู้พิพากษาปรับ 5,000 ดอลลาร์สหรัฐเมื่อวันที่ 23 มิถุนายน 2023
  • Moffatt v. Air Canada (กุมภาพันธ์ 2024): คณะตุลาการให้สายการบินผูกพันตามนโยบายค่าโดยสารกรณีมีผู้เสียชีวิตที่แชตบอตของสายการบินแต่งขึ้น
  • รายงานของบริษัทที่ปรึกษาที่มีการอ้างอิงเท็จ และการศึกษาที่พบว่า 69 จาก 178 การอ้างอิงของ GPT-3 มีตัวระบุที่ไม่ถูกต้องหรือไม่มีอยู่จริง

สิ่งเหล่านี้คือผลที่ตามมาจากการไว้วางใจผลลัพธ์ที่ไม่ได้ตรวจสอบ ได้แก่ ความรับผิดทางกฎหมาย ความเสี่ยงทางการเงิน และความไว้วางใจที่เสียหาย ในการบริหารบริการ แชตบอตที่แต่งนโยบายหรือขั้นตอนขึ้นมาสร้างความเสี่ยงประเภทเดียวกัน

การลดความเสี่ยง: การอิงแหล่งข้อมูลและการตรวจสอบ

บทความอธิบาย retrieval-augmented generation (RAG) ว่าเป็นการให้แบบจำลองเข้าถึงแหล่งภายนอกก่อนตอบ บทความยังระบุวิธีที่เกี่ยวกับข้อมูล วิธีที่เกี่ยวกับแบบจำลองและการอนุมาน และข้อเสนอเช่นซอฟต์แวร์ราวกั้นและการให้คะแนนความมั่นใจ และระบุว่าไม่มีแหล่งใดที่ให้ไว้ระบุเป็นตัวเลขว่าสิ่งเหล่านี้ลด hallucination ได้เท่าใด สำหรับทีมบริการ การลดความเสี่ยงเชิงปฏิบัติ ได้แก่

  • ให้คำตอบอิงกับเนื้อหาที่ได้รับอนุมัติของคุณเอง เช่น ฐานความรู้ และแสดงแหล่งที่มา
  • ให้มีบุคคลอยู่ในวงจร สำหรับทุกอย่างที่ส่งผลต่อลูกค้า พันธสัญญา หรือระบบจริง
  • ขอให้ AI บอกว่าสิ่งใดที่ไม่แน่ใจ และถือว่าข้อความที่ไม่มีหลักฐานรองรับเป็นสิ่งที่ยังไม่ได้ตรวจสอบ
  • ทดสอบสม่ำเสมอ กับกรณีจริง รวมถึงกรณีที่คำตอบที่ถูกคือ "ฉันไม่ทราบ"

กรอบแนวทางการบริหารความเสี่ยง

สถาบันมาตรฐานและเทคโนโลยีแห่งชาติของสหรัฐ (NIST) เผยแพร่กรอบการบริหารความเสี่ยง AI (AI RMF 1.0) เมื่อวันที่ 26 มกราคม 2023 ซึ่งอธิบายว่ามีไว้สำหรับการใช้โดยสมัครใจ เพื่อช่วยจัดการความเสี่ยงจาก AI ต่อบุคคล องค์กร และสังคม และเพื่อเพิ่มความสามารถในการนำข้อพิจารณาเรื่องความน่าเชื่อถือเข้าไปในการออกแบบ พัฒนา ใช้ และประเมินผลิตภัณฑ์ บริการ และระบบ AI หน้าของ NIST ระบุสี่หน้าที่ คือ Govern, Map, Measure และ Manage แต่ไม่ได้อธิบาย NIST ยังออก Generative Artificial Intelligence Profile (NIST-AI-600-1) เมื่อวันที่ 26 กรกฎาคม 2024 เพื่อช่วยองค์กรระบุความเสี่ยงที่เฉพาะของ AI เชิงสร้างสรรค์ และระบุว่ากรอบกำลังอยู่ระหว่างการปรับปรุง โปรดอ่านตัวกรอบเองเพื่อรายละเอียด กฎอื่นเกี่ยวกับ AI เช่น กฎหมายและมาตรฐาน ต่างกันตามประเทศและภาคส่วน ให้ถามฝ่ายกฎหมายและการปฏิบัติตามข้อกำหนดของคุณ และขอข้อความต้นฉบับ (ดูหัวข้อ 5.7 — ธรรมาภิบาล ความเสี่ยง และการปฏิบัติตามข้อกำหนด)

การคุ้มครองข้อมูลและความเป็นส่วนตัว

ทุกอย่างที่ให้แก่บริการ AI อาจถูกเก็บ ใช้ฝึก หรือเปิดเผย ขึ้นกับบริการและเงื่อนไข ตั๋ว บันทึก และบทสนทนาแชตมักมีข้อมูลส่วนบุคคล ข้อมูลรับรองตัวตน และข้อมูลธุรกิจที่เป็นความลับ ก่อนใช้เครื่องมือ AI ใดกับข้อมูลจริง ให้ตรวจสอบว่าข้อมูลไปที่ใด ใครเห็นได้ เก็บนานเท่าใด และใช้ฝึกแบบจำลองหรือไม่ และใช้นโยบายความมั่นคงปลอดภัยของข้อมูลของคุณ (ดูหัวข้อ 3.13 — การบริหารความมั่นคงปลอดภัยของข้อมูล) ลบหรือแทนที่ข้อมูลส่วนบุคคลและความลับก่อนวางลงในเครื่องมือที่คุณยังไม่ได้อนุมัติ

ความรับผิดชอบและความโปร่งใส

บุคคลหรือทีมต้องยังคงรับผิดชอบต่อการตัดสินใจที่ AI มีส่วนร่วม เมื่อ AI ร่างคำตอบ ผู้ส่งเป็นผู้รับผิดชอบ เมื่อ AI เสนอสาเหตุราก ผู้สืบสวนรับผิดชอบการทดสอบมัน แจ้งลูกค้าเมื่อพวกเขากำลังคุยกับระบบอัตโนมัติ เมื่อกฎหมาย สัญญา หรือความเป็นธรรมกำหนด และให้เส้นทางไปหาบุคคล เก็บบันทึกว่า AI ถูกถามอะไรและสร้างอะไรสำหรับการตัดสินใจสำคัญ เช่นเดียวกับเครื่องมืออื่น (ดูหัวข้อ 5.1 — การบริหารบริการแบบเอไจล์ เรื่องหลักฐาน)

อคติและความเป็นธรรม

ระบบ AI เรียนรู้จากข้อมูลที่สะท้อนการตัดสินใจและช่องว่างในอดีต ตัวช่วยคัดแยกที่ฝึกจากตั๋วในอดีตอาจปฏิบัติต่อผู้ใช้บางกลุ่มหรือปัญหาบางประเภทเป็นลำดับความสำคัญต่ำ ตรวจสอบผลลัพธ์ข้ามกลุ่ม ให้ผู้ที่มีมุมมองต่างกันมีส่วนร่วมในการทดสอบ และเฝ้าดูรูปแบบ แหล่งข้อมูลที่อ่านสำหรับคู่มือนี้ไม่ได้ให้รายละเอียดเรื่องอคติ นี่จึงเป็นข้อควรระวังทั่วไป ไม่ใช่ข้อค้นพบ

การวัด AI

วัดคุณภาพและผลของขั้นตอน AI ใดๆ ไม่ใช่เพียงปริมาณ ได้แก่ มนุษย์แก้ทับบ่อยเพียงใด ผิดบ่อยเพียงใด งานใช้เวลาเท่าใดเมื่อมีและไม่มี AI และผู้ใช้พูดว่าอย่างไร (ดูหัวข้อ 5.6 — ตัวชี้วัดและการวัดผล) ระวังตัวเลขจากผู้ขาย ข้ออ้างประโยชน์ในบทความ AIOps เองก็อาศัยแหล่งเดียว

ทักษะและพรอมต์

ทักษะเชิงปฏิบัติในการทำงานกับ AI รวมถึงการเขียนคำสั่งที่ชัดเจน การให้เนื้อหาที่ถูกต้อง การขอให้บอกความไม่แน่นอน และการตรวจสอบผลลัพธ์ หัวข้อ 6.3 — ทักษะและพรอมต์ปัญญาประดิษฐ์ ครอบคลุมเรื่องนี้โดยละเอียด

ข้อจำกัดของแหล่งข้อมูล

บทความ AIOps ไม่มีข้อวิจารณ์และตัวเลขประโยชน์มาจากแหล่งเดียว บทความ hallucination ถูกติดป้ายว่าต้องปรับปรุงและอ่านเพียงบางส่วน หน้าของ NIST ไม่ได้อธิบายหน้าที่ของกรอบ และหน้าของ PeopleCert ไม่ได้อธิบายว่า ITIL 5 กล่าวอะไรเกี่ยวกับ AI หัวข้อนี้จึงให้คำอธิบายอย่างระมัดระวังและทิ้งรายละเอียดไว้กับแหล่งปฐมภูมิ

แนวปฏิบัติที่ดี

  1. เริ่มด้วยการใช้งานความเสี่ยงต่ำและคำถามที่ชัดเจน เลือกงานที่ข้อผิดพลาดมีต้นทุนต่ำและจับได้ง่าย เช่น การร่างสรุปสำหรับใช้ภายใน และกำหนดว่าความสำเร็จหมายถึงอะไร
  2. ให้มีบุคคลรับผิดชอบ ระบุว่าใครรับผิดชอบสิ่งที่ AI มีส่วนร่วม และกำหนดให้ต้องทบทวนสำหรับสิ่งที่ถึงลูกค้า เปลี่ยนแปลงระบบจริง หรือสร้างพันธสัญญา
  3. ให้คำตอบอิงกับเนื้อหาที่ได้รับอนุมัติ เมื่อใช้ AI เพื่อตอบ ให้เชื่อมกับฐานความรู้ของคุณและแสดงแหล่งที่มา ทำให้มันพูดว่า "ฉันไม่ทราบ" เมื่อไม่มีแหล่งอ้างอิง
  4. ปกป้องข้อมูล ตัดสินใจว่าข้อมูลใดไปยังเครื่องมือใดได้ ลบข้อมูลส่วนบุคคลและความลับ และใช้เครื่องมือที่ได้รับอนุมัติซึ่งคุณอ่านเงื่อนไขแล้ว ให้เจ้าหน้าที่ความมั่นคงปลอดภัยและกฎหมายมีส่วนร่วมแต่เนิ่นๆ
  5. ทดสอบด้วยกรณีจริง รวบรวมชุดตั๋วและเหตุการณ์ขัดข้องจริงที่ทราบคำตอบ รัน AI กับสิ่งเหล่านั้น และบันทึกว่าล้มเหลวตรงไหน ทำซ้ำหลังเปลี่ยนเครื่องมือหรือการตั้งค่า
  6. ตรวจสอบข้ออ้างและการอ้างอิง ตรวจชื่อ ตัวเลข การอ้างอิง และขั้นตอนกับแหล่งข้อมูล ดังที่กรณีการอ้างคดีปลอมในศาลแสดงให้เห็น อย่ายอมรับการอ้างอิงที่คุณยังไม่ได้เห็น
  7. ซื่อสัตย์กับลูกค้า บอกเมื่อระบบอัตโนมัติกำลังตอบในที่ที่สำคัญ และให้เส้นทางไปหาบุคคลที่ง่าย
  8. เฝ้าระวังอคติ ทบทวนผลลัพธ์ข้ามกลุ่มผู้ใช้และประเภทปัญหา และให้ผู้ที่มองเห็นช่องว่างมีส่วนร่วม ปรับหรือหยุดใช้เมื่อเกิดอันตราย
  9. วัดคุณภาพและผล ติดตามอัตราการแก้ทับ อัตราข้อผิดพลาด เวลาที่ประหยัดได้ และมุมมองของผู้ใช้ เปรียบเทียบกับกระบวนการที่ไม่มี AI และสงสัยตัวเลขจากผู้ขาย
  10. เก็บบันทึก สำหรับการตัดสินใจสำคัญ เก็บสิ่งที่ถามและสร้าง ผู้ทบทวน และสิ่งที่ตัดสินใจ ช่วยสนับสนุนความรับผิดชอบและการตรวจสอบ
  11. ใช้กรอบความเสี่ยง นำแนวทางที่เป็นที่ยอมรับ เช่น AI RMF ของ NIST หรือนโยบาย AI ขององค์กร มาจัดโครงสร้างการตัดสินใจว่าอนุญาตให้ใช้ AI ที่ใด ถือเป็นแนวทางการคิด
  12. ฝึกอบรมผู้คน สอนพนักงานว่าเครื่องมือทำงานอย่างไร ล้มเหลวที่ใด และอะไรได้รับอนุญาต ปรับปรุงการฝึกอบรมเมื่อเครื่องมือและกฎเปลี่ยน

คำถามสำหรับพูดคุยกับทีมของคุณ

เราใช้ AI อยู่แล้วที่ใดบ้าง ไม่ว่าอย่างเป็นทางการหรือไม่

ถามอย่างตรงไปตรงมา พนักงานมักใช้เครื่องมือสาธารณะกับตั๋วจริง เป้าหมายไม่ใช่การลงโทษแต่เพื่อทำความเข้าใจ ทำรายการการใช้งานและข้อมูลที่เกี่ยวข้อง พูดคุยว่าอย่างใดยอมรับได้และอย่างใดต้องมีเส้นทางที่ปลอดภัยกว่า ตกลงนโยบายสั้นๆ

งานใดที่เราอยากได้ความช่วยเหลือมากที่สุด และจะเกิดอะไรขึ้นหาก AI ทำผิด

เลือกงานหนึ่งและไล่ดูกรณีล้มเหลว หากคำตอบคืออีเมลขอโทษ ความเสี่ยงต่ำ หากเป็นคำแนะนำผิดๆ แก่ลูกค้า ความเสี่ยงสูงกว่า ช่วยจัดลำดับการใช้งานตามความเสี่ยง เลือกการนำร่องแรกที่มีอันตรายจำกัด

เราจะรู้ได้อย่างไรว่าคำตอบของ AI ผิด

ถามว่าใครตรวจคำตอบและอย่างไร คำตอบที่พบบ่อยคือ ไม่มีใคร หรือผู้ที่ถาม พูดคุยเรื่องแหล่งข้อมูล การทดสอบ และการทบทวนครั้งที่สอง ตกลงการตรวจขั้นต่ำสำหรับการใช้งานแต่ละประเภท

ข้อมูลใดที่เราสบายใจจะใส่ในเครื่องมือ AI และข้อมูลใดที่ไม่

รวบรวมประเภท ได้แก่ ตั๋ว บันทึก ชื่อลูกค้า ข้อมูลรับรองตัวตน สัญญา ทำเครื่องหมายแต่ละอย่างว่ายอมรับได้ ยอมรับได้หลังลบส่วนที่ละเอียดอ่อน หรือห้ามเด็ดขาด ตรวจสอบกับฝ่ายความมั่นคงปลอดภัยและกฎหมาย เขียนเป็นคู่มือหนึ่งหน้า

ใครรับผิดชอบเมื่อการตัดสินใจที่ AI ช่วยผิดพลาด

ใช้ตัวอย่างในอดีตของการตัดสินใจที่เครื่องมือช่วย ถามว่าใครตอบ ตกลงว่าบุคคลที่ระบุชื่อยังคงรับผิดชอบและควรเก็บหลักฐานอะไร จดช่องว่างใดๆ ที่จะไม่มีใครรับผิดชอบ

อะไรจะทำให้เราเชื่อว่าเครื่องมือคุ้มค่าที่จะเก็บไว้

ขอให้ทีมอธิบายหลักฐานที่จะยอมรับ ได้แก่ เวลาที่ประหยัดโดยคุณภาพเท่าเดิมหรือดีกว่า ข้อผิดพลาดที่น้อยลง ความพึงพอใจของผู้ใช้ พูดคุยว่าจะรวบรวมในการทดลองอย่างไร ตกลงวันทบทวน

ในทางปฏิบัติ: ตัวอย่าง ITIL แบบเอไจล์

ศูนย์บริการไอทีของกรมสรรพากรแห่งชาติรับการติดต่อประมาณ 1,200 ครั้งต่อสัปดาห์จากพนักงาน หลายเรื่องเป็นคำถามประจำ ผู้จัดการศูนย์เสนอผู้ช่วย AI เพื่อเสนอคำตอบจากฐานความรู้และร่างคำตอบ เจ้าหน้าที่ความมั่นคงปลอดภัยของกรมกังวลเรื่องข้อมูลส่วนบุคคลในตั๋วและคำตอบผิดที่ถึงพนักงาน

พวกเขาตกลงนำร่องแบบจำกัด ผู้ช่วยทำงานจากบทความความรู้ที่ได้รับอนุมัติเท่านั้น แสดงว่าแต่ละข้อเสนอมาจากบทความใด และบอกเมื่อไม่พบสิ่งที่เกี่ยวข้อง นักวิเคราะห์ทบทวนคำตอบที่เสนอทุกรายการก่อนส่ง และเครื่องมือส่งเองไม่ได้ ตั๋วถูกสแกนหาข้อมูลส่วนบุคคลและข้อมูลรับรองตัวตน ซึ่งถูกลบก่อนที่ผู้ช่วยจะเห็น ชุดทดสอบตั๋วในอดีต 200 รายการที่ทราบคำตอบใช้ก่อนการนำร่อง และทีมบันทึกว่าผู้ช่วยล้มเหลวตรงไหน ผู้จัดการศูนย์และเจ้าหน้าที่ความมั่นคงปลอดภัยตกลงตัวชี้วัด ได้แก่ นักวิเคราะห์แก้ไขหรือปฏิเสธข้อเสนอบ่อยเพียงใด เวลาตอบกลับครั้งแรก และคำถามความพึงพอใจสั้นๆ สำหรับพนักงาน การนำร่องดำเนินสามเดือน และผู้จัดการรายงานต่อการทบทวนร่วมซึ่งรวมนักวิเคราะห์และตัวแทนพนักงาน

เมื่อสิ้นสุด นักวิเคราะห์ยอมรับข้อเสนอส่วนใหญ่สำหรับคำถามทั่วไป และเวลาตอบสำหรับคำถามเหล่านี้ลดลง ชุดทดสอบแสดงว่าผู้ช่วยให้คำตอบที่มั่นใจแต่ผิดสำหรับคำถามเรื่องนโยบายที่เพิ่งเปลี่ยน เพราะบทความความรู้ล้าสมัย ยังเหลือปัญหาบางประการ นักวิเคราะห์สองคนเริ่มส่งข้อเสนอโดยตรวจน้อยเมื่อยุ่ง พนักงานที่มีคำถามนอกมาตรฐานได้รับคำตอบจืดชืดที่พลาดประเด็น และเงื่อนไขของผู้ขายเรื่องการเก็บรักษาข้อมูลไม่ชัดเจน ผู้จัดการเพิ่มกฎว่าการเปลี่ยนนโยบายต้องปรับปรุงบทความความรู้ก่อนมีผล ใช้การสุ่มตรวจคำตอบที่ส่งโดยนักวิเคราะห์อาวุโส และขอให้ฝ่ายจัดซื้อและเจ้าหน้าที่ความมั่นคงปลอดภัยชี้แจงเงื่อนไขก่อนขยายการนำร่อง

สี่มุมมอง

ทีมผลิตภัณฑ์และทีมส่งมอบ

ทีมส่งมอบอาจเพิ่มฟีเจอร์ AI ให้ผลิตภัณฑ์และใช้ AI เขียนโค้ดและการทดสอบ ตรวจสอบความถูกต้องและความมั่นคงปลอดภัยของโค้ดที่สร้างขึ้น เก็บความลับออกจากพรอมต์ และชัดเจนกับผู้ใช้เมื่อมี AI เกี่ยวข้อง สร้างการเฝ้าติดตามพฤติกรรม AI ไว้ในบริการของคุณ

ทีมบริการและทีมปฏิบัติการ

ทีมปฏิบัติการจะพบ AI ในการเฝ้าติดตาม เครื่องมือศูนย์บริการ และการวิเคราะห์ ปฏิบัติต่อข้อเสนอของ AI เป็นสมมติฐาน ทดสอบ และเก็บบันทึก ช่วยกำหนดว่าข้อมูลใดใช้ได้ และให้ข้อเสนอแนะเพื่อปรับปรุงเนื้อหาที่ใช้อิง

ภาวะผู้นำและธรรมาภิบาล

ผู้นำกำหนดนโยบาย ความอยากเสี่ยง และความรับผิดชอบสำหรับ AI ขอบัญชีรายการการใช้งาน กรอบความเสี่ยง และหลักฐานจากการนำร่อง ไม่ใช่ข้ออ้างของผู้ขาย ตรวจสอบให้แน่ใจว่าเจ้าหน้าที่กฎหมาย ความมั่นคงปลอดภัย และความเป็นส่วนตัวมีส่วนร่วมตั้งแต่ต้น

ลูกค้าและผู้ใช้

ลูกค้าและผู้ใช้ควรได้รับแจ้งเมื่อกำลังติดต่อกับระบบอัตโนมัติในที่ที่สำคัญ และมีเส้นทางไปหาบุคคล รายงานคำตอบที่ผิดหรือแปลก เพราะเป็นหลักฐาน ถามผู้ให้บริการว่าปกป้องข้อมูลของคุณและตรวจสอบผลลัพธ์ AI อย่างไร

รูปแบบความล้มเหลวที่พบบ่อย

  • ไว้วางใจผลลัพธ์ที่ไม่ได้ตรวจสอบ ข้อเท็จจริงที่แต่งขึ้นถึงลูกค้า ให้ให้คำตอบอิงกับเนื้อหาที่ได้รับอนุมัติและตรวจสอบก่อนส่งแทน
  • Shadow AI พนักงานวางข้อมูลจริงลงในเครื่องมือสาธารณะ ให้จัดหาเครื่องมือที่ได้รับอนุมัติและนโยบายข้อมูลที่ชัดเจนแทน
  • ไม่มีผู้รับผิดชอบ ไม่มีใครตอบสำหรับการตัดสินใจที่ AI ช่วย ให้ระบุเจ้าของและกำหนดให้ต้องทบทวนแทน
  • เชื่อตัวเลขจากผู้ขาย ข้ออ้างประโยชน์ไม่ถูกตรวจสอบ ให้ทดสอบกับกรณีของคุณเองและวัดผลแทน
  • แหล่งอ้างอิงที่ล้าสมัย ฐานความรู้ผิดและ AI พูดซ้ำ ให้รักษาบทความให้เป็นปัจจุบันและมีเจ้าของแทน
  • อคติที่ซ่อนอยู่ ผู้ใช้หรือปัญหาบางอย่างถูกปฏิบัติแย่กว่า ให้ทดสอบข้ามกลุ่มและทบทวนผลลัพธ์แทน
  • ทำเป็นอัตโนมัติก่อนเข้าใจ AI ลงมือกับระบบจริงโดยไม่มีการตรวจสอบ ให้เริ่มด้วยการเสนอและทบทวน และเปลี่ยนไปสู่การลงมือเมื่อมีมาตรการป้องกันที่แข็งแรงเท่านั้นแทน
  • ไม่มีบันทึก ตรวจสอบการตัดสินใจไม่ได้ ให้เก็บบันทึกว่าถามอะไร สร้างอะไร และตัดสินใจอะไรแทน

แบบจำลองความเป็นผู้ใหญ่

มิติ เริ่มต้น พัฒนา สร้างมาตรฐาน บริหารจัดการ ประสานกลมกลืน
นโยบายและความรับผิดชอบ การใช้เป็นแบบเฉพาะกิจและไม่มีบันทึก บางทีมมีกฎ มีนโยบายเป็นลายลักษณ์อักษร บัญชีรายการการใช้งาน และเจ้าของที่ระบุชื่อ ทบทวนการปฏิบัติตามนโยบายและเหตุการณ์ นโยบายสอดคล้องกันข้ามทีม ผู้ส่งมอบ และหน่วยกำกับดูแล
คุณภาพและการอิงแหล่งข้อมูล เชื่อถือผลลัพธ์โดยปริยาย มีการตรวจสอบบางอย่างสำหรับการใช้งานสำคัญ คำตอบอิงแหล่งที่ได้รับอนุมัติและทดสอบกับกรณีจริง วัดและลงมือทำตามอัตราข้อผิดพลาดและการแก้ทับ แบ่งปันและปรับปรุงการอิงแหล่งข้อมูลและการทดสอบข้ามทีม
การคุ้มครองข้อมูลและความเป็นธรรม วางข้อมูลได้อย่างอิสระ มีกฎข้อมูลบางอย่าง กฎการจัดการข้อมูลและการตรวจสอบอคติเป็นกิจวัตร ติดตามและแก้เหตุการณ์ข้อมูลและข้อค้นพบเรื่องความเป็นธรรม ประสานแนวปฏิบัติด้านข้อมูลและความเป็นธรรมทั่วทั้งองค์กรและผู้ส่งมอบ
คุณค่าและการเรียนรู้ สมมติว่ามีคุณค่า ทดลองบางอย่าง การนำร่องมีตัวชี้วัดและการตัดสินใจที่ตกลงไว้ วัดประโยชน์และต้นทุนเทียบกับฐานเปรียบเทียบ การเรียนรู้จากการใช้ AI แพร่กระจายข้ามบริการอย่างต่อเนื่อง

รายการตรวจสอบ

  • เรามีบัญชีรายการว่าใช้ AI ที่ใดในหรือรอบบริการของเรา รวมถึงการใช้ที่ไม่เป็นทางการ
  • บุคคลที่ระบุชื่อรับผิดชอบการใช้งานที่ AI ช่วยแต่ละอย่าง
  • นโยบายเป็นลายลักษณ์อักษรระบุว่าข้อมูลใดไปยังเครื่องมือใดได้
  • ลบหรือปกปิดข้อมูลส่วนบุคคลและความลับก่อนใช้กับเครื่องมือที่ไม่ได้รับอนุมัติสำหรับข้อมูลนั้น
  • คำตอบที่แสดงแก่ลูกค้าหรือใช้ในการตัดสินใจอิงกับเนื้อหาที่ได้รับอนุมัติและมีการทบทวน
  • เรามีชุดทดสอบของกรณีจริงและรันซ้ำหลังการเปลี่ยนแปลง
  • แจ้งลูกค้าเมื่อระบบอัตโนมัติตอบในที่ที่สำคัญ และมีเส้นทางไปหาบุคคล
  • เราวัดอัตราการแก้ทับ อัตราข้อผิดพลาด เวลาที่ประหยัดได้ และมุมมองของผู้ใช้
  • เก็บบันทึกสำหรับการตัดสินใจสำคัญที่ AI ช่วย
  • เจ้าหน้าที่กฎหมาย ความมั่นคงปลอดภัย และความเป็นส่วนตัวทบทวนการใช้และเงื่อนไขของเครื่องมือแล้ว

พรอมต์ปัญญาประดิษฐ์

วัตถุประสงค์: ร่างบัญชีรายการการใช้ AI จากสิ่งที่ผู้คนบอกคุณ

Help me structure an inventory of AI use in our service organization.

What people have told us they use AI for (paste notes; remove names): [paste].
Tools mentioned: [list].
Types of data involved, as far as we know: [list].

Produce a table with: use, tool, data involved, who is accountable (use "unknown" if not given), risk if wrong (low, medium, high with a one-sentence reason from my notes), and one question to ask. Do not guess about tools or terms I did not mention. Ask clarifying questions first, and list what you are unsure of.

วัตถุประสงค์: ออกแบบชุดทดสอบสำหรับผู้ช่วย AI

Design a test set for an AI assistant that suggests answers to service desk questions.

The knowledge sources it will use: [describe].
Types of question we get: [list with rough share if you know].
Cases where the right answer is "not in the knowledge base" or "escalate": [describe].

Propose a structure for 100-200 test cases (categories, how to choose real examples, how to record the correct answer and its source), how to score answers (correct, partly correct, wrong, confidently wrong, correctly declined), and how to repeat after changes. Do not invent test content; tell me what to collect. Ask clarifying questions first, and list what you are unsure of.

วัตถุประสงค์: เขียนนโยบายการใช้ AI หนึ่งหน้าสำหรับทีม

Draft a one-page AI use policy for [team].

Tools approved: [list, or write "none yet"].
Data we handle (types and sensitivity): [list].
Rules we must follow, with source text from legal, security, or contracts: [paste, or write "none known"].
Roles: [list].

Write plain-language sections: what AI may be used for, what data may and may not be put into tools, what must be checked by a person before use, who is accountable, how to record significant uses, how to report problems. Mark every item that is an assumption. Do not state that any law requires something unless I pasted its text. Ask clarifying questions first, and list what you are unsure of.

วัตถุประสงค์: ทบทวนคำตอบที่ AI สร้างก่อนส่งถึงผู้ใช้

Here is a draft answer that an AI tool produced for a user question.

The user's question: [paste, with personal data removed].
The knowledge article(s) the answer should be based on: [paste].
The draft answer: [paste].

Check the draft against the article only. List statements that are supported by the article (quote the part), statements that are not supported, anything missing that the user would need, and the tone. Suggest a corrected version that uses only the article. Do not add facts. List what you are unsure of.

ทักษะปัญญาประดิษฐ์

  • prompt-engineering: ใช้เพื่อเขียนพรอมต์ที่ชัดเจนซึ่งให้เนื้อหาที่ถูกต้องและขอให้บอกความไม่แน่นอน
  • machine-learning-model-card: ใช้เพื่อบันทึกว่าแบบจำลองมีไว้เพื่ออะไร ทดสอบอย่างไร และมีข้อจำกัดใด
  • data-governance: ใช้เพื่อตัดสินใจว่าข้อมูลใดใช้กับเครื่องมือใดได้
  • legal-data-privacy-compliance: ใช้เพื่อเตรียมคำถามสำหรับเจ้าหน้าที่กฎหมายและความเป็นส่วนตัวเกี่ยวกับการใช้ AI
  • risk-register: ใช้เพื่อบันทึกความเสี่ยงที่เกี่ยวกับ AI เจ้าของ และทางเลือกการจัดการ

แหล่งอ้างอิงหลัก

  • AIOps (Wikipedia): คำอธิบายสั้นๆ ของ AI สำหรับการปฏิบัติการไอที ความสามารถ และประโยชน์ที่อ้าง โดยไม่มีข้อวิจารณ์
  • Hallucination (artificial intelligence) (Wikipedia): สาเหตุ ตัวอย่าง และแนวคิดการลดความเสี่ยงสำหรับผลลัพธ์เท็จ
  • AI Risk Management Framework (NIST): กรอบสมัครใจและโปรไฟล์ AI เชิงสร้างสรรค์ โปรดอ่านตัวกรอบเองเพื่อรายละเอียด
  • ITIL certifications (PeopleCert): ถ้อยแถลงสาธารณะของเจ้าของเกี่ยวกับ ITIL ใหม่และโมดูลธรรมาภิบาล AI

เอกสารอ้างอิง

  1. AIOps — Wikipedia — https://en.wikipedia.org/wiki/AIOps
  2. Hallucination (artificial intelligence) — Wikipedia — https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)
  3. AI Risk Management Framework — NIST — https://www.nist.gov/itl/ai-risk-management-framework
  4. ITIL certifications — PeopleCert — https://www.peoplecert.org/browse-certifications/it-governance-and-service-management/ITIL-1
  5. Retrieval-augmented generation — Wikipedia — https://en.wikipedia.org/wiki/Retrieval-augmented_generation
  6. Artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Artificial_intelligence
  7. Large language model — Wikipedia — https://en.wikipedia.org/wiki/Large_language_model
  8. Algorithmic bias — Wikipedia — https://en.wikipedia.org/wiki/Algorithmic_bias
  9. IT service management — Wikipedia — https://en.wikipedia.org/wiki/IT_service_management

คู่มือ ITIL แบบเอไจล์ — การบริหารบริการไอทีแบบเอไจล์

ซอร์สโค้ดและการมีส่วนร่วม: github.com/agile-itil. สร้างด้วย: Lily Design System™.

นำโดย: Joel Parker Henderson.