ITサービスマネジメントにおけるAI
人工知能は、ITサービスマネジメントにおける検知、トリアージ、ナレッジワークを速められます。人が説明責任を保ち、回答が自分たちの資料に根拠を持ち、誤り、バイアス、データ漏えいのリスクが管理されている場合にのみ、安全に使えます。
なぜ重要なのか
サービスマネジメントには、言語とパターン認識が大量に関わります。チケットを読む、インシデントを要約する、ナレッジを検索する、返信を下書きする、監視データの異常なシグナルを見つける。これらは最近の AI システムが最も得意に見える仕事で、ベンダーは急いでサービスデスクや運用ツールにそれらを加えてきました。チームは、まだなら、それらを使うかどうかを問われることになります。
機会は本物で、危険もそうです。AI システムは、自信を持って虚偽を述べ、学習と与えられたデータのバイアスを反映し、不注意に入力すると機密情報を漏えいさせ、確認していない出力を人々に信頼させることがあります。広く報じられたいくつかの事例が、見当違いの信頼のコストを示しています。考えなしに AI を採用するサービス組織は、顧客と自らの評判を傷つけうるのです。
2026 年までに、AI はフレームワークにも入りました。PeopleCert の公開された認定のページは、新しい ITIL を「設計から実践的で AI ネイティブ」と説明し、AI を「責任を持って、規模に応じて」ガバナンスすることをカバーする ITIL AI Governance(バージョン 5)モジュールを挙げています(トピック 2.2 — ITIL を参照)。このガイドは、ITIL 5 が AI について詳細に何を述べているかを、所有者の出版物から確認できなかったので、このトピックは、それらの記述を超えてフレームワークの立場を説明しません。AIOps と AI の幻覚に関する Wikipedia の記事、NIST の AI リスク管理フレームワークのページ、実務的な推論に基づき、実践にはそのようにラベルをつけます。
中核となる概念
サービスマネジメントで AI が役立つ場所
ほとんどの使い方は、いくつかのグループに分かれます。表は例と、それぞれが持つリスクの種類を、このガイドの読み方として示します。
| 用途 | AI が行うこと | 主なリスク |
|---|---|---|
| 検知と相関(AIOps) | 異常を見つけ、関連するイベントをグループ化し、考えられる原因を提案する | 誤報、見逃し、不透明な推論 |
| サービスデスクの支援 | 回答を提案し、チケットを要約し、返信を下書きし、依頼を振り分ける | 誤った、あるいは作り上げた回答、口調、プライバシー |
| ナレッジワーク | 記事を下書き・改善し、ナレッジを検索する | 捏造された内容、古い出典 |
| インシデントと問題の分析 | 時系列を要約し、仮説を提案し、レビューを下書きする | もっともらしいが根拠のない原因 |
| 変更とリリースの支援 | 変更をレビューし、ノートを下書きし、リスクを提案する | 過信、見逃された文脈 |
| コードと自動化 | スクリプトと設定を書く | 安全でない、あるいは誤ったコード、隠れた依存関係 |
| 分析とレポート | データを要約し、レポートを下書きする | 誤った計算、作り上げた数字 |
AIOps
Wikipedia の記事は、AIOps を、AI、機械学習、ビッグデータ分析を使ってデータセンターの管理を自動化・改善し、従来の方法より効率的に IT の問題を検知、診断、解決することを目指すものと説明しています。ガートナーが 2016 年に初めて AIOps を定義したと述べています。記事は、イベントの相関、異常検知、根本原因分析、因果関係の判定、予測分析、インシデント管理、自動修復、性能予測、リソース配分、キャパシティ管理を含む能力を挙げています。AIOps は、ログや監視などの観測データと、チケット、イベント、インシデントの記録などの対話データに基づくと述べています。
記事は、平均検知時間が 15〜20 パーセント改善する、重大なインシデントが 50 パーセント以上減るなどの利益を主張しますが、これらは単一のコンサルティング会社の記事からのもので、本文では独立して検証されていないと注記しています。批判、失敗例、限界は述べていません。ベンダーの主張はそれに応じて扱い、どのツールも自分たちのインシデントに照らしてテストしてください(トピック 3.10 — 監視とイベント管理 を参照)。
生成 AI と幻覚
AI の幻覚に関する Wikipedia の記事は、それを、虚偽または誤解を招く情報を事実として提示する応答と定義し、この用語がソフトウェアを擬人化するとして批判されていると注記しています。原因を挙げています。次の単語を予測する事前学習は、モデルに情報がないときに推測に報い、データセットは不完全または代表的でないかもしれず、OpenAI の研究者は、学習と評価が不確かさを認めることより推測に報いると論じています。記録されている例には次があります。
- Mata v. Avianca(2023 年 5 月): ある弁護士が、ChatGPT が生成した六つの偽の判例を提出し、判事は 2023 年 6 月 23 日に 5,000 米ドルの罰金を科しました。
- Moffatt v. Air Canada(2024 年 2 月): 審判所は、航空会社のチャットボットが作り上げた忌引割引の規定を、航空会社に守らせました。
- 偽の引用を含むコンサルティング会社のレポートと、178 件の GPT-3 の参考文献のうち 69 件に誤った、あるいは存在しない識別子があったことを見出した研究。
これらは、検証されていない出力を信頼した結果です。法的責任、財務上のリスク、傷ついた信頼。サービスマネジメントでは、方針や手順を作り上げるチャットボットは、同じ種類のリスクを生みます。
緩和: 根拠づけと確認
記事は、検索拡張生成(RAG)を、モデルが答える前に外部の情報源にアクセスさせるものと説明しています。また、データに関する方法、モデルと推論の方法、ガードレールソフトウェアや信頼度スコアリングなどの提案を挙げ、これらのどれがどれだけ幻覚を減らすかを定量化した出典はないと注記しています。サービスチームにとって、実務的な緩和は次のとおりです。
- 回答を、ナレッジベースなど、自分たちの承認済みの資料に根拠づけ、出典を示す。
- 顧客、約束、本番に影響するものには、人を関与させておく。
- AI が確信のないことを尋ね、裏づけのない記述は未検証として扱う。
- 実際のケースで定期的にテストし、正しい答えが「分からない」であるケースも含める。
リスク管理のフレームワーク
米国国立標準技術研究所(NIST)は、2023 年 1 月 26 日に AI リスク管理フレームワーク(AI RMF 1.0)を公開しました。NIST はそれを、任意での利用を意図し、AI が個人、組織、社会にもたらすリスクの管理を助け、AI の製品、サービス、システムの設計、開発、利用、評価に、信頼性の考慮を組み込む能力を向上させるためのものと説明しています。NIST のページは、四つの機能、Govern、Map、Measure、Manage を挙げていますが、説明はしていません。また、生成 AI 固有のリスクを組織が特定するのを助けるため、2024 年 7 月 26 日に Generative Artificial Intelligence Profile(NIST-AI-600-1)も公開し、フレームワークは改訂中だと述べています。詳細はフレームワーク自体を読んでください。法律や標準など、AI に関する他の規則は国や業界によって異なります。法務とコンプライアンスの部門に尋ね、本文を入手してください(トピック 5.7 — ガバナンス、リスク、コンプライアンス を参照)。
データ保護とプライバシー
AI サービスに与えたものはすべて、サービスと条件によって、保存され、学習に使われ、あるいは漏えいする可能性があります。チケット、ログ、チャットの記録には、個人データ、認証情報、機密のビジネス情報が含まれることがよくあります。実際のデータで AI ツールを使う前に、データがどこへ行き、誰が見られ、どれだけ保持され、モデルの学習に使われるかを調べ、情報セキュリティのポリシーを適用してください(トピック 3.13 — 情報セキュリティ管理 を参照)。承認していないツールに貼り付ける前に、個人データと秘密のデータを取り除くか置き換えます。
説明責任と透明性
AI が寄与する判断には、人やチームが説明責任を負い続けなければなりません。AI が返信を下書きするなら、送信者が責任を負います。AI が根本原因を提案するなら、調査者がそれをテストする責任を負います。法律、契約、公正さが求める場合は、自動化されたシステムと話していることを顧客に伝え、人への経路を提供します。重要な判断について、他のツールと同様に、AI に何が尋ねられ、何が生成されたかの記録を保ちます(証拠については、トピック 5.1 — アジャイルサービスマネジメント を参照)。
バイアスと公正さ
AI システムは、過去の判断とギャップを反映したデータから学びます。過去のチケットで訓練されたトリアージの助手は、一部のユーザーのグループや一部の種類の問題を、優先度が低いものとして扱うかもしれません。グループ間で出力を確認し、異なる視点を持つ人々をテストに関与させ、パターンに注意します。このガイドのために読んだ出典はバイアスを詳述していないので、これは発見ではなく、一般的な注意です。
AI の測定
どの AI のステップも、量だけでなく、質と効果を測定します。人がそれを上書きする頻度、誤っている頻度、それがあるときとないときでタスクにかかる時間、ユーザーの意見(トピック 5.6 — 指標と測定 を参照)。ベンダーの数字には注意してください。AIOps の記事自身の利益の主張も、一つの出典に依拠しています。
スキルとプロンプト
AI と働く実践的なスキルには、明確な指示を書くこと、適切な資料を与えること、不確かさを尋ねること、出力を検証することが含まれます。トピック 6.3 — AIスキルとプロンプト が、これを詳しく扱います。
出典の限界
AIOps の記事は批判を含まず、利益の数字は一つの出典から来ています。幻覚の記事は更新が必要という印がついており、一部だけ読まれました。NIST のページはフレームワークの機能を説明していません。PeopleCert のページは、ITIL 5 が AI について何を述べているかを説明していません。したがってこのトピックは慎重な説明を与え、詳細は一次資料に委ねます。
ベストプラクティス
- 低リスクの用途と明確な問いから始める。 内部用の要約の下書きなど、誤りの代償が小さく見つけやすいタスクを選び、成功が何を意味するかを定義します。
- 人に説明責任を持たせる。 AI が寄与するものに誰が責任を負うかを指名し、顧客に届く、本番を変える、約束をするものには、レビューを求めます。
- 回答を承認済みの資料に根拠づける。 回答に AI を使う場合は、自分たちのナレッジベースにつなぎ、出典を示します。根拠がないときは「分からない」と言わせます。
- データを保護する。 どのデータをどのツールに入れてよいかを決め、個人データと秘密のデータを取り除き、条件を読んだ承認済みのツールを使います。セキュリティと法務のスタッフを早く関与させます。
- 実際のケースでテストする。 答えが分かっている実際のチケットとインシデントの集合を集め、AI を走らせ、失敗する箇所を記録します。ツールや設定が変わったら繰り返します。
- 主張と参照を検証する。 作り上げられた裁判の引用の事例が示すように、名前、数字、引用、手順を出典と照合します。見ていない参照は決して受け入れません。
- 顧客に誠実である。 重要な場面では、自動化されたシステムが答えていることを伝え、人への容易な経路を提供します。
- バイアスに注意する。 ユーザーのグループや問題の種類にわたって出力を確認し、ギャップに気づける人々を関与させます。害が現れたら、調整するか利用をやめます。
- 質と効果を測定する。 上書き率、誤り率、節約された時間、ユーザーの意見を追跡します。AI のないプロセスと比べ、ベンダーの数字には懐疑的であってください。
- 記録を残す。 重要な判断では、何が尋ねられ、何が生成され、誰がレビューし、何が決まったかを残します。説明責任と監査を支えます。
- リスクのフレームワークを使う。 NIST の AI RMF や組織の AI ポリシーなど、認められたアプローチを採用し、AI をどこで許可するかの判断を構造化します。考えるための手引きとして扱います。
- 人々を訓練する。 ツールがどう機能し、どこで失敗し、何が許されるかをスタッフに教えます。ツールと規則が変わるたびに、訓練を更新します。
チームで話し合うための質問
私たちはすでにどこで、公式にあるいはそうでなく、AI を使っているか。
正直に尋ねます。スタッフは、実際のチケットで公開ツールを使っていることがよくあります。目的は罰することではなく、理解することです。使い方と関わるデータを一覧にします。どれが許容でき、どれがより安全な経路を要するかを話し合います。短いポリシーを合意します。
私たちが最も助けを得たいタスクは何で、AI がそれを間違えたら何が起きるか。
タスクを一つ選び、失敗のケースをたどります。答えが謝罪のメールなら、リスクは小さく、顧客への誤った指示なら、リスクは高くなります。これは、用途をリスクで順位づける助けになります。害が限られた最初のパイロットを選びます。
AI の回答が間違っていることを、どうやって知るか。
誰が、どのように回答を確認するかを尋ねます。よくある答え: 誰も、あるいは尋ねた本人。出典、テスト、第二のレビューを話し合います。用途の種類ごとに最小限の確認を合意します。
どんなデータなら AI ツールに入れて構わず、どんなデータは入れたくないか。
種類を集めます。チケット、ログ、顧客名、認証情報、契約。それぞれを、許容できる、機微な部分を取り除いた後なら許容できる、決して入れない、のいずれかに印をつけます。セキュリティと法務に確認します。一ページのガイドとして書きます。
AI に支援された判断がうまくいかなかったとき、誰が説明責任を負うか。
ツールに支援された過去の判断の例を使います。誰が答えたかを尋ねます。名前のある人が説明責任を保ち続けること、その人がどんな証拠を保つべきかを合意します。誰も負わないギャップがあれば、記しておきます。
ツールを使い続ける価値があると私たちを納得させるものは何か。
チームに、受け入れる証拠を述べてもらいます。同等以上の品質での時間の節約、誤りの減少、ユーザーの満足。試行でそれをどう集めるかを話し合います。見直しの日を合意します。
実践例: アジャイルITILの事例
国の税務当局の IT サービスデスクは、スタッフから週に約 1,200 件の問い合わせを受け、その多くは定型的な質問です。デスクのマネージャーは、ナレッジベースから回答を提案し、返信を下書きする AI の助手を提案します。当局のセキュリティ責任者は、チケットにある個人データと、誤った回答がスタッフに届くことを懸念しています。
二人は限定的なパイロットに合意します。助手は承認済みのナレッジ記事のみから働き、各提案がどの記事から来ているかを示し、関連するものが見つからないときはそう言います。アナリストは送信前にすべての提案された返信をレビューし、ツールは単独で送信できません。チケットは個人データと認証情報がスキャンされ、助手が見る前に取り除かれます。パイロットの前に、答えが分かっている過去のチケット 200 件のテストセットが使われ、チームは助手が失敗する箇所を記録します。デスクのマネージャーとセキュリティ責任者は測定に合意します。アナリストが提案を編集または却下する頻度、最初の応答までの時間、スタッフへの短い満足度の質問。パイロットは三か月続き、マネージャーは、アナリストとスタッフの代表を含む合同レビューに報告します。
終わりに、アナリストは一般的な質問への提案のほとんどを受け入れ、それらの応答時間は短くなります。テストセットは、最近変更された方針についての質問で、助手が自信を持って誤った答えを出すことを示します。ナレッジ記事が古かったからです。課題も残ります。二人のアナリストは忙しいとき、ほとんど確認せずに提案を送り始め、標準的でない質問をしたスタッフは、要点を外した平凡な返信を受け取り、データ保持についてのベンダーの条件は不明確でした。マネージャーは、方針の変更は、有効になる前にナレッジ記事を更新しなければならないという規則を加え、上級アナリストによる送信済み返信のサンプルチェックを使い、パイロットを拡大する前に、調達とセキュリティ責任者に条件を明確にするよう頼みます。
4つの視点
プロダクトチームとデリバリーチーム
デリバリーチームは、プロダクトに AI の機能を加え、コードやテストを書くのに AI を使うかもしれません。生成されたコードの正しさとセキュリティを確認し、秘密をプロンプトに入れず、AI が関わるときはユーザーに明確にします。AI の挙動の監視を、サービスに組み込みます。
サービスチームと運用チーム
運用チームは、監視、デスクのツール、分析で AI に出会います。AI の提案を仮説として扱い、テストし、記録を保ちます。どのデータを使ってよいかの定義を助け、根拠づけの資料を改善するフィードバックを返します。
リーダーシップとガバナンス
リーダーは、AI についてのポリシー、リスク選好、説明責任を設定します。ベンダーの主張ではなく、利用の一覧、リスクのフレームワーク、パイロットからの証拠を求めます。法務、セキュリティ、プライバシーのスタッフが最初から関与するようにします。
顧客とユーザー
顧客とユーザーは、重要な場面で自動化されたシステムを相手にしているとき、それを知らされ、人への経路を持つべきです。誤った、あるいは奇妙な回答は証拠なので、報告してください。プロバイダーに、データをどう保護し、AI の出力をどう確認しているかを尋ねてください。
よくある失敗パターン
- 検証されていない出力を信頼する。 捏造された事実が顧客に届きます。代わりに、回答を承認済みの資料に根拠づけ、送信前に検証します。
- シャドー AI。 スタッフが実際のデータを公開ツールに貼り付けます。代わりに、承認済みのツールと明確なデータポリシーを提供します。
- 説明責任を負う人がいない。 誰も AI に支援された判断に責任を負いません。代わりに、オーナーを指名し、レビューを求めます。
- ベンダーの数字を信じる。 利益の主張が確認されません。代わりに、自分たちのケースでテストし、測定します。
- 古い根拠。 ナレッジベースが誤っていて、AI がそれを繰り返します。代わりに、記事を最新に保ち、オーナーを置きます。
- 隠れたバイアス。 一部のユーザーや問題が悪く扱われます。代わりに、グループ間でテストし、出力を見直します。
- 理解する前に自動化する。 AI が確認なしに本番に対して動きます。代わりに、提案とレビューから始め、強い安全策がある場合にのみ、行動に移ります。
- 記録がない。 判断を監査できません。代わりに、何が尋ねられ、生成され、決まったかのログを残します。
成熟度モデル
| 次元 | 開始 | 発展 | 標準化 | 管理 | 最適化 |
|---|---|---|---|---|---|
| ポリシーと説明責任 | 利用は場当たり的で記録されない | 一部のチームに規則がある | 書かれたポリシー、利用の一覧、名前のあるオーナーがある | ポリシーの遵守とインシデントがレビューされる | ポリシーが、チーム、サプライヤー、規制当局間で揃えられる |
| 品質と根拠づけ | 出力はデフォルトで信頼される | 重要な用途に一部の確認がある | 回答が承認済みの出典に根拠づけられ、実際のケースでテストされる | 誤りと上書きの率が測定され、対応される | 根拠づけとテストが、チーム間で共有・改善される |
| データ保護と公正さ | データが自由に貼り付けられる | 一部のデータ規則がある | データ取り扱いの規則とバイアスのチェックが日常になっている | データインシデントと公正さの発見が追跡・修正される | データと公正さのプラクティスが、組織とサプライヤー間で調整される |
| 価値と学び | 価値は想定される | 一部の試行が行われる | パイロットに合意された測定と判断がある | 利益とコストがベースラインに照らして測定される | AI の利用からの学びが、サービス間に継続的に広がる |
チェックリスト
- 非公式な利用を含め、サービスまたはその周辺で AI が使われている場所の一覧がある。
- 名前のある人が、AI に支援された各利用に説明責任を負う。
- 書かれたポリシーが、どのデータをどのツールに入れてよいかを述べている。
- 個人データと秘密が、承認されていないツールでの利用の前に、取り除かれるかマスクされる。
- 顧客に示される、あるいは判断に使われる回答は、承認済みの資料に根拠づけられ、レビューされている。
- 実際のケースのテストセットがあり、変更後に再実行している。
- 重要な場面では、自動化されたシステムが答えていることを顧客に伝え、人への経路がある。
- 上書き率、誤り率、節約された時間、ユーザーの意見を測定している。
- AI に支援された重要な判断の記録が残されている。
- 法務、セキュリティ、プライバシーのスタッフが、私たちの利用とツールの条件をレビューした。
AIプロンプト
目的: 人々が話すことから、AI 利用の一覧を下書きする。
Help me structure an inventory of AI use in our service organization.
What people have told us they use AI for (paste notes; remove names): [paste].
Tools mentioned: [list].
Types of data involved, as far as we know: [list].
Produce a table with: use, tool, data involved, who is accountable (use "unknown" if not given), risk if wrong (low, medium, high with a one-sentence reason from my notes), and one question to ask. Do not guess about tools or terms I did not mention. Ask clarifying questions first, and list what you are unsure of.
目的: AI の助手のためのテストセットを設計する。
Design a test set for an AI assistant that suggests answers to service desk questions.
The knowledge sources it will use: [describe].
Types of question we get: [list with rough share if you know].
Cases where the right answer is "not in the knowledge base" or "escalate": [describe].
Propose a structure for 100-200 test cases (categories, how to choose real examples, how to record the correct answer and its source), how to score answers (correct, partly correct, wrong, confidently wrong, correctly declined), and how to repeat after changes. Do not invent test content; tell me what to collect. Ask clarifying questions first, and list what you are unsure of.
目的: チームのための一ページの AI 利用ポリシーを書く。
Draft a one-page AI use policy for [team].
Tools approved: [list, or write "none yet"].
Data we handle (types and sensitivity): [list].
Rules we must follow, with source text from legal, security, or contracts: [paste, or write "none known"].
Roles: [list].
Write plain-language sections: what AI may be used for, what data may and may not be put into tools, what must be checked by a person before use, who is accountable, how to record significant uses, how to report problems. Mark every item that is an assumption. Do not state that any law requires something unless I pasted its text. Ask clarifying questions first, and list what you are unsure of.
目的: AI が生成した回答を、ユーザーに届く前にレビューする。
Here is a draft answer that an AI tool produced for a user question.
The user's question: [paste, with personal data removed].
The knowledge article(s) the answer should be based on: [paste].
The draft answer: [paste].
Check the draft against the article only. List statements that are supported by the article (quote the part), statements that are not supported, anything missing that the user would need, and the tone. Suggest a corrected version that uses only the article. Do not add facts. List what you are unsure of.
AIスキル
- prompt-engineering: 適切な資料を与え、不確かさを尋ねる、明確なプロンプトを書くときに使います。
- machine-learning-model-card: モデルが何のためにあり、どうテストされ、どんな限界があるかを文書化するときに使います。
- data-governance: どのデータをどのツールで使ってよいかを決めるときに使います。
- legal-data-privacy-compliance: AI の利用について、法務とプライバシーのスタッフへの質問を準備するときに使います。
- risk-register: AI に関するリスク、オーナー、対応を記録するときに使います。
主要な情報源
- AIOps (Wikipedia): IT 運用のための AI、その能力、主張される利益の短い説明で、批判はありません。
- Hallucination (artificial intelligence) (Wikipedia): 誤った出力の原因、例、緩和のアイデアです。
- AI Risk Management Framework (NIST): 任意のフレームワークとその生成 AI プロファイルです。詳細はフレームワーク自体を読んでください。
- ITIL certifications (PeopleCert): 新しい ITIL とその AI ガバナンスのモジュールについての、所有者の公開された記述です。
参考文献
- AIOps — Wikipedia — https://en.wikipedia.org/wiki/AIOps
- Hallucination (artificial intelligence) — Wikipedia — https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)
- AI Risk Management Framework — NIST — https://www.nist.gov/itl/ai-risk-management-framework
- ITIL certifications — PeopleCert — https://www.peoplecert.org/browse-certifications/it-governance-and-service-management/ITIL-1
- Retrieval-augmented generation — Wikipedia — https://en.wikipedia.org/wiki/Retrieval-augmented_generation
- Artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Artificial_intelligence
- Large language model — Wikipedia — https://en.wikipedia.org/wiki/Large_language_model
- Algorithmic bias — Wikipedia — https://en.wikipedia.org/wiki/Algorithmic_bias
- IT service management — Wikipedia — https://en.wikipedia.org/wiki/IT_service_management