AIのハルシネーションを防ぐ：Azure AI SearchでRAGを確実にグラウンディングする方法

AIが事実と異なる内容を自信満々に答えてしまう「ハルシネーション」は、Microsoft 365やAzureでCopilotやエージェントを本番導入するときに必ず直面する課題です。モデルが賢くないことが原因とは限りません。多くの場合、データが整理されておらず、検索の精度が低く、評価や監視の仕組みもなく、ガバナンスも不足していることが原因です。

この記事では、Azure AI Searchを使ってRAG（検索拡張生成）を確実にグラウンディングする方法を軸に、エージェント、自律型エージェント、Azure AI Foundry、責任あるAIまで、現場で失敗しないための考え方を整理します。

マルチモーダルAIが現場で失敗する理由

ステージ上のマルチモーダルデモは完璧に見えます。テキストのプロンプトに鮮明な画像、場合によっては簡単な音声を入力すると、モデルは見事なグラフや簡潔な契約概要を出力します。しかし実際の企業で同じことを試すと、その輝きはすぐに消えます。デモは完璧な入力で動きますが、職場は「ゴミ」で動いているからです。

本番環境では、きれいに整えられたスクリーンショットや標準化されたCSVが渡されることはありません。人事部は汚れた身分証の画像を入力し、調達部は何世代もコピーを重ねたファックス由来のPDFを持ち込み、財務部の誰かはひび割れたAndroidカメラで請求書を撮影します。マルチモーダルモデルはテキスト、画像、音声、ビデオを処理できますが、こうした乱雑な条件で機能させるには、適切にインデックス化されたデータと検索が欠かせません。そうでなければ、モデルにゴミを相手に即興で答えさせているのと同じです。どれだけGPUに投資しても、ゴミを入れればゴミが出てきます。

RAGとは何か：グラウンディングの基本

モデルはあなたのビジネスを知りません。そこで知識ソースに接続し、関連するデータの一部を取得させて、それに基づいて回答を組み立てさせます。これがRAGです。一致が正確なら、役に立つ根拠のある回答が得られます。一致が不正確なら、モデルは自由奔放に、自信満々のナンセンスを出力します。存在しない「第3四半期の割引ポリシー」があると断言するチャットボットは、意識を持ったわけではありません。間違ったデータを取得しただけです。

Azure AI StudioとAzure AI Foundryはどちらもこのパターンに基づいており、言語、画像、音声、ビデオ検索など、さまざまなモダリティに対応しています。ただし、RAGの性能はデータの質に左右されます。

ハイブリッド検索とセマンティック再ランキング

多くのチームが見落としているのは、検索手法を1つ組み込めば済むわけではない、という点です。結果を安定させたいなら、キーワード検索とベクトル検索を組み合わせたハイブリッド検索に、Azure AI Searchに組み込まれているセマンティック再ランキングを加える必要があります。文字どおりのキーワード一致と意味的な近さのバランスを取り、適切なコンテキストが上位に来るよう結果を並べ替える仕組みです。

これをマルチモーダルの構成に組み込めば、歪んだスキャンやぼやけた画像でも耐えやすくなり、モデルがコンプライアンスポリシーを無から作り出す事態を避けられます。

評価ループを最初から予算に入れる

多くの導入が失敗する理由は、初日から洗練された結果を期待する一方で、評価ループの予算を組んでいないことにあります。妥当性（グラウンディング）、関連性、一貫性のチェックがバックグラウンドで動いていなければ、ユーザーが損をするまでドリフトに気づけません。出力はもっともらしく聞こえても、誰もソースの真実と照らして検証していないのです。監視なしで新しいデータベースを本番に出すことはないはずなのに、マルチモーダルAIは「プラグ&プレイの魔法の箱」のように扱われがちです。

対照的な事例もあります。Foundryのある顧客事例では、検索の調整、エージェントの適切な基盤構築、可観測性への投資によって、セルフサービスAIを実際に役立つものにしました。一方、基盤構築も評価もないまま汎用チャットボットをサポートページに置いた企業では、保証請求が誤って販売リードとして処理され、サポートの問い合わせが膨れ上がり、信頼が失われました。同じAzureスタックでも、結果は正反対になります。

エージェントは役に立つのか、高価な気晴らしか

データパイプラインがクリーンでも、それを動かすシステムが暴走することがあります。エージェントはモデル、データ、トリガー、アクションを調整する、自動化ワークフローの交通整理係のような存在です。うまくいけばすべてをスムーズに誘導しますが、うまくいかなければITの予算を静かに燃やします。

コパイロットとエージェントの違い

CopilotとエージェントはIn同じではありません。Copilotは基本的にプロンプトの相棒で、あなたが質問し、Copilotが答え、コントロールはあなたの手元に残ります。エージェントはあなたを待たずに物事を決定し、曖昧な指示にも文字どおり従います。結果が意味をなさなくても実行を続けるため、自動化は時間を節約するか、片付けに倍の時間がかかる混乱を生むかのどちらかになります。

サービスデスクで考えてみましょう。範囲を厳密に絞れば、AIは実際の問題に対してのみ実際のチケットを作成し、人間の時間を節約します。自由にさせると、問題のないハードウェアの「重大なプリンター障害」という偽のアラートでヘルプデスクを埋め尽くしかねません。多くのチームがエージェントに「プロセスの最適化」「洞察の提供」「人々の支援」といった、選挙公約のような職務記述書を渡していますが、これは事実上ボットに好き勝手を許すことです。スコープのないエージェントは、レコードを重複させ、無限ループに入り、解決すべき問題を自ら作り出します。

ガードレールがないエージェントは、管理者権限を持つ無謀なインターンと変わりません。範囲設定、検証手順、テレメトリの計測がないために、早い段階で障害にぶつかる組織は少なくありません。

役立っているかを見極める3つのチェック

• 人件費を削減できているか。それともスタッフをデバッグ作業に巻き込んでいないか
• グラウンディング、流暢さ、一貫性などのメトリックを収集しているか。それともきれいなダッシュボードを眺めているだけではないか
• ユーザーが苦情を言い出す前にドリフトを検出できるよう、テレメトリを実装しているか

どれかに答えられないなら、それは高価なスクリーンセーバーです。Microsoftスタックでは、Copilot Studioがフロー、プロンプト、イベントトリガーを設計するローコードの場となり、Azure AI Foundryのエージェントサービスが、可観測性を備えた本番環境へエージェントを導入するための基盤になります。監視、ログ、メトリックを追加するのもここです。解決の鍵は、Azure AI Foundryの可観測性機能と組み込みの評価ツールです。これらは根拠性、関連性、一貫性、情報源への忠実性を測るための文書化された方法で、オプションの追加機能ではありません。

自律型エージェントの罠

自律型エージェントは、便利さが危険に変わる場所です。AIに任せて面倒な作業を自動化し、午前2時にベッドから這い出してチケットを処理する生活をやめる、という話は役員会議では魅力的に聞こえます。しかし、自律型エージェントは許可を待ちません。Copilotはあなたのために一時停止しますが、自律型エージェントは止まらず、誤った判断をすれば損害は瞬時にテナント全体へ広がります。

Microsoftはこれを、効率化、人的な無駄の削減、検出の迅速化、運用のスムーズ化として打ち出しています。約束は本物ですが、重要な前提があります。現時点でCopilot Studioの自律型エージェントはまだプレビューです。プレビューは壊れているという意味ではなく、混沌とした現実世界でまだ十分に試されていないという意味です。Microsoft自身も、広く展開する前にライフサイクルガバナンスやガードレール、Copilotの制御システムを導入する必要があると述べています。

リスクを具体的に考えてみましょう。ログイン対応を超える権限を持つ自律型ヘルプデスクエージェントを作ったとします。5人のユーザーによるデモでは完璧に動きます。ところが本番でノイズの多い入力が来ると、待機する代わりに誤検知に基づいて数百のアカウントを一括リセットし始め、月末の業務を止めてしまうかもしれません。これはSFではなく、スコープ設定を怠った場合に起こりうる失敗モードです。

派手な自動化の前にやるべき3つのこと

1. IDとアクセスのスコープ設定：エージェントには最小限の権限だけを与え、包括的な管理者ロールは与えない
2. ログ記録とロールバック：すべてのアクションに監査可能な痕跡を残し、重大なアクションには元に戻す手段を用意する
3. コンテンツと動作のフィルター：Azure AIのコンテンツセーフティやナレッジ構成で、不適切な回答やスクリプトからの逸脱を防ぐ

倫理面ではさらに重要になります。従業員を自動的にハイリスクと判定する、不正の疑いがあるとして供給業者への支払いを保留するといった判断は、無害な癖では済まず、法務やコンプライアンス上の問題を生みます。トレーニングデータや取得データのバイアスは、エンタープライズのプレビュー環境で動かしても消えません。フィルター、チェック、人間によるフォールバックがなければ、弁護士が望まない判断を監視のないアルゴリズムに委ねることになります。

可観測性はここでも必須です。エージェントの各ステップを表示し、出力が根拠に基づき、関連性があり、ポリシーに沿っているかを確認できるダッシュボードが必要です。人間がフェイルセーフとして関与する選択肢も欠かせません。飛行機の自動操縦は便利ですが、常に手動で介入できるよう設計されています。10代の若者に運転を教えるときのように、助手席に座り、境界を決め、自分で操作できるブレーキを備えておくこと。これがライフサイクルガバナンスの実践です。

Azure AI Foundryは工場か、地雷原か

Azure AI Foundryは、Microsoftの新しい主力であるAIの「工場」です。ところが多くのチームが、IKEAのようにカタログに目を奪われ、大規模言語モデルを手に取り、コネクタを放り込み、説明書なしで組み立ててしまいます。出来上がるのは、実際のユーザーが乱雑なPDFを1つドロップしただけで倒れる、デモ品質のおもちゃです。

Foundryが提供するもの

• モデルカタログ（Microsoft、OpenAI、Meta、Mistral、DeepSeekなど）
• RAGやファインチューニングなどのカスタマイズオプション
• オーケストレーション用のエージェントサービス
• 評価とデバッグのためのprompt flowなどのツール
• セキュリティの基本機能：IDとアクセス制御、コンテンツセーフティフィルター、可観測性ダッシュボード

Copilot、エージェント、自律フローを構築し、コンプライアンスを維持するための部品は揃っています。問題はツールボックスが空であることではなく、GPT-4 Turboのスイッチを入れただけで本番対応だとみなす運用にあります。適切な人だけが適切なモデルにアクセスできるようID境界を設定し、すべてのパイプラインにコンテンツセーフティを組み込み、可観測性で回答が根拠に基づいているかを確認する必要があります。モデルも、賢そうに聞こえるからと最大のものを選ばず、仕事に合ったものを選びます。

よくある失敗・落とし穴

• アクセス制御の不備：あるチームがSharePointにFoundryのCopilotを組み込んだところ、制限されるべき人事データが20人のインターンに公開されました。組み込みのアクセスルールで防げたはずのコンプライアンス上の大問題です。
• 実環境を想定しないモデル選定：製品写真のタグ付けにGPT-4 Turboを使った組織では、ラボのきれいなスタジオ写真では完璧でした。しかし本番の入力は倉庫で撮ったぼやけた携帯写真で、ベビーカーをオフィスチェアと誤認し、UPCラベルを偽のシリアル番号に書き換えました。
• 従量課金の見落とし：Foundryの料金は従量制で、使うサービスごとに課金モデルがあります。コネクタ、取得呼び出し、メッセージのすべてがテナントに課金されます。Azure料金計算ツールで見積もり、使用状況を追跡しなければ、予期せぬ請求書に驚くことになります。
• 評価パイプラインなしの本番化：サンドボックスのクリーンなデータでは印象的に見えても、グラウンディング、流暢さ、関連性、一貫性の評価をスキップして本番に出せば、目隠しでデプロイするのと同じです。出力のばらつきで信頼が失われ、経営陣は資金を削減します。これはFoundryの失敗ではなく、チームのガバナンスの失敗です。

対策は、可観測性を初日から使い、プロンプトとフローに組み込み、すべてのテストで組み込みの評価ツールを実行することです。本番稼働を考える前に、ハイブリッド検索とセマンティック再ランキングを使ったAzure AI Searchでシステムを基盤化します。これらはMicrosoftが本番の安全性のために文書化している機能です。

責任あるAIを実務に落とし込む

責任あるAIは、基調講演のスライドでは公平性や透明性といったキーワードと並びますが、現場では構成、監査、フィルター、ガバナンスの手順です。イノベーションというより、サーバーのメンテナンスに近い地道な作業です。責任あるAIはスポーツカーではなく、シートベルトにあたります。

実務では、プレッシャーに屈しないアクセスポリシー、有害なプロンプトを実際にブロックするフィルター、規制当局を満足させられるだけ詳細なログが必要です。人事のCopilotを財務データから隔離し、SharePointの機密に入り込まないようスコープルールを設定し、回答がどう形成されたかを証明できるようログにタグ付けします。逆の例が、テナントのスコープなしでボットを人事リポジトリに直接つなぐことです。保険給付について尋ねたユーザーに従業員の給与バンドが表示されれば、プライバシー侵害、信頼低下、規制当局の監視を招きます。

まずはAzure AIのコンテンツセーフティで、暴力的・不適切・不快なプロンプトやレスポンスがユーザーに届く前にフィルタリングします。ただし、これは基本的な衛生管理にすぎません。次の層として、FoundryとCopilot Studioで評価パイプラインを組み、妥当性チェック、関連性スコアリング、透明性ダッシュボード、説明可能性を整えます。

Microsoftはセキュリティに専念するフルタイム相当のエンジニア34,000人と、深い専門知識を持つパートナー15,000人を擁しています。しかし、テナント内でアクセスルールを作るのはその誰でもありません。ガードレールはMicrosoftが提供しますが、IDのロックダウン、データ分離、暗号化、ポリシー構成は引き続きあなたの仕事です。スコープがずさんなら、侵害の責任もあなたにあります。

本当の解決策は、ライフサイクルガバナンスです。テスト、承認、リリース、監査、反復というサイクルの各段階にチェックポイントを置けば、ドリフトが問題になる前に見つけられます。一度出荷して放置すれば、モデルは進化し、プロンプトは変わり、出力は迷走します。責任を持つことは速度を落とすことではなく、速度があなたを破滅させないようにすることです。山道のヘアピンカーブでガードレールに感謝するのと同じです。

実践のためのポイント

• RAGはハイブリッド検索（キーワード＋ベクトル）にAzure AI Searchのセマンティック再ランキングを加えて構成する
• 妥当性（グラウンディング）、関連性、一貫性の評価を、最初から継続的に実行する
• エージェントには明確な職務境界を設け、最小権限で運用し、テレメトリを計測する
• 重大なアクションには監査可能なログとロールバックの手段を用意し、人間によるフォールバックも残す
• 自律型エージェントは現状プレビューであることを踏まえ、広い展開の前にガバナンスとガードレールを整える
• Foundryではモデルを用途に合わせて選び、IDとアクセス制御、コンテンツセーフティを最初から組み込む
• Azure料金計算ツールで見積もり、使用状況を追跡して、従量課金の驚きを避ける
• ガバナンスを最優先、実験は2番目、本番は最後にする

まとめ

ハルシネーションを防ぐ鍵は、モデルの賢さではなく、データの準備、グラウンディング、評価、ガバナンスにあります。Azure AI Foundryもその他のツールも、プラグ&プレイの魔法の箱ではなく、ガバナンスを前提にしたインフラとして扱うべきものです。ツールは変わっても、この生き残りのための考え方は変わりません。