AIチャットボットが間違った回答をしたら誰の責任？会社として決めておく5つのことと開発会社への質問

2026年3月4日

問い合わせ対応をAIチャットボットに任せたい。そう考えたとき、多くの担当者が最初に引っかかるのが「もしAIが間違ったことを案内したら、会社の責任になるのでは」という不安です。

「AIチャットボットが間違った回答をしたら会社の責任になるのか、どう防げばいいのか分からない…」

先に結論をお伝えします。お客様から見れば、チャットボットの回答は「会社の公式な案内」です。「AIが勝手に言ったこと」という説明が通るとは限りません。ただし、これは「導入をやめるべき」という意味ではありません。「答えてよい範囲を決める」「根拠となる資料を限定する」「間違えたときの逃げ道を用意する」の3点を設計に入れておけば、リスクは現実的な大きさまで下げられます。

この記事では、発注者が開発会社と一緒に決めておきたい5つのことを、そのまま使えるチェックリストと質問例とあわせて解説します。なお、法的な責任の有無は個別の事情で変わります。この記事は一般的な考え方の紹介であり、具体的なご相談は弁護士にご確認ください。

なぜAIは間違えるのか：発注者が知っておきたい仕組み

生成AI（＝文章を自動で作るAI）は、「それらしい文章」を作るのが得意な一方で、事実かどうかを自分で確かめる仕組みを基本的には持っていません。そのため、もっともらしいのに事実と違う回答、いわゆるハルシネーション（＝AIがもっともらしい誤情報を出してしまうこと）が起こり得ます。

これはAIの欠陥というより性質です。国の「AI事業者ガイドライン」でも、AIを利用する側は、AIの予測や判断の限界を理解して使うことが求められています。

📰 出典：経済産業省・総務省「AI事業者ガイドライン（第1.1版）」（2025年3月28日公表）

つまり「AIは間違えることがある」は前提であり、間違えたときにどうなるかを事前に設計しておくことが、導入する会社側の役割になります。

チャットボットの誤回答は誰の責任になりうるのか

海外では、この点が争われた事例があります。2024年、カナダのブリティッシュコロンビア州の民事紛争解決の審判所は、航空会社のウェブサイト上のチャットボットが誤った運賃割引の案内をした件で、「チャットボットの案内も会社が提供する情報であり、会社は責任を負う」という趣旨の判断を示しました。会社側は「チャットボットは別の主体のようなもの」と主張しましたが、認められなかったと報じられています。

📰 出典：Moffatt v. Air Canada, 2024 BCCRT 149 の解説（McCarthy Tétrault）

これは日本の裁判の結論ではなく、国や事案によって判断は変わります。ただ、「お客様は、会社のサイトに出ている案内を会社の案内として受け取る」という見方は、日本でも大きくは変わらないと考えておくのが安全です。

開発会社と発注者の責任の分かれ方

では、開発会社に作ってもらったチャットボットが誤答した場合、開発会社の責任になるのでしょうか。これは契約の内容次第です。一般には次のように分かれて考えられることが多く、契約前に確認しておく価値があります。

論点	発注者（運用する会社）が担いやすいこと	開発会社が担いやすいこと
回答の根拠にする資料	内容を正しく保ち、更新する	資料を取り込む仕組みを作る
答えてよい範囲の決定	業務上の線引きを決める	範囲外を断る仕組みを実装する
精度の確認	想定問答で合否を判断する	テストの方法を提案・実施する
利用規約・免責表示	内容を決め、法務に確認する	画面に表示する実装をする
誤答が見つかった後	窓口対応・お客様への説明	原因調査・修正

どちらかが悪いという話ではなく、「誰が何を担当するか」が契約書や仕様書に書かれていないことが、トラブルの元になりやすいポイントです。

発注者が決めておく5つのこと

1. 答えてよい範囲と、答えてはいけない範囲

最も効果が大きいのが、チャットボットの守備範囲を狭く決めることです。

答えてよい：営業時間、アクセス、よくある質問（FAQ）に載っている内容
人に引き継ぐ：料金の個別見積もり、返金・キャンセルの可否、契約内容の解釈
答えない：医療・法律・税務などの個別判断、他社の比較

特にお金・契約・健康・安全に関わる質問は、AIが最終回答をせず、担当者につなぐ設計が一般的です。範囲外の質問には「担当者におつなぎします」と返す動きを、仕様として書いてもらいましょう。

2. 回答の根拠にする資料を限定する

AIに「何でも自由に答えさせる」ほど、誤答は増えます。自社のFAQや規程集など、社内で確認済みの資料だけを根拠に答えさせる方法（検索拡張生成、略してRAG＝資料を検索してから、その内容をもとにAIに答えさせる仕組み）が、誤答を減らす方法として広く使われています。費用や構成の考え方は、自社システムにAI機能を組み込む際の費用と注意点の記事も参考になります。

ただし、資料自体が古ければ、古い案内をそのまま出します。資料の更新担当者と更新頻度を決めるところまでが、発注者側の仕事です。

3. 「AIの回答です」とお客様に伝える

画面上に、次のような表示を出すことをおすすめします。

「AIが自動で回答しています。内容に誤りがある場合があります」
「重要な内容は、〇〇ページまたはお問い合わせ窓口でご確認ください」
回答の根拠にしたページへのリンク

表示で責任がゼロになるわけではありませんが、お客様が別の窓口で確認するきっかけになり、誤解による被害そのものを減らせます。免責の文言をどう書くかは、弁護士など専門家に確認してください。

4. 人間に引き継ぐ導線と、間違いが見つかったときの手順

AIは必ず間違える前提で、間違いが見つかったときの手順も決めておきます。

「担当者に相談する」ボタンを常に見えるところに置く
会話の記録（ログ）を保存し、後から見直せるようにする（個人情報の扱いも決める）
誤答の報告を受けたとき、誰が・何日以内に・どう直すか（資料の修正、回答ルールの修正）
お客様に実害が出そうなときの、窓口対応の流れ

5. 公開前にテストし、公開後も点検する

公開前に、想定問答をたくさん作って合格基準を決めるテストをします。たとえば「過去の問い合わせ100件のうち、正しい回答が9割以上」といった基準です。基準の数字は用途によって変わるため、開発会社と相談して決めてください。

公開後も、毎月ログを見て「間違いやすい質問」を洗い出し、資料やルールを直す運用が必要です。作って終わりではなく、運用の費用も見積もりに入れておくと、後から慌てずに済みます。

やりがちな失敗

「AIが賢いから大丈夫」と、範囲を決めずに公開する：何でも答えるほど、誤答の範囲も広がります。
資料の更新を誰も担当しない：料金改定や制度変更が反映されず、古い案内が出続けます。
誤答の報告先が決まっていない：お客様から指摘を受けても、社内で担当が分からず対応が遅れます。
開発会社に「精度は保証してもらえる」と思い込む：生成AIの回答は確率的に変わるため、「100%正しい」と保証する契約は現実的ではないことが多いです。何をもって合格とするかを決めておきましょう。