「AIに自社名を聞いたら、やっていないサービスが出てきました」。こうした相談を受けることがあります。生成AIの誤情報は不具合というより、仕組み上いつか起きる前提で備える対象です。 報道や審判機関の決定で確認できる事例を並べると、誤りは5つの型にほぼ収まります。型が分かれば、予防・発見・訂正のどこに手を打つかを決められます。なお本記事は、生成AIが企業・商品・人物について誤って答える場面に絞ります。人が意図的に作る偽情報や偽の画像・動画は扱いません。
生成AIの誤った回答が企業に実害を出すまで
誤りが表に出るきっかけは、たいてい日常の一言です。見込み客が商談の前に「この会社は大丈夫か」とAIに尋ねる、それだけで誤った説明が相手に届きます。社名を聞かれただけで、こちらが知らないうちに案内が成立してしまう形です。
ここで言葉を2つ置きます。AIの回答に自社を正しく出すための取り組みを指す言葉は、AIO(AI Optimization)のほかにLLMO(Large Language Model Optimization)、GEO(Generative Engine Optimization)、AEO(Answer Engine Optimization)などがあり、業界でまだ呼び方が統一されていません。本メディアではこれらを総称して「AIO」と表記します。もう1つ、生成AIが事実でない内容を自信ありげに出す現象を「ハルシネーション」と呼びます。
私たちは株式会社AI Hackとして、AIの回答を継続して取得・可視化するツールとコンサルティングを提供しています。実務では、AIの誤りを「不具合の報告」ではなく「想定しておく事故」として扱っています。公式サイトを直せば翌日に回答が直る、という性質のものではないからです。
報道と裁判記録で確認できた生成AIの誤情報事例6件
ここで扱うのは、報道機関の検証・審判機関の決定・企業の公表で確認できた6件だけです。伝聞だけが根拠の話は省きました。まず一覧で全体像をつかんでください。見方は「誰の、どの場面の誤りが、どう決着したか」です。6件は型の分類に使い、法的責任をめぐる最近の動きは後の章で別に扱います。
年月 | 誰が・どこで | 誤りの型 | 公表された結末 |
|---|---|---|---|
2024年2月 | 航空会社のチャットボット | 存在しない規定 | 審判機関が差額と費用の支払いを命令 |
2024年3月 | 市の事業者向けチャットボット | 5つの型に当てはめていない(法令に反する助言) | 注意書きを追加して公開を継続 |
2024年5月 | 検索のAI要約 | 引用元の誤読 | 提供元が改善策を公表し表示を制限 |
2025年1月 | スマートフォンの通知要約 | 要約時の取り違え | ニュース通知の要約を一時停止、2025年7月の試験版で復帰 |
2025年3月 | 検索のAI要約 | 別会社との取り違え | 施工会社が提訴、州裁判所に差し戻され係争中 |
2025年10月 | 報告書の作成での利用 | 存在しない出典 | 最終支払分を返金し修正版を公表 |
出典:各行の発行元はWEL Partners(2024年3月)、The Markup(2024年3月)、Forbes(2024年5月)、Silicon UK(2025年1月)、Reason(2026年1月)、CFO Dive(2025年10月)。詳細は本文の各事例を参照。
遺族割引を誤って案内したチャットボット(2024年2月)
2022年11月、カナダの航空会社のサイト上のチャットボットが、遺族割引は搭乗後90日以内でも申請できると案内しました。実際の規定ページは、搭乗前の申請を求めていました。利用者が申し立て、ブリティッシュコロンビア州の民事解決審判所(少額の民事紛争をオンラインで扱う機関)が2024年2月14日に決定を出しています(WEL Partners「Moffatt v. Air Canada: Bereavement Fares」、2024年3月)。会社はチャットボットの案内について責任を負わないと述べ、審判所はこれを「チャットボットが別個の存在だという主張」と整理したうえで退け、812.02カナダドルの支払いを命じました。この決定は、チャットボットがどのような仕組みだったかまでは判断していません。
法令に反する助言を出した行政のチャットボット(2024年3月)
2023年10月に米ニューヨーク市が公開した事業者向けのチャットボットについて、報道機関の検証で、従業員のチップの一部を事業者が取れる、現金払いを断れる、といった回答が確認されました(The Markup「NYC's AI Chatbot Tells Businesses to Break the Law」、2024年3月)。いずれも市や州の法に反する内容だと報じられています。市は注意書きを足したうえで公開を続けたと伝えられました(AP通信(NY1掲載)「NYC's AI chatbot was caught telling businesses to break the law」、2024年4月)。
冗談や風刺を事実として出した検索の要約(2024年5月)
米国で検索結果の上にAIの要約が広く出るようになった直後、ピザのソースに接着剤を混ぜる、1日1個石を食べる、といった回答が共有されました(ACS Information Age「Google goes viral after AI says to put glue on pizza, eat rocks」、2024年5月)。元になったのは掲示板の冗談や風刺記事だったと報じられています。提供元は同年5月末に改善策を説明し、要約の表示を絞ったと伝えられました(Forbes「Google Restricts AI Search Tool After 'Nonsensical' Answers Told People To Eat Rocks And Put Glue On Pizza」、2024年5月)。
ニュースの通知を取り違えた要約(2025年1月)
2024年12月、英国の放送局が、自社名で届く通知の要約が事実と違うとして抗議しました。提供元は2025年1月、ニュースと娯楽の分野の通知要約を一時停止しています(Silicon UK「Apple Suspends AI-Generated News Notifications After Errors」、2025年1月)。機能は2025年7月の試験版で戻り、AIが要約した文だと分かる表示が添えられました(Tom's Guide「Apple Intelligence will summarize news again in iOS 26 after false headline debacle」、2025年7月)。
別の訴訟と結び付けられた施工会社(2025年3月)
米ミネソタ州の太陽光発電の施工会社は、検索のAI要約が自社について「州司法長官から提訴されている」と説明したとして、2025年3月に訴えを起こしました。実際に訴えられていた4社に、この会社は含まれていませんでした(ミネソタ大学ロースクール「Dean William McGeveran Quoted in Star Tribune About Lawsuit Regarding AI False Statement」、2025年6月)。訴訟は提供元の申立てでいったん連邦裁判所へ移りましたが、2026年1月、申立てが期限に遅れていたとして州裁判所へ差し戻されました(Reason(The Volokh Conspiracy)「Google Missed Key Deadline in Suit Alleging Google's AI Libeled Business, Court Holds」、2026年1月)。
存在しない引用が入った納品物(2025年10月)
オーストラリア政府向けにコンサルティング会社が納めた報告書に、実在しない研究の引用や、裁判の判断からの誤った引用が含まれていました(ACS Information Age「Deloitte to refund government over AI errors」、2025年10月)。指摘を受けて会社は修正版を出し、作成に生成AIを使ったことを明らかにしています。会社は契約の最終支払分を返金することに同意し、返金額は約9万7千豪ドルと報じられました(CFO Dive「Deloitte refunds over $60K for report with AI errors, Australian government says」、2025年10月)。
6件を時間順に並べると、業種も結末もばらついている一方、誤り方には共通点が見えます。

事例を横断すると、誤りは5つの型に分かれる
6件を並べ直すと、誤りは5つの型に収まります。型は「何を間違えたか」で分け、どの会社のどの技術かでは分けません。5つとは、古い情報・別の相手との取り違え・存在しないものの生成・引用元の誤読・要約での取り違えです。
- 古い情報のまま答える:社名変更や料金改定の前の内容が返ってきます。終了したサービスが現役として案内される形です。
- 別の会社や人物と取り違える:似た名前の他社の出来事が自社の説明に混ざります。施工会社の件がこれにあたります。
- 存在しない機能・価格・規定・出典を作り出す:もっともらしい条件や引用が生まれます。遺族割引の案内と、報告書の引用がこの型です。
- 引用元を誤読する:冗談や風刺を本気の情報として扱います。接着剤の回答がこれです。
- 要約で主語や結論を取り違える:元の文は正しいのに、短くする段階で意味が反転します。ニュース通知の件がこの型です。
一覧にすると、どの型がどの場面で目に入るかが分かります。
型 | 該当する事例 | どこで目に入るか |
|---|---|---|
古い情報 | 本記事の6件には該当なし(公表事例が少ない型) | 料金・制度の問い合わせ |
取り違え | 施工会社の件 | 社名で検索したときの要約 |
存在しない規定・出典 | 航空会社、報告書 | 申請条件や引用の確認時 |
引用元の誤読 | 検索のAI要約 | 一般的な質問への回答 |
要約の取り違え | 通知の要約 | 見出しや短い通知 |
型が違えば、気づく場所も手当ての仕方も変わります。私たちが複数のAIで定期的に同じ質問を投げて観察している範囲でも、社名やブランド名を変えた企業では、旧名称のままの回答がしばらく残ります(当社の観測、2026年10月時点。商用AIは内部を公開していないため、外から見た観察です)。
なぜ生成AIは企業の料金や規定を間違えるのか
誤りの出どころは、大きく3つに整理できます。学習した時点の情報、その場で拾ってきた参照先、要約や言い換えの処理です。順に見ていきます。
- 学習した時点の情報:AIが覚えている内容は、ある時点までのものです。改定後の料金は、そこに入っていません。
- その場で拾ってきた参照先:回答のたびに外部のページを読みます。読む先を間違えれば、内容も間違います。
- 要約・言い換えの処理:読んだ内容を短くまとめます。ここで主語や結論が入れ替わります。
型①と型②は、古い学習内容と参照先の選び方から来ます。型③は、参照できる情報が薄いときに起きやすくなります。型④は参照先の性質の読み違いで、型⑤は要約の処理そのものが原因です。仕組みの詳しい説明と基本の対策は、AI検索で誤情報が出る原因と対策の解説にまとめています。
型ごとに、企業は予防・発見・訂正のどこで手を打てるか
打ち手は、情報を出す側・気づく側・出てしまった後の3段階に分かれます。たとえば古い情報の型なら、公式ページに改定日を書くのが予防、旧料金で質問してみるのが発見です。
型 | 予防 | 発見 | 訂正 |
|---|---|---|---|
古い情報 | 改定日と適用条件を明記 | 旧名称・旧料金で質問する | 更新後に同じ質問で追跡 |
取り違え | 社名・事業内容を1か所に確定 | 「社名+訴訟」「社名+評判」で確認 | 誤りの箇所を特定して訂正を依頼 |
存在しない規定・出典 | 料金と規定を1ページに集約 | 自社にない機能名で質問する | 規定ページを根拠として示す |
引用元の誤読 | AIが読み取りやすい形式で情報を置く | 回答の参照元リンクを毎回見る | 誤読された元ページの表現を直す |
要約の取り違え | 見出しと本文の結論を一致させる | 要約文を原文と突き合わせる | 原文を示して訂正を求める |
予防の土台づくりは構造化データの実装手順と検証の解説、発見の進め方はAI検索での自社の見え方を確認する手順が参考になります。誤りを見つけた後の連絡先や依頼の出し方は、ChatGPTの自社情報が間違っているときの初動と対処で手順を追えます。私たちは、自社に関する事実の誤りを継続して検知し、ブランドが傷つくリスクとして数で管理する形で運用しています。
AIの回答への法的責任はどこまで及ぶか
AIの回答そのものに責任が及ぶと判断された例も出ています。2026年5月28日、ドイツのミュンヘン地方裁判所(事件番号26 O 869/26)は、出版社2社についての誤った記述をAIの要約で示さないよう、仮の差し止め(確定前に一時的に止める決定)を命じました(heise online「LG Munich I: Google ordered to pay for false statements in AI summaries」、2026年6月)。同裁判所は、AIの要約は提供元自身の表現だと整理しています。仮の決定のため、この判断はまだ確定したものではありません。同じ考え方は2026年9月のアーヘン地方裁判所の決定でも引用されたと報じられています(THE DECODER「Weiteres deutsches Gericht macht Google für falsche KI-Antworten verantwortlich」、2026年10月)。
次の図は、5つの型がどこで生まれ、どの段階で手当てできるかの関係をまとめたものです。

サポート・広報・法務で分ける検知・判断・外部対応の役割
検知・判断・外部対応で、担当が自然に分かれます。最初に気づくのは、ほぼ顧客に近い人です。難しい道具は要りません。
カスタマーサポートは、「AIにこう書いてあった」と顧客が言った時点が最速の検知点です。ここで回答文と日時をそのまま残す運用にしておくと、後の判断材料になります。スクリーンショットと質問文の両方を控えておくと確実です。
広報は、公式ページの情報を最新にそろえ、訂正を外に出すかどうかの材料を集めます。法務は、名誉に関わる記述や、誤った規定の案内で顧客に不利益が出た場合の判断を担います。私たちは、型③(存在しない規定)と型②(取り違え)が出たときは、早い段階で法務にも共有しておくほうがよいと考えています。顧客への案内として扱われる可能性があるからです。
まとめ:自社について今日確かめる3つのこと
生成AIの誤情報は、事例を見れば型に分かれ、型ごとに打ち手が決まります。今日できることは3つです。
- 社名・商品名でAIに質問し、回答文と参照元、日時を記録する
- 誤りがあれば、5つの型のどれにあたるかを判定する
- 型に応じて、公式ページの修正か、訂正依頼の初動かを決める
1回の結果で慌てる必要はありません。同じ質問を何回か、複数のAIで試してから判断してください。自社がいまどう語られているかを実測から把握したい場合は、無料AIO診断(実測)でご相談ください。
