AI関連のトラブルや訴訟はどれくらい起きているのか
先月のコラムに、2026 年 3 月に日本生命保険の米国子会社が OpenAI 社（ChatGPT の提供会社）に対して提訴したというニュースについて記載しましたが、このニュース以外にも AI 関連のトラブルや訴訟がどれくらい起きているのか気になり、継続して調べています。
日本ではまだ大きく取りざたされるようなニュースはないようです（トラブル自体は起きているとは思います）が、やはり先を行く米国では、既にいくつかの切り口で AI が引き金となった事件が起きているようです。その中でも特に興味深いのがハルシネーション（AI による幻想）により引き起こされるケースではないでしょうか。
もともと AI（生成 AI）はインターネット上に存在する情報や過去の蓄積データなどを材料として、利用者からの質問に対し、「それらしい形で」回答するもの。そしてその回答の材料となるインターネット上の情報などというものは真偽入り混じった玉石混合であることは共通認識であったはず。
少し前までインターネットユーザーたちは、検索してたどり着いた結果なんぞ、公式サイトでない限り全て疑うぞ、集合知である Wikipedia だって疑うぞ、という訓練を積んでいた気がします。
AIの回答を盲信する人々
しかしながら生成 AI が一般に広まってからは、検索はすべて AI に投げ、その結果は盲目的に信じるという人が一気に増えていると思われませんか？
私の方で最近あった例としては、「E メールの送信でこういうトラブルが起きている」という相談をうけ、こちらは過去の実績から想定される原因と解決法を提示したところ、「ChatGPT に聞いたら、違う原因があると言われましたけど？」というようなお返事をいただいたことがありました。あ、そう・・・と虚を突かれる気持ちに一気になりましたが、なぜそんなに AI の回答を盲目的に信じられるのか、少し不安でもあります。
米国で起きたハルシネーションによる訴訟問題
さて閑話休題。AI 関連で実際に起きている訴訟などのニュースとして、2026 年 3 月 16 日、米連邦控訴裁判所の判事団が生成 AI による「ハルシネーション」の特徴を示す書類を提出した 2 人の弁護士に制裁を科したという報道がありました。
ロイター通信によると、ある花火大会での事件に関する控訴審において、20 件以上の偽の引用と虚偽の表示が発見されたため、裁判所は弁護士らに対して、提出書類の正確性と、書類作成に生成型 AI を使用したのかどうか回答せよと命令を下しました。しかし弁護士らは AI に関する質問には答えず、焦点をずらす対応をしたために、怒った裁判所から懲罰を受けることになった、という顛末です。
▽米連邦控訴裁判所から弁護士らに下された懲罰の決定書
https://fingfx.thomsonreuters.com/gfx/legaldocs/zjvqmegykvx/6th%20Circuit%20sanctions%20order.pdf
先日のニッセイ米国子会社の件と同じく、いかにも最近のニュースだなあと思って読んでいたのですが遡って調べたところ、なんと数年前から米国ではこの種の問題が起きており、2023 年にはすでに訴訟関連問題となっていました。
存在しない判例を引用した弁護士たち
2023 年、米国の弁護士が民事訴訟で提出した資料で、実際には存在しない判例を過去判例として引用していたことが判明し、その資料を提出した弁護士が懲戒対象となるかというニュースでした。この存在しない判例こそ ChatGPT が回答したものであったということです。当時の ChatGPT はまだバージョンも古く、精度は荒かったと思われますが、それでも弁護士を欺くほどの回答であったものと思われます。
日経：https://www.nikkei.com/article/DGXZQOGN30E450Q3A530C2000000/
一般人など法律に触れずにきた人ならさておき、日々判例や法の解釈を行っているプロである弁護士たちが、AI の回答を盲目的に信じて法的根拠として書面で主張してしまうというのは、よほど AI が「それらしい形」で回答できる能力を磨いてしまっているからでしょうか。
AIを利用する力が問われる時代へ
AI の進歩が、正確な回答に対する精度の向上とイコールであれば嬉しい話ですが、「それらしい形」で人間を欺く力も磨かれているのだとしたら、利用する人間側もそれに合わせて「AI を利用する力」を向上させなければならないということでしょうか。
“ChatGPT の回答は必ずしも正しいとは限りません。重要な情報は確認するようにしてください”と ChatGPT の画面には常時表示されています。それでもなぜかその道のプロをも盲目的に信じさせてしまう力があるのだとしたら、すでに日本の法曹界でもそんな書面が提出されて動いている訴訟があるのではないか…と少し不安に思わずにはいられません。明らかになっていないだけで実はもう、なんていうことはないと信じたいですね。
そして弁護士だけでなく、もし裁判官の方も AI に判断をゆだねるようになっていたとしたら、もう法曹はすべて AI に任せる世界になってしまいそうですね。
ずっと AI 関連のニュースを調べていたら、学生時代に SF の世界として考えていた星新一の世界がすぐそこにある気がしてクラクラしてきました。
