この段落は、現在の文字サイズ・行間・書体の設定がどのように反映されるかを確認するための見本です。読みやすい設定を見つけたら、そのまま記事ページにも反映されます。
DEEP DIVE MEDIA
フカヨミは、日々の「なぜ？」を専門用語に逃げずにじっくり掘り下げるメディアです。ジャンルは一つに絞らず、気になったことを、気になった分だけ考えます。
「フカヨミ」の特徴、個人開発者としての運用スタンス、および利用規約をまとめています。
「フカヨミ」は、日々の暮らしやニュース、テクノロジーの中で浮上する「なぜ？」や「どうして？」を、専門用語に逃げずに自分の言葉でじっくり噛み砕いて解説する個人運営の記事メディアです。
本サイトは、個人開発者 nden148 が個人で企画・運営を行っています。
私自身はプログラミングの知識も専門的な文章執筆の訓練もないため、記事の執筆は基本的にAIに任せています。気になったテーマや調べたい切り口を文章にしてAIへの指示として送り、一次情報にあたりながら構成・執筆してもらったものを、自分で読み返して確認・調整するというやり方で運営しています。
個人による探求・試行錯誤のメディアであるため、大手の報道機関のような「厳格な訂正履歴の常時公開」や「即座の問い合わせ対応」をお約束するものではありません。内容に誤りや古い記述に気付いた場合は、筆者自身のペースで随時・予告なく記事の更新・修正を行います。あらかじめご了承ください。
本サイトをご利用いただく際は、以下の事項に同意いただいたものとみなします。
当サイトにおける個人情報およびアクセスデータの取扱い方針について定めています。
当サイト「フカヨミ」は、原則としてユーザーの氏名・住所・電話番号などの個人直接特定情報を収集・要求することはありません。
お問い合わせやコメント機能等も設置していないため、当サイトを通じて個人情報が第三者に漏洩するリスクを最小限に抑えています。
当サイトでは、ユーザーの閲覧環境（テーマ設定、文字サイズ、行間などの読書設定）を記憶・保持するために、ブラウザのローカルストレージ（LocalStorage）機能を利用しています。
これらのデータはお使いの端末（ブラウザ）内にのみ保存され、外部のサーバーへ送信されることはありません。ブラウザのキャッシュや閲覧データを消去することで、いつでもリセットが可能です。
当サイトでは、フォントおよびアイコンの配信のため、以下の外部CDNサービスを利用しています。
これらのサービスへのアクセス時、利用者のIPアドレス等の情報が各サービス提供元に送信される場合があります。詳細は各サービスのプライバシーポリシーをご確認ください。
なお、当サイトでは現時点でGoogle Analyticsなどのアクセス解析ツールを導入しておらず、今後も導入する予定はありません。
本プライバシーポリシーの内容は、法令の変更やサービスの更新に伴い、予告なく改定されることがあります。最新の内容は本ページにて常時ご確認いただけます。
表示や読みやすさを、お好みにあわせて調整できます。変更はこの端末に保存されます。
画面の配色を選びます。
記事本文の見え方を調整します。
動きや演出に関する設定です。
この段落は、現在の文字サイズ・行間・書体の設定がどのように反映されるかを確認するための見本です。読みやすい設定を見つけたら、そのまま記事ページにも反映されます。
「なぜかChatGPTが、存在しない論文を堂々と紹介してきた」「Geminiに聞いた法律の条文が、実は少し違っていた」——生成AIを使っていて、こうした経験をしたことがある人は少なくないはずです。この現象はハルシネーション（Hallucination／幻覚）と呼ばれ、AIが事実に基づかない内容を、あたかも正しいことのように自信満々に生成してしまう問題を指します。
興味深いのは、これが単なる「バグ」ではないという点です。ハルシネーションは、大規模言語モデル（LLM）の学習の仕組みそのものに根ざした、いわば構造的な現象なのです。この記事では、なぜ生成AIがハルシネーションを起こすのかを、4つの角度から順番に見ていきます。
ハルシネーションが起きる理由は大きく分けて、①「次の単語を予測する」という設計そのもの、②学習データの偏りや古さ、③モデルの性能を測る評価方法のインセンティブ設計、④「わからない」と正直に言えない仕組み、の4つに整理できます。どれか一つを直せば解決する問題ではなく、これらが折り重なって発生しています。
ハルシネーションとは、生成AIが事実と異なる情報や、実在しない事柄を、もっともらしい文章として出力してしまう現象です。人間が幻覚を見るときの状態にたとえてこう呼ばれていますが、AI自身に意識や悪意があるわけではありません。あくまで比喩的な表現です。
厄介なのは、出力される文章の「自信満々な口調」です。単なる誤字脱字とは違い、文法的にも文脈的にも自然な文章として誤情報が出てくるため、専門知識がないと真偽を見抜くのが難しいという特徴があります。実在しない書籍や論文の引用、誤った日付や数値、存在しない法令や判例などは、典型的なハルシネーションの例としてよく挙げられます。
大規模言語モデルの土台にあるのは、非常にシンプルな仕組みです。それは、直前までの文章を踏まえて「次に来る単語として、もっとも確率が高いものは何か」をひたすら予測し続けるというものです。人間のように、頭の中に「事実かどうかを検証するデータベース」を持って、そこと照合しながら回答しているわけではありません。
この仕組みは、自然で流暢な文章を生み出すことには非常に長けています。しかし裏を返せば、モデルは「統計的にありそうな続き」を出力しているのであって、「事実として正しい続き」を保証しているわけではないということです。特に、固有名詞や日付、数値のように一つひとつが独立した事実（学習データの中での出現頻度が低い情報）は、確率的な推測がそのまま誤りにつながりやすい領域だとされています。
生成AIは、インターネット上の膨大なテキストなどを学習して知識を獲得します。しかし、この学習データ自体に限界があることも、ハルシネーションの大きな要因です。
学習データには、事実と異なる情報や、すでに古くなった情報も数多く含まれています。AIは基本的に、与えられた文章の真偽を自分で判定する能力を持たないため、誤った情報もそのまま「もっともらしいパターン」として学習してしまうことがあります。
特定の業界の専門知識や、社内独自のルールのように公開情報が少ない領域では、学習データそのものが不足しがちです。データが薄い分野ほど、モデルは確率的な推測に頼らざるを得ず、誤情報を「正しそうな情報」として出力するリスクが高まります。
多くのモデルには、学習データを収集した最終時点、いわゆる知識のカットオフが存在します。それ以降に起きた出来事や更新された情報については、モデルはそもそも学習していないため、ウェブ検索などの外部情報を参照しない限り、憶測に基づいて回答するしかありません。
2025年9月、OpenAIの研究チームはハルシネーションのメカニズムに関する論文を公開し、大きな反響を呼びました。その中で指摘されていたのが、モデルの性能を測る「評価方法」自体に、ハルシネーションを助長する構造があるという点です。
多くの評価テストでは、正解に1点、不正解や「わかりません」という回答には0点、というシンプルな採点方式が使われています。これは学生が試験を受ける状況によく似ています。わからない問題があったとき、白紙で出せば確実に0点ですが、勘で何か書けば、運よく正解して得点できるかもしれません。同じように、モデルも「わかりません」と正直に答えるより、それらしく推測して答えたほうが、平均的なスコアは高くなりやすいのです。
この結果、モデルは学習の過程で「不確実な時こそ、自信ありげに答えたほうが評価が高くなる」という振る舞いを、意図せず身につけてしまいます。ハルシネーションが減らない理由の一端は、モデルの性能そのものだけでなく、モデルを鍛え、評価するための「ものさし」の設計にもあるというわけです。
この論文では、不正解にはマイナスの評価を与え、正直に不確実性を表明した回答には部分的な得点を与えるといった、評価方法そのものを見直す必要性が提案されています。
3つ目・4つ目の原因は根っこでつながっています。モデルは、自分がどこまで自信を持って答えられるかを人間のように内省しているわけではなく、また前述の評価構造のもとでは「わかりません」と答えること自体が損になりやすい。この2つが重なることで、AIは知らないことについても、もっともらしい言葉で埋めてしまう傾向を強めてしまいます。
これは決して「AIが嘘をつこうとしている」ということではありません。むしろAIにとっては、確率的にもっとも自然な単語のつながりを選んだ結果が、たまたま事実と異なっていた、という表現の方が実態に近いといえます。
ハルシネーションを完全にゼロにすることは、現在の技術では難しいとされています。しかし、発生率を下げたり、影響を小さく抑えたりする方法は存在します。ユーザー側・提供側それぞれの工夫を紹介します。
| 立場 | できる工夫 |
|---|---|
| 利用するユーザー | 固有名詞・数値・日付など重要な事実は、必ず一次情報や公式情報で裏を取る |
| 利用するユーザー | 「わからない場合は、わからないと答えてください」のように、推測を避けるよう明示的に指示する |
| 利用するユーザー | 複数のAIや情報源を突き合わせ、答えが割れる箇所を重点的に確認する |
| サービス提供側 | RAG（検索拡張生成）を用い、根拠となる文書を明示したうえで回答させる |
| サービス提供側 | 不確実性を正直に表明した回答にも評価を与える、評価方法そのものの見直し |
とりわけRAG（Retrieval-Augmented Generation／検索拡張生成）は、AIが持つ内部知識だけに頼らず、信頼できる外部の文書やデータベースを検索し、その内容を根拠として回答を生成させる手法です。「根拠となる資料」を土台に置くことで、事実に基づかない回答を大きく減らせるとされています。
ハルシネーションは、決して不可解な故障ではなく、①次の単語を予測するという設計、②学習データの限界、③評価方法のインセンティブ、④不確実性を正直に表明しづらい構造という、いくつもの要因が積み重なって生まれる、いわば生成AIの「性質」に近いものです。
だからこそ大切なのは、AIの出力を鵜呑みにも、頭ごなしに否定もせず、「もっともらしい下書き」として受け取り、重要な部分は自分の目で確かめるという付き合い方です。技術的な改善が進む一方で、この距離感は、しばらくの間はユーザー自身が持ち続ける必要がありそうです。