第2章 生成AIの正体 ～AIは「知っている」のではなく「作っている」～

◆ はじめに

最近、ニュースやSNSで「生成AI（ジェネレーティブAI）」という言葉をよく目にするようになりました。
特にChatGPTは有名で、「質問すると、まるで人間のように答えてくれるAI」として広く知られています。

しかし、生成AIは「答えを知っている」わけではありません。
実は、それらしく見える文章を作っているだけなのです。

この章では、生成AIがどのように動いているのか、
そして何が得意で、どんな注意点があるのかを、わかりやすく学んでいきましょう。

◆ 1. 生成AIとは？

生成AIとは、新しい文章や画像、音楽などを自動で作り出すAIのことです。

人間が書いた膨大な文章データを学び、
「この言葉のあとには、どんな言葉が続くことが多いか？」を計算しながら、
もっとも“それらしい”文章を作る仕組みになっています。

たとえばChatGPTは、世界中のインターネット上の文章を学習しており、
質問に対して「過去に似た質問には、こんな答えが多かった」というように、
確率的に答えを作っています。

◆ 2. 生成AIのしくみ（超シンプル版）

生成AIは、「次に来る言葉」を予測するAIです。

具体的には、 「私は AI で〇〇ができます」という文章を作る場合、 まず「私は AI で…」まではすぐ出せますが、 その後の「〇〇ができます」の部分は、「これまでの文章から、次に来そうな単語は何か？」を確率で計算し、順番に選んでいます。

つまり、AIは

「未来を予測する占い師」のようなものです。
「今までのデータから考えると、次はきっとこれだろう」という“予想”をしているのです。

💡 補足解説：なぜ「それっぽい文章」が出せるのか？

• 生成AIは、人間のように「意味」を理解しているわけではありません。
• 大量の文章データを学習し、「この言葉の後にはどんな言葉が続きやすいか」の統計パターンを身につけています。
• その結果、人間が読んだときに自然に感じる“らしい文章”を作れるのです。

◆ 3. 生成AIの得意なこと・苦手なこと

このような仕組みのため、生成AIには得意なことと苦手なことがあります。

【得意なこと】

• アイデア出し（文章のたたき台、キャッチコピーなど）
• 文章の要約や添削
• 翻訳や言い換え
• スケジュールの作成
• メール文案の作成
• 役割を与えてのディベート

→ 人が考えやすくなる“きっかけ”や、“それらしい文章”を素早く形にするのが大得意です。

【苦手なこと】

• 正確な事実の確認（真偽の判断はできない）
• 数字や計算の厳密さ
• 倫理的・法律的な判断
• 長い文脈や複雑な背景の深い理解
• 最新情報の正確な反映
• 芸術の価値判断や批評
• モラルや倫理に関する最終的な判断

→ 「本当に正しいかどうか」を保証する力はありません。

【総括】

生成AIは、「速く」「大量に」「自然な文章」を生み出すのに非常に適しています。
一方で、「正確さ」や「判断力」は人間に委ねる必要があります。

したがって、“発想や下書きはAIに任せ、正誤や最終判断は人間が行う”
これが最も効果的で安全な使い方です。

◆ 4. ハルシネーション（幻覚）の正体

生成AIの一番大きな特徴であり、注意が必要なのが
「ハルシネーション（幻覚）」です。

これは、「もっともらしいけど、実は間違っている答え」のことです。

なぜ起こるかというと、生成AIは「過去の文章の確率から(次に続く言葉を)予測するだけ」だからです。

「正しいかどうか」を判断することはせず、
あくまで「最もそれっぽい答え」を作ることを目的にしています。

たとえば、架空の法律や実在しない統計データを、
とても自然な文章で作ってしまうこともあります。

◆ 5. まとめ：生成AIは「とにかくも答えを作る道具」だと理解する

生成AIは、「とにかくも答えを作る道具」です。
「正しい答えを出す道具」ではありません。

便利な反面、正確さの保証はなく、必ず人間がチェックする必要があることを忘れてはいけません。

あくまで「たたき台」や「アイデア出し」として活用するのが基本です。

これからAIを使っていく上で、

「AIの答えは、必ず自分の目で確かめる」

という習慣が何より大切です。