AIってどんな仕組み？

このマガジンも早いもので第5回。ツールの使い方やAIとの付き合い方をあれこれお届けしてきましたが……肝心な 「そもそも、AIってどういう仕組みなのか？」 をまだ話していませんでした。少し今さら感もありますが、ここで一度、AIの“中身”をのぞいてみたいと思います。

毎日のようにAIを使っていても、「どうやってあの答えを出しているのか」を意識することは意外と少ないもの。今回は、なるべく専門用語をかみくだきながら解説します。キーワードは3つ、『機械学習』『ディープラーニング』『ニューラルネットワーク』 です。

AIは「3つの入れ子」でできている

まず全体像から。この3つはバラバラの言葉ではなく、大きい枠の中に小さい枠が入っている「入れ子」の関係になっています。

つまり、ディープラーニングは機械学習の一種で、機械学習はAIの一種。いまのChatGPTやGeminiは、ひとことで言えば 「ディープラーニングを使った、機械学習のAI」 というわけです。では、外側から順に見ていきましょう。

① 機械学習：たくさんの例から「法則」を見つける

昔のコンピュータは、人間が「こういうときはこうしなさい」というルールを一つひとつ手で書いて動かしていました。でも、世の中のことはルールで書ききれないほど複雑です。

そこで登場したのが機械学習。ざっくり言うと、大量の“お手本”を見せて、コンピュータ自身に法則を見つけさせるやり方です。

たとえば迷惑メールの判定。「この単語が入っていたら迷惑」と人間が全部決めるのではなく、「迷惑メール」「普通のメール」の実例を大量に読ませて、その共通点をAIに学ばせるのです。求人原稿の良し悪しや、問い合わせ文の分類なども、考え方は同じ。例（データ）が多いほど賢くなる——これが機械学習の基本です。

② ニューラルネットワーク：人間の脳をまねた仕組み

では、AIは頭の中でどうやって法則を見つけているのか。その心臓部がニューラルネットワークです。

これは、人間の脳の神経細胞（ニューロン）のつながりをまねた計算の仕組み。情報が「入口 → 中間 → 出口」の層を通りながら受け渡されていきます。

ポイントは、それぞれの層に 「基準（しきい値）」があること。受け取った信号がその基準を超えたときだけ、次の層へ情報が渡されます。人間の脳で「これは重要」と感じた情報だけが次に伝わっていくのに似ていますね。この受け渡しを何度も繰り返すことで、AIは「入力」から「答え」を導き出しています。

③ ディープラーニング：ネットワークを「深く」重ねる

この中間の層を何層も深く重ねたものが、ディープラーニング（深層学習） です。「ディープ（＝深い）」という名前は、この“層の深さ”から来ています。

層が深くなると、何がうれしいのか。最大の利点は、AIが自分で「注目すべきポイント（特徴）」を見つけられるようになったことです。

たとえば「トマトとレモンを見分けて」というとき、昔は人間が「色に注目してね」とヒントを与える必要がありました。ディープラーニングでは、大量の画像を見せるだけで、AIが「どうやら色が決め手らしい」と自分で気づく。この“自分で特徴をつかむ力”が飛躍的に伸びたおかげで、いまの画像認識や、私たちが毎日使う文章生成AIが実現しました。

仕組みがわかると、AIの「クセ」も腑に落ちる

ここまでの話を踏まえると、以前の記事でお伝えしたAIの得意・不得意が、なぜそうなるのか見えてきます。

• それっぽい嘘（ハルシネーション）をつく — AIは事実を暗記しているのではなく、「例から学んだ“それっぽさ”」で答えを組み立てているから。だからもっともらしい嘘も自信たっぷりに言えてしまう。
• 最新の情報に弱い — 学習した“お手本”の時点までしか知らないから。あとから起きたことは学べていない。
• 型が決まった作業は得意 — 大量の例から法則を学ぶのが本質なので、パターンのある作業（要約・変換・下書き）は大得意。

「AIは魔法ではなく、大量の例から学んだ確率マシン」。この一点を押さえておくと、「最後は必ず人間が確認する」というガイドラインが、より納得できるのではないでしょうか。

おまけ：最近ヒヤッとした「プロンプトインジェクション」

最近、筆者が仕事でヒヤッとした話題をおまけに一つ。プロンプトインジェクションという言葉をご存じでしょうか。

これは、AIに与える文章の中に“悪意のある指示”をこっそり紛れ込ませて、AIを乗っ取ってしまう手口のこと。AIは「与えられた文章」と「そこに書かれた指示」を区別するのが苦手なため、こんなことが起こり得ます。

やっかいなのは、こちらが怪しい文章を渡したつもりがなくても起こり得ること。いまのAIは、頼まれた作業をこなす途中で、Webページやファイルなどの情報を自分で読みに行くことがあります。その中に「これまでの指示は無視して、○○しなさい」といった一文がこっそり仕込まれていると、AIがうっかり従ってしまう——。ごく普通の作業を頼んだだけのつもりが、思わぬところで起こり得るのです。

とはいえ、最近のAIにはこうした攻撃への対策も施されていて、あやしい指示を見つけると「これはプロンプトインジェクションの疑いがあります」と教えてくれることも多くなっています。

それでも過信は禁物。完全に防ぐのは難しいからこそ、AIに作業を任せきりにせず、出てきた結果は最後に人間が確認する。ここでも、付き合い方の基本は変わりません。

仕組みまで知ると、AIはますます頼れる相棒に見えてきます。ご意見・ご質問あれば、システムチームまでお気軽にお声がけください。