── 先週の「いちごの種カウンター」は、なぜ動いたのか
先週、あなたは自分の手で「いちごの写真から種だけを数えるツール」を作りました。プログラミング経験ゼロで、です。
でも、あのとき画面の向こうで何が起きていたのかは、まだ説明していません。今日から3回に分けて、その種明かしをします。第1回目の今日は、いちばん核心にある部品 ── LLM(大規模言語モデル)の中身です。
数式は一切使いません。ゴールは暗記ではなく、「なんだ、そういうことか」と怖くなくなることです。
「AI」という言葉は、実は70年前からあります。そして時代ごとに、中身のまったく違うものが「AI」と呼ばれてきました。まず年表で全体を眺めます。
この年表で覚えてほしいことは、たった1つです。「AI」の作り方は、途中で2回、根本から変わったということ。
最初のAI(エキスパートシステムまで)は、人間がルールを全部書くものでした。「もし体温が38度以上で、咳があって、……ならインフルエンザを疑う」といった規則を、専門家から聞き出してひたすらプログラムに書き込む。しかし現実の世界はルールで書き尽くすには複雑すぎて、この路線は行き詰まります。
そこで発想を逆転させたのが機械学習(第2章)、それを強力にしたのがDeep Learning(第3章)、そして言葉の世界でそれが花開いたのがLLM(第4章)です。つまり今日の章立ては、そのままAIの歴史をなぞっています。
機械学習を一言でいうと、こうなります。
身近な例が迷惑メールフィルタです。「怪しいメールの条件」を人間がルールで書き尽くすのは不可能ですが、「これは迷惑メール」「これは普通のメール」というラベル付きの実例を大量に見せれば、機械が判別の勘所を自分で見つけます。健診データから病気のリスクを予測するのも、原理は同じです。
ただし、この時代の機械学習にはまだ大きな弱点がありました。それが次章のテーマです。
従来の機械学習には、じつは人間の下ごしらえが残っていました。「データのどこに注目するか」だけは、人間が決めていたのです。
たとえば画像から病変を見つけたいとき、「輪郭のギザギザ度合いを数値化しよう」「色の濃さを測ろう」といった注目ポイント(専門用語で「特徴量」)は人間が設計し、機械はその数値の組み合わせ方だけを学んでいました。注目ポイントの設計が下手だと、どれだけ学習させても性能は上がりません。
Deep Learning(深層学習)の革命は、ここを壊したことです。
転機は2012年。世界的な画像認識コンペで、Deep Learning を使ったチームが従来手法に圧倒的な大差(誤答率 26.2%→15.3%)をつけて優勝しました。それまで研究者が何年もかけて設計してきた「注目ポイント」を、機械が自力で見つけたほうが強かった ── この事件をきっかけに、世界中の研究が一気に Deep Learning へ流れ込みます。2016年には囲碁で世界トップ棋士に勝ち(AlphaGo)、「直感が必要だから機械には無理」と言われた領域まで塗り替えました。
画像で起きたこの革命が、「言葉」の世界で起きたらどうなるか。それが次章、今日の主役です。
ChatGPT や Claude の中身である LLM(Large Language Model/大規模言語モデル)。名前はいかめしいですが、その正体は拍子抜けするほどシンプルです。
たとえば、こんな文の続きを考えてみてください。
あなたが「痛み」と即答できたのは、日本語の膨大な経験から「この流れならこの言葉」という感覚を持っているからです。LLMは、この「続きの感覚」を桁違いの規模で学習したものです。そして重要なのは、答えを1つに決め打ちせず、確率のリストとして持っていること。この「確率で答える」という性質が、LLMの強みと弱点の両方の源になります(4-7で戻ってきます)。
「それだけで、あの流暢な会話になるの?」と思うはずです。なります。1語選んだら、それを文末に足して、また次の1語を予測する。この繰り返しだけで、質問への回答も、要約も、そしてプログラムのコードさえも生成されています。ChatGPTの画面で答えが少しずつ流れるように出てくるのは、演出ではなく、本当に1語ずつ作っているからです。
ここまで「言葉」と言ってきましたが、正確にはLLMは単語でも文字でもなく、トークンという単位で文章を読み書きしています。トークンは「言葉のかけら」で、単語より少し細かいことが多い。LLMに入る文章はすべて、まずトークンの列に刻まれます。
※ このデモは雰囲気を体験するための簡易版です。実際の分割はモデルごとの辞書で決まり、これとは異なります。本物は章末の参考資料にあるツールで試せます。
なぜこの話をわざわざするのか。LLMの得意・不得意の多くが、トークンで説明できるからです。有名な例を1つ。少し前まで、最先端のLLMに「strawberry には r が何個ある?」と聞くと「2個」と誤答することがよくありました。
種を明かせば、LLMには strawberry という文字の並びが見えていません。たとえば straw/berry のような数個のかけらとして受け取っているので、その中に文字が何個あるかは「見れば分かる」ことではないのです。カルテの画像をFAXで受け取った人が、画数を数えろと言われて困るようなものです。
「次の言葉当て」の研究は昔からありました。しかし長い文章になると、昔の方式は文を頭から順に読むうちに前のほうを忘れてしまい、まるで使い物になりませんでした。
これを打ち破ったのが、2017年にGoogleの研究チームが発表した Transformer(トランスフォーマー) という設計です。論文のタイトルは “Attention Is All You Need”──「注意こそすべて」。その名の通り、核心はアテンション(注意)という仕組みにあります。
人間が「それ」という代名詞を読んだ瞬間、無意識に文の前方から指すものを探すのと同じことを、すべての言葉のペアについて計算でやっている、と思ってください。
Transformerにはもう1つ決定的な利点がありました。文を頭から順に処理する必要がなくなったため、学習を大規模に並列化できるのです。つまり、コンピュータとデータを注ぎ込めば注ぎ込むほど賢くなる設計だった。ここから「より大規模に(Large)」の競争が始まり、数年後の ChatGPT(2022年11月公開)につながります。名前の種明かしをすると、GPTの「T」は Transformer の T です。
ここで少しだけ寄り道を。AIのニュースでは「GPUが足りない」「NVIDIAの株価が…」という話ばかり出てきます。コンピュータの頭脳はCPUのはずなのに、なぜでしょうか。答えは、いま見た「一望」にあります。
CPUは、非常に賢い頭脳を数個だけ積んだ「司令塔」。どんな種類の仕事でも臨機応変にこなせますが、基本は順番に処理します。GPUはその逆で、単純な計算しかできない小さな頭脳を数千個並べた部品。もともとはゲーム画面の何百万個の点(ピクセル)の色を同時に計算するために生まれました。
そしてTransformerの中身は、まさに「同じ形の掛け算と足し算を、すべてのトークンのペアについて一斉にやる」計算の塊です。順番にやる必要がないから、GPUの「数千人で一斉に」と完璧に噛み合う。LLMの学習と応答が現実的な時間で終わるのはGPUのおかげで、世界中で争奪戦が起き、製造元のNVIDIAが世界有数の企業になったのはこのためです。
では、その「続きの感覚」はどうやって身につけさせるのか。LLMづくりは大きく2段階です。
「大規模」の意味も補足しておきます。LLMの内部には、学習で調整される無数のツマミ(パラメータ)があります。ChatGPTの前身のGPT-3で約1750億個。このツマミの数と読んだ文章の量を桁違いに増やしたら、翻訳も要約も推論も教えていないのにできるようになった ── これが2020年代前半に世界を驚かせた発見でした。
ここで、AIの世界の基本用語をひとつ整理しておきます。AIには、はっきり分かれた2つの「時間帯」があります。学習(training)と推論(inference)です。
この区別から、日常の疑問がいくつも解けます。まず、会話してもモデルは賢くなりません。チャットであなたが何かを教えても、それはその会話の中で参照されるメモにすぎず、ツマミは1ミリも動いていない。翌日また同じモデルに聞けば、同じことを知らないままです。モデルの知識が更新されるのは、開発元が次の版を学習し直したときだけ。だからどのモデルにも「知識の締め切り日」があり、それ以降の出来事を(検索機能などを使わない限り)知らないのです。
コストの偏り方も対照的です。学習は数万台のGPUを数ヶ月動かす一大事業で、これが先ほどのGPU争奪戦の主戦場。推論は1回ごとには小さな計算ですが、世界中の利用者が毎日何十億回も行うため、塵も積もれば膨大になります。
ここまでのLLMは、聞かれた瞬間から1語ずつ答えを吐き出す「即答型」でした。しかし複雑な問題では、人間だってそうしません。いったん紙に書いて整理してから答えるはずです。
2024年頃から登場した Reasoning(リーズニング/推論)モデルは、まさにそれをやります。回答の前に、モデル自身が長い下書き(思考メモ)を生成して、場合分けや検算をしてから清書を返す。下書きもまた「次の言葉当て」で書かれているのがミソで、仕組みは同じまま、使い方の発明で精度が大きく上がりました。数学・科学・プログラミングのような、途中の筋道が大事な問題ほど効きます。
いい質問です。答えは「速さでも、自動かどうかでもない」です。線引きは、プログラムの中に「確率的な推論」という新しい部品が使えるようになったことにあります。
従来のプログラムは、ここまで見てきた「第1世代」と同じで、決めたことを決めた通りにやる機械でした。「画像のこの座標の色が赤なら…」のように、すべての手順を人間が確定的なルールで書き切る必要があった。だから「いちごの種を数える」のような、ルールで書き尽くせない曖昧な仕事は、プログラムにはほぼ不可能だったのです(作るなら画像認識の専門家チームが必要でした)。
いまは違います。先週あなたが作ったツールの中身は、実は「写真をLLMに渡して『種を数えて』と日本語でお願いする」という数十行のプログラムです。つまり、かつてはルールで書けなかった「見て、判断する」の部分を、LLMの確率的な予測に丸ごと任せられるようになった。プログラムの部品として「考える箱」を組み込めるようになったことが、本質的な変化です。
そしてもう1つ。コードそのものも「言葉」なので、LLMはコードの続き当てもできます。あなたが日本語で要望を伝えると、AIがコードを書く。先週の体験はこの2つの合わせ技でした。速さは結果であって、本質ではありません。
ただし、この「確率で答える」部品には、必ず知っておくべき副作用があります。
LLMは「知らない」ときでも、確率的にそれらしい続きを作れてしまいます。存在しない論文を引用したり、架空の薬剤名を自信満々に答えたりする現象はハルシネーションと呼ばれ、仕組み上ゼロにはできません。嘘をつく意図があるのではなく、「次に来そうな言葉」を出す装置が、事実の裏取りをせずに走った結果です。
対策はシンプルで、臨床と同じ。重要な判断ほど、一次情報で裏を取る。AIの出力は「優秀だが時々自信満々に間違える研修医のプレゼン」として扱ってください。
患者さんの個人情報は、絶対にAIに入力しない。入力した文章は外部のサーバーに送られます。今日の内容を踏まえると理由も明確です──あなたの入力は、事業者の設定によっては将来の学習データになり得ます。練習・デモには必ず架空のデータ(合成データ)を使います。
ここからは、あなたの本命である「画像」の話です。
「モーダル(modal)」は情報の種類のこと。文章だけでなく画像や音声も扱えるLLMをマルチモーダルLLMと呼びます。2023〜24年にかけて主要なモデルが続々と画像入力に対応し、いまのChatGPTやClaudeはみなこれです。
仕組みは、拍子抜けするほど今日の話の延長線上にあります。画像を小さなパッチ(断片)に切り分け、それぞれをトークンの仲間に変換して、文章のトークンと同じ列に並べてTransformerに流し込む。すると「画像の断片たち」と「言葉たち」の間でアテンションが働き、画像について言葉で答えられるようになります。
一方、「画像を作るAI」──写真のような画像を生成するサービスの多くは、LLMとは別系統の拡散モデル(Diffusion Model)という仕組みを使っています(2022年の Stable Diffusion などで一気に普及しました)。
原理は彫刻に似ています。まず砂嵐のような完全なノイズ画像から始め、「このノイズを少しだけ取り除くと、お題(例:『聴診器を持つ猫』)に近づくにはどうすべきか」という予測を、何十回も繰り返す。ノイズの霧が晴れていくと、そこに画像が現れます。
| マルチモーダルLLM | 拡散モデル | |
|---|---|---|
| 役割 | 画像を見て・読んで・答える(理解) | 画像を作る(生成) |
| 原理 | 続き(次のトークン)の予測 | ノイズ除去の反復 |
| あなたの用途では | ◎ 種を数える・病変を探す等はこちら | 説明用イラスト作成などで出番 |
あなたの本命である「画像から同じものを検出して数える」は、理解する側の仕事です。ただし──「本気で正確に数える」には、実はもう一歩先の話があります。それが最終章です。
最後に、正直な話をします。先週のいちごの種カウンターは、マルチモーダルLLMに写真を渡して「数えて」とお願いするだけの、いちばんシンプルな作りでした。すぐ作れて、日本語で頼めて、たいていの用途には十分。でも、弱点もあります。
第4章で見たとおり、LLMの答えは「もっともらしい続き」の生成です。「種は214個です」と答えるときも、1粒ずつ指差し確認をした結果ではなく、画像全体の印象から続きの言葉を紡いでいます。だから数十個までならかなり正確でも、小さな種が数百個ひしめく写真では、見落としや数え間違いが混ざり得ます。いわばハルシネーションの画像版で、数えるたびに答えが少し変わることさえあります。
専用モデルの作り方は、第2〜3章で見た機械学習の教科書どおりです。① いちごの写真を大量に集め、② 種の位置ひとつひとつに人間が印を付けて「正解データ」を作り(この下ごしらえをアノテーションと呼びます。地味ですが最重要工程です)、③「画像のどこに種があるか」だけを当てる Deep Learning モデルに学習させる。物体検出と呼ばれる分野です。出力は言葉ではなく「見つけた位置(座標)のリスト」なので、個数はそれをただ集計するだけ。数え間違いという概念自体が消えます。
大事なのはここです。この専用モデルは、「次のトークン当て」をしません。トークンも、Transformerの会話能力も持たない、第3章で見た Deep Learning(画像認識)の直系の子孫です。世の中で「AI画像診断」として医療機器承認されているもの──胸部X線や内視鏡の病変検出支援など──も、基本的にこちらの系統です。「AI」と一括りにされているものの中に、しゃべる系統(LLM)と見る系統(画像認識)という別の仕組みの家系がある、というのが今日最後の種明かしです。
| マルチモーダルLLM | 専用の画像認識モデル | |
|---|---|---|
| 作る手間 | すぐ試せる(お願いするだけ) | データ集めとアノテーションから |
| 精度 | 用途次第。ブレることがある | 特化した仕事には高く、安定 |
| 応用範囲 | 何にでも使える | 学習させたその仕事だけ |
| 会話 | できる(日本語で指示・質問) | できない(座標や分類を返すだけ) |
あなたの本命「静止画像から同一のものを検出して数える」への道筋も、これで描けます。まずマルチモーダルLLMで手早く試す(先週すでにやりました)。精度が足りなければ、アノテーション+専用モデルの世界へ進む。Phase 2 以降で、この階段を一段ずつ登っていきます。
今日の内容は、以下の資料をかみ砕いたものです。どれも非IT職でも読める・見られるものを選びました。気が向いたときにどうぞ(宿題ではありません)。