3行でいうと

  • LLMは、ここまでの文章の続きを予想して書く仕組みです。スマホの次の単語の候補を、とても大きくしたようなものです。
  • 文章をトークンという小さな単位に切り、次に来そうなものの確率を出して、ひとつずつ選んで書いていきます。
  • 検索して引用しているのではなく、学んだ癖から文章を作ります。ある時点より先の情報は持っていません。
  • なめらかで自信ありげな文章でも、正しいとは限りません。数字、日付、人名は元の資料で確かめます。

この記事は公式・一次資料を読んでまとめたものです。この記事は、実際に使って確かめた記録ではありません。

先に結論

たとえ話：膨大な本を読んだ「続きを書く名人」

スマートフォンで文字を打つと、次の単語の候補が出ます。あの機能を、とてつもなく大きくしたものを想像してください。

ある人が、図書館の本を何十万冊も読みました。「吾輩は猫で」と書かれたら、続きは「ある」だろう、と分かる。そのくらい、言葉の並び方の癖を覚えています。この人に「この文の続きを書いてください」と頼むと、癖から見て自然な言葉を、ひとつずつ選んで書いていきます。

LLMは、この「続きを書く名人」に近い存在です。ただし、たとえ話なので、実際の中身は人間とは違います。名人は、本を手元に置いて引いているのではありません。読んだ結果として身についた癖で書いています。この点は、あとで大事になります。

仕組みを、順番に

1. 文章を「トークン」に切る

AIは文章を、トークンという小さな単位に切って扱います。Anthropicの用語集では、トークンは言語モデルの最小の単位で、単語、単語の一部、文字、バイトのどれにも当たりうると書かれています。詳しくは別の記事（トークンとは何か）にまとめます。

2. 「次のトークン」を予想する

Googleの機械学習の教材は、言語モデルを「ある並びの中で、トークンやトークンの並びが出る確からしさを見積もるもの」と定義しています。つまり、ここまでの文を見て、「次に来そうなもの」の確率を出します。

3. 前の部分をよく見る（Transformer）

今のLLMの多くは、Googleの教材で「Transformer（トランスフォーマー）」と呼ばれる設計を土台にしています。その中心の考え方が「自己注意（セルフアテンション）」で、教材は、ひとつのトークンを理解するとき、ほかのトークンがどれだけ影響するかを見る仕組みと説明しています。たとえば「それ」が「動物」を指すのか「道」を指すのかを、前後の言葉から判断するのに役立つ、という例が載っています。

文章を書くとき（デコーダー型）は、すでに書いた分だけを見て、次のトークンを作ります。それを繰り返して、文章ができあがります。

4. 訓練は2段階のイメージ

実際に各社がどんな手順でチャット用のAIに仕上げているかの細部は、この記事では確かめていません。

5. 「ばらつき」を決める設定がある

Anthropicの用語集によれば、temperature（温度）という設定で、予想のばらつきを変えられます。高いと多様で創造的に、低いと保守的で決まりきった答えになります。同じ文書は、温度を0にしても、結果が完全に同じになるとは限らないと書いています。同じ質問をしても、毎回答えが少し違うことがあるのは、この仕組みのためです。

「LLM」と「チャットのAI」は、同じものか

少し違います。LLMは、文章を作る「エンジン」にあたるものです。ChatGPTやClaudeのようなチャットの画面は、そのエンジンを使ったサービスです。

Anthropicの公式のモデル一覧では、「Claude Sonnet 5.5」「Claude Haiku 5.5」のように、モデルごとに名前があり、開発者が使うときの呼び名（API上の名前、たとえば claude-sonnet-5-5）も決まっています。同じ会社でも、モデルによって、一度に扱える量や料金が違います（2026年10月8日確認）。「Claude」という名前だけでは、どのモデルの話か分からないことがあります。

実際の使い道

公式の説明で挙がっているのは、文章の生成、質問への回答、要約です。Anthropicの用語集がそう書いています。ほかに、Googleの教材には、指示文に例を入れて出力を変える方法（プロンプトエンジニアリング）が出てきます。例を何も入れない「ゼロショット」と、複数の例を入れる「フューショット」があります。この方法ではモデルの中身（パラメータ）は変わりません。

見立てです。「続きを自然に書く」ことが得意なら、文章の下書き、言い換え、要約、翻訳のように、言葉の形を整える仕事と相性がよいはずです。一方で、事実の確認や計算の正確さが命の仕事は、人の目で確かめる前提で使うのが安全だと思います。

誤解されやすい点

検索して答えているわけではない

LLMの答えは、学んだ癖から生成された文章です。ネットを検索して引用しているのとは違います。資料を調べてから答える仕組みを組み合わせた製品もあります（RAGと呼ばれる方法で、別の記事で扱います）。ただし、個々の製品がどう組み合わせているかは、この記事では確かめていません。

最新のことは知らない

AWSの解説は、LLMは、ある時点までのデータで訓練されていて、そこから先の情報はないと書いています。Anthropicのヘルプも、モデルには「知識の期限（ナレッジカットオフ）」があり、それ以降の出来事には正確な情報がないかもしれない、と警告しています。たとえばAnthropicの公式ページでは、Claude Sonnet 5.5、Haiku 5.5、Opus 5.5、Fable 5.1の知識の期限が2026年6月と書かれています（2026年10月8日確認）。

なぜ間違うのか

OpenAIは2025年9月5日の文書で、ハルシネーションを「もっともらしいが事実でない文」と呼んでいます。理由として、次の2つを挙げています。

Googleの用語集は、ハルシネーションと同じ意味で「作話（confabulation）」という言葉を紹介しています。

「賢い」と「正しい」は別

見立てです。文章がなめらかで自信ありげだと、中身も正しいと感じてしまいます。でも、仕組みからすると、なめらかさと正しさは別のものです。数字、日付、人名、法律や薬の話は、元の資料で確かめてください。

気をつけること

出典

更新履歴