「言語モデルの物理学」とは何か：LLMのふるまいを原理から理解する研究をやさしく整理する

Tech
Table of Contents

本記事は、joisino氏のブログ「言語モデルの物理学」の内容を、初学者にも読みやすいように再構成した要約です。元記事は非常に詳しい技術解説なので、深く学びたい方はぜひ原文もあわせて読むことをおすすめします。

一言でいうと何の話か

「言語モデルの物理学」とは、LLMを単にベンチマークの点数やモデルごとの性格で比べるのではなく、なぜその振る舞いが起きるのかを原理から理解しようとする研究方針です。

物理学といっても、力学や電磁気学をLLMにそのまま当てはめる話ではありません。ニュートン力学が「物体はなぜ動くのか」を法則として説明したように、LLMについても「なぜ文法を学べるのか」「なぜ算数を間違えるのか」「知識はどのように記憶されるのか」といった問いを、制御された実験で調べようという発想です。

なぜ普通のLLM評価だけでは足りないのか

現在のLLM研究では、モデルAがベンチマークで何点、モデルBが何点という比較がよく行われます。もちろんそれは重要ですが、点数だけを見ても「何が理由で良くなったのか」は分かりません。

特にウェブから集めた巨大コーパスには、ノイズ、重複、漏洩、翻訳されたベンチマーク、出典不明の解説などが混ざります。これでは、モデルが本当に能力を獲得したのか、たまたま似た問題を見たのか、データの偏りを拾っただけなのかを切り分けにくい。

そこで「言語モデルの物理学」では、ウェブデータではなく、研究者が完全に設計した人工データで小さなモデルを何度も訓練します。これは、空気抵抗のない環境で落下運動を調べるようなものです。現実を少し単純化することで、法則を見つけやすくするわけです。

もう一つの特徴：モデルの内部を見る

この研究群では、モデルの最終出力だけでなく、内部状態も詳しく調べます。

たとえば、LLMが算数の途中で間違った場合、出力だけを見ると「最後の答えが間違った」としか分かりません。しかし内部状態を分析すると、モデルが途中で自分の計算ミスに気づいているような情報が表れていることがあります。それでも次のトークンを出し続ける必要があるため、間違いを抱えたまま自然な文章を続けてしまう。

このように、LLMの出力は「頭の中で起きていること」の一部に過ぎません。内部表現を調べることで、モデルが何を理解し、どこで失敗しているのかをより細かく見られるようになります。

6本の研究で分かったこと

元記事では、Physics of Language Modelsプロジェクトの6本の論文が紹介されています。大きく分けると、文法、算数、知識の3テーマです。

1. 文法構造：LLMは複雑な文法をかなり正確に学べる

最初の研究では、文脈自由文法という人工的なルールで作ったテキストだけを使ってモデルを訓練します。モデルには文法ルールそのものを教えません。ただ、ルールに従って生成された文字列を見せるだけです。

その結果、モデルは複雑で曖昧な文法でも高い精度で扱えることが分かりました。さらに内部状態を調べると、モデルは単に表面的な並びを覚えているのではなく、階層構造や文法上の役割を内部に持っていることが示されます。

重要なのは、LLMが「文法の説明」を読んだから文法を覚えたのではない点です。生の文字列だけから、背後にある構造をかなりの程度まで獲得できることが、制御された環境で確認されています。

2. 算数：LLMは答えだけでなく途中の依存関係も扱っている

小学校レベルの算数問題を扱う研究では、LLMが未知の問題をある程度解けるだけでなく、問題の中の変数の依存関係を内部で追っていることが示されます。

面白いのは、モデルが間違うときです。出力としては流暢に解答を続けていても、内部状態には「このままだとまずい」と分かっているような信号が現れることがあります。つまり、モデルはいつも無自覚に間違っているわけではありません。間違いに気づいているのに、出力の流れを止められず、そのまま誤答へ進む場合があります。

3. 間違いから学ぶ：訂正能力は後付けだけでは難しい

続く研究では、モデルが一度間違えた後に、それを訂正できるのかが調べられます。

結論として、間違いの訂正能力は、単に後から少しファインチューニングすれば簡単に身につくものではありません。事前学習の段階から、間違いを検出し、修正するようなデータや構造を経験していることが重要になります。

これは実務的にも大事です。LLMに「間違えたら直して」と指示するだけでは限界があり、モデルが訓練時にどのような誤り訂正の経験をしているかが性能に効いてくるからです。

4. 知識の記憶：ただ読ませるだけでは、質問に答えられないことがある

知識に関する研究では、架空の人物プロフィールを大量に作り、モデルがそれをどう記憶し、どう取り出すかを調べます。

ここで重要なのは、モデルに事実を読ませただけでは、あらゆる聞き方に答えられるとは限らないという点です。たとえば「Aさんの誕生日はB」と学んでも、「Bが誕生日の人は誰か」という逆向きの質問には弱い場合があります。

これはLLMが検索エンジンそのものではないことを示しています。LLMはテキストの流れに沿って次のトークンを予測するように訓練されているため、知識の取り出し方にも方向性や形式の制約が残ります。

5. 知識操作：思考の連鎖は役に立つが万能ではない

知識を組み合わせて答えるタスクでは、思考の連鎖、つまり途中の推論を書かせる方法が役立つことがあります。ただし、訓練時とテスト時で推論の形式がずれると、うまく機能しません。

元記事が強調しているのは、モデルは「保存した形」に近い形で知識を取り出しやすいということです。人間なら頭の中で向きを変えて検索できるような情報でも、LLMでは学習時の表現形式に強く影響されます。

6. 知識容量：パラメータ1つあたり約2ビットの記憶容量

最後の研究では、モデルがどれくらいの知識を記憶できるのかが調べられます。元記事で紹介されている大きな結論は、LLMはパラメータ1つあたり約2ビットの情報を記憶できるというものです。

また、int8量子化では記憶容量があまり落ちない一方、int4では効率が大きく悪化すること、質の低いデータを混ぜると記憶効率が悪くなることも紹介されています。ただし、重要なデータに出典を示すような手がかりを付けると、悪影響を抑えられる可能性があります。

実務への示唆

この一連の研究から得られる示唆は、LLM開発や活用にもかなり実用的です。

  • データ品質は非常に重要：ゴミデータは単に無駄なだけでなく、重要な知識の記憶を邪魔する可能性があります。
  • データの形式も重要：どの向きで、どの表現で学習させるかによって、後から取り出せる知識が変わります。
  • 誤り訂正は後付けだけでは限界がある：モデルに訂正能力を持たせたいなら、事前学習や訓練データ設計の段階から考える必要があります。
  • ベンチマークだけでは原因が分からない：性能差の理由を知るには、制御された実験と内部分析が必要です。
  • LLMは検索エンジンではない：知識を持っているように見えても、逆向き検索や形式の違う質問には弱いことがあります。

まとめ

「言語モデルの物理学」は、LLMをブラックボックスのまま点数で競わせるのではなく、なぜその能力が生まれ、なぜ失敗するのかを実験的に理解しようとする試みです。

この方向性の面白さは、LLMの不思議な振る舞いを「なんとなくすごい」「なんとなく危ない」で終わらせないところにあります。制御されたデータで訓練し、内部状態まで見ることで、LLMの文法理解、推論、知識記憶、誤り訂正の仕組みを少しずつ分解していく。

最終的に、物理学のような美しい統一法則がLLMにも見つかるかは分かりません。それでも、LLMをより強く、より信頼でき、より透明なシステムにしていくうえで、この研究方針はかなり重要な道筋だと感じます。

参考リンク

コメント