top of page

LLMの世界モデルは誰が作ったのか──人間の経験の継承から、自律的な更新へ

11月13日
読了時間: 16分

シリーズ: 論文渉猟


◆今回の論文:Adam Safron et al., "World models, artificial general intelligence and the hard problems of life–mind continuity: toward a unified understanding of natural and artificial intelligence" (Philosophical Transactions of the Royal Society A, 2026年5月14日)

  • 概要:自然知能と人工知能の世界モデルを比較する特集号の導入論文。因果構造、行為、目的、自己モデル、身体、社会学習をめぐる寄稿を紹介し、現在のAIと自然知能の接点と相違を検討する。各寄稿の実証結果だけでなく、それらの含意に関する編集者の解釈を含む。



世界を直接経験していないAIが、なぜ世界についてこれほど多くを語れるのか。その驚きは、言語を世界の外側に置くところから生まれているのかもしれない。文章を書いた人間の側では、すでに観察、失敗、実験、交渉が繰り返されていた。AIが読んだのは文字列だが、その文字列の成立まで文字だけで完結していたわけではない。


ただし、他者の経験を記した文章を学ぶことと、その背後にある世界の構造を再構成することは同じではない。さらに、その構造を自らの経験で訂正できるかという問いが残る。世界モデルの有無を論じるためには、この三つを分けなければならない。


英国王立協会の特集号を導く論文は、その区別を考えるための広い見取り図を与えている。まずその議論をたどり、次に、世界モデルを誰が獲得し、誰の経験で更新するのかという問題へ進みたい。



一つの言葉に、異なる要求が入っている


サフロンらの2026年の導入論文は、世界モデルを単一の定義に固定しない。問われるのは、どのシステムが、どんなモデルを持ち、それが推論、学習、行為にどう働くかである。対象は大規模言語モデル、LLMに限らず、動物、細胞、集合的な知性にまで及ぶ。


その幅は豊かさであると同時に危うさでもある。世界について何らかの情報を持つことから、行動を支える精密な因果予測までを同じ名前で呼べば、議論の途中で要求がすり替わる。著者らも、世界モデルが何でも詰め込める言葉になりかねないと警戒している。


結論部の区別は明確だ。世界についての情報を保持するという広い基準なら、LLMは明らかに満たす。だが、基底にある因果構造を表すことを要求すると確実ではなくなる。自分の行為によって世界がどう変わるかを予測し、目的を達成するために使う能力まで求めれば、生物と現在のAIとの差はさらに大きくなりうる。


したがって、ある意味ではモデルがあり、別の意味では十分でないことは矛盾しない。LLMに世界モデルがあるかという問いは、何を世界モデルの条件とするかを伴って初めて評価可能になる。



成績の向上と、圧縮された理解の形成


編集者らの総合判断は慎重である。現在のAIは革命的であっても、人間の柔軟な汎用性を支えるほど首尾一貫した因果モデルを形成しているかは疑わしいという。ただし、これは特集の全寄稿が一つの結論を実証したという意味ではない。導入論文は、自らの解釈が寄稿者の見解と異なりうることを断っている。


その慎重さを支える一つの軸が、クラカウアーらによる能力と知性の区別である。モデルを大きくしたら特定の課題が解けるようになった。それだけで、内部に新しい説明原理が生まれたとは言えない。少ない構造で多くの状況を表し、別の課題にも転用できる圧縮が形成されたかを調べる必要がある。


たとえば、経験した手順を大量に蓄えることと、手順を生む関係を学ぶことは違う。後者なら、見たことのない組み合わせについても予測できるかもしれない。導入論文はオセロGPTを取り上げ、内部から盤面状態を読み出せても、それが統合されたゲームモデルなのか、多数の局所的な解き方の集まりなのかを区別すべきだと紹介する。


この評価をAI全般の最終判決にする必要はない。重要なのは、正答、内部情報の存在、統合された表現、新しい状況への一般化を、それぞれ確かめるという姿勢である。人間も局所的な経験則を多用する以上、比較の軸は、人間だけが一貫したモデルを持つという理想化ではなく、どの条件で、どんな再利用が可能になるかに置かれる。



因果構造は、行為を通じても学ばれる


世界モデルの役割を知識の保有だけで捉えないために、導入論文は探索を重視する研究を紹介する。ツィヴィディスらのゲーム学習システムは、物体、行為主体、相互作用の規則について仮説を作り、情報を得られる相互作用を選び、仮の未来を試して計画する。既知の答えを呼び出すだけではなく、何を調べるかを学習の過程へ組み込む設計である。


ユウ、アレン、ギノサー、ゴプニックらの寄稿は、エンパワーメント (empowerment)を因果学習の手掛かりとする。行為と結果の間に、主体が使い分けられる関係がどれだけあるか。導入論文では介入と結果の状態の相互情報量として説明され、制御可能で、かつ体系的に多様な結果を生む仕組みへの探索と結び付けられる。


紹介された子どもと大人の研究では、目的のある作業と遊びで選好の傾向が異なる。予想外の変化が多ければ常によいのでも、制御さえできればよいのでもない。何のために関わるかによって、探すべき違いが変わるのである。


ここから編集者らは、世界モデルと行為主体性の結び付きを論じる。自ら変えられることを学ぶと、次に試せることが増える。その探索が、さらに因果モデルを変える。もっとも、ゲームや実験課題で示された学習の仕組みから、現実のあらゆる環境に対応する汎用性を直ちに導くことはできない。これは設計上の手掛かりであり、到達の保証ではない。



世界の切り分け方に、目的と自己が入る


アミールらの寄稿は、世界の表現と目的の関係をさらに深く扱う。同じ目的に照らして等しく望ましい経験の分布をまとめることで、何を区別し、何を同じものとして扱うかが定まるという枠組みである。外の状態を中立的に写し終えてから価値を加える、という順序だけでは捉えられない。


椅子を探す人には座面の高さが重要で、通路を確保する人には移動のしやすさが重要になる。ここでアフォーダンス (affordance)、すなわち主体と環境の関係における行為可能性が関わる。同じ椅子でも、誰が、どの身体状態で、何をしようとするかによって、できることは変わる。


自分の能力も、その予測に含まれなければならない。特集では自己モデルも工学的に検討される。自らの内部状態の一部を予測する補助課題を与えた神経ネットワークが、主課題の精度をほぼ保ちながら内部の複雑性を減らすという研究が紹介される。これは、自己をモデル化することを意識の有無へ直結させず、表現や計算の効率の問題として調べる道を示す。


射程はさらに、細胞や組織の適応、価格を介する集合的な調整、人間とAIの社会学習へ広がる。これらを一つの機構で説明できたという話ではない。異なる基盤と規模において、何がモデルとして働き、行為をどう調整しているかを比較するための問題設定である。



原論文が残す問いは、言語の外側だけにあるのか


以上をまとめると、原論文の問題意識は、情報量と流暢さだけでは人間や生物の知性を説明しきれないという点にある。因果構造、目的、身体、時間的な変化、自己と他者の学習が、世界モデルの形成に関わる。結論も、世界モデルは中立的な抽象物ではなく、こうした条件に形作られるという方向へ向かう。


しかし、言語がその条件から完全に切り離されているという結論にはならない。原論文自身、言語には豊かな因果知識が含まれると認め、目的を持つ人間の言語行動から、どのような行為主体的な性質をLLMが学びうるかを問うている。他方で、それが一貫した因果モデルを作らずに、人間の理解に似た出力を可能にしているのではないかという疑いも提示する。


この緊張を残すことが重要だ。言語の予測であることから、世界をモデル化できないと結論することも、世界について語れることから、内部に人間型のモデルがあると結論することもできない。


ここからは、この問題設定を踏まえた私の考察である。能力の有無だけでなく、モデルを得る経路と訂正する経路を区別すると、LLMの現在地と、その先の設計課題を一続きに捉え直せるのではないか。



言語には、世界を経験した人間の仕事が残っている


物が落ちること、食べなければ体力が失われること、約束を破れば相手の行動が変わること。こうした関係が言語に現れるまでに、人間は世界へ働きかけ、その結果を受け取っている。科学論文なら、変数を操作し、比較し、測定した過程まで記録される。言語は世界について語る媒体であると同時に、人間が形成した世界の見方を部分的に外部化する媒体でもある。


したがって、言語の統計を学ぶことと、世界の構造について学ぶことは両立しうる。問うべきなのは、それが何についての統計であり、その背後の関係をどこまで再構成したかである。文章の続きを広く予測するうえで、時間、位置、目的、因果関係を表す構造が役立つ可能性はある。


ただし、ここには三つの飛び越せない区別がある。因果情報が文章に存在すること。その関係が内部表現として取り出されること。そして、未知の条件で適切に使われること。最初が成り立っても、残りは自動的には導けない。訓練目的が次の語の予測だという説明は、その途中で何が形成されたかへの答えにはならない。


私がLLMの能力を、人間の経験から作られたモデル断片の継承として読みたいのは、この区別を保てるからである。世界との関係を一切持たない記号操作と断じる必要はなく、かといって、人間と同じ理解を丸ごと受け取ったと考える必要もない。



継承は豊かだが、正しさを保証しない


継承されるのは、世界そのものではない。人間が作った複数の世界の見方である。言語には実験の成果とともに、迷信、誤った因果推論、過去の学説、偏見、フィクションが蓄積している。相互に矛盾する断片を圧縮したからといって、それらが正確で一貫したモデルへ統合されるとは限らない。


これはAIだけの欠陥でもない。人間の世界理解も、自分の身体で直接得た経験だけから作られてはいない。遠い天体、歴史上の出来事、専門外の実験についての知識は、他者の観察や推論を受け継いでいる。人間は直接世界を知り、AIは言葉しか知らないという対比は、この社会的な継承を見失わせる。


違いを探すなら、継承したモデルを何によって校正できるかを見るべきだろう。予測が外れたとき、実験し直せるか。他者の検証を取り込めるか。誤りを、記録の間違い、推論の間違い、環境の変化に分けられるか。人間にこうした回路があっても、常に作動するわけではない。直接経験も、都合よく解釈されうる。


したがって、継承と経験を、弱い知性と強い知性の二分類にしてはならない。重要なのは、その間に訂正が通ることである。膨大な継承知は、すべてを自分で試す負担を省き、どこを試すべきかを絞る足場にもなる。次のAIを考える際にも、継承を捨てることより、その知識を更新可能な仕組みへ組み込むことが課題となる。



経験を保存するだけでは、モデルは変わらない


ここで世界モデルを、構造的な世界情報、因果関係を扱うモデル、介入によって持続的に修正されるモデルという三水準で整理してみる。これは原論文の公式分類ではなく、獲得と更新を考えるための分析枠である。技術史が必ずこの順番を進むという主張でもない。


第三の水準では、動作の成功と学習の成立を分ける必要がある。たとえば、箱を右からつかんで失敗し、左からつかみ直して成功するロボットを考える。一回の作業の文脈を使い直しただけなら、次の作業には何も残らないかもしれない。失敗の映像を保存しても、再利用可能な関係が取り出されなければ、経験の倉庫が大きくなるだけである。


モデルが更新されたと言うためには、箱の形、表面、重さ、自分の姿勢などの関係について予測が変わり、その変化が別の課題にも使われる必要がある。ただし、一回の失敗だけで原因を決めれば誤学習になる。滑った原因が表面にあるのか、把持力にあるのかを分けるには、条件を変えた比較が要る。


そこで、自ら何を試すかを選ぶ能力が重要になる。複数の仮説が異なる結果を予測する操作を選び、結果に応じて仮説を修正する。この探索、介入、評価、記憶、モデル修正が循環して初めて、経験を増やすことが理解を更新することへつながる。


持続性は必ずしも基盤モデルの重み変更を意味しない。外部記憶、更新可能な因果モデル、計画器の組み合わせでもよい。逆に、重みを更新したというだけで、正しい因果関係や長期の再利用が保証されるわけでもない。評価対象は、システム全体が何を学び、それがどこで使われるかである。



身体が加えるのは、自分にできることの校正である


自ら目標に向けて計画し道具を使うエージェント型AI (agentic AI)は、この循環を組む一つの足場になる。ただし、作業の自動化と持続的なモデル形成は同義ではない。ロボットが動く映像だけでも、学び続ける主体が成立したとは言えない。


介入は物理世界に限られない。コードを変更し、実行結果を観察して原因の仮説を修正することも、環境との因果的な相互作用である。シミュレーション内でも同様の探索が可能だ。その場合にも、作業をまたぐ保持と一般化は別途問われる。


それでは、物理世界で知覚し行動するフィジカルAI (Physical AI)には何が加わるのか。人間にとっての行為可能性について知ることと、自分の身体で何ができるかを知ることの距離を、直接校正できる点である。ナイフが物を切るという知識だけでは、自分の把持機構で安全に使える角度や力は分からない。


しかも、能力は固定していない。部品の摩耗、電力、姿勢、荷重、利用可能な道具が変われば、同じ物体に対してできることも変わる。外界のモデルだけでは、失敗をすべて環境のせいにしかねない。自分の能力が変化したという仮説を持ち、世界の変化と切り分けられる自己モデルが必要になる。


身体は、知性一般の成立を一挙に保証する鍵ではない。特定の環境において、主体と環境の関係を学ぶ経路である。シミュレーションで得た関係を実機へ移す場合も、その関係が摩擦や遅延や損傷の条件をまたいで保たれるかを確かめなければならない。



何が観察されれば、更新したと言えるのか


この見立てを将来の期待だけで終わらせないために、観察可能な違いへ戻したい。未知の環境で予測の外れを検出し、原因を見分けるための操作を選ぶ。結果を受けて関係のモデルを修正し、その修正を別の時間、別の課題へ持ち越す。さらに、自分の能力の変化に応じて、できることの見積もりも変わる。これらは、評価の具体的な対象になりうる。


たとえば、経験後に成績が上がっても、同じ箱を同じ順で動かす試験だけでは、手順を記憶したのか、関係を学んだのかが分からない。形や配置を変えた課題、経験記録を渡さない条件、操作結果が変わった環境を比較する必要がある。説明文を更新したという自己申告より、予測と行動がどの条件で変わったかの方が重要だ。


自ら文章や画像を生成することも、これとは区別される。生成した問いと答えを増やすだけなら、既存のモデルの内側を巡っている可能性がある。既知の説明が誤っていると分かる結果に接触し、その結果を次の予測へ反映する経路がなければ、現実からの訂正は入らない。シミュレーションの場合も、何を検証でき、何はその前提に依存するかを分ける必要がある。


この基準から見ると、次の課題はデータ量を増やすことだけにはない。人間が選び残した経験を大量に継承する仕組みに、必要な経験を自ら選ぶ仕組みをどう接続するかである。LLMがそれだけで完成形へ進むとも、不要になるとも限らない。継承知を探索の足場へ変えるシステム設計こそが、この論考で重視したい接点である。



自ら更新する知性は、生きる知性と同じなのか


モデルを修正し続けられるなら、自然知能との差はなくなるのだろうか。ここで、原論文の生命と心という射程が再び現れる。生物では、空腹、損傷、疲労、エネルギーの不足によって、同じ環境の意味が変わる。行為を評価する基準の一部が、自らを維持する過程から生じている。


行為と環境の循環を通じて意味のある世界が成立すると考えるエナクティヴィズム (enactivism)は、この点に接続する。ただし、これは原論文の立場全体を言い換えたものではなく、ここで加える解釈である。自己生成・自己維持を重視するなら、予測して学ぶ機能と、自分にとって何かが重要になることの間には、なお検討すべき距離がある。


しかし、その距離をもって、生命のようでなければ汎用知能にはなれないと結論することはできない。人間から受け取った長期目標の下でも、AIが探索し、仮説を修正し、広い課題に適応できる可能性は残る。高度な問題解決の条件と、生物のような価値の成立条件は、関連していても同じ問いではない。


世界モデルを誰が作ったのかという問いへの答えは、LLMの内部だけにはない。世界と相互作用してきた人間の経験が、言語や記録を介してその出発点を形作った。そこから何を取り出し、どこまで統合できたかは、モデルごとに確かめるべき問題である。


そして、その先の問いは、受け継いだ説明を誰の経験で変えていくのかである。AI自身が必要な経験を選び、そこから訂正を受け取り、次に試すことまで変えられるなら、継承知は新たな探索の足場になる。生きることと同じかどうかを決める前に、その更新がどこまで届き、どこで止まるのかを調べることはできる。



 

ポイント整理


  • 世界モデルの条件を分ける

    • 世界情報の保持、因果構造の表現、行為の結果の予測は異なる要求であり、原論文はそれぞれでLLMの評価が変わると論じる。

    • 特集号の多様な寄稿と編集者の総合判断を区別し、一つの能力の成功や失敗から全体を裁かない。

  • 言語による継承を認め、到達点は別に確かめる

    • 言語は、人間が世界との相互作用で形成したモデルを部分的に外部化する経路になりうる。

    • 因果情報が文章にあること、内部で取り出されること、未知の場面で使えることは同じではない。

  • 行動の成功と持続的な学習を分ける

    • 一回の作業での計画修正や経験の保存だけでは、再利用可能なモデルの更新を証明しない。

    • 情報価値のある介入、結果の評価、持続的な保持、別課題での利用を一続きに見る。

  • 身体と生命を一つの条件にまとめない

    • 物理的な身体は、自分に固有の行為可能性を校正する経路だが、介入学習一般の必要条件ではない。

    • 汎用的な問題解決と、自己維持から生じる価値の条件は、別の未決問題として残る。



キーワード解説


【世界モデル】

環境についての規則性や関係を表すモデル。本稿では、情報の保持、因果関係の運用、介入を通じた持続的な修正を区別して扱う。必ず一つの明示的な内部地図として実装されるという意味ではない。


【エンパワーメント (empowerment)】

主体の行為と結果の状態の関係から、どれだけ異なる結果を使い分けられるかに関わる概念。原論文が紹介する研究では、因果構造の探索を促す内的な報酬との関係が論じられる。


【アフォーダンス (affordance)】

主体と環境の関係における行為可能性。同じ階段でも、身体能力や道具の違いによって通れるかどうかが変わるように、物体だけの属性としては定まらない。


【継続学習】

新たな経験を受けて、後の課題にも影響する形で知識やモデルを更新していく学習。経験の保存、重みの更新、課題をまたぐ転用はそれぞれ別に確認する必要がある。


【エナクティヴィズム (enactivism)】

認知を、主体と環境の継続的な相互作用から捉える立場。ここでは行為可能性と価値の関係を考える補助線として用い、原論文の全寄稿が共有する理論とは扱わない。



本稿を素材として対話形式で再構成した記事も、近日中にnoteに掲載予定です。
ご関心を持っていただけましたら、note上でご感想などお聞かせいただけると幸いです。
bottom of page