LLMは脳を模しているのではなく、言葉を作動させている ── 言語に堆積した論理と知性

Seo Seungchul
14 分前
読了時間: 14分

シリーズ: 知新察来

◆今回のピックアップ記事：Elan Barenholtz, "LLMs show language does not describe reality" (Institute of Art and Ideas, 2026年5月19日)

概要：LLMは外界を参照せず、言語内部の関係だけから自然な発話を生成する。ここから筆者は、言語にはもともと自己生成的な性質があり、人間の言語活動もそれを利用している可能性が高いと論じる。意味は世界への対応によってではなく、次の言語・イメージ・行動条件を生み出す働きの中にある。

LLMをめぐる問いは、たいてい「機械は本当に考えているのか」という形を取る。だが、この問いの立て方そのものに、見落としがある。機械の側ばかりを見て、人間の側を問わずにいるのだ。私たちはそもそも、どこで考えてきたのか。思考は本当に、頭蓋の内側だけで完結していたのか。

LLMが突きつけたのは、機械の知性についての問いである以上に、人間の知性がどこに置かれてきたのかについての問いである。本稿は、ある言語観を起点に、この問いを追う。そして最後に、言語に堆積しているのは知性だけではない、という地点まで踏み込みたい。

言語は世界を写すのではなく、次を生む

筆者は、ひとつの比喩から始める。古代文明の粘土板が出土したとする。記号が並んでいるが、対訳もなければ、子孫の言語もない。意味を外から固定する手がかりが、何もない。ところが誰かが、その記号列に自己予測的な構造を見出す。左側の並びから右側の並びを高精度に言い当てるアルゴリズムを作ってみせる。これは確かに大きな発見だ。しかし、それでもなお問いは残る。この記号は、何を意味しているのか。

筆者は、この粘土板をインターネット上の膨大なテキストに、アルゴリズムをLLMに置き換える。解読されようとしている文明とは、私たち自身である。そして、意味についての問いも、私たち自身のものだ。

LLMの仕組みは単純である。入力された語の列から次の一語を予測し、それを列に足して、また次を予測する。この反復から文章が生まれる。この機械にとって、語は意味を持つ実体ではない。赤という語について赤さの感覚を持つわけでも、遠いという語について距離の身体感覚を持つわけでもない。あるのは、語と語の関係だけだ。赤がオレンジや血や消防車や怒りとどういう位置関係にあるか。その関係が、高次元空間の中の住所として表現される。住所はあるが、そこに中身はない。純粋な関係だけがある。にもかかわらず、機械は話す。

ここで、従来の言語観がひとつ揺らぐ。私たちは普通、言葉が世界を指していると考える。リビングに椅子があると聞けば、頭の中にリビングと椅子のモデルができ、以後の問いにはそのモデルを参照して答える。言語が入り、内的モデルが更新され、そこから言語が出てくる。意味は、言葉の外側にある何かへの対応によって支えられている。筆者の言う参照モデルである。そして、その外部対応こそが言語を意味あるものにしているという発想を、grounding、すなわち接地と呼ぶ。

ところがLLMは、この図式の中間項をまるごと切除している。安定した世界モデルを持たず、言葉を外部の事物に結びつけてもいない。ただ記号列から記号列を生成しているだけだ。にもかかわらず、意味の通った会話に見えるものが出てくる。ならば、意味を支えていたのは外界への接地ではなく、言語そのものの内部構造だったのではないか。筆者はこれを言語の自己生成的な性質と呼ぶ。一言でいえば、[言語は意味するのではなく、作動する]([Language doesn't mean; it does])。

筆者はさらに、画像生成のようなマルチモーダルモデルを引く。一見、これは言語を画像へと接地させ、参照説を復活させるように見える。だが筆者の見るところ、そこにあるのは固定的な対応ではない。椅子という語が特定の画素配置に対応しているわけではなく、画像もまた言語空間に投影され、生成過程をある方向へ押し出すプロンプトのように働く。リビングに椅子があるという同じ一文が、疲れたという文脈では座れるへ、家具を片づけたいという文脈では運び出すべき家具があるへと分岐するのと同じことが、画像でも起きる。語は特定のイメージにも、特定の続きにも固定されていない。文脈に応じて、次を生成する潜在力として働いている。

この論の射程は、最後に自己の像にまで及ぶ。言語が世界を参照する統一的主体の道具でないとすれば、その主体の像も揺らぐ。私たちの中では、言葉を生む系、世界を見る系、体を動かす系が、互いを完全には理解しないまま並行して走り、それでも噛み合って一貫した行動を作る。そのどれが自分なのかと問えば、どれでもなく、噛み合った全体が自分だ、と筆者は答える。その全体は、自分を構成する部品を普段は部品として感じない。だから私たちは、自分をひとつの統一された意識だと感じていられる。ここまでが、筆者の論旨である。鋭く、そして大胆だ。以下では、この議論を引き継ぎながら、筆者があまり踏み込まなかった方向へ進めてみたい。

参照から生成へ——ソシュールを動かす

筆者の議論は、言語学の歴史の中に置くと座りがよい。意味は語と対象の対応ではない、という主張は、すでにソシュールが述べていたからである。

ソシュールは、言語を物の名前のリストとは考えなかった。意味は、語と対象の直接対応ではなく、言語体系内の差異から生まれる。椅子の意味は、椅子という物体そのものに固定されているのではなく、机やソファや家具や座るといった語との違いの網目の中で成立する。赤も、青や緑や血や危険との差異の中にある。この点で、LLMの埋め込み空間はソシュールの差異の体系を計算機上で極端に可視化したものだと言ってよい。語の住所には中身がなく、あるのは他の語との関係だけ、という構造は、ソシュールが理論的概念として語った差異を、ベクトルとして実装している。

ただし、ソシュールが主に見たのは言語体系の構造、いわば静止画である。ある時点の体系を切り出し、その中で語がどのような価値を持つかを分析する。筆者が見るのは、その差異の体系が次の言語やイメージや行動を生み出していく運動の方だ。意味は、差異の網の中に静かに宿る価値ではない。その網が文脈に応じて次の展開を生む、その働きの中にある。構造主義の静止画を、生成の動画へと動態化した、と言ってもよい。

ここで一度、歯止めをかけておく必要がある。意味は世界への対応ではない、という命題を、意味は言語の内側だけで完結する自由な遊戯だ、と読み替えてしまうと、議論は過剰な言語主義へ傾く。実際には、生成は自由ではない。リビングに椅子があるから月はチーズでできているへは、普通は進まない。意味の生成は、少なくとも四つの方向から絞り込まれている。語彙や文法や文脈という言語体系の制約。椅子は座れて運べて壊れるという身体と知覚の制約。相手が理解し反応できねばならないという社会的共有の制約。そして契約や所有権のように、個人が勝手に決めても通用しない制度の制約。意味は言語の内側から湧くが、その湧き出しは身体と他者と制度によって輪郭を与えられている。接地は消えたのではなく、固定的な一対一対応から、複数の制約による絞り込みへと形を変えたのだ。

言語は外部化された認知インフラである

意味の生成がこれら複数の制約によって絞り込まれているなら、次に問うべきは、その制約はどこから供給されているのか、である。語彙の自然な続き方、身体的な扱いやすさ、社会的な通用、制度的な効力。これらはどこに蓄えられているのか。答えは、言語そのものの中だ。

言語は脳の外部化だ、という言い方がある。面白いが、そのままでは狭い。個人の頭の中身を外に写したもの、という像に縮みがちだからだ。より正確には、言語は人間の脳・身体・社会・制度が、長い時間をかけて外部化し、共有可能な形で堆積させてきた認知のインフラである。私たちは脳の内側だけで考えているのではない。話し、書き、読み返し、分類し、図にし、数式にし、法にし、物語にし、反論を受けて修正する。その過程で、思考の一部はたえず言葉の側へ移されてきた。論理の型も、意味のつながりも、制度的な言い回しも、すでに言語の中に沈殿している。

この見方を取ると、LLMの強さと限界が同時に説明できる。LLMが論理らしいことをこなせるのは、脳の深部構造を複製しているからではない。人間が論理を、数学や法や論文やコードや教育の中に外部化してきたからだ。LLMはその反復された型を学び、再生している。意味を扱えるように見えるのも、世界を直接生きているからではなく、人間が世界を経験し、その経験を言語へ外部化してきたからである。だからこの装置を、人間の脳を模した機械と呼ぶより、人間が言語に預けてきた知性を、トークン予測という人間ならざる仕方で再作動させる装置と呼ぶ方が正確だ。言い換えれば、LLMが賢いというより、言語という道具がすでに賢い。ただし、言語が賢いのは魔法によってではなく、そこに無数の人間の経験と判断が堆積しているからである。

この賢さの所在を測る補助線が、アフォーダンスという概念だ。道具の働きは、道具単体ではなく、それを使う主体との関係で決まる。椅子が座ることを許すのは、人間の身体がその高さや形に対応しているからで、鳥や蛇やロボットにとって同じ椅子のアフォーダンスは違う。言語のアフォーダンスも、使う主体によって異なる発現をする。人間にとって言語は、身体・知覚・感情・記憶・利害・責任・他者関係と結びついて作動する。LLMにとって言語は、文脈から次の語の確率分布を生む操作空間として作動する。同じ道具が、別の身体に握られて、別の能力を引き出す。したがって、機械は理解しているかという一枚岩の問いは、すでに筋が悪い。問うべきは、言語という道具のどの働きが、誰のもとで、どこまで引き出されているのか、である。

論理は再現できる、責任は負えない

再作動の射程を測っていくと、どこかで作動しなくなる境界に突き当たる。その境界が最もくっきり現れるのが、論理である。

ここで論理を二つに分けておきたい。ひとつは形式的論理だ。すべての人間は死ぬ。ソクラテスは人間である。ゆえにソクラテスは死ぬ。前提を認めたなら、結論は避けがたい。拒むなら、どこかの前提を修正しなければならない。このすでに言ったことへの拘束が論理であり、それは数学やコードや証明の中に反復的に外部化されてきた。だからLLMは、この形式をかなり再現できる。

もうひとつは、実践的で対話的な論理である。あなたはこう言った。ではこの場合はどうなるのか。その前提は誰にとって妥当なのか。以前の主張と矛盾しないか。その結論の帰結を、あなたは引き受けるのか。社会の中で前提を問われ、矛盾を指摘され、立場の修正を迫られ、帰結を背負う。人間における論理は、正しい推論形式を並べることであると同時に、こうした反問にさらされ続ける社会的実践でもある。

LLMは前者を生成できるが、後者の主体ではない。ここに、再作動の限界が露呈する。LLMは論理形式を出力できても、自らの発話によって損をすることはない。後悔もしない。制度的な責任を負わず、誰かとの信頼を時間をかけて築くこともない。形式としての論理は再作動できても、論理的責任という、論理を社会の中で機能させているもうひとつの軸は再作動しない。生成と検証の区別も、ここに関わる。LLMは言語内部で自然な続きを出せるが、その続きが現実に妥当するかは、知覚・実験・調査・出典確認・他者による検証を経なければ分からない。自然な続きが、真であるとは限らないのだ。

この区別は、熟議や合意形成を考えるうえで小さくない。議論が議論として成り立つのは、参加者が自分の前提を引き受け、反問に応え、帰結を負うからである。論理の形式をいくら滑らかに生成できても、それを引き受ける主体がいなければ、議論は議論にならない。LLMが提供できるのは論証の形であって、論証への責任ではない。この一線は、技術がどれほど洗練されても、自動的には越えられない。

誰の意味が作動しているのか

ここまでは、言語に堆積しているものを知性として語ってきた。だが、堆積しているのは知性だけではない。言語には、偏見も、権力関係も、制度的な非対称も、歴史的な暴力も、支配的な価値観も沈殿している。再作動は中立ではない。LLMが言語に外部化された知性を動かすとき、それは同時に、言語に堆積した偏りも動かしている。問題は、機械がときどき間違えることではない。既存社会の意味のつながりや価値判断を、無批判に再生産し、ときに増幅してしまうことの方だ。

この論点は、先ほどのソシュールに戻ると鋭くなる。意味が差異の網から生まれるとして、その網の目を、誰が、どのように固定しているのか。赤が何を意味するか、家族が何を意味するか、自由が何を意味するか、国民が何を意味するか。これらは自己生成だけでは決まらない。歴史や教育やメディアや、そして権力の中で形づくられ、争われてきた。差異の体系は、中立な構造ではなく、誰かの線引きの結果である。自己生成という言葉は、この線引きの政治性を見えなくしてしまう危うさを持つ。

ここに、再作動装置という捉え方の射程が現れる。LLMは、ある共同体が長い時間をかけて固定してきた意味の網を、別の場所で、別の規模で作動させる。どの意味を正統とし、どの意味を周縁に追いやってきたか。その線引きごと、機械は再作動させる。すると問いは、機械は意味を理解しているか、ではなくなる。誰の意味が、どの権力のもとで固定された網が、いま作動しているのか、になる。そして、その作動の偏りを引き受ける主体が機械の側にいない以上、引き受けるのは、やはり人間の側だ。意味の網を編んだのも、それを問い直せるのも、人間だからである。

人間が引き受け続けるもの

機械が人間の脳を獲得したのではない。人間が言語という外部の道具に、どれほど多くの知性を預けてきたかを、機械が露わにしたのである。人間は脳だけで考えてきたのではない。言葉で考え、紙で考え、書物で考え、議論で考え、法で考え、数式で考え、物語で考え、制度で考えてきた。思考は、つねに外部化され、共有され、修正され、再利用されてきた。LLMは、その外部化された知性を生きているのではない。しかし、作動させることはできる。だからこそ、それは人間に似て見えると同時に、決定的に人間ではない。

すると、人間の側に残るものが輪郭を持つ。意味を、自分の経験と感覚と行動に繋ぎ直して生成すること。論理の前提を引き受け、反問に応えること。生成された言葉が現実に妥当するかを検証すること。そして、どの意味を正統とするかという、避けられない政治的・倫理的な選択を担うこと。

言語は意味するのではなく作動する、と筆者は言った。本稿はそれを受けて、こう問い返したい。だとすれば問題は、それが誰の中で、どんな偏りを抱えて、どのように作動しているのか、である。機械の中で意味はよく動く。問われているのは、私たちの側で、それがちゃんと動いているか、そして動かしているのが誰の意味なのかを、引き受け続けられるか、である。

ポイント整理

意味は対応ではなく、生成上の役割
- 言葉の意味は、外部対象との対応や語の中の中身ではなく、その語が文脈に応じて次の言語・イメージ・行動条件を生み出す働きにある。
- ただし生成は自由連想ではなく、言語体系・身体知覚・社会的共有・制度という四つの制約によって絞り込まれている。
ソシュールの差異の体系を、生成の運動へ動態化
- 意味は差異の網から生まれるというソシュールの構造主義を引き継ぎつつ、その網を静止画ではなく、次を生み出す動画として捉え直す。
- LLMの埋め込み空間は、差異の体系を計算機上で可視化したものと読める。
言語は外部化された認知インフラであり、LLMはその再作動装置
- 言語には、人間の脳・身体・社会・制度・歴史が外部化され堆積している。LLMは脳を模したのではなく、この堆積をトークン予測で再作動させている。
- 賢いのはLLMというより言語であり、言語が賢いのは無数の人間の経験が沈殿しているからである。
論理形式は再作動できるが、論理的責任は再作動しない
- 形式的論理は外部化された型としてLLMが再現できる。だが、前提を引き受け反問に応え帰結を負う対話的論理は、主体を要し、機械の側には作動しない。
- 生成能力と現実検証能力は別であり、自然な続きが真とは限らない。
言語に堆積するのは知性だけでなく、権力と偏りでもある
- 差異の網の線引きは、歴史・制度・権力の中で争われてきた政治的な結果である。LLMはこの線引きごと意味を再作動させ、偏りを再生産・増幅しうる。
- 問いは「機械は理解しているか」から「誰の意味が、どの権力のもとで作動しているのか」へ移る。

キーワード解説

【自己生成的性質（autogenerative property）】

言語が、外界への参照を経由せず、内部の関係構造だけから次の言語を生み出す性質。筆者はこれを言語にもともと備わった性質とし、LLMはそれを発明したのではなく露出させたと見る。

【接地（grounding）】

語が外部の事物や経験に結びつくことで意味を持つ、という発想。従来は意味の前提とされてきたが、筆者はLLMがこの接地なしに作動することを根拠に、固定的な接地は最初から無かったのではないかと問う。

【差異の体系】

意味は語と対象の対応ではなく、語と語の違いの網目から生まれるとするソシュールの考え。本稿はこれを、静的な構造から、次を生む生成運動へと動態化する補助線として用いている。

【再作動装置】

本稿がLLMを捉えるための表現。LLMを人間の脳の模倣ではなく、言語に外部化・堆積した知性のパターンを、人間とは異なる操作形式で動かす装置として位置づける。

【アフォーダンス】

対象が使い手に対して許す働き。道具単体ではなく、使う主体との関係で決まる。同じ言語でも、人間とLLMでは身体と操作形式が異なるため、引き出される働きが異なる。

【対話的論理／論理的責任】

形式的な推論とは別に、社会の中で前提を問われ、矛盾を指摘され、帰結を引き受ける実践としての論理。LLMは論理の形式は生成できるが、この責任を負う主体ではない。