考える力の回復には、育つ場所も要る──LLM依存を社会モデルで読む
更新日：10月13日
シリーズ: 論文渉猟
◆今回のレポート：Ricard Solé et al., "Large-Language Models as a Cognitive Virus" (arXiv, 2026年9月3日）
概要：LLM利用に伴う人間側の結合状態を三つに分け、社会的な利用の伝播と自律的実践の補強が、転換点、多重安定、依存状態からの回復にどう関わるかを検討する理論研究。
生成AIによって答案の質が上がったとき、何が良くなったのか。人が以前より理解できるようになったのか。それとも、人と道具を組み合わせた作業がうまくいくようになったのか。日々の仕事では、両者を分ける必要はないように見える。納期に間に合い、顧客が満足するなら、それでよい。
違いが現れるのは、支援がなくなったとき、出力が間違っているとき、これまで扱わなかった問題に出会ったときである。その場で必要になるのは、完成品の出来を評価したときには見えなかった能力だ。何を疑い、どこから確かめ、どうやってやり直すか。この能力も、AIとともに育つ場合がある。反対に、良い成果の陰で使われなくなる場合もある。
リカルド・ソレらの論文は、この分岐を社会全体の問題として扱う。自律的に考える実践が学校や職場から減ると、個人が利用を控えても回復できない状態が生じうる。ここで問われるのは、一人の意志の強さだけではない。能力を身につける場所と、次の人へ受け渡す経路が残るかという問題である。
ウイルスという比喩は何を運んでいるか
題名のウイルスという言葉は、AIの有害性が既に証明されたような印象を与える。しかし論文が組み立てるのは、LLMを利用する慣行が広がる過程と、人間側の認知状態が変わる過程を結びつけたモデルである。生物学的な感染と認知的な結合を同じものとして扱うわけではない。何を感染の実体と見なすのかにも注意が要る。モデルの状態に分類される人間は、ウイルスそのものではない。
人の認知は、以前から頭蓋骨の外に広がっている。紙に途中計算を書く。辞書を引く。別の人に問いを投げる。組織の記録に照らして判断する。こうした支えをすべて取り除いて初めて自律的になれると考えるなら、実際の仕事をほとんど説明できない。著者たちが想定する独立状態も、外部の道具や他者から完全に切り離された状態を意味しない。
LLMが加わることで変わるのは、外部に任せられる仕事の範囲である。検索結果から根拠を選ぶだけでなく、問いの立て方、比較の枠組み、文章の結論まで提供される。その結論を検討するための手がかりも、同じ道具から受け取れる。出力の受容と出力の点検が一つの経路に集まると、支援を受けることと判断を預けることの境界が見えにくくなる。
もっとも、出力を比較して誤りを説明させ、自分の判断との違いを確かめる使い方もある。身体や言語の制約によって参加しにくかった人が、道具によって議論へ参加できることもある。使用の有無だけで認知の質を分類することはできない。ウイルスの比喩が有用なのは、道具の悪性を決めるところよりも、個人の選択が他者の利用環境を変えるところである。
成果の評価には、能力の評価が抜け落ちる
AIを使った答案と、自力で書いた答案の点数が同じでも、そこで起きた学習は同じとは限らない。自分の誤りを探し、途中の判断を修正し、別の問題へ方法を移す経験は、完成品だけから判定できない。道具がこれらの過程を支えると、成果と能力がともに伸びる。過程を丸ごと引き受けると、成果が先に伸び、能力が追いつかないことがある。
足場を用意する支援では、学ぶ人に仕事が残る。ヒントを受けて続きを考える。複数の説明を見比べる。誤答の理由を自分の言葉で述べる。代替が進む使い方では、この仕事が省かれる。どちらも画面上では円滑なやり取りに見えるため、作業時間や提出物の品質だけを評価すると、違いが消えてしまう。
この違いを考える実証上の手がかりが、バスタニらによる2025年の高校数学の無作為化実験である。自由度の高いAI支援は練習中の成績を高めたが、支援を外した試験では対照群より成績が低下した。ヒントを中心に設計した支援では、その不利益が抑えられた。ただし、後者が自力の試験成績を有意に向上させたとまで読むことはできない。
一つの教育実験から、社会全体の能力減耗を導くことはできない。科目、課題、支援の設計、学ぶ人の経験が違えば結果も変わる。この研究が示すのは、使用中の成績を学習の証拠として扱う危うさである。AIの性能だけを比較する評価と、人が何を学んだかを見る評価は、異なる問いに答えている。
仕事で常にAIを使えるなら、自力の成績を測る必要がないという反論もある。この反論には理由がある。すべての作業を道具なしで再現できるようにする費用は大きい。それでも、誤りを認識するための理解、新しい事態を説明するための知識、停止中に重要な機能を保つ力のどれを必要とするかは決めなければならない。無支援の評価は、それ自体が道徳的に優れているから行うのではなく、保持すべき仕事を具体化するために行う。
五つの変化を、一つの利用率へまとめない
原論文は、人間側の状態を、LLMから独立して認知活動を行うU、LLMと結合しながら能力を維持しているC、強く依存し独立した能力が損なわれたDに分ける。Cを設けた点が重要だ。使う人がすべて依存状態へ直行するモデルではない。利用しながら能力を保つ経路を含んでいる。
状態間の変化には五つの係数を置く。λは独立状態から結合状態へ向かう圧力、ρは結合状態から独立状態へ戻る変化、μは結合から依存へ進む変化、σは依存から結合へ回復する変化、κは独立した実践が周囲から補強される働きを表す。これらは、五種類の心理尺度を直接測定した値ではない。異なる機構を分けて検討するための理論上の係数である。
独立状態Uの増減は、モデル内では「−λUC＋ρC＋κU²C」となる。利用が周囲へ広がる項にUとCの接触が入り、補強の項にはUの二乗が入る。独立した実践を行う人が少なくなると、その実践へ人を戻す社会的な働きが弱まるように設計されている。この非線形性が、後に出てくる転換の鍵になる。
学校で考え方を説明する授業が残ること、職場で途中判断を検討する人がいること、熟練者から初学者へ仕事が渡ることは、κを考える現実上の候補になる。ただし、各制度をそのままκの測定値へ換算できるわけではない。制度ごとに、誰のどの能力を支えているかを調べる必要がある。
ここから、個人向けの利用時間制限だけでは説明しにくい問題が見える。一人が自力の仕事を続けると、その人の能力だけでなく、周囲の人が学ぶ機会も残る。反対に、一人の利用が短期的な合理性を持っていても、その選択が積み重なると他者の学習環境を変える。自律性の維持に社会的な側面があるとは、このような関係を指す。
五つを分けることで、介入の評価も変わる。利用を減らすこと、代替的な使い方を避けること、依存後の訓練を用意すること、独立した実践の場を保つことは、それぞれ異なる働きを持つ。利用率が同じ組織でも、これらの条件によって失われる能力と戻せる能力は違うだろう。
行きと帰りが同じ道にならない
このモデルの中心は、利用が増えると能力が少しずつ減るという話に尽きない。条件によっては、同じ利用圧力の下に異なる安定状態が共存する。どの状態に落ち着くかが、その社会の過去の経路に左右される。
モデルでκがρより大きいとき、λの二つの閾値、2√(κρ)とρ＋κの間に、全員が独立状態にある均衡と、結合状態・依存状態の人もいる均衡が共存しうる。後者でも独立状態の人が必ずゼロになるわけではない。これらは理論モデルの内部で求められた境界であり、現実の社会について「利用が何％を超えると危険」という数値を与えてはいない。
κがρより小さい場合には、モデルは別の振る舞いを示し、転換は連続的になる。等しい場合は二つの閾値が重なる。急な転換と履歴依存は、利用を描くと自動的に現れる結論ではない。社会的な補強をどのように仮定するか、その強さを通常の復帰とどう関係づけるかによって生じる。
利用圧力を強めて全員独立の均衡から離れたあと、圧力を元の水準へ戻しても、元の均衡に自動的には戻らない場合がある。行きと帰りで状態が変わる条件がずれる。この性質をヒステリシス (hysteresis)という。過去の変化が、現在の条件だけでは説明できない形で残るのである。
ここで「AIをやめれば力が戻る」という助言を考え直せる。助言は、自力で練習する教材、教える人、失敗を直す時間が残っていることを暗黙に前提としている。これらが残っていれば、利用を減らすことが回復のきっかけになりうる。前提まで消えた場合は、同じ助言の効き方が変わる。
ただし、数式に育成機関の廃止や専門職の消失が直接書かれているわけではない。社会的な補強を抽象化したモデルの結果から、どの制度が実際に失われたかを逆算することはできない。モデルは回復困難が成立する一つの構造を示す。現実の機構を特定する作業は、その先に残る。
能力を失うとは、教え直す経路を失うことでもある
たとえば、組織が初級の分析作業をAIへ移すとする。初級者が必要な成果を得る時間は短くなる。熟練者が初級者の誤りを説明する仕事も減る。短期の費用だけを見れば、合理的な変更である。
ところが初級の仕事には、成果を作る役割に加えて、将来の熟練者を育てる役割がある。途中の誤りを修正しながら、何を見落としやすいかを覚える。教える側も、判断の根拠を言葉にする。完成品の納入だけを残すと、これらの仕事が組織の評価から落ちる可能性がある。
その後、熟練者が退職し、研修が縮小し、独立した検証手順が更新されなくなる。記録があっても、その記録の前提を説明する人が減る。この連鎖が生じたなら、失われた能力は各人の頭の中だけにあるのではない。能力を作り直す関係と仕組みの一部も失われている。
これは原論文から発展させた機構仮説であり、LLM導入企業で一般に確認された因果法則として述べているわけではない。初級業務の代替によって熟練者が教育へ時間を割けるようになる組織も考えられる。AIを練習問題の作成や振り返りに使うことで、育成が増える可能性もある。必要なのは、代替された時間の行き先まで見ることである。
手順書を残せば十分な仕事もある。判断が定型的で、例外が少なく、再訓練が容易なら、高い熟練を常時維持する必要は小さい。他方、未知の条件で記録の使い方を変える仕事では、手順書と実践経験の関係が違う。保存するべきなのは、すべての旧来の作業ではなく、特定の重要な判断を再生産するための条件だ。
私は、この区別に原論文の制度的な価値があると考える。人が考えなくなるという警句は、最後には各人への努力の要求へ戻りやすい。育成経路を問うなら、作業を削減した側、教育を担う側、その能力に依存する側の関係を扱うことになる。誰かが頑張ればよいという結論では済まなくなる。
理論が描く境界と、実測していないもの
論文は各状態の能力を集約した指標も置く。例示ではUに1、Cに0.5、Dに0.1を与えている。この値は、独立した人の能力が結合した人の二倍であるという実測結果ではない。状態の分布が集団の能力指標をどう変えるかを見るための設定である。
ここでの能力値は、支援を外したときに人へ残る能力を表し、利用中の人間とAIを合わせた性能ではない。足場として使うことで理解が育つなら、Cの人にも、以前より高い独立した能力が残りうる。長い文書の比較や不得手な言語の理解をAIで行えることも価値があるが、その利用中の成果は別の評価である。成果、無支援の遂行能力、検証能力を一つの重みに押し込めると、どの価値を評価しているかが隠れる。
集団の平均を扱う基本モデルは、社会の人びとがどのような網の目でつながっているかを詳しく描かない。専門職集団、学校、地域、利用企業の違いをそのまま捉えるものでもない。能力の高い少数者が教える配置、隔離された訓練環境、異なる道具を使う集団では、同じ人数比でも回復の経路が変わりうる。
また、どの制度主体が何を選ぶか、利益と費用をどう計算するかは、この最小モデルの外にある。企業が利用を増やす理由と、学校が自力の練習を減らす理由を、同じ係数だけで説明しきることはできない。何年で依存が進むかという現実の時間も、このモデルだけから得られない。
こうした限定は、理論を弱いものとして捨てる理由ではない。何を実証するべきかを決める役に立つ。支援を外した後にどの能力が残るか。訓練を増やすと回復が変わるか。組織の育成経路にどのような変化が起きるか。利用率だけを調べる調査より、機構を区別する問いを作れる。
回復を支える仕事を、誰が引き受けるのか
五つの係数に戻ると、依存へ進むμを小さくし、回復するσを大きくする設計は、CとDの割合を変える。最小モデルでは、この二つは先ほどの転換点の位置を動かさない。個別の回復が無意味なのではない。結合と依存の配分を改善することと、独立状態が社会的に再生産される条件を変えることが、同じ操作ではないのである。
κを強めればすべて解決するとも言えない。独立状態を支える補強の強さは、安定状態や履歴依存の構造にも関わる。現実の制度へ置き換える場合は、どの経路を残し、どの状態から戻せるようにするかを問う必要がある。係数を善悪の一覧にしてしまうと、モデルから学べることが減ってしまう。
実務上は、使用中の成果に加え、検証の実践、自力で処理する機会、教える人の継続、手順の更新を評価することが考えられる。これらは論文が効果を実証した政策ではなく、機構に対応する制度案の入口である。分野と課題を定めて、費用と便益を調べるべきだ。
そこで第二回の問題が生じる。自力の訓練に時間を使う組織は、短期の生産性で不利になるかもしれない。人を育てても、その人が他社へ移る。危機時の判断能力から利益を得る側と、その能力を維持する費用を負う側も一致するとは限らない。
AIは人間から何を奪ってよいのか。この問いを、旧来の仕事を全部残すという答えで閉じることはできない。便利さによって手放せる仕事は多い。その中で、手放した後に重要な判断を取り戻せる条件を、誰が守るのか。第一回でたどり着いたのは、その具体的な配分の問いである。
ポイント整理
利用の量と結合の形
LLMを使っているかだけでは、能力が維持されるかは分からない。
モデルのCは、利用しながら独立した能力を保つ経路を含む。
成果と学習の別々の評価
良い完成品は、その人に能力が残ったことの証拠とは限らない。
支援の設計と課題を区別し、検証や無支援の遂行を必要に応じて測る。
回復を支える環境
社会的な補強の非線形性によって、モデル内では異なる安定状態が共存する。
育成経路の喪失は現実の機構候補であり、別途実証が必要である。
制度論への入口
利用制限、依存形成の抑制、回復、独立した実践の維持は異なる働きを持つ。
能力を維持する費用と、その能力から利益を受ける側の関係を設計する必要がある。
キーワード解説
【ヒステリシス (hysteresis)】
条件を増加させるときと減少させるときで、状態が変わる境界が異なる性質。現在の条件が同じでも、過去の経路によって状態が違う。原論文では理論モデルの結果であり、現実のLLM利用について発生時期を予測したものではない。
【多重安定】
同じ条件の下で、複数の状態が安定して存在しうること。どの状態へ向かうかには、初期状態や途中の変化が関わる。単に個人差があることとは区別される。
【平均場モデル】
集団内の相互作用を平均的な関係として捉えるモデル。全体の構造を少数の変数で検討できる一方、誰が誰とつながるかという配置の違いは詳しく扱わない。