意味生成と意味支配のあいだ――AIは誰の現実を引き受けるか
- Seo Seungchul
- 1 日前
- 読了時間: 17分
シリーズ: 知新察来
◆今回のピックアップ記事：Harald A. Wiltsche and Ken Archer, "Language, maths, and code extend the human mind out into the world" (Institute of Art and Ideas, 2026年5月15日)
概要：AIをめぐる議論は誇張と過小評価のあいだで揺れるが、現象学の視点から見れば、AIは人間の表現が言葉として沈殿したものを操作している。AIは世界を経験せず、自分の判断を世界に照らして引き受ける「応答責任」を欠く。それでもAIは、書く・数える・計算するに続く「認知の外部化」の系譜に連なり、意味と意味のつながりそのものを形式化した強力な装置である。ゆえにAIの出力を意味あるものにする責任は、最後まで人間の側に残る。
AIをめぐる議論は、しばしば「AIは本当に考えているのか」という問いに吸い寄せられる。意識を持つのか。人間を超えるのか。こうした問いは魅力的だが、そこに留まると、もっと手前にある厄介な問題を見落とす。
問うべきは、AIが人間のように思考するかどうかではない。むしろ、AIが滑らかに差し出す言葉に頼りながらも、私たちが——個人として、そして社会として——経験に戻り、違和感を保ち、複数の視点から意味を編み直し、自らの判断として引き受け続けられるかどうかである。
本稿は、現象学者ウィルチェとアーチャーによる明晰なAI論を出発点に置く。だが目的は、その要約ではない。彼らの議論がたどり着いた「意味の源泉は人間に残る」という結論を、あえて一度疑うことから、議論を先へ進めたい。源泉だとしても、その源泉自体が濁っているとしたら。そして「人間」という主語が、実は誰のことか分からないほど大きいとしたら。
AIは意味の沈殿の上で作動している
ウィルチェとアーチャーの議論は、ある身近な戸惑いから始まる。AIは込み入った議論を整理し、文章を磨き、理解を助ける。明らかに知的に見える。にもかかわらず、画像の中の物体を正しく数えられず、子どもでも間違えない物理的常識を取り違える。この落差をどう理解すればよいのか。
筆者たちは、これを解消すべき錯覚とは見ない。むしろ現実の構造が顔を出している、と捉える。手がかりになるのは、ロボット工学者モラヴェックが指摘した逆説である。人間に難しい抽象的推論は機械に易しく、人間に易しい知覚や常識は機械に難しい。なぜか。私たちが「簡単」と感じる知覚は、実は身体をもった経験の膨大な統合の上に成り立っているからだ。一方、言語には、その経験と判断の結果がすでに圧縮されて畳み込まれている。
ここで現象学が呼び込まれる。私たちは車の周りを動きながら、無数の見え——赤の濃淡、表面の滑らかさ、輪郭の変化——を経験するが、それらはバラバラの刺激ではなく、同じ一台の車の現れとしてまとまっている。そして表面の傷に気づいた瞬間、流れていた知覚は「車は赤く、滑らかで、しかし傷がある」という、言葉にできる構造へと節合される。重要なのは順序だ。言語がこの構造をゼロから作るのではない。先に、世界を「もの」と「その性質」として経験する構造があり、言語はそれを後から言い当てる。主語と述語という文法は、経験の側にある構造の反映なのである。
そして言語は意味を保存する。「これは赤い」という判断は言葉として残り、反復され、共有され、もとの経験から切り離されても自動的に使えるようになる。現象学はこれを意味の沈殿（sedimentation of meaning）と呼ぶ。大規模言語モデルが操作しているのは、まさにこの沈殿物である。AIは世界を見ていない。世界の中を移動していない。すでに言語として安定化した意味のパターンの上を動いている。だからこそ抽象的な言語作業に強く、身体的な常識に弱い。筆者たちの表現を借りれば、AIは人間の知性の産物を継承するが、その生きた源泉は継承しない。
この議論のもっとも射程の長い含意は、AIを「異物」の位置から引き剥がした点にある。書くこと、数えること、計算すること、そしてAI。いずれも人間の認知能力を体の外で形式化し、作動させる長い系譜に連なる。文字は意味の持続を、数学は空間と時間の関係を、計算機は論理操作を外部化した。AIが外部化したのは、意味と意味のつながりそのものだ。AIは人工的な侵入者ではなく、人間の意味形成の歴史が体の外に出て、数学的に動き出した姿である。
応答責任という欠落
しかし、外部化の産物には共通する陥穽がある。筆者たちが「梯子を蹴り落とす」と呼ぶ誘惑だ。文章も数式もモデルも、いったん作られると、それを生んだ経験や判断から切り離されて独自の権威を帯びる。そして産物のほうが、生きた経験よりも本物らしく見えてしまう。AIではこの誘惑が極端に強い。よくできた段落や説得的な議論は、これまで知性のしるしだった。機械がそれを出すと、そこに思考主体がいるように感じられてしまう。
だが、AIには決定的に欠けているものがある。世界への応答責任（answerability）である。再び車の例で言えば、赤い車だと思って近づき、回り込んで黒く凹んだ側面を見つけたとき、人間はただデータを更新するのではない。自分の以前の判断をいったん宙づりにし、間違っていたかもしれない自分を引き受けて、もう一度車そのものに立ち返る。この反省的な自己修正こそが、単なる言語の流暢さと理解とを分かつ。判断するとは、世界によって誤りを暴かれうる主張を差し出し、その誤りに応える用意をもつことだ。
AIには、この構えがない。幻覚的に誤りを生成しても、世界とぶつかった感触がない。ただ文脈の勢いに乗って出力を続ける。道具を使って結果から修正するAIエージェントも現れているが、その修正は学習された内部空間における軌道調整にとどまり、「この捉え方自体が世界に対して不十分ではないか」と問い直し、世界そのものに立ち返る足場を持たない。だから筆者たちは、AIを「次の単語を当てる機械」と呼ぶ説明を斥ける。AIは局所的に単語を継いでいるのではなく、人間の表現に沈殿した意味のつながりを、数学的に実在する軌道としてたどっている。彼らはこれをプロット延長器と呼ぶ。AIは意味を延長するが、その意味を引き受けることはできない。
ここまでが、元記事の論旨である。結論は明快だ。AIの出力を意味あるものにする責任は、最後まで人間の側に残る。問題はAIがどれほど賢くなるかではなく、私たちがその出力をどう解釈するかにある——。
私もこの結論に大筋で同意する。だが、ここからが本稿の主題だ。この結論は、二つの問いを未処理のまま残している。一つは「経験」をめぐる楽観であり、もう一つは「人間」という主語の曖昧さである。
「経験に戻れ」の落とし穴
元記事は、人間の側に残る能力として、知覚・判断・応答責任を挙げる。これらはいずれも、最終的には「経験に戻る」ことを支えにしている。だが、この「経験に戻れ」という処方は、思いのほか危うい。
経験そのものが歪むからだ。人は見たいものを見る。経験は、階層、職業、文化、教育、情報環境によって構成される。現場感覚も偏り、当事者の実感も常に透明ではない。身体的な違和感さえ、誤認や偏見を含みうる。「自分の目で見た」という確信は、しばしばもっとも強力な思い込みになる。沈殿した言葉だけで考えることが危ういのと同じ程度に、生の経験を最終的な真実とみなすこともまた危うい。
したがって、繊細だが決定的な線引きが要る。経験は意味生成の出発点ではあるが、それを検証する最終審級ではない、という線だ。言語化されない経験は共有されず、共有されない経験は突き合わされず、突き合わされない経験は独善に傾く。経験は、他者の経験、データ、歴史、専門知、異なる立場からの批判にさらされることで、はじめて鍛えられる。必要なのは、経験か概念か、現場か理論か、という二者択一ではない。両者のあいだの往復である。
この補正を入れておかないと、議論はたやすく反転する。「AIの言葉ではなく生の経験を」というスローガンは、一歩間違えば、専門知や検証の手続きそのものを軽んじる素朴な現場主義に堕する。沈殿物は敵ではない。言語も、概念も、法も、学問も、すべて沈殿物であり、それがあるからこそ人間は毎回ゼロから考えずに済む。問題は沈殿物の存在ではなく、沈殿物を使って現実に近づくのか、沈殿物で現実を覆い隠すのか、という使い方の分岐にある。AIがもたらす危うさは、この往復を一気に飛び越え、まだ熟していない違和感の上に完成された言葉をかぶせ、分岐を見えなくしてしまう点にある。
「人間」という主語を割る
もう一つの未処理の問題は、より構造的だ。「人間が経験し、判断し、意味の源泉である」と言うとき、その「人間」とは誰なのか。この主語は、大きすぎる。
個人の水準で見れば、現代社会の住人の多くは、すでに沈殿した言葉のなかで思考している。世間の定型句、職業のテンプレート、業界用語、政治的陣営の語彙、情報環境が供給する反応の型。私たちは自分の目で世界を見て言葉を作っているというより、多くの場合、出来合いの言葉で現実を処理している。だとすれば、AIが初めて人間を言葉の檻に閉じ込めるわけではない。檻はとうにあった。AIは、近代社会・専門分化社会・メディア社会がすでに抱えていた問題を、高速化し、自動化し、一人ひとりに最適化する装置にすぎない。
ここで議論を、ミクロとマクロに分ける必要がある。個人の水準で問われるのは、経験と言葉の往復能力だ。AIの出力を、自分が本当に見たこと、感じたことに戻せるか。借りた言葉を、自分が引き受けられる言葉に変えられるか。だが、個人がすべてを直接経験することはできない。そこで決定的になるのが、社会の水準である。
社会には分業がある。記者が現場に立つ。研究者が分析する。当事者が、既存の語彙ではこぼれてしまう経験を語る。教師が次世代に判断の型を手渡す。実務家が制度と現場の摩擦を知る。この役割分担が機能しているかぎり、個々人がすべてを経験しなくても、社会としては現実に触れ続けることができる。社会が現実の変化を受け取り、それを言葉・概念・判断・制度へ変換し、結果を見てまた更新する——この循環こそが、社会の意味を作り直す力にほかならない。
そして、AIがこの循環のどこに作用するかが問題になる。言語化し、要約し、整理し、概念化する。論点を立て、政策案にまとめ、プレゼンに仕上げる。これらはAIが得意とする中間工程だ。しかし、現場に立つ入口と、出てきた言葉を現実に照らして検証する出口は、AIには肩代わりできない。両端が細るまま中間だけが太ると、社会は意味を生成しているように見えて、既存の意味を再循環させているにすぎなくなる。AI生成物をAIが読み、また要約し、再利用する。言語の空間が、現実ではなく生成物同士の参照で回り始める。情報量は増え、文章は整い、分析は洗練される。なのに、現実への感度は下がっていく。
意味生成と意味支配のあいだ
ここで、本稿のもっとも重要な区別に到達する。「社会が意味を生成する」という言い方には、危険な響きがある。あたかも、ただ一つの社会的な意味が存在するかのように聞こえるからだ。だが、意味は視点に依存する。
AIによる業務効率化は、経営者には生産性の向上に映り、現場で働く者には雇用の不安に映り、若手には経験を積む機会の喪失に映り、社会全体にとっては再分配や教育制度の問題に映る。どれか一つが本当で、ほかが誤解なのではない。同じ現象が、立場、経験、利害、時間軸、制度的位置によって、異なる意味を持つ。したがって、社会の意味を作り直す力とは、一つの意味を発見し確定する力ではない。複数の意味を可視化し、衝突させ、翻訳し、暫定的に整理し、必要に応じて編集修正する力である。
この区別を落とすと、意味生成はたちまち意味支配に滑り落ちる。特定の立場から見た意味が、「社会全体の意味」「公共的な意味」「中立的な整理」として固定される瞬間、そこで起きているのは、政治学者ルークスが権力の第三の次元——そもそも何を争点として可視化し、何を争点にすらしないかを左右する力——として論じた事態に近い。表立った対立として現れる以前に、何が議論に値する問題かが選別される。この選別こそ、もっとも見えにくく、もっとも強力な権力作用である。
AIは、この危険を増幅する。複数の声を要約し、平均し、角の取れた一般論にすることに、AIは長けている。整った中立的な文章が出力される。だが、その整序の過程で、誰の痛みが薄められたか、誰の怒りが中和されたか、誰の語彙が消えたか、どの少数意見が「例外」として処理されたかは、見えにくくなる。きれいになるほど、何が削られたかが分からなくなる。意味の居場所——誰が、どこから見て、何を失いうる位置でそう言っているのか——を消した意味は、公共的に見えて、実は文脈を抜かれた意味にすぎない。ハーバーマスが理想的な対話の条件として論じたものの裏返しが、ここにある。形式上は誰もが発言しているように見えて、特定の語り方だけが「まともな意味」として通用してしまう、静かな歪みである。
だからこそ、AI時代の意味には、いわばメタデータが要る。誰が意味づけているのか。どの経験に根ざすのか。どの利害に支えられているのか。どの時間軸で見ているのか。誰が有利になり、誰の経験が見えなくなるのか。反対解釈は何か。どこが未検証か。この情報とセットで扱われてはじめて、意味は支配の道具になることを免れる。目指すべきは、唯一の正しい意味ではない。複数の意味づけを、その主体・根拠・利害・反対解釈とともに並べ、新たな当事者や証拠の登場に応じて描き直せるようにした、編集可能な意味の地図である。一枚の正解は描き直せないが、地図は描き直せる。
決定と未決を分ける
とはいえ、意味の多元性を保つだけでは、社会は何も決められない。社会は、複数の意味が併存したままでも、予算を配分し、制度を作り、教育を設計し、規制を導入しなければならない。多元性の尊重と、意思決定の必要。この緊張をどう処理するかが、最後の難問である。
必要なのは意味の統一ではなく、決定と未決の分離である。政策や行動としては、暫定的に決定する。だが、意味の解釈としては、未決の部分を保存する。多数派の意味づけが制度的に採用されたとしても、少数派の意味づけを消さない。決定の後も、反対解釈、取りこぼされた経験、新たに生じた被害、予期せぬ影響を記録し、再編集できるようにしておく。
これは優柔不断とは異なる。むしろ、決定をより責任あるものにするための条件だ。社会の認知的な弾力性——変化や矛盾や価値対立に直面しても認識を硬直させず、問題設定を更新できる力——とは、いつまでも決めない力ではない。決めた後も、自分たちの意味づけを疑い、修正し続けられる力である。決めることと、決めたものを未完のままにしておくこと。この二つは両立する。むしろ両立させなければ、決定は現実から切り離され、地図は一枚の正解へと硬直する。
この分離を支える感情的な装置として、元記事が触れなかった論点を一つ加えておきたい。羞恥、後悔、罪責である。これらの感情は現代ではしばしば否定的に語られ、その理由もある。羞恥は人を黙らせる道具になり、罪責は支配の手段になってきた。だが、これらをすべて有害として排除すると、人間が自分の判断を修正する回路まで失われる。羞恥は自分が他者の視線のなかにあることを知らせ、後悔は過去の選択を現在から見直させ、罪責は自分の行為が他者に与えた影響を引き受けさせる。要は、修復的な感情と破壊的な感情を分けることだ。自分のふるまいを見直させる羞恥と、存在そのものを否定する羞恥は違う。AIは恥じず、後悔せず、罪責を感じない。だからこそ、消えた声を引き受ける感情的な応答責任は、人間の側にしか残らない。
責任は誰がどの層で負うのか
「AIには責任がないから人間が責任を負う」という整理は正しい。だが、それだけでは足りない。AI時代の責任は、個人の倫理だけでは担えないからだ。
責任は、少なくとも三つの層に分かれる。第一に、解釈責任。AIの出力をどう読み、何を採用し、何を疑うか。第二に、使用責任。その出力をどの文脈で使い、誰に影響を与え、どの判断に組み込むか。第三に、制度責任。AIによって組織や社会の判断回路が痩せないよう、現実接触・検証・異論の保存・責任の所在を制度として設計する責任である。利用者、開発者、提供企業、導入組織、規制当局、教育機関、専門家、媒体、意思決定者。それぞれが異なる層で、異なる責任を負う。
この三層を区別しないと、「人間が責任を負う」という言葉は、かえって責任を霧散させる。誰もが「自分は出力を使っただけ」「モデルがそう示した」「データがそう言っている」と言える状況では、責任の所在は曖昧になり、最終的に誰も引き受けない。AIの出力を、どのような意味として受け取り、誰の判断として採用し、どの責任のもとで使うのか。この問いを曖昧にしたままAIを導入すれば、責任は人間に戻るどころか、組織と社会の隙間へと消えていく。責任を人間に戻すとは、その所在を設計することなのである。
失われるのは知識ではない
ここまで辿ってくれば、当初の結論は顔つきを変えている。AI時代に失われる危険があるのは、人間の知識ではない。知識らしきものは、むしろ増える。説明はうまくなり、論点は整理され、分析は洗練される。失われるのは、意味を作り直す力のほうだ。
意味を作り直す力とは、単に新しい言葉を作る能力ではない。経験に戻り、違和感を手放さず、借りた言葉を自分が引き受けられる言葉に変え、複数の意味を地図化し、暫定的に決め、決めた後も修正し続ける力である。それは個人の判断力であると同時に、社会が現実を捉え直す力でもある。
AIは、過去の意味の堆積を高速に組み替える。その力は本物であり、使い方しだいで人間の思考をたしかに助ける。自分では言葉にできなかった違和感を輪郭にし、複数の視点を示し、反論を与え、思考の足場を作ることもある。同じ装置が、経験と判断への回路を開くこともあれば、塞ぐこともある。分岐点は、AIを結論生成の装置として使うか、問い返しと接続の装置として使うかにある。
だから、AIがどれほど賢くなるかよりも重要なのは、私たちがその出力を前にして、なお自分たちの経験、判断、責任を手放さずにいられるかどうかである。AIは意味を、先へ先へと延ばしていく。だが、その意味を誰のものとして引き受けるのかは、人間と社会の側に残されている。問いは、そこにある。
ポイント整理
AIは意味の沈殿物を操作する装置である
AIは世界を経験せず、人間の経験と判断が言語として沈殿したパターンの上を動く。抽象的な言語作業に強く、身体的な常識に弱いのはそのためである。
ゆえにAIは「異物」ではなく、書く・数える・計算するに続く「認知の外部化」の最新形として理解できる。
AIに欠けるのは応答責任である
人間の判断は、世界によって誤りを暴かれうる主張を差し出し、それを引き受けて修正する構えを含む。AIはこの構えを持たない。
問題はAIが外界情報を持たないことではなく、出力を自分の判断として引き受ける主体性を持たないことにある。
「経験に戻れ」は楽観にすぎる
経験そのものも歪む。経験は意味生成の出発点ではあるが、検証の最終審級ではない。
必要なのは経験か言葉かの二択ではなく、経験・言語化・他者・検証のあいだの往復である。
「人間」という主語は分解を要する
個人はすでに沈殿した言葉のなかで考えている。社会が現実に触れ続けられるのは、分業ゆえである。
AIは社会の意味生成循環のうち、言語化・要約・概念化という中間工程だけを肥大させ、現実接触と検証を痩せさせうる。
意味生成は意味支配と紙一重である
意味は視点に依存する。「社会にとっての意味」を特定の立場が代表した瞬間、意味生成は意味支配に滑る。
AIの要約と平均化は、中立を装いながら、どの声を「例外」として処理するかを静かに決めている。
目指すべきは編集可能な意味の地図である
唯一の正しい意味ではなく、複数の意味づけをその主体・根拠・利害・反対解釈とともに可視化し、描き直せるようにしておくこと。
多元性と意思決定は、決定と未決の分離によって両立する。決めた後も、反対解釈と影響を保存し、再編集できるようにする。
責任は三つの層で設計される
解釈責任（どう読むか）、使用責任（どこで誰に対して使うか）、制度責任（判断回路が痩せないよう設計する責任）。
「人間が責任を負う」を、所在の設計にまで具体化しなければ、責任はかえって霧散する。
キーワード解説
【意味の沈殿（sedimentation of meaning）】
人間の経験や判断が言語表現として残り、反復・共有されて、もとの経験から切り離されても自動的に使える安定したパターンになること。現象学の用語。強みであると同時に、言葉が経験から遊離して空転する危うさも生む。
【応答責任（answerability）】
自分の判断を世界に向けて差し出し、誤りが暴かれれば引き受けて修正する構え。倫理を外から付け加えたものではなく、思考と経験そのものに内在する。AIに構造的に欠けているとされる能力。
【プロット延長器】
AIを「次の単語を当てる機械」と見る説明に対する対案。AIは局所的に単語を継ぐのではなく、人間の表現に沈殿した意味のつながりを、数学的に実在する軌道としてたどり、その筋を内側から延長している、という捉え方。
【認知の外部化】
人間の認知能力を体の外で形式化し、作動させる試みの系譜。文字は意味の持続を、数学は空間と時間の関係を、計算機は論理操作を外部化した。AIはそこに連なり、意味と意味のつながりそのものを外部化したと位置づけられる。
【意味支配】
特定の立場から見た意味が、「社会全体の意味」「公共的意味」「中立的整理」として固定され、他の意味づけを覆い隠してしまう状態。意味を作る力が、いつのまにか意味で抑える力に転化する。
【編集可能な意味の地図】
ある出来事について、複数の立場の意味づけを、その主体・根拠・利害・反対解釈とともに可視化し、新たな証拠や当事者の登場に応じて描き直せるようにしたもの。唯一の正解を確定する代わりに、解釈の多元性を保ったまま判断と接続するための発想。
【決定と未決の分離】
政策や行動としては暫定的に決定しつつ、意味の解釈としては未決の部分を保存する考え方。決定後も反対解釈・取りこぼされた経験・予期せぬ影響を記録し、再編集を可能にしておく。多元性と意思決定の緊張を両立させる鍵。