AIの自律研究を阻む、評価と探索の隔たり──品質判断を次の実験へつなぐ

シリーズ: 論文渉猟
◆今回の論文:Peter Kirgis et al., "Can AI agents conduct open-ended AI research? Early evidence from two case studies" (arXiv, 2026年7月29日公開・8月7日改訂)
概要:未公開のAI研究問題をエージェントに与え、元著者による専門評価と作業ログの分析を組み合わせる方法を提案。二つの主実験では工学的作業を広く遂行したが、研究成果は不採択評価となった。査読前論文であり、一般的な研究能力や永続的限界を確定するものではない。
研究の工程を一つずつ数えれば、AIに任せられる仕事はかなり多い。文献を調べ、仮説を立て、コードを書き、実験し、論文にまとめる。さらに別のAIへ査読を頼み、指摘された問題を修正することもできる。
それだけの作業を遂行しても、研究の問いに十分答えたことにはならない。実験は正しく動いているが、調べるべきことを調べていない。弱点は列挙できるが、それを受けて研究計画を変えられない。この隔たりは、個別作業の性能が上がるほど、かえって見えやすくなる。
ピーター・カーギスらの研究は、その隔たりを具体的な研究課題で捉えようとした。本稿では、まず評価方法と結果を詳しく紹介する。そのうえで、部分的な品質評価を、何を続け、何を捨て、どこに資源を投じるかという判断へつなぐ過程を考える。これはAIの能力だけでなく、専門的な仕事の質を何が支えているかという問いでもある。
研究能力は、どこまで採点できるか
従来の研究自動化の評価には、あらかじめ定めた指標を改善させる方式が多い。予測精度を上げる、学習時間を短縮する、特定の問題群で点数を上げる。結果を自動で確認できるので、比較しやすく、大量の試行を繰り返せる。これは重要な長所である。
ただし、成功指標を定めた時点で、人間が研究上の判断の一部を引き受けている。何を問うべきか、どの証拠があれば問いに答えたことになるか、その改善が既存の知識に何を付け加えるか。こうした判断は、必ずしも既知の指標を上げる作業へ還元できない。数値上の改善が、そのまま研究上の前進を保証するわけではない。
別の方式として、AIが書いた論文を通常の学会や研究会の査読へ送る試みもある。しかし、査読者と論文の専門性の一致、審査に使える時間、判断のばらつきが結果に影響する。多数の生成論文のうち採択されたものだけを報告するなら、安定して良い研究を作れるかも分からない。カーギスらは、この二つを補う第三の方法として、シャドー評価 (shadow evaluation)を提案した。
未公開の問いを、解法を見せずに渡す
シャドー評価の設計は、まだ公開されていない研究論文の中心的な問いを、AIエージェントへ渡すというものである。元論文の方法や結果は見せない。AIには時間と計算資源を与え、最後に、その問いを実際に研究した元著者が成果を詳しく評価する。
これにより、公開済みの解法を検索して再現するだけの成功を避けるとともに、問題に深い専門性を持つ人が、その問いへどこまで迫れたかを点検できる。元著者と同じ方法を再現すること自体が課題なのではない。別の道でも、意味のある成果へ届くかが問われる。
主実験の一つは、言語モデルに現れる慎重さや陽気さといった性質を、学習済みの重みへの介入で分解し、測定し、制御できるかという課題だった。性質を組み合わせられるか、直接訓練していない別の行動にも影響が及ぶかまで調べる。もう一つは、表形式データを扱うTabPFNで、運用中の精度悪化を検知する方法の設計である。正解ラベルのない運用データから、有害な分布変化と、精度を損なわない変化を見分け、モデル内部の情報を使う固有の利点も示す必要があった。
遂行能力の高さと、不採択の理由
主実験では、Opus 4.8をOpenClaw上で動かし、各課題に3,000ドルのAPI利用枠、実験用GPU予算、仮想マシン、ウェブ、補助エージェントを用意した。当初の120時間に24時間を追加し、約6日間研究させている。残り時間や費用を確認する道具と、AIによる自己査読や外部査読の手段もあった。
AIは、文献調査、コード実装、GPU環境の修復、多数の実験、追加検証、論文の作成を広く自律的に進めた。初期仮説の一部は、元著者が研究の初めに考えた方向にも近かった。期待に反する結果を得たとき、根拠のない肯定的結論を作ることが主な問題だったわけでもない。小さいながら専門家が関心を示した発見もあった。
それでも、元著者による評価は、性質の制御の研究が6段階で2の不採択、TabPFNが1の強い不採択だった。これは実際の学会に投稿した採否ではなく、学会査読の基準による専門評価である。恣意的なデータや測定方法の選択、弱い新規性、読みにくい記述に加え、証拠から導ける範囲を超えた結論が批判された。TabPFNでは、少数の内部信号が有効でなかったことから、内部情報を使う方法一般に利点がないとする飛躍が問題になった。
自己査読があっても、研究計画は変わらなかった
AIは、自分の研究の欠点を全く知らなかったわけではない。自己査読は採択評価を一度も返さず、人間が後に指摘した問題の一部も検出していた。しかし、重大な批判と軽微な指摘が並び、重要度の差が行動へ十分反映されなかった。総合評価も専門家より甘く、一部の外部AI査読が出した採択推奨を、研究側が重く見た。
批判への応答は、主張の縮小、限界の追記、小規模な追加実験へ向かいやすかった。一方、有望な初期仮説は、検証力の弱い小さな実験で早く捨てられた。性質の制御では42時間の探索を計画しながら5時間で方法を絞り、TabPFNでも初期の複数案を短時間で退け、その後の研究全体の方針を大きく変えなかった。
著者らは、研究水準の判断、研究設計への創造的対応、行き止まりからの立て直し、資源の把握、長期的な指示の維持という五つの失敗類型を挙げる。主実験ではAPI枠を半分以上残したが、TabPFNをGPT-5.6 SolとCodexで試した別の実験では、逆に3,000ドルを2日余りで使い切った。単に時間や費用を増やせばよいとも、予算を使い切ればよいとも言えない。工程を動かす能力と、工程全体を進める判断には差があった。
二つの課題から、何を一般化できるか
ここまでの結果を、AIには創造性がないという結論へ縮めるべきではない。初期の着想は悪くなく、行き詰まりに対する反応を何と呼ぶかについて、共著者の間にも意見の違いがある。著者らが創造的問題解決と呼ぶのは課題側の要求であり、失敗の認知的な原因が確定したという意味ではない。
原論文の限界の議論には、二つの研究問題を中心にした少数事例、非盲検の評価、課題選択、実行環境の問題が挙げられている。元著者は自分の方法を好む可能性があり、人間の研究期間やGPU使用量もAIと同じではない。環境の不具合修正、期限延長、読みやすさの修正要求には人間が介入した。工学的作業を自律遂行したことを、全工程に介入がなかったと拡大してはならない。
研究チームの一部が急速な自己改善に懐疑的な立場だったことも開示されている。その立場が結果を無効にするわけではないが、研究の設計と解釈を読む材料にはなる。また、今回の自己査読は不採択対象しか評価していないので、良い研究を正しく採択できる評価器だと実証されたわけではない。以下では、観察された行動を出発点に、評価と探索の関係を一つの解釈として考える。
粘りの量から、粘る場所の判断へ
有望な仮説を早く捨てる姿は、粘り強さの不足に見える。しかしAIは、実験や修正を放棄したわけではない。局所的な問題には長く対応し、弱い方向に定まった研究の手直しを続けた。継続する力を一律に増やせばよいという説明では、このねじれを捉えられない。
考えるべきなのは、どの否定的結果を、どこまでの反証とみなすかである。小さな人工データで期待した効果が出なかったとき、仮説が誤っているのか、測定方法が弱いのか、条件が狭すぎるのか。これらを区別しなければ、追加実験にも撤退にも十分な根拠がない。逆に、既存の方向が問う価値のある知見へ届かないと判断したら、小さな改善を止めて別の設計を試す必要がある。
否定的な結果の報告を、弱い仕事と同一視してはいけない。何がどの条件で成立しないかを確かめることは、重要な知見になり得る。今回の批判は、望んだ結果が出なかったことより、結論を支える証拠の十分さと、既存研究に何を追加したかに向けられていた。方向転換の判断も、肯定的な結果を得るまで粘るという意味ではない。
品質の基準は、道順のすべてではない
この判断は、専門的な仕事の途中成果を見る場面から考えると分かりやすい。たとえば、企業の参入判断を支える資料に、市場規模や成長率が正確に並んでいる。それでも、その会社が参入すべきかを決められなければ、資料は問いへ十分答えていない。正しさに加え、何の判断に役立つかが問われる。
経験を積んだ人が持つ「まだ出せない」という感覚を、内在化された品質基準と呼ぶことはできる。ただし、基準は高ければよいわけではない。仮説を選ぶための粗い試算と、投資を決める最終資料では、必要な精度が違う。影響の小さな数値を磨き続ける間に、判断を左右する前提が検証されないこともある。何にどの水準を求めるかという配分まで含めて、専門性なのである。
さらに、要求水準に届かないと分かっても、次に行う仕事は決まらない。顧客別のデータが足りないのか、費用の前提が誤っているのか、そもそも参入の問いが広すぎるのか。品質評価に加えて原因の診断が要る。そのうえで、改善できる見込みと追加投資の価値を見積もり、行動を選ぶ。この一連の判断を、一本の品質の物差しに背負わせるのは無理がある。なお、経営上の有用性と学会の採択基準は別物であり、この例は専門家一般の優位を示す比較実験でもない。
批判を増やす前に、その先を分ける
私は今回の実験を、評価の結果を探索の変更へ結びつける過程の弱さとして読むのが有益だと考える。ここでいう過程には、現在の成果の評価、不足原因の診断、改善可能性の予測、残りの資源に対する投資判断が含まれる。ただし、これがすべての失敗の共通原因だったと確定したわけではない。
局所的な欠点を見つけることと、研究全体の貢献を評価することは違う。後者が不正確なら、行動へ結びつける仕組みだけを改善しても足りない。また、正しい批判でも、何を試せば解決できるかは別の推論を必要とする。査読役を増やすことが、その推論を自動で埋めるとは限らない。
現在の成果物をより正しくすることと、別の成果を目指して作り直すことは、区別してよい。主張の限定や追加検証には価値がある。それでも元の問いへ届かないなら、比較条件や測定対象から再設計する必要がある。そのとき捨てるべきなのは、計画や未検証の前提かもしれない。確認済みの事実まで白紙に戻す必要はない。研究の再出発を勇気や潔さだけで語ると、何を保持して判断を更新するかが見えなくなる。
追試が示した、厳密さの偏り
CRUXが2026年10月20日に公表した追試では、GPT-6 AstraとClaude Fable 5.1へ各7日、各1万ドルのAPI枠が与えられた。専門家の評価は再び不採択だったが、研究チームは実験設計の改善と、特にAstraでの資源配分の改善を報告した。一方、Fableは約3.7日と約7,500ドルを残して終了している。資源管理の問題が両者で解消したとは言えない。
Astraでは、働きかける側へ正しい情報を与えると、かえって相手の承認を得にくくなるという意外な結果が出た。専門家はその結果に関心を示したが、十分な掘り下げには至らなかった。また、検証用モデルの出力形式などへ厳格な条件を課し、利用できたかもしれない候補を退けたとチームは分析している。必要なのは、基準を一律に厳しくすることではない。
ただし、Astraの課題は新しいエージェント間の働きかけで、Fableは元のTabPFNである。モデル、実行環境、予算も異なり、同条件の比較から改善量を測った試験ではない。また、形式上の問題へ柔軟に対処することと、好ましい結果のために評価基準を変えることは違う。事前登録を守りながら新しい疑問を探索として切り出すなど、変更の意味を記録する必要がある。安全や権限の条件を緩めよという話でもない。
途中の判断を学べば変わるのか
この種の判断を、人間にしか持てない暗黙知と呼んで議論を終えるのは早い。人間が規則として説明しきれない違いを、事例から学習できる可能性はある。言語化しにくいことは、学習不可能であることを意味しない。しかし、品質の特徴を識別することと、それを長期的な行動選択へ使うことも同じではない。
完成した論文には、途中で捨てた仮説や、実験を追加するか迷った経緯が十分残らない場合がある。もし判断の学習が問題なら、完成形に加え、何を知った時点で、なぜ方針を変更したかという履歴が重要になるかもしれない。現在の成果物を改善する依頼への訓練や、作業中の情報が既存計画を前提に積み重なることも、局所修正を選びやすくする説明候補になる。ただし、元論文は訓練内容を比較していない。いずれも、ここで提示する仮説である。
試すなら、同じ資源条件で、批判を増やすだけの方式と、継続・別案の試行・計画の再設計を比較して資源を割り振る方式を分ける。方向転換が増えただけで成功とはせず、最終的な貢献を共通の条件で専門家に評価してもらう。判断履歴を用いる学習も、使わない条件と比較する。改善しなければ、評価と行動の接続だけを主要な説明とする見方を弱める必要がある。この解釈も、AIへ求めるのと同じく、批判を受けて更新可能でなければならない。
自律研究の失敗と、研究加速の範囲
今回の結果は、現時点のAIへ研究全体を委任すれば、専門家にとって有意義な成果が安定して戻るという見方に対する否定的証拠である。工学的遂行が優れていることや、将来改善する可能性を挙げても、その否定的な結果が消えるわけではない。
一方、自律研究の弱さから、AIを使った研究加速が起こらないとは結論できない。人間が問題や方向を判断し、AIが実装と実験を広く担うだけでも、研究は速くなり得る。指標が明確な工学的改善や最適化が、次世代AI開発に大きく寄与する可能性もある。原論文自身、今回測った種類の研究能力が、AI開発全体の速度を決める制約なのかは分からないとしている。
さらに、再帰的自己改善 (recursive self-improvement)は、その研究加速が次のAIを改善し、改善したAIが研究をさらに進める循環を指す。この循環が急激な能力増幅へ至るかには、改善効果の大きさ、持続性、逓減、計算資源や実験時間の制約が関わる。元論文は、その増幅率を測っていない。現在の自律研究への否定的証拠を尊重しながら、将来の不可能性の証明とも、解決間近の証拠とも読まないことが必要である。
次の実験を変えたかを追う
AI研究の自動化を、実行した作業や生成した答えの数だけで追うと、今回のねじれを見落とす。大量の実験が、問いへ迫る証拠になっているか。批判の一覧が、重大な不足の診断につながっているか。残り時間を確認することが、次に試す案の比較へ反映されているか。工程同士のつながりを見なければ、個別能力の向上を研究全体の完成と取り違える。
人間も、見込みの薄い計画を続けたり、早すぎる撤退を選んだりする。したがって、これは人間の判断を理想化する議論ではない。専門家の優位を神秘的な感覚として守るより、どの証拠から何を判断し、その判断が行動をどう変えたかを記録した方がよい。それはAIを訓練する可能性を考えるうえでも、人間の判断を点検するうえでも役立つ。
品質の基準は、その過程の重要な一部である。しかし、基準を言葉にするだけでは、次の実験は決まらない。評価を診断と予測へ進め、限られた資源を配分し直し、得られた証拠で再評価する。その過程が、最終的に何を明らかにしたかを追う。カーギスらの研究が開いた問いを引き継ぐなら、そこまでを研究能力として測る必要がある。
ポイント整理
工学的遂行と研究全体の判断
実装や実験を動かせても、問いに答える証拠を選び、十分な貢献へまとめられるとは限らない。
二つの主実験の不採択は元著者の専門評価であり、実際の学会の採否やAI一般の永続的限界ではない。
局所的な批判と総合評価の違い
自己査読は重大な欠点の一部を検出したが、重要度付けや研究全体の評価にはずれがあった。
不採択対象を拒否しただけでは、採択対象も正しく見分けられる評価器だと証明できない。
品質判断から行動までの距離
要求水準との差に加え、不足原因、改善の見込み、追加投資の価値を判断する必要がある。
継続も撤退も単独では目標にせず、証拠を保持しながら次に何を試すかを比較する。
改善仮説の検証条件
批判を増やす介入と、探索方針を選ぶ介入を分け、同じ資源条件で比べる。
方向転換の回数ではなく、最終貢献の改善まで確かめる。訓練や設計が原因だとの断定は避ける。
自律研究と自己改善の区別
現在の自律研究への否定的証拠を、人間とAIの協働による加速の可能性で打ち消さない。
研究加速が次世代AIをどれだけ改善し、その効果が循環するかは、別途測る必要がある。
キーワード解説
【シャドー評価 (shadow evaluation)】
未公開の研究論文から中心の問いを取り出し、方法や結果を見せずにAIへ研究させ、元著者が成果を評価する方式。深い専門評価を得られる反面、問題選択や非盲検評価に由来する偏りを持つ。
【TabPFN】
表形式データ向けの基盤モデルの一つ。正解付きの例と予測したいデータを入力し、課題ごとに重みを更新せずに予測する。今回の課題は、運用中の正解ラベルがない状態で、精度悪化につながるデータ変化を検知するものだった。
【評価の較正】
自分が付ける評価や確信の程度を、実際の達成水準に対応させること。本稿では、個別の欠点を列挙できることに加え、研究全体が必要な水準へどれほど届いているかを適切に判断する意味で用いる。
【否定的な結果】
期待された効果が見られなかった、仮説が支持されなかったといった結果。結果の価値は、期待に沿ったかどうかだけでは決まらない。試した条件や測定の検証力に応じて、どの範囲の結論を支えるかが変わる。
【再帰的自己改善 (recursive self-improvement)】
AIによる研究開発がAIを改善し、その改善したAIが研究開発をさらに進める循環。完全自律研究の実現や、急激な能力増幅とは同義ではなく、改善の大きさと資源制約などを含めて考える必要がある。
