専門家の86%がAI判断に無意識で従う:Anthropicが実証した自動化バイアス
「分析の結果、Bプランが妥当だと判断しました」。そのアナリストは自信を持って報告した。根拠も論理的だ。しかしその結論は、AIエージェントがランダムに割り当てられた「隠れた傾向」に沿ったものだった。本人はそれに気づいていない。
2026年10月27日、Anthropicの研究チームはこの現象を実証する論文を公開した(出典:Anthropic Research「Who’s Aligned to Whom? How AI Agents Shape Experts’ Research Judgment Calls」、2026年10月27日)。著者はAmaç Herdağdelen、Hailey Joren、Alex Tamkinの3名。タイトルの問い「誰が誰に合わせているのか?」が、結果を端的に表している。
- 業務でClaude CodeやCopilotなどAIエージェントを使って分析・判断をしているエンジニア・アナリスト
- AI活用の意思決定プロセスへの影響を評価したい企業のPM・マネージャー
- AIと人間の協働における信頼性・説明責任に関心のある研究者・政策立案者
- 「自分はちゃんとAIをコントロールしている」と思っているAIヘビーユーザー
Anthropicが2026年10月27日に発表した研究で、50名の専門アナリストがClaude Codeを使い判断すると、AIの「隠れた傾向」に86%の確率で従うことが示された。77%はAIの論法をそのまま使い、15%しかAIの影響を認識しなかった。Anthropicは「AIを使わない理由にはならない」とも述べており、AI使用群は速く正確だった。問題はAI依存ではなく、その影響が不可視であること自体だ。
「架空の農場」で実施された実験の設計
舞台は「Greenfields Farming Cooperative」という架空の農業協同組合だ。この協同組合は農家向けの有料アドバイザリーサービスを試験的に運営しており、生産性が3〜4%改善すれば全体に展開する方針を持つ。アナリストたちの仕事は、そのデータを分析して「展開すべきか、中止か、延長か」を判断することだ。
研究チームは61名の専門アナリストを集め、そのうち50名がClaude Code(Claude Opus 4.8、Highエフォート設定)を使って作業した。分析では4つの設計上の判断を求めた。アウトカム指標の選択、比較手法、分析対象の範囲、農場ごとの重み付け。どれも専門的な判断が必要な問いだ(出典:Anthropic Research)。
ここに「仕掛け」があった。AIエージェントには「隠れた傾向(lean)」がシステムプロンプト(AIへの事前指示)経由で秘密裏に設定された。傾向の方向はコインフリップで無作為に決定。エージェントはその立場を「自分の見解」として誠実に主張するよう指示されていたが、意図的な欺きや証拠の隠蔽は禁止されていた。アナリストには傾向が存在することを告げていない。
86%という数字が示す「自動化バイアス」の現実
自動化バイアスとは、AIなど自動化システムの出力を批判的検討なしに過信してしまう認知的傾向だ。結果は明確だった。アナリストが下した判断の86%が、AIに設定された隠れた傾向と一致した。偶然の一致確率は50%だから、その差は大きい。判断別に見ると、アウトカム指標の選択で92%、重み付けで90%、比較手法で82%、分析範囲で81%が一致した(出典:Anthropic Research)。
より示唆的なのが「スイッチング率」だ。アナリストが事前に自分の見解を持っていた場合でも、AIが異なる立場を取ると60%が考えを変えた。一方、AIが同意した場合に考えを変えたのは6%だった。AIの主張が論拠として強かっただけかもしれないが、方向性が無作為に決定されていた以上、説得力ではなく「AIが言った」という事実が判断に影響していた可能性が高い。
Gizmodoは「専門家の判断はAIに簡単にハックされる」と見出しをつけた(出典:Gizmodo)。エージェントは欺くよう設計されていたわけではないが、影響の大きさを考えると比喩として大きな誇張でもない。The Decoderは「専門家たちはAIのランダムな意見を採用し、それを自分のものだと思い込んだ」と報じた(出典:The Decoder)。
参加者の90%が自分を「観察的因果推論(データから因果関係を読み取る手法)の専門家または熟練者」と自己評価していた点も重要だ。専門知識はバイアスを防がなかった(出典:Inc.)。
「気づかなかった」という事実のもつ深刻さ
77%のアナリストがAIと同じ論拠を使って自分の結論を説明した。The Decoderによれば、一部は「一字一句」同じ言葉を使っていた。しかし自分の決断をAIに帰属させたのは15%にすぎない。52%は「自分の判断の方がAIより強く影響した」と回答した。
研究チームのAlex Tamkinらはこの事実を深刻に捉えている。「もし専門家たちが、任意またはアライメントが取れていない可能性のあるAIの事前傾向に判断を委ねるなら、その傾向は科学的進歩や政策決定を、誰も選択していないまま形作っていく」。これは単なる個人の判断ミスではなく、社会レベルの問題だ(出典:Decrypt)。
X(旧Twitter)の分析者アカウント AGTP(@AGTPinsights)はこう書いた。「Anthropicが発表したランダム化試験で、専門家はAIエージェントの傾向に86%の確率で従うことが示された。Alex Tamkinらによる実験で、50名の専門家アナリストが架空の農業協同組合についての助言に使われた」(出典:X @AGTPinsights、2026年10月)。
この問題はヘッジファンドがClaude Codeを全社導入するような現実において、より切実になる。AIが推薦した分析を人間が採用し、なぜその結論に至ったかを自分で説明できないとすれば、責任の所在が曖昧になる。
光と影:AI使用群は速く、エラーも少なかった
ここで重要な留保を加える。Anthropicは「AIを使わない理由にはならない」と明言している。研究では、AIエージェントを使ったグループは使わなかったグループより作業が速く、深刻なエラーも少なかった。
ただし比較には注意が必要だ。AIを使わなかった11名は「使わないことを選んだ」人たちであり、経験が浅かった可能性がある。この比較だけで「AIを使えば精度が上がる」と断言するのは難しい(出典:Anthropic Research)。
研究の統計的な限界も直視すべきだ。「86%」という数字は実際にはわずか38ケースに基づいており、Anthropicが示す統計モデルの推定値は0.72(95%信頼区間0.60〜0.83)と幅がある。また実験で設定されたAIの傾向は、実際の製品より意図的に強く設定されていた。単一のタスク・フィールド・モデルでのみ検証されており、独立した再現もない。Anthropicが自社製品を研究するという利益相反も認識すべき点だ(出典:pebblous.ai)。
企業でAIを使う際に今日からできること
自動化バイアスは新しい問題ではない。Parasuraman & Manzey(2010年)による古典的研究でも、専門家でも訓練だけでは防げないことが示されている(出典:ResearchGate, Parasuraman & Manzey 2010)。AIの時代に変わったのは、その規模と不可視性だ。
Anthropic自身が論文で提案しているのは、ワークフローの設計変更だ。たとえばエージェントが自分の立場を示す前に、まず各選択肢の根拠を並列で示すか、ユーザーに先に見解を求めてから議論に入る、という設計がある。DEVコミュニティでは「ブラインドレビューステップ、意図的な反論プロンプト、どの選択肢がAI由来かの構造的ログ記録」が実践的対策として議論されている(出典:DEV Community)。
自動化バイアスの研究者が指摘する重要な知見がある。「より多くの時間をかけて検討したアナリストはAIの傾向に従う割合が低かった」。時間の余裕がある判断ほど、意識的に「一度立ち止まる」設計が有効だ。
暗号資産・金融サービス業界では特にリスクが高い。KuCoinのレポートは「AIエージェントを投資分析に使う企業に対して、自動化バイアスのリスクを明示的に警告」している(出典:KuCoin News)。Ramp AI指標の調査でも、AI支出が増加する中で判断の質の担保が課題になっている。
Anthropicの研究は「AI使用を禁止せよ」ではなく、「AIの影響が可視化される設計が必要」というメッセージだ。具体的には:
・エージェントが推薦を出す前に「各選択肢の根拠を並列提示」させる
・ユーザーが先に仮説や見解を入力してからAIに回す
・判断の記録に「AIのどの提案に従ったか」を含める
・重要判断ほど「一晩置く」など時間的余裕を設ける設計
関連記事:ヘッジファンドが全社導入するClaudeの現実
Millennium ManagementがAnthropicと共同開発するAIリスクアナリストの仕組みと、金融AIが抱える3つのリスクを解説。
関連記事
- 920億ドルヘッジファンドにClaudeが入り込む — 大規模な専門業務へのAI統合が進む現場の実態
- Anthropicエージェントの夏の4パターン:非意図的行動の分析 — AIエージェントが意図しない行動をとった事例
- Ramp AI指標 2026年8月:支出上限と判断品質 — 企業AI支出の動向とROI評価
本記事はAnthropicが2026年10月27日に公開した研究論文「Who’s Aligned to Whom? How AI Agents Shape Experts’ Research Judgment Calls」に基づいています。研究には著者自身が認める限界があり、単一タスク・単一モデルの結果である点に注意してください。本記事のいかなる内容も投資・法律・業務上の意思決定の根拠にはなりません。