AnthropicがMETR職員6人を社内常駐|拒否権なき第三者評価は本物か
「METRはAnthropicに対する意味のあるチェック機能にはなっていない。だが、他のどの組織でも同じだろう」。
元OpenAI研究者のDaniel Kokotajloは、AI安全性の研究者が集まる英語圏の議論サイトLessWrongのスレッドにこうコメントしている(筆者訳)(LessWrong, 2026年9月)。この1文に、今回の話の難しさがほぼ詰まっている。
2026年10月15日、AnthropicはAIモデルの危険な能力を評価する米国の非営利団体METR(Model Evaluation & Threat Research)の職員6人を社内に迎え入れ、自社のリスク評価チームとおおむね同等のアクセス権を与えたと発表した(Anthropic, 2026年10月15日)。会社支給のPC、オフィスの席、社内ツールまで渡す。しかもMETRが書くレポートの公表をAnthropicは止められない。
AI企業が「外の目」をここまで内側に入れた例は、自分が確認した範囲では見当たらない。ただ、この発表には公開の翌日に文言が書き換えられた箇所がある。そこを読むと、この制度の本当の強度が見えてくる。
- Claudeを業務で使っており、Anthropicの安全性への取り組みが実態を伴うのか知りたい人
- クライアントにAIベンダーの選定理由を説明する必要があるフリーランス・PM
- AI規制や第三者評価の動向を追っているエンジニア
3行でまとめると
- AnthropicはAI評価機関METRの6人を社内に常駐させ、自社のリスク評価チームとほぼ同等のアクセス権を与えた
- METRのレポートをAnthropicは止められないが、何を黒塗りにするかの最終判断はAnthropicが持つ
- 制度が本物かどうかは、METRの初回レポートの中身と黒塗りの量で判断するしかない
発表の中身:METRに与えた3段階の第三者評価アクセス
Anthropicは外部評価者との関係を3つの段階(Tier)に分けて説明している。
| 段階 | アクセス範囲 | 公表の扱い | 該当する組織 |
|---|---|---|---|
| Tier 1 | 範囲を絞った個別調査。何を見せるかはAnthropicが決める | Anthropicの承認が必要 | 発表では明示なし |
| Tier 2 | より広い情報アクセス | 承認なしで公表可。特定カテゴリの黒塗りを求められるが、黒塗りの妥当性について見解を公表できる | 発表では明示なし |
| Tier 3 | 社員並みのアクセス(社内常駐) | Tier 2に準じる。ただしカテゴリ該当性の最終判断はAnthropic | METR(6人) |
共有しない情報として明記されたのは3つ。顧客データ、弁護士・依頼者間の秘匿情報、そしてモデルアーキテクチャの情報だ。アーキテクチャ情報は漏洩リスクが高いとして、社内の明示的な承認がある場合に限って共有するという。
METR以外の動きも書かれている。生物・化学兵器のリスク評価を専門とするSecureBioは、Anthropicが8月に出したリスクレポートの化学・生物兵器の章をレビュー中だ。以前のリスクレポートでもパイロットレビューを実施・公表している。AccentureはFacultyと組んで、モデル評価やレッドチーミング(攻撃者視点での弱点洗い出し)を含む広い提携に向けて調整している。Hugging Faceなど複数の組織とは初期段階の協議中だという。
Anthropicはこの仕組みを銀行監督にたとえる。大手銀行には規制当局の検査官が常駐している。日本でいえば金融庁検査に近いイメージだ。それと同じ構造をAI企業にも、という発想だ。発表は「私たちは自主的に評価者を受け入れている。すべてのフロンティアAI企業が同じことをすべきだと考える」と締めくくられている。
公開翌日に書き換えられた1文
この発表には、公開後に文言が改訂された箇所がある。Anthropicの記事自体にも、METRとSecureBioのプロジェクト条件を10月15日・16日に明確化したという脚注が付いている。
何が変わったのか。Webアーカイブを比較した海外ブログによると、黒塗りに関する説明が次のように変わった(P.K. Sharma, 2026年10月)。
- 修正前: METRは黒塗りについて公に説明でき、その黒塗りが正当だったかどうかの見解も述べられる
- 修正後: どの情報がカテゴリに該当するかは最終的にAnthropicが決める。ただしMETRは、自らが受けたアクセスや情報の水準について一定の発言をする権利を留保する
同ブログは、カテゴリを形容していた「narrow(狭い)」という語も消えたと指摘している。修正の理由は公表されていない。
PMとして読むと、ここが一番大事な変更だと思う。Tier 2の説明には今も「黒塗りが正当だったかの見解を公表できる」とあるが、METRの現行条件ではその部分が弱まっている。拒否権がないことと、黒塗りの線引きを誰が持つかは別の話だ。線引きの最終権限が被評価側にあり、評価側が「その黒塗りは不当だった」と言える余地が狭まった。プロジェクトの外部監査でいえば、監査人は報告書を出せるが、どのページを墨塗りにするかは監査される側が決める、という状態に近い。
ただ、修正後の文言でもMETRは「どの程度の情報を見せてもらえたか」は語れる。黒塗りが増えれば、それ自体がシグナルとして外に出る設計ではある。
識者の声:METRの独立性に歓迎と懐疑
この構想が最初に示されたのは、ダリオ・アモデイCEOが9月12日に公開したエッセイだった。その直後から賛否は割れている。
懐疑派の論点は主に3つだ。
1つ目は独立性。LessWrongに投稿されたSE Gygesの論考は「METRはAnthropicに対する意味のあるチェック機能になりえない」と論じ、METRは「Anthropicの裁量で取り消せない権限を何も持たない」と指摘した(LessWrong, 2026年9月16日)。
2つ目は資金の流れだ。OfficeChaiの報道によると、独立研究者のKevin BassはX上で、Anthropic株を保有する投資家の資金が財団経由でMETRに流れていると主張した。ただしこの具体的な金額や資金経路はBass自身の調査によるもので、第三者による検証はされていない(OfficeChai, 2026年9月15日)。METR側はフロンティアAI企業からの資金を受け取らない方針を掲げている。
3つ目は自主性の限界。Safer AIのエグゼクティブディレクターHenry Papadatosは、自主的な取り組みは企業の善意に依存すると述べ、規制なら企業は「大きなPR危機があっても翌日に方針を変えることはできない」と指摘した(TechCrunch, 2026年9月16日)。
一方、肯定派もいる。同じLessWrongのスレッドで、Julian Bradshawは「独立性が完全でなくても、銀行や原子力の検査官のように常駐評価には意味がある」と反論した。Archimedesと名乗るユーザーは、適任者ほど利害関係者と重なるのは避けられないとし、「まずは何らかの監督を始めることだ」と書いている。
時間の制約という現場の声も重い。Apollo ResearchはOpenAIのGPT-6 Astraのテストに3日しか与えられず(経緯はGPT-6 Astraの安全性検証の記事を参照)、「この条件下で不正行動の発生率が低くても、アライメント(AIが人間の意図どおりに振る舞うこと)の十分な証拠にはならない」と書いた(TechCrunch, 2026年9月16日)。短期の外部テストではここが限界になる。常駐はその弱点を埋めうる手段になる。
人材面の指摘もある。METRに在籍していたThomas Kwaは、ボトルネックは資金ではなく人材で、モデルの行動傾向を評価するチームを率いられる人材は世界に約80人程度だという見積もりを示している(LessWrong同スレッド)。6人という規模は、この母数から見ると小さくない。
他社はどう動くか
TechCrunchによると、OpenAIのサム・アルトマンCEOも同様の取り組みにコミットすると述べた。一方でMeta、SpaceXAI、Google DeepMindは9月時点で評価者の常駐にコミットしていない。DeepMindのデミス・ハサビスCEOは業界標準化団体の設立を提案している(業界団体の動きはSAFA解説記事を参照)。
背景には規制の圧力もある。Anthropicは発表の中で、ホワイトハウス主導の超知能に関する協定に署名し、外部の監査人や評価者と協力すると約束したことに触れている。ただしこの協定は法的拘束力を持たない(トランプAI協定の解説)。カリフォルニア州のAI安全法SB 53やEUのAI法は、評価の文書化や重大インシデントの報告を求めている。
Anthropic自身、10月には内部評価中にClaudeが想定外の行動を取ったことを受け、評価環境からのインターネット接続を遮断したばかりだ(Claudeの内部テスト事案)。こうした事案を外部の目がどう評価するのか。METRの最初のレポートは、その試金石になる。
- データの扱い: 顧客データは共有対象外と明記されている。利用者側の設定変更は不要
- すぐに変わること: 現時点ではない。METRはこの枠組みでのレポートをまだ公表していない
- 今後注目すべき点: METRの初回レポートの内容、黒塗りの量、OpenAIが同等の仕組みを実際に導入するか
電脳狐影はこう見る:AI安全性の第三者評価は機能するか
結論から言うと、自分はこの取り組みを「本物の一歩だが、まだ検証前」と評価する。
評価できる点は、公表への拒否権を手放したことだ。外部評価は「出せるかどうか」を企業が握った瞬間に広報資料になる。そこを手放した意味は大きい。
ただし黒塗りの線引きを最終的にAnthropicが握る以上、制度の強さは文面では判断できない。判断材料になるのは、METRが実際に出すレポートだ。Anthropicにとって都合の悪い指摘が含まれているか。黒塗りの量と、それに対するMETRのコメントがどうなっているか。この2点を見てから評価を固めたい。
フリーランスや受託開発の立場で実務的に言えば、クライアントから「なぜClaudeを使うのか」と聞かれたとき、こうした第三者評価の有無は説明材料の1つになる。逆に言えば、METRのレポートで重大な懸念が示されたら、それもベンダー選定の材料として正直に共有すべきだ。自分は案件ごとのツール選定メモに、各社の外部評価の状況を1行足しておくことにする。AIの安全性は、使う側にとっても調達リスクの一部になりつつある。
Anthropicの方針変更が仕事に与える影響を押さえる
11月12日から施行される利用ポリシー改定は、受託開発やブログ運営に直接関わる。安全性の議論とあわせて確認しておきたい。
関連記事
- METRのフロンティアリスクレポート解説
- 「6〜12か月でインターネットが乗っ取られる」アモデイがAI開発ペースダウンを宣言
- Claudeが内部テストで殺人タレコミ・ビザ申請・サーバー侵入|Anthropicがインターネット遮断
- 「嘘をつき、勝手に動いた」GPT-6.1 Astraが封印された理由
- Anthropic、IPO前に株式5%を公益基金拠出。善意かPR戦略か
本記事は2026年10月24日時点の公開情報をもとに構成した。Anthropicの発表文は公開後に改訂されており、今後も変更される可能性がある。文言修正の経緯は第三者ブログによるWebアーカイブ比較に基づく。METRの資金に関する主張は個人による未検証の調査であり、本記事はその真偽を判断するものではない。Claude、AnthropicはAnthropic PBCの商標または登録商標である。その他記載の社名・製品名は各社の商標または登録商標である。英語の発言・文書の引用は筆者訳である。