SAFA解説｜GoogleらAI自主規制機関の実態とカルテル批判

「2〜3社のシリコンバレー企業が地球上のすべての政府のためにAIのルールを作成・管理・支配するという発想は、声に出した瞬間に成り立たない」。競合AIラボCohere CEOのAidan Gomezが2026年9月にX（旧Twitter）へ投稿したこの言葉は、数時間でAI業界中に拡散した（出典：Aidan GomezのX投稿、2026年9月）。

Gomezが標的にしたのは、Google DeepMind・OpenAI・Anthropicが水面下で進める「Standards Authority for Frontier AI（SAFA）」構想だ。2026年末〜2027年初頭の設立を目指し、業界主導でフロンティアAIの安全基準を策定・監督する機関をつくろうとしている。

SAFAとは何か — 発端と構造

SAFAの発端は2026年7月14日、Google DeepMind CEOのDemis Hassabisが公開したエッセイだ。「U.S.主導のフロンティアAI標準化機関」として、米国の金融自主規制機関FINRAをモデルに据えた機関の設立を呼びかけた（出典：TechCrunch「DeepMind CEO calls for an independent standards body to regulate frontier AI」、2026年7月14日）。

その後7月から3社は定期的なワーキンググループを立ち上げ、具体的な設計を詰め始めた。9月15日、OpenAIのChief Global Affairs OfficerであるChris Lehaneがワシントンでの説明会でその事実を初めて対外的に認めた（出典：AI Weekly「Anthropic-OpenAI-Google Safety Talks」、2026年9月15日）。AnthropicとGoogleは同時点で公式コメントを出しておらず、2026年9月現在に至るまでSAFAに関する正式プレスリリースは存在しない。

この動きはAnthropicのDario Amodeiが2026年9月12日に発表した「We Must Pace the Frontier」論文とも軌を一にしている。Amodei論文が個人名義の提言なら、SAFAは制度設計として実体化する試みだ。アモデイ論文の詳細はこちらで解説している。

FINRAとの対比

FINRAは証券ブローカーを対象とした業界自主規制機関（SRO）で、米国証券取引委員会（SEC）の監督下にある。SAFAがFINRAをモデルにするのは、次の理由からだ。

• 政府が直接運営しなくてよい: 業界からの資金調達で動く
• 技術的専門性: AIの専門知識を持つスタッフを業界から確保しやすい
• スピード: 立法を待たずに機能できる

ただし決定的な違いがある。FINRAは法的根拠のある規制権限とSECによる監督を持つが、SAFAは当初から政府の強制力を持たない完全民間主導の構想として浮上している。当初は連邦政府との官民パートナーシップが検討されたが、トランプ政権下のAI政策が競争力優先に傾いたことで、政府参加は実現しなかった（出典：TradingView/Stocktwits「Googl OpenAI Anthropic reportedly building their own AI safety watchdog」）。

SAFAが担う具体的な機能

現時点のワーキンググループの議論から、以下の4つが挙げられている（出典：Lawfare「Designing a FINRA for Frontier AI」）。

1. 事前リリース審査（最大30日） フロンティアモデルの公開前に、SAFA支援を受けた第三者機関が安全性・能力評価を実施する。ワーキンググループ内では、SAFAが独自の評価機能を持つべきか、あるいは既存の評価機関（CAISI：商務省傘下のAI標準化機関など）を支援する役割に留めるかで議論が続いている。

2. 監査員の資格認定 AIモデルを独立監査できる機関・個人の資格要件を策定する。AEF-1（後述）が定める「独立性の最低条件」をSAFAが制度的に担保する形だ。

3. インシデント報告ガイドライン AIの安全・セキュリティに関わる事故が発生した際の報告義務・報告経路・公開ルールを定める。現状のインシデント報告は各社の自己報告・契約レッドチーム・調査報道がバラバラに機能しており、公衆への伝達経路が存在しない。

4. 自主的なコミットメント基準の明文化 各社が個別に掲げる「自主的な安全コミットメント」の具体的な内容と遵守方法を標準化し、形骸化を防ぐ。

CEO候補として元トランプ政権AIアドバイザーのSriram Krishnanが打診を受けているが、正式な就任は未確定だ（出典：AI Weekly「Google OpenAI Anthropic court Sriram Krishnan for AI safety body」）。

批判1: 「カルテル」と「規制捕捉」の問題

SAFAへの批判の核心は、ルールを作る者・資金を出す者・監査を受ける者が同一という構造的問題だ。

Cohere CEOのAidan Gomezは2026年9月13日の論考でこう断じた。「問題はルールの中身ではない。誰がそれを書き、誰が参加を許可され、そのルールが誰の利益を守るかだ」（出典：AI Weekly「Cohere CEO Gomez calls rival labs standards plan a cartel」、2026年9月）。Gomezはこれをさらに端的に表現した投稿もある（出典：Aidan GomezのX投稿、趣旨）。「ある企業が基準を書き、それを解釈し、自己適合を試験し、コンプライアンスを自己認定し、不都合になれば改訂する。外部の同意は不要で、全工程が同一主体の中に収まっている」。

元OpenAI幹部も同様の「カルテル」批判を口にし、バチカンのAI顧問Father Paolo Benantiも「意思決定を自分たちの取締役会の中に閉じ込めようとしている」と非難した（出典：Startup Fortune）。

反競争訴訟への発展

この批判は法廷にも持ち込まれた。2026年9月18日、有料サービス購読者4人がBuist et al. v. Anthropic PBC et al.として北カリフォルニア地裁に提訴。Amodei論文（9月12日）にAltman・Musk・Hassabisが相次いで賛同した行為が、商取引を制限する違法な共同行為にあたると主張している（出典：CNN Business、2026年9月19日）。この訴訟の経緯はこちらで詳しく解説した。

ガートナーのアナリストは「自主規制は、全員が自律的に自分を律し、かつ公共の利益に沿って行動するという前提に立っている。その前提は成り立たない」（要旨）と述べている（出典：Free Malaysia Today、2026年9月16日）。

批判2: FINRAの前例が示す危うさ

Hassabis自身がFINRAをモデルとして提案した点は、皮肉にも批判の的になった。

2008年の金融危機において、FINRAは住宅ローン担保証券（MBS）の審査で機能不全を露呈した。Cloud Security Alliance（CSA）は「SAFA構想は信用格付け機関の『発行体払い』モデルと同じ問題を抱える。評価される側が評価機関に資金を払うなら、甘い評価を求めるインセンティブが生まれる」と指摘した（出典：CSA Labs「Research Note: Hassabis Frontier AI Standards Body」、2026年7月）。

ハッカーニュース（HN）に掲載された「Frontier Labs Are Selling Garbage to Fools in Washington」（dead neurons.substack.com、2026年9月21日）はHNのフロントページに到達し、コメント欄には「カルテル的な反競争的行為を倫理として偽装している」という反応が見られた（HN Item #49779432）。

フォービズのJames Broughel（2026年7月19日）はより踏み込んだ問いを立てた。「AI業界に自前のFINRAが必要か？　その答えは、FINRAが過去に残した説明責任のギャップと2008年金融危機での問題ある記録に何を見るかによって変わる」（出典：Forbes「Does The AI Industry Need Its Own FINRA?」）。

政府・国際社会の反応

米国政府

トランプ政権は2026年6月に大統領令14409（AI革新・安全推進令）を発令し、NSA（国家安全保障局）が事前にモデルへ最大30日間アクセスできる枠組みを設けた。これはSAFAの事前審査構想と重なるが、主導権は政府側にある。

ホワイトハウスのAI担当「Czar」David Sacksは、SAFAを規制捕捉の典型例または選挙対策パフォーマンスと見なしているとされ、正式な政府参加は実現していない。SAFAを補完・競合する法案として、FRONTIER Act（H.R.9925、Jay Obernolte・Lori Trahan両議員提出）がある。同法案はNIST（米国立標準技術研究所）管轄下の独立検証機関（IVO）が6ヶ月ごとにフロンティアモデルを評価する仕組みを提案しており、業界主導のSAFAとは方向性が対立するとみられる。

国際社会

2026年9月22日の国連総会にあわせて、ドイツ・カナダ・オーストラリア・UAE・シンガポール・EU等20か国・地域が「AIの危険を管理するための国際的監督機関の設立」を共同声明で求めた（出典：Al Jazeera、2026年9月22日）。これは業界自主規制に対する公的な対案だ。EUはEU AI法の段階的施行を進めており、SAFAとは独立したGPAI（汎用AI）規制が動いている。

バーニー・サンダース上院議員（民主党）も9月23日に「人類の未来がかかっているのに、業界の自主規制では不十分だ。拘束力のある国際ルールが必要だ」として反ASI法案を提出した（出典：サンダース議員事務所プレスリリース、2026年9月23日）。国連安全保障理事会でのAI議論の動向はこちらで詳しく触れている。

AEF-1との関係: 評価者の独立性をどう担保するか

SAFAとは別に、2026年9月14日にAI Evaluator Forum（2025年12月設立）がAEF-1を公開した。正式名称「Minimum Operating Conditions for Independent Evaluation（独立評価の最低稼働条件）」だ（出典：AI Evaluator Forum AEF-1）。

AEF-1は5つの柱で構成される。

1. 十分なアクセスとリソース: 評価者は「従業員同等のアクセス」を得る（Anthropicはオフィス席・入館証・社用PCの提供を明言）
2. 利益相反の最小化: 評価対象企業に所有・統治されていない
3. 分析的自律性: 独立した判断を行使する
4. 手法と結果の透明性
5. 機密情報の保護

xAI・OpenAI・Anthropicの3社がAEF-1に署名。9月18日には100人以上のAI専門家（Geoffrey Hinton含む）が「フロンティアAIラボには真に独立した第三者評価者が必要だ」とする公開書簡に署名した（出典：CNBC、2026年9月18日）。

AEF-1はSAFAが制度として監督する「評価者資格基準」の技術的たたき台に位置づけられる。だが批判者は「SAFAはその基準を制度化する機関として、また誰が評価者資格を持つかを決定する機関として、事実上の権力を持ちすぎる」と指摘している。

関連記事

• Dario Amodei「We Must Pace the Frontier」論文とAI減速論の全体像
• AI pacing反トラスト訴訟 — Anthropic・OpenAI・Google・xAI被告の概要
• 国連安全保障理事会AIブリーフィング — Altman・Amodeiが発言した中身
• Anthropic IPO直前の$65B ARR: 財務構造の見方

---

本記事は公開報道・公式声明・研究者の発表に基づいて執筆しています。SAFAは2026年9月時点で構想段階にあり、正式プレスリリースは発表されていません。情報は予告なく変更される場合があります。特定の投資・事業判断の根拠としないでください。