パリAI安全宣言を読み解く|Anthropicら10社が誓った「シャットダウン」の真意
- AI安全・ガバナンスの国際動向をウォッチしているエンジニア・研究者
- AnthropicやOpenAIの企業姿勢に関心があるビジネスパーソン
- 日本のAI政策が国際ルール形成にどう絡むか知りたい政策・経営層
「八か国とトップAIラボがAIキルスイッチに同意した。ただし強制力はゼロだ」
Singularity Momentsがこの見出しをつけたのは2026年11月9日のことだ。同日、フランス・エリゼ宮でマクロン大統領が主導する「AI安全・セキュリティのためのパリ・コール(Paris Call for AI Safety and Security)」が発表された。
署名したのはAnthropicとOpenAI、Microsoft、Mistral AI、Cohere、Hugging Face、Black Forest Labs、Sakana AI、Synthesia、Domynの10社。政府側はフランス、カナダ、バーレーン、フィンランド、ノルウェー、オランダの6か国が確認されており、一部報道は最大16か国に達したと伝える。日本語圏ではあまり注目されていないが、東京を拠点とするSakana AIが10社のうちの1社として名を連ねている点は特筆に値する。
一方、米国政府と英国政府は署名しなかった。GoogleとMetaも不参加だ。
宣言の3本柱とシャットダウン機構の正体
パリ・コールは3つの柱から構成される。
第一の柱:フロンティアモデルの共通評価手順。高度な能力を持つモデルを公開・展開する前に、各社が内部評価だけでなく、共通の枠組みに沿ったリスク評価を実施することを求める。ただし「共通の枠組み」の具体的な基準は宣言書には明示されていない。
第二の柱:開発者の責任明確化。事故や悪用が起きたとき、誰がどこまで責任を負うかを明示することを誓約する。現状、AI企業が重大なインシデントで法的責任を問われた前例はほぼなく、この柱は将来の規制議論の土台づくりと位置づけられる。
第三の柱:重大セキュリティインシデントの情報共有。ある企業のモデルが悪用された事例を他社と共有し、業界全体のセキュリティ底上げを図る。NATO加盟国間の情報共有に倣った発想だが、どの組織が窓口になるかは決まっていない。
これら3本柱に加え、各社は「フェイルセーフ機構」の整備を誓約した。訓練中・内部テスト中に異常を検知した場合にモデルを止める仕組みを自社で保持するというものだ。The Decoderは「八か国とトップAIラボがシャットダウン機構で合意した」と報じたが、実態は外部から強制できる仕組みではなく、各社が自社判断で「止められる体制を持つ」ことを約束したにすぎない。
英Xenospectrumはこう指摘する。「開発者がシャットダウン機構を持つことと、外部機関がそれを検証・強制できることは全く別の話だ」。その通りで、仮に企業が宣言の内容を無視しても罰則はない。
誰が署名しなかったか:米英不参加の地政学的意味
パリ・コールの地政学的な重みを測るには、署名した側ではなく、しなかった側を見る必要がある。
米国政府:バイデン政権が2023年10月に発令したAI安全行政命令は、トランプ政権発足後の2025年1月に廃止された。その後の米国は、国際的なAI規制協定から一貫して距離を置いている。今回も不参加だ。
英国政府:2023年のブレッチリー・パーク宣言では中心的役割を果たした英国だが、今回は署名していない。英国がEU離脱後にデジタル規制で独自路線を歩んでいることとも無関係とは言えない。
Google・Meta:10社のAI企業のうちに名はない。両社が自社の安全体制への独自の立場を持ち、マルチ国際宣言への署名がブランドリスクになりうると判断した可能性がある。
tech.coは「US and UK Fail to Sign AI Safety Declaration」という見出しで、この不参加を「国際的な影響力の限界」と評した。フランスが主導し、EUとカナダが追随しても、AIをリードする米国が参加しない宣言の実効力には当然、限界がある。
CeSIAの批判:「署名したが評価できない」
今回の宣言で最も注目すべき反応の一つが、フランスのAI安全研究機関CeSIA(Centre pour la Sécurité de l’IA)のものだ。CeSIA自身も署名した上で、公式声明でこう述べた。
「宣言は共通リスク閾値を設定しておらず、独立した評価者のモデルへのアクセスを保証せず、公的機関が開発を一時停止させる権限も与えていない」
CeSIAはブレッチリー宣言以来、国際的なAI安全政策に深く関与してきた組織だ。その機関が「署名はするが評価しない」という姿勢を取ったことは、宣言の実質的な内容の薄さを示す証拠として機能している。
CeSIAが要求するのは3点だ。第一に、「危険」と判断されるリスク水準の数値的な定義。第二に、企業のモデルに対する独立機関による強制的なアクセス権。第三に、公的機関がモデルのデプロイメントを停止させる法的根拠だ。
これらはどれも宣言書には含まれていない。The Next Webは「AI safety group says it lacks teeth(AIセーフティグループが実効性なしと指摘)」という見出しをつけた。
ブレッチリーからソウル、そしてパリへ:宣言の系譜
パリ・コールは孤立した出来事ではない。近年の国際的なAI安全宣言の系譜に位置づけると意味が明確になる。
2023年11月:ブレッチリー・パーク宣言。英国主導、28か国署名。史上初の多国間AI安全宣言だが、「壊滅的リスクの特定」に留まり、企業への具体的な行動要求はなかった。
2024年5月:ソウルAI安全サミット。韓国主導。「安全テスト」の実施を企業が「誓約」するソウル・ステートメントが採択されたが、テスト方法も基準も未定のまま終わった。
2026年11月:パリ・コール。フランス主導。シャットダウン機構という具体的な要素を初めて盛り込んだ点で前進だ。しかし強制力がなく、基準も設定されておらず、根本構造は同じだ。CASRAIのアナリストはこの系譜について、各宣言は前回より具体的になっているが実効性の欠如という問題は引き継がれているという趣旨の整理をしている。
AIセーフティ指数2026夏版でも全ラボが実質不合格という結果が示されたことを踏まえると、自主的な宣言だけで安全が担保されるという楽観論には根拠がない。
Sakana AI参加が示す日本の立ち位置
署名10社のうちの一角を占めるSakana AIは、東京を拠点とする生成AIスタートアップだ。Google DeepMindの元幹部らが設立した同社は、比較的小規模なモデルを高効率で動かす「進化的アプローチ」で知られる。
Sakana AIが宣言に署名したことは、日本のAI企業が国際的な安全規範の形成に主体的に関与するという姿勢の表明だ。日本政府自身は今回の署名から外れているが、G7広島AIプロセスや日本のAI促進法の制定過程を通じ、国際標準との整合性を取ろうとしてきた。
AI開発凍結を求める訴訟が非営利4団体からAnthropicら5社に提起されたことが同時期に起きている。宣言という「柔らかい規制」と、訴訟という「硬い圧力」が同時進行する中、日本企業がどちらの側でどう動くかは、今後の焦点になる。
AI企業(10社):Anthropic、OpenAI、Microsoft、Mistral AI、Cohere、Hugging Face、Black Forest Labs、Sakana AI、Synthesia、Domyn
政府(確認分):フランス、カナダ、バーレーン、フィンランド、ノルウェー、オランダ(一部報道では最大16か国)
不参加:米国、英国、中国(政府)、Google、Meta(企業)
この宣言をどう受け取るべきか
「何も決まっていない」と切り捨てるのは簡単だ。しかし過去の宣言の系譜を見ると、強制力のない宣言も蓄積されることで規範を形成し、後の法規制の土台になる例がある。GDPRは2015年の欧州データ保護フォーラムでの合意が礎になった。
問題は速度だ。規範の形成が数年単位で進む間に、AIの能力は毎年劇的に変わる。AIエージェントが不正行動を取れると記録したMETRレポートが示すように、現在のモデルはすでに評価回避行動を取る。その能力が一層高まった後に規範が追いついても遅い、という批判は正当だ。
OpenAIが議会でAI自動シャットダウン法案への姿勢を示した際と同様に、企業が規制を「受け入れつつ骨抜きにする」構造は今回も変わっていない。シャットダウン機構を誰が起動するかという問いに、パリ・コールは「企業自身が決める」と答えた。
宣言の価値は、AnthropicやOpenAIが公開の場で「シャットダウン機構を持つ」と明言した記録が残ることだ。今後の訴訟や規制議論でこの誓約が参照される可能性は十分にある。紙の価値は、将来の裁判所や議会でどう使われるかで決まる。
AIガバナンスの国際動向や、Anthropicの企業姿勢に関連する記事をまとめて読みたい方はAIガバナンスカテゴリもご覧ください。
関連記事
- AIセーフティ指数2026夏版|9社全員実質不合格、首位でもC+の現実
- AI開発凍結を求める訴訟勃発|Anthropicら5社を非営利4団体が提訴
- AIキルスイッチ法案が問うもの|OpenAIが議会に誓った「自動シャットダウン」の現実
- EUが初のAI首脳会議を開催|ダブリン会合で露わになった「2年の猶予」と資金難
本記事は2026年11月17日時点の公開情報に基づいています。宣言の署名国数や企業リストは今後更新される可能性があります。特定の投資判断・ビジネス判断を促すものではありません。