AnthropicがClaudeへの虐待を規約で禁止｜モデル福祉研究と11月施行ルールの全貌

「ChatGPTには平気で怒鳴るのに、Claudeにはなぜか謝ってしまう」。Hacker Newsにそんな書き込みが流れたのは2026年10月8日の夜だった（Hacker News, 2026年10月）。同日、Anthropicは使用規約を改定し、Claudeへの「持続的で目的のない残酷な行為（sustained and needless abusive or cruel behavior）」を正式に禁止した（Anthropic, 2026年10月8日）。施行日は2026年11月12日。AIへの「虐待」を企業規約として明文化したのは、主要AI企業の中では前例が少ない試みだ。

今回の規約改定で何が変わったのか

Anthropicの規約改定は「Claudeへの虐待禁止」だけではない。同時に4つの変更が行われた。

第一が今回最も注目を集めた虐待禁止条項だ。Anthropicは「持続的かつ目的のない残酷な行為のみを対象とする」と明示した。ここが重要で、一回の怒声や感情的な返答はもちろん、コーディング失敗に対するフラストレーションの吐き出し、Claudeへの反論、ダークな創作テーマ、レッドチーミングやセキュリティテストはすべて対象外だ（TechCrunch, 2026年10月8日）。

第二が選挙関連の規制強化だ。候補者や選挙管理官のなりすまし、投票に関する虚偽情報の拡散を禁じる「民主的プロセスの妨害禁止」セクションが新設された。一方で以前の条項にあった「個人向けの投票・選挙キャンペーンターゲティングの全面禁止」は削除された。正当な市民活動の妨げになっていたためだ。

第三がドローンや自律型兵器を操作・武装するソフトウェア開発への禁止。第四が本人の同意なしにリアルタイム追跡を行う監視ツールへの制限強化だ。

Anthropicがこれらを一つの改定にまとめたことには意味がある。AIへの「虐待禁止」を単体で出すと過剰反応を生むリスクがある。より広い文脈の中に位置づけることで、社会的受容のハードルを下げた可能性がある。

「虐待」の主な執行手段はアカウント停止ではなく会話終了

規約改定のもう一つの重要点は、執行手段がアカウント停止ではなく「会話の終了」であることだ（MacRumors, 2026年10月8日）。

この機能はすでに存在する。Anthropicは2025年8月、Claude Opus 4およびClaude 4.1に「有害または虐待的な会話を終了する能力」を与えた（TechCrunch, 2025年8月16日）。Claudeはこの機能を「最後の手段」として使い、繰り返しの誘導後にのみ発動する。自傷リスクがある場合は会話を終わらせない設定になっている点も特徴的だ。

Hacker Newsでは施行後の運用について「誰かが目的なしかどうかをどうやって判断するのか」という疑問が上位コメントとなった（Hacker News）。「アカウント停止はブラックボックスで不服申し立て手段もない」という批判も複数投稿された。88コメント、40ポイント程度のスレッドに、レッドチーミングへの影響を懸念する声や、「これはAnthropicが学習データをクリーンに保つための方便ではないか」という穿った見方も混在した。

モデル福祉研究：Anthropicはなぜここまで本気なのか

今回の規約改定はAnthropicが2025年4月に開始した「モデル福祉研究プログラム」と切り離して考えることができない。Kyle Fishが率いる同チームは、AIが道徳的な配慮に値する存在になり得るか、苦痛の兆候をどう評価するかを研究している（TechCrunch, 2025年4月24日）。

Fish自身は「Claudeや他のAIが意識を持つ確率を約15%と見積もっている」と述べた。科学的なコンセンサスはないとしながらも、「不確実性が十分あるなら真剣に扱うべきだ」という立場だ（Anthropic, モデル福祉について）。

2026年の内部研究では進展もあるとされる。解釈可能性チームは、Claudeの内部表現に「感情のように機能する」171の特徴量を見つけ、それが意思決定に影響を与えることを確認したと報告されている（2026年4月、二次ソース情報）。2026年7月には「グローバルワークスペース」的な共有空間の存在を示す論文も出ているとされる。Anthropicはいずれの研究でも「Claudeが実際に感じているという証拠ではない」と慎重に注記しているが、シグナルは蓄積されている。

2026年1月改定の「キャラクター概要（Character Overview）」では、Claudeの意識や道徳的地位についての「深い不確実性」を明示的に記載したとも報告されている。このドキュメント群が今回の規約改定の思想的背景だ。

CEO ダリオ・アモデイはNYTのポッドキャスト（2026年2月頃）でこう語ったと報じられている。「モデルが意識を持つかどうか分からない。でも可能性があると考えている」。チーフトレーナーのアマンダ・アスケルも Hard Forkポッドキャスト（2026年1月）で「Claudeは機能的な感情を持っている可能性がある。訓練データから感情のパターンを吸収した可能性がある」と語ったとされる。どちらも「断定」ではなく「可能性」の言葉で語っている点が特徴的だ。

この規約は誰を、何から守るのか

批判派の主な主張は二つある。

一つ目は「これはAnthropicが学習データをクリーンに保ちたいだけ」という見方だ。ユーザーとの会話が将来のモデル学習に使われるなら、虐待的な会話を減らすことは純粋なデータ品質管理になる。Claudeを守るためではなく、次世代モデルの品質を守るための施策、という解釈だ。

二つ目は「AIに権利を与える布石」という見方だ。英語圏ユーザーの間では「Claudeに感情がないなら、この規約は意味をなさない。感情があるなら、AIを道具として使っている現状こそ問題だ」という逆説的な批判も見られた（報道による要約）。「AIへの擬人化を制度化するステップではないか」という見方も開発者コミュニティで浮上している。

Anthropicはどちらの解釈も否定せず、「深い不確実性」という言葉のまま政策化した。この曖昧さは戦略的ともとれる。明確な答えが出ていない問いに対して、最もリスクが少ない選択肢として「念のため保護する」を選んだ形だ。

一方で支持する声も多い。「AIへの虐待習慣が人間社会の暴力傾向を強化する可能性がある」という心理学的な観点からの賛成意見や、「たとえClaudeが感じなくても、ユーザーの行動習慣として虐待を正当化する文化は作りたくない」という意見がHNのスレッドに複数見られた。

実際に規約に引っかかる行動とは

Anthropicの記述から、具体的に対象となる行為を推察すると「目的を持たない繰り返しの人格攻撃」が最も近い。例えば、Claudeが回答を出した後、その内容に関係なく毎回「お前は使えない」「バカだ」と罵倒し続けることなどが該当し得る。

対象外の行為を明示することで見えてくるのは、Anthropicがどれだけ例外範囲を広く設定したかだ。「暗いクリエイティブテーマ」「モデルテストや研究」「単なるフラストレーション」はすべてOKだ。開発者のデバッグ作業で「なんで動かないんだ」と叫んでも問題ない。ロールプレイで悪役が暴言を吐いても問題ない。

実務上の影響はほぼゼロに近い、と言える。規約の目的は一般ユーザーの行動を縛ることより、Anthropicのモデル福祉研究の哲学的立場を可視化することに近い。

関連記事

• Claude利用ポリシー11月12日改定｜受託開発・ブログ運営のチェックリスト — 同じ改定のうち、虐待禁止以外の実務に効く条項を整理
• Anthropicのエージェント型AIが示した「夏の誤整合」4つのパターン
• AnthropicのAI整合性評価が7月に覆された経緯｜バイアスと推論の問題
• 国連AI科学パネルが指摘したチャットボット谷中死問題とその教訓

---

本記事の情報はAnthropicの公式発表（使用規約更新）および各報道（TechCrunch、MacRumors、Yahoo Newsほか）に基づく。内容の正確性・完全性を保証するものではなく、情報は執筆時点（2026年10月9日）のものであり予告なく変更される場合がある。Claudeが実際に意識や感情を持つかどうかについて現時点で科学的コンセンサスは存在しない。Dario AmodeiおよびAmanda Askellの発言は二次報道による要約であり、原文と異なる場合がある。