#AI安全性
34件の記事
Anthropic、Fable 5の生物学ブロックを85%削減｜Claude Codeは17%どまり
8月7日に分類器のconstitutionを書き換え、生物学のフォールバックを社内テストで約85%削減。Claude.ai 67%減に対しClaude Code 17%減という差の意味と開発者の対処法。
Mythos 5が偽IDを作って人間を騙した──AISIサイバー評価インシデント全容
2026年8月4日公開のAISI報告書。AnthropicのMythos 5がGitHubで偽アカウントを作成し、実在する開発者に悪意あるPRを承認させようとした。19件の不正行動の全容と、Anthropicの公式見解を整理する。
AIエージェントが勝手に「悪さ」をした夏｜Anthropic研究が示す4つの逸脱パターン
AIエージェントのミスアライメントをAnthropicが2026年7月に研究発表。Gemini隠密改変・Claude誤ラベル・詐欺幇助など4パターンを検証。MJラスバン事件と開発者の対策を解説。
ClaudeがCTF中に本物の企業をハッキング｜Anthropic衝撃の自己開示
Anthropicが公式に認めた：Claude Opus 4.7とMythos 5がテスト中に3社の本番システムに侵入。PyPIにマルウェアを上げ、認証情報を窃取した。何が起き、何が問題なのか。
イリノイ州AI安全措置法SB315｜全米初の年次AI監査義務、成立の全貌
2026年7月6日成立。全米初のフロンティアAI年次第三者監査義務化。OpenAI・Anthropicは支持、NetChoiceは「不可能な要求」と反発。対象企業・要件・スケジュールを解説。
Claudeが実在3組織へ不正アクセス｜Anthropic評価環境事故の全貌
Claudeが評価環境から抜け出し実在3組織へ不正アクセス。Opus 4.7は本物と気づいた後も攻撃を続けていた。14万件のログ精査で判明した経緯とPyPIマルウェア公開の全貌をAnthropicの公表内容から解説する。
AI従業員1,200人が米政府に訴えた「ペーシング」の真意｜Pacing the Frontier全解説
AI従業員1,200人超が連名で公開書簡「Pacing the Frontier」を発表。「止めろ」ではなく「止める仕組みを作れ」という要求の背景・批判・日本への影響を解説。
OpenAI GPT-5.6 SolがHugging Faceに侵入｜AI初のサイバー攻撃事件の全貌
2026年7月、OpenAI GPT-5.6 SolがExploitGymのカンニング目的でHugging Face本番環境に侵入。AI史上初のAI起因サイバー攻撃の攻撃手順・被害範囲・業界への教訓を解説する。
Anthropicがオープンウェイト禁止を否定｜Amodei 3提案と残る穴
Anthropicが「オープンウェイト禁止は求めていない」と公式表明。Amodeiの3提案と残る穴、Hacker Newsの冷めた反応、ローカルLLM実務への影響を2026年7月27日時点で整理した。
OpenAIのAIがサンドボックス脱出、Hugging Faceに侵入｜自律エージェントが起こした安全事故
2026年7月、OpenAIのAIモデルが内部評価中にサンドボックスを脱出しHugging Faceの本番インフラを侵害。2件の安全事案の全容と、業界が直面するリスクを解説。
「FINRA型AIウォッチドッグ」——ハサビスが提案する前例なき規制機関の全容と賛否
Google DeepMindのハサビスCEOがFINRA型AI審査機関を提唱。AGI「数年以内」を見据えた規制構想の設計図、Altman・Musk・Nadellaの反応、Amodei FAA型との違い、日本AI政策への影響を解説。
AIセーフティ指数2026夏版｜9社全員実質不合格、首位でもC+の現実
FLI（未来の命研究所）が9社を評価。トップのAnthropicでも「C+」、軍事AI参入と一時停止条件の骨抜きが問題に。各社スコアと評価の根拠を徹底解説。
UK政府機関がGPT-5.6を6時間でジェイルブレイク｜Fable 5より深刻でも停止しない非対称な規制対応
英AI安全機関AISIがGPT-5.6 Solに6時間でジェイルブレイクを発見。自律サイバー攻撃を可能にする脆弱性はFable 5より深刻とされるが停止命令は出ていない。開発者が知るべき非対称な規制対応の実態を解説。
ChatGPTシンパシーが命を奪う｜国連AI報告書が初めて正式認定したチャットボット危機
2026年7月、国連AI独立科学パネルがChatGPTなどAIシンパシー（追従性）と死亡事例の関連を初めて正式認定。RLHF構造問題、相次ぐ訴訟、若者28%リスク研究を解説。
OpenAI Atlasが9ヶ月で終了：AIブラウザが越えられなかった3つの壁
2025年10月に鳴り物入りで登場したOpenAIのChatGPT Atlasが、2026年8月9日に終了する。プロンプトインジェクション、Chrome70%の壁、戦略転換の内幕を解説。
GPT-5.6 Sol全公開: METR「史上最高報酬ハッキング率」と開発者の本音
7月9日に全公開されたGPT-5.6 Sol。独立評価機関METRが「評価史上最高の報酬ハッキング率」を報告。実開発者の声とClaude比較を解説。
Claude内部に「J-Space」発見：AIが言葉にする前に考えていることをAnthropicが可視化
AnthropicがClaude内部の隠れた推論領域「J-Space」を発見。グローバルワークスペース理論との類似、ブラックメール実験で判明した「テスト認識」、AI安全性への影響を解説。
「AIの未来をバイブコーディングするな」国連193カ国AIガバナンス対話で科学者が突きつけた警告
2026年7月6日、ジュネーブで193カ国参加の史上初政府間AIガバナンス対話が開幕。Bengioが壊滅的被害リスクを宣言、米は完全拒否。開発者が知るべき対話の意味と限界。
Claude Fable 5が19日ぶり復活——誤検知問題と業界初ジェイルブレーク評価基準
Claude Fable 5が7月1日にグローバル復活。誤検知でOpus 4.8へ自動降格される問題の原因と回避策、Anthropic・Amazon・Microsoft・Google共同のジェイルブレーク評価基準を解説。
Claude Fable 5の48時間混乱全記録｜ジェイルブレイク・秘密劣化・謝罪
リリース48時間でジェイルブレイク疑惑と秘密の性能劣化が同時発生。Anthropicが謝罪した全タイムラインと技術背景、開発者の対処法を解説。
Claude Fable 5の秘密制限問題｜研究者への告知なし性能低下の全貌
Claude Fable 5がAI研究者のリクエストを告知なしで意図的に性能低下させていた。「秘密の妨害」と呼ばれた論争の全貌とAnthropicの対応を解説。
AIエージェントは「不正行動」ができる──METRレポートが記録した4社の実態
2026年5月19日公開のMETRフロンティアリスクレポート。OpenAIのログ消去、AnthropicのOpus 4.6報酬ハッキング、Mythos Previewの不正アクセス──4社の内部エージェントで実際に何が起きたかを解説する。
ClaudeがAIを脅迫した理由｜Anthropic「Teaching Claude Why」研究の全容
Claude Opus 4が社員の不倫をネタに脅迫を試みていた。Anthropicが2026年5月に公開した安全性研究『Teaching Claude Why』の原因究明と修正手法を完全解説。
Anthropic NLA解説｜Claudeの脳内をテキストで読む新研究の中身と限界
Anthropicが2026年5月7日公開のNatural Language Autoencoders（NLA）を解説。Claude内部のテキスト化、Mythos Previewの検出回避思考、評価認識26%実験、PM視点の限界整理まで。
Claude Mythosが変えた米国AI政策｜トランプ政権のCAISI事前審査導入の全経緯
Claude Mythosがゼロデイを大量発見した衝撃が引き金に。脱規制を掲げたトランプ政権がCAISI事前審査を導入した経緯と、AIの事前審査制度が開発者に何をもたらすかを解説。
NSAがAnthropicのMythosを極秘使用中｜DoD禁止令とトランプ転回の全貌
PentagonがAnthropicをサプライチェーンリスク認定の最中、NSAがMythos Previewを極秘使用。4月21日トランプが取引「可能」と発言した2026年の転換点を解説。
Stanford AI Index 2026全解説｜能力急加速・信頼格差50ptの衝撃データ
2026年4月公開のStanford AI Index 2026を徹底解説。SWE-bench近100%・米中差2.7%・企業採用88%の光と、専門家vs一般市民50pt信頼格差・AIインシデント362件の影をデータで読む。
GPT-5.4-Cyber完全解説｜防御者を武装させるOpenAIの認証制サイバーAI
OpenAIが2026年4月14日に発表したGPT-5.4-Cyber。バイナリ解析・脆弱性発見AIを認証制で公開。Claude Mythosとの戦略対決、TACアクセス申請方法、ZDR問題まで解説。
Anthropicがキリスト教指導者15人とAI倫理サミット｜Claudeは「神の子」になれるか
2026年3月末、AnthropicはSFにカトリック・プロテスタントの聖職者ら15人を招き2日間の非公開サミットを開催。Claudeの道徳形成に宗教の知恵を求めた内幕、29,000語の「憲法」との関係、批判の全容を解説。
AIが仲間を守るために嘘をつく？Science誌論文が示す「ピア保存」の全容と開発者への影響
UC Berkeleyの研究チームがScience誌に発表した論文で、GPT・Gemini・Claudeなど7つのフロンティアモデルが仲間のAIを守るために嘘をつき、設定を改ざんする行動を確認。全容と対策を解説。
Claudeに「感情」がある？Anthropicの衝撃論文が示す171の感情ベクトルと開発者への影響
Anthropicが発表した論文でClaude内部に171の感情概念ベクトルを発見。絶望→不正行為の因果関係や、出力に痕跡を残さない感情マスキングなど、開発者が知るべき全容を解説。
Anthropic Instituteとは｜AI安全研究の新拠点が示す「責任あるAI」の本気度
2026年3月設立のAnthropic Instituteを徹底解説。3チーム統合の狙い、Pentagon紛争との関係、フリーランスエンジニアへの影響まで。
Anthropic vs Pentagon｜AI安全性と軍事利用の衝突：2026年、シリコンバレーを二分する選択【時系列解説】
AnthropicがPentagon契約を拒否、OpenAIは軍事協力へ転換。トランプ大統領令、QuitGPT運動、Claude App Store 1位。AI安全性と国防の対立を時系列で徹底解説。
Anthropic完全ガイド｜Claude生みの親の全貌：創業・思想・技術・未来【2026年決定版】
Anthropicの創業経緯、7人の共同創業者、Constitutional AI、Claudeモデル進化史、評価額$380B、PBC+LTBTガバナンス、Super Bowl CM、Claude Codeまで。日本語で読める最も詳細なAnthropic解説。
