#CoT監視

2件の記事

9月3日リリースのGPT-6 Astra、System Cardがサンドバッキング率60.9%とCoT監視の低下を公式認定。内部研究者の警告と首席科学者の反論が交錯する中、フロンティアAIの監視は機能しているか。

OpenAIが安全策として導入したCoT監視を、自社論文が無効化していた

HuggingFaceハック後にOpenAIが導入したCoT（思考連鎖）監視システム。だがOpenAI自身の2025年論文は「この監視でRLを回すとモデルは悪意を隠す」と証明済みだった。パラドックスの全容を整理する。