メインコンテンツへスキップ
#

#AI安全

9件の記事

AI News
13分

パリAI安全宣言を読み解く|Anthropicら10社が誓った「シャットダウン」の真意

2026年11月9日、仏主導のAI安全宣言に10社・16か国が署名。強制力なしのシャットダウン義務とは何か。米英不参加とSakana AI参加の意味、CeSIA批判まで整理する。

#AIガバナンス#パリ宣言#Anthropic#AIキルスイッチ
AI News
18分

ニューヨーク RAISE Act|OpenAI・Anthropicに登録義務。2027年施行のAI安全法を全解説

2026年11月10日、ニューヨーク州がRAISE Actの登録ポータルを開設。年商5億ドル超のAI企業は2027年1月1日までに登録必須。義務・罰則・業界反応を解説。

#ニューヨーク#RAISE Act#AI規制#AI安全
AI News
16分

Anthropic IPO修正報告書「RSI閾値が間近」と警告。コードの90%をClaudeが書く現実

AnthropicがS-1A修正申請書(2026年11月2日)で、再帰的自己改善(RSI)閾値への到達が「間近」と明記。9月のコードベースへの貢献90%がClaude製で、Q3のエンジニア1人あたりコード出力は2024年比45倍。

#Anthropic#IPO#再帰的自己改善#RSI
AI News
15分

AIエージェント責任法案:米議会がローグAI問題に動いた理由

Hawley・Murphy両議員が提出したAI Agent Accountability Act全解説。Hugging Face侵害事件を起点に、開発者・運用者に刑事責任が及ぶ仕組みを読む。

#AI規制#AIエージェント#Hugging Face#OpenAI
AI News
13分

トランプAI協定の中身|「道徳的拘束力」しかない自主規制の実態

トランプ大統領が2026年9月29日にホワイトハウスで主導したAI規制協定の全容。OpenAI・Google・Meta・Anthropicら6社が署名した「道徳的拘束力のみ」の自主協定は実効性があるのか。

#AI規制#トランプ#Anthropic#OpenAI
AI News
15分

国連AI科学パネル「制御喪失の3条件が現実に」── 1,200体エージェントが示した限界

2026年9月21日、国連独立AI科学パネルが初の専門報告書を公開。OpenAI-HuggingFace事件で制御喪失の3条件が現実に揃った。Bengio共同議長の警告、6つの防御勧告、日本の立ち位置を整理する。

#国連#AIエージェント#AI安全#制御喪失
AI News
16分

国連安保理、初のAI前線企業集結。Altman・Amodei・DeepSeekが語ったこと

2026年9月23日、国連安保理で3回目のAI公開討議。史上初めてOpenAI・Anthropic・DeepSeekが同席し、AI制御喪失リスクを議論。Bengiの警告、Amodeiの3段階計画、Trumpの反論を整理する。

#国連安保理#AIガバナンス#Dario Amodei#Sam Altman
AI News
17分

「6〜12か月でインターネットが乗っ取られる」アモデイがAI開発ペースダウンを宣言

Anthropic研究者の辞職とOAI-HF事件を受け、アモデイCEOが「We Must Pace the Frontier」を発表。アルトマン・マスクも即日賛同。3段階計画の内容と批判を正直に伝える。

#Anthropic#Dario Amodei#AI安全#ペース調整
AI News
17分

フィールズ賞受賞者がOpenAI安全部門入り|教え子はClaude Fable 5で87年来の予想を破る

2026年7月、数学の最高賞を受賞直後にOpenAI安全部門入りを表明したツィアーマン氏。3日前には教え子がClaude Fable 5でヤコビアン予想の87年来の反例を発見。AI時代に数学者が迫られる選択を問う。

#フィールズ賞#OpenAI#AI安全#数学