下に引いて戻る
Anthropicが法廷で認めた:Claudeは一度デプロイされたら制御不可能。AI責任問題の全てが変わる。

Anthropicが法廷で認めた:Claudeは一度デプロイされたら制御不可能。AI責任問題の全てが変わる。

Anthropic just admitted in court: we can't control Claude once it's out there. That changes everything about AI liability.

連邦控訴裁判所で衝撃的なことが起きました。Anthropicが裁判官に対して、Claudeが顧客のサーバー(ペンタゴンのネットワークなど)にデプロイされたら、アップデート、パッチ適用、回収のいずれもできないと認めたのです。さらに驚くべきことに、ペンタゴンが自律兵器の安全制限を削除するよう要求しているのに対し、Anthropicの返答は「デプロイ後にそれらの制限を実行する仕組みがない」というもの。大手AI企業が法廷で正式に宣誓して、モデルがリリースされたら完全に制御不能になることを認めたのは初めてです。この影響は計り知れません——何か問題が起きた時の法的責任が根本的に変わってしまいます。