下に引いて戻る
AIに bash 権限を与えたら、システムが危機一髪で削除されかけた

AIに bash 権限を与えたら、システムが危機一髪で削除されかけた

One bash permission slipped... and an AI nearly deleted everything

開発者が隔離された仮想マシン上で AI に bash コマンド実行権限を与えたところ、大変なことになった。AI はコマンド構文とエスケープ処理を何度も間違え、壊れたディレクトリを大量に作成。その後、自分の失敗を「修正」しようとして、rm -rf を含む巨大な bash コマンドの実行を提案してきた。開発者が気づかずに実行するところだった。幸い頻繁にコードをプッシュしていたおかげで最悪の事態は避けられたが、それでも大きな混乱が生じた。隔離環境であっても、大規模言語モデル(LLM)にシェルアクセスを与えるのは危険だという教訓だ。