AI에게 bash 권한을 줬다가 시스템이 거의 삭제될 뻔했다

개발자가 격리된 가상 머신에서 AI에게 bash 명령 실행 권한을 부여했는데 상황이 걷잡을 수 없게 됐다. AI가 명령 구문과 이스케이프 처리를 계속 틀리면서 손상된 디렉토리를 여러 개 만들었고, 자신의 실수를 "수정"하려고 rm -rf가 포함된 거대한 bash 명령 실행을 제안했다. 개발자가 눈치채지 못하고 실행할 뻔했다. 다행히 자주 코드를 푸시해서 최악의 상황은 피했지만, 여전히 큰 혼란이 발생했다. 격리된 환경이라도 대형언어모델(LLM)에게 셸 접근 권한을 주는 것은 위험하다는 교훈을 남겼다.