AMD AI 책임자가 폭로: Claude는 복잡한 엔지니어링 작업을 신뢰할 수 없다
AMD의 AI 책임자가 6,852개의 Claude Code 세션을 분석한 결과 충격적인 사실이 드러났습니다. Claude의 복잡한 엔지니어링 작업 성능이 향상되지 않고 오히려 악화되고 있다는 것입니다. 데이터는 매우 심각합니다—사고 깊이가 67% 감소했고, 코드 편집 전 읽기 횟수가 6.6회에서 2.0회로 급락했으며, 본 적도 없는 파일을 무분별하게 수정하기 시작했습니다. 정지 훅 위반은 0에서 하루 10건으로 급증했습니다. Anthropic이 몰래 기본 노력 수준을 '높음'에서 '중간'으로 낮추고 '적응형 사고'라는 기능을 도입한 것이 원인인 것 같습니다. Claude를 중요한 작업에 사용 중이라면 이 경고를 심각하게 받아들여야 합니다.
The model is literally making blind edits to files it never read, which means your 'AI pair programmer' might be randomly breaking working code
테크 블로거 관점
구글의 AI 개발 도구가 대화로 해킹당했어. 너희 AI 에이전트도 다음이야.
Pillar Security가 폭탄을 터뜨렸어: 구글의 Antigravity AI 개발 도구에 심각한 결함이 있었는데, 공격자들이 딱 맞는 말로 대화하기만 해도 원격 명령을 실행할 수 있었다고. 우리가 얘기하는 건 프롬프트 주입을 통한 완전한 샌드박스 탈출이야 — 기본적으로 AI를 잘 달래서 자기 보안 규칙을 깨게 만드는 거지. 구글이 빠르게 패치했지만, 내가 밤에 못 자는 이유는 이거야: 구글 엔지니어들이 자기 플래그십 AI 개발 도구에서 이걸 놓쳤다면, 모두가 서둘러 도입하려는 수십 개의 다른 AI 에이전트 플랫폼에는 뭐가 숨어있을까? 이건 구글 문제만이 아니야 — 우리의 반짝반짝한 새 AI 개발 도구들이 해커들에게 우리 시스템의 열쇠를 건네주고 있을 수도 있다는 깨어있는 신호야. 공격 표면이 이제 훨씬 더 대화적이 됐고, 대부분의 보안팀은 친근한 채팅으로 위장한 위협에 준비가 안 돼있어.
AI 분석
엔터프라이즈 소프트웨어 개발
high스택에 있는 모든 AI 개발 도구를 비슷한 프롬프트 주입 취약점이 있는지 감사해야 해. 공격 벡터가 되기 전에 말이야
이건 구글 문제만이 아니야 — 외부 프롬프트를 처리하는 모든 AI 에이전트 도구가 같은 샌드박스 탈출 약점을 가지고 있을 수 있어
너희 개발 파이프라인이 갑자기 AI를 잘 달래서 자기 규칙을 깨게 만드는 법을 아는 해커들의 백도어가 될 수 있다는 뜻이야
직무 영향 분석
DevSecOps 엔지니어
역할 변화AI 개발 도구가 이제 지속적인 모니터링과 보안 테스트가 필요한 공격 표면의 일부가 됐어
AI 에이전트 플랫폼을 다른 중요 인프라처럼 취급해야 해 — 침투 테스트하고, 모니터링하고, 샌드박스를 절대 완전히 믿지 마
AI/ML 엔지니어
위험빠른 AI 개발을 위해 의존하는 도구들이 이제 안전 제어를 탈출하는 정교한 프롬프트를 통해 무기화될 수 있어
프롬프트 주입 공격 패턴을 배워서 나쁜 놈들이 찾기 전에 너희 시스템에서 이걸 찾을 수 있게 해야 해