구글의 Gemini에는 AI가 만든 이미지를 표시하는 SynthID라는 워터마크 기술이 있습니다. 좋은 아이디어처럼 들리죠? 그런데 연구자들이 이 기술을 뚫어버렸어요. 워터마크를 제거하거나 조작하는 방법을 찾아낸 거예요. 이제 나쁜 의도를 가진 사람들이 AI 이미지를 진짜 사진처럼 속일 수 있다는 뜻입니다. 구글이 문을 잠갔는데 누군가 열쇠를 찾아버린 셈이죠. 이게 중요한 이유는 AI 이미지 생성 기술이 점점 더 정교해지고 있는데, 가짜를 구분할 수 있는 믿을 만한 방법이 필요하기 때문입니다. 특히 딥페이크와 허위 정보가 심각해지는 요즘 말이에요. SynthID가 이렇게 쉽게 역공학당한다는 건 정말 업계 전체에 경고음을 울리는 거나 다름없습니다.
보안 회사 Pillar Security의 연구원들이 구글의 AI 에이전트 개발 도구 'Antigravity'에서 프롬프트 인젝션(Prompt Injection) 취약점을 발견했습니다. 공격자들은 이 취약점을 악용해 샌드박스 보호를 우회하고 원격에서 악성 명령을 실행할 수 있습니다. 다행히 구글은 이미 보고를 받고 패치를 완료했습니다.
This isn't just about Google — any AI agent tool that processes external prompts could have the same sandbox-escaping weakness lurking underneath
AMD의 AI 책임자가 6,852개의 Claude Code 세션을 분석한 결과 충격적인 사실이 드러났습니다. Claude의 복잡한 엔지니어링 작업 성능이 향상되지 않고 오히려 악화되고 있다는 것입니다. 데이터는 매우 심각합니다—사고 깊이가 67% 감소했고, 코드 편집 전 읽기 횟수가 6.6회에서 2.0회로 급락했으며, 본 적도 없는 파일을 무분별하게 수정하기 시작했습니다. 정지 훅 위반은 0에서 하루 10건으로 급증했습니다. Anthropic이 몰래 기본 노력 수준을 '높음'에서 '중간'으로 낮추고 '적응형 사고'라는 기능을 도입한 것이 원인인 것 같습니다. Claude를 중요한 작업에 사용 중이라면 이 경고를 심각하게 받아들여야 합니다.
The model is literally making blind edits to files it never read, which means your 'AI pair programmer' might be randomly breaking working code
Google DeepMind의 연구 부사장 Raia Hadsell이 Gemini를 뒷받침하는 최첨단 연구 방향을 공개합니다. 이 기사는 Google의 주력 AI 모델의 미래 발전 방향과 그 능력을 한 단계 높이기 위한 핵심 연구 방향을 살펴봅니다.
테크 블로거 관점
구글의 AI 워터마크가 완전히 깨졌다 — 생각보다 훨씬 심각하다
구글의 SynthID는 AI 생성 이미지 탐지의 해결책이 되려고 했다. 즉, Gemini가 만든 모든 이미지에 숨겨진 워터마크를 심어서 플랫폼과 출판사가 자동으로 가짜를 찾을 수 있게 하려던 거다. 근데 연구원들이 그 전체 전제를 박살 냈다. 단순히 SynthID를 우회하는 방법을 찾은 게 아니라, 전체 시스템을 역설계해서 모든 통계 기반 워터마킹 방식에 먹히는 공격을 만들어버렸다. 이게 뭘 의미하는지 생각해봐라: SynthID에 의존하던 모든 뉴스 매체, 소셜 플랫폼, 콘텐츠 검증 서비스가 AI 허위정보에 대한 주요 방어선을 잃었다는 뜻이다. 연구원들은 이 워터마크들을 제거하거나 조작해서 탐지 시스템이 진짜 이미지를 AI 생성으로 표시하면서 가짜는 통과시키게 할 수 있다는 걸 증명했다. 버그 수준이 아니라 AI 콘텐츠 탐지 방식 자체에 대한 근본적인 결함이다. 그리고 여기가 진짜 문제다: 이 공격이 박사 학위가 필요한 이론적 공격이 아니라는 거다.
AI 분석
디지털 미디어 & 출판
high지금 당장 콘텐츠 검증 프로세스를 감시해야 한다 — SynthID가 아마 너희 탐지 스택의 일부였을 거거든
연구원들이 SynthID를 깨뜨린 게 아니라, 모든 통계 기반 워터마킹 시스템에 먹히는 청사진을 만들어버렸다
이제 너희가 발행하는 모든 시각 콘텐츠가 의심받을 수 있고, 지금까지 믿던 도구들이 하루아침에 쓸모없어졌다
소셜 미디어 플랫폼
high단일 워터마킹 방식에만 의존하지 않는 다층 탐지 시스템을 구축하기 시작해야 한다
이 공격은 워터마크가 생성 과정에서 픽셀 레벨로 임베드될 때도 먹힌다 — 메타데이터 제거 문제가 아니다
너희 플랫폼의 신뢰도는 AI 허위정보를 막는 데 달려 있는데, 그동안 믿던 안전장치가 사라졌다
직무 영향 분석
콘텐츠 모더레이터
역할 변화AI 생성 이미지 탐지의 주요 도구가 신뢰할 수 없게 되면서 수동 검증이 다시 중요해졌다
워터마크 탐지를 넘어선 고급 이미지 포렌식 기술을 배워야 한다 — 역이미지 검색, 압축 아티팩트, 메타데이터 분석 같은 것들
AI 안전 연구원
기회이 돌파가 현재 워터마킹 방식의 근본적 결함을 드러내면서 더 나은 솔루션에 대한 긴급한 수요가 생겼다
임베드된 워터마크에 의존하지 않는 적대적 저항 탐지 방법으로 연구 방향을 바꿔야 한다
디지털 포렌식 전문가
기회조직들이 이제 쉽게 무너지는 워터마킹 시스템 없이도 콘텐츠 진위를 검증할 수 있는 전문가를 필요로 한다
기술 분석과 행동 패턴 인식을 결합한 다중 모달 탐지 전문성을 개발해야 한다