Google 的 Gemini 內建了一個叫 SynthID 的浮水印技術，目的是標記 AI 生成的圖片，讓你能分辨真假。聽起來不錯對吧？但研究人員最近發現他們可以破解它。他們找到了方法去除或竄改這個浮水印，這表示壞人現在可以把 AI 圖片冒充成真實照片而不被發現。就像 Google 裝了一道鎖，結果有人找到了萬能鑰匙。這很重要，因為隨著 AI 圖片生成技術越來越強，我們需要可靠的方法來識別假圖——尤其是在深度偽造和假資訊越來越猖獗的時代。SynthID 這麼容易被反向工程，對整個業界來說真的是個警鐘。
資安公司Pillar Security研究人員近日發布報告，揭露Google的AI代理開發工具Antigravity存在提示注入（Prompt Injection）弱點，攻擊者可藉此繞過沙箱防護機制，進而從遠端執行惡意指令，此漏洞已向Google通報，並完成修補。
這不只是 Google 的問題啦——任何會處理外部提示的 AI 代理工具底下都可能藏著同樣的沙盒繞過弱點
AMD 的 AI 總監分析了 6,852 個 Claude Code 工作階段，結果超級扎心：Claude 在複雜工程任務上的表現不是進步，而是退步。數據慘不忍睹——思考深度下降 67%、模型停止在編輯前閱讀程式碼（從 6.6 次降到 2.0 次），甚至開始盲目修改它根本沒看過的檔案。停止鉤子違規從零飆升到每天 10 次。原來 Anthropic 偷偷把預設努力等級從「高」降到「中」，還引入了「自適應思考」功能，結果根本沒在好好思考。如果你用 Claude 做任何關鍵任務，這絕對是個警訊。
這個模型根本沒在讀檔案就直接亂改，意思是你那個『AI 程式設計夥伴』可能在偷偷破壞你的工作程式碼
Google DeepMind 研究副總裁 Raia Hadsell 親自分享 Gemini 背後的尖端研究方向。這篇文章深入探討 Google 旗艦 AI 模型的未來發展，以及將如何推動其能力進化的關鍵研究方向。
科技博主觀點
Google 的 AI 浮水印被徹底破解了——而且比你想的還糟
Google 的 SynthID 本來應該是 AI 生成圖像檢測的救世主。就是那個藏在每張 Gemini 生成圖像裡的隱形浮水印，讓平台和出版商能自動識別假圖。結果呢？研究人員直接把整個概念燒掉了。他們不只找到了繞過 SynthID 的方法——他們還反向工程了整個系統，創造出對任何統計型浮水印方法都有效的攻擊。想想這代表什麼：每家新聞媒體、社群平台和內容驗證服務原本依賴的 SynthID 防線現在全部失效。研究人員證明了你可以剝除這些浮水印，或者操縱它們到檢測系統根本搞反了——把真實圖像標記成 AI 生成的，同時放過假圖。這不只是個臭蟲——這是我們對 AI 內容檢測整個思維方式的根本缺陷。最扯的是：這不是什麼需要博士學位才能執行的理論攻擊。
AI 分析
數位媒體與出版
high馬上審查你的內容驗證流程——SynthID 八成是你們檢測系統的一部分
研究人員不只破解了 SynthID，他們還創造出一套藍圖，對任何統計型浮水印系統都有效
你們發布的每一張視覺內容現在都可能被質疑，而你們現在用的工具已經在一夜之間變成廢物
社群媒體平台
high開始建構多層次的檢測系統，別再只靠單一浮水印方法
這個攻擊方式即使在浮水印於生成時就嵌入到像素層級也照樣有效——不只是中繼資料剝離而已
你們平台的信譽取決於能否阻止 AI 假訊息，而你們以為有的安全網現在已經消失了
職位影響分析
內容審核員
角色轉型用來檢測 AI 生成圖像的主要工具現在變得不可靠，手動驗證又變成關鍵了
學習浮水印檢測以外的進階圖像鑑識技術——反向圖像搜尋、壓縮偽影和中繼資料分析
AI 安全研究員
機會這個突破暴露了現有浮水印方法的根本缺陷，創造出對更好解決方案的急迫需求
轉向研究不依賴嵌入式浮水印的對抗性檢測方法
數位鑑識專家
機會組織現在需要能在不依賴容易被破解的浮水印系統下驗證內容真偽的專家
培養多模態檢測的專業知識，結合技術分析和行為模式識別