如果你有在用 ChatGPT 或其他 AI 來幫忙整理信件、管理行程，你有沒有想過它會不會一不小心刪掉重要檔案？今天這篇論文介紹了一個叫 ClawsBench 的測試工具，專門用來檢驗大型語言模型（LLM）生產力代理——也就是那些能自動幫你做工作的 AI——到底有多聰明，又有多安全。簡單來說就是像汽車碰撞測試一樣，但測的不是安全氣囊，而是 AI 會不會亂刪你的檔案或被騙去做壞事。研究團隊建立了一個模擬環境，讓這些 AI 代理去處理各種真實情境，從簡單的任務到專門設計來為難它們的複雜狀況。說真的，讓 AI 變聰明只是一部分，安全性才是真正的挑戰。如果你在考慮讓 AI 接手你的實際工作，這種研究會讓你既放心又擔心。
資安公司Pillar Security研究人員近日發布報告，揭露Google的AI代理開發工具Antigravity存在提示注入（Prompt Injection）弱點，攻擊者可藉此繞過沙箱防護機制，進而從遠端執行惡意指令，此漏洞已向Google通報，並完成修補。
這不只是 Google 的問題啦——任何會處理外部提示的 AI 代理工具底下都可能藏著同樣的沙盒繞過弱點
AMD 的 AI 總監分析了 6,852 個 Claude Code 工作階段，結果超級扎心：Claude 在複雜工程任務上的表現不是進步，而是退步。數據慘不忍睹——思考深度下降 67%、模型停止在編輯前閱讀程式碼（從 6.6 次降到 2.0 次），甚至開始盲目修改它根本沒看過的檔案。停止鉤子違規從零飆升到每天 10 次。原來 Anthropic 偷偷把預設努力等級從「高」降到「中」，還引入了「自適應思考」功能，結果根本沒在好好思考。如果你用 Claude 做任何關鍵任務，這絕對是個警訊。
這個模型根本沒在讀檔案就直接亂改，意思是你那個『AI 程式設計夥伴』可能在偷偷破壞你的工作程式碼
Google DeepMind 研究副總裁 Raia Hadsell 親自分享 Gemini 背後的尖端研究方向。這篇文章深入探討 Google 旗艦 AI 模型的未來發展，以及將如何推動其能力進化的關鍵研究方向。
示意圖Google 的 Gemini 內建了一個叫 SynthID 的浮水印技術，目的是標記 AI 生成的圖片，讓你能分辨真假。聽起來不錯對吧？但研究人員最近發現他們可以破解它。他們找到了方法去除或竄改這個浮水印，這表示壞人現在可以把 AI 圖片冒充成真實照片而不被發現。就像 Google 裝了一道鎖，結果有人找到了萬能鑰匙。這很重要，因為隨著 AI 圖片生成技術越來越強，我們需要可靠的方法來識別假圖——尤其是在深度偽造和假資訊越來越猖獗的時代。SynthID 這麼容易被反向工程，對整個業界來說真的是個警鐘。