還記得提示詞工程（prompt engineering）嗎？後來有了上下文工程（context engineering），再來是 AI 代理（agents）。現在史丹佛研究團隊推出了「超級框架」（Meta-Harness）——簡單說就是一個包裹在大型語言模型（LLM）外面的系統，能自動抓出自己的錯誤並改正，還能提升效能、減少所需的上下文資訊。關鍵在於：LLM 的表現不只取決於模型本身，還取決於「框架」——那些決定要儲存、取回、呈現哪些資訊給模型的程式碼。超級框架能自動學習最佳化這個框架。這對讓 AI 系統更有效率、更可靠可能是個轉捩點，不用一直手動調整提示詞。有興趣的話可以看完整論文。
資安公司Pillar Security研究人員近日發布報告，揭露Google的AI代理開發工具Antigravity存在提示注入（Prompt Injection）弱點，攻擊者可藉此繞過沙箱防護機制，進而從遠端執行惡意指令，此漏洞已向Google通報，並完成修補。
這不只是 Google 的問題啦——任何會處理外部提示的 AI 代理工具底下都可能藏著同樣的沙盒繞過弱點
AMD 的 AI 總監分析了 6,852 個 Claude Code 工作階段，結果超級扎心：Claude 在複雜工程任務上的表現不是進步，而是退步。數據慘不忍睹——思考深度下降 67%、模型停止在編輯前閱讀程式碼（從 6.6 次降到 2.0 次），甚至開始盲目修改它根本沒看過的檔案。停止鉤子違規從零飆升到每天 10 次。原來 Anthropic 偷偷把預設努力等級從「高」降到「中」，還引入了「自適應思考」功能，結果根本沒在好好思考。如果你用 Claude 做任何關鍵任務，這絕對是個警訊。
這個模型根本沒在讀檔案就直接亂改，意思是你那個『AI 程式設計夥伴』可能在偷偷破壞你的工作程式碼
Google DeepMind 研究副總裁 Raia Hadsell 親自分享 Gemini 背後的尖端研究方向。這篇文章深入探討 Google 旗艦 AI 模型的未來發展，以及將如何推動其能力進化的關鍵研究方向。
示意圖Google 的 Gemini 內建了一個叫 SynthID 的浮水印技術，目的是標記 AI 生成的圖片，讓你能分辨真假。聽起來不錯對吧？但研究人員最近發現他們可以破解它。他們找到了方法去除或竄改這個浮水印，這表示壞人現在可以把 AI 圖片冒充成真實照片而不被發現。就像 Google 裝了一道鎖，結果有人找到了萬能鑰匙。這很重要，因為隨著 AI 圖片生成技術越來越強，我們需要可靠的方法來識別假圖——尤其是在深度偽造和假資訊越來越猖獗的時代。SynthID 這麼容易被反向工程，對整個業界來說真的是個警鐘。