
OpenAI 要開直播了,會不會又推出什麼新東西?
欸你知道嗎,OpenAI 最近要辦一場直播活動。雖然現在還不知道會講什麼,但根據他們過去的習慣,通常直播就代表有新東西要發表。可能是 ChatGPT 的新功能、新模型,或者什麼其他猛的東西。反正 OpenAI 的直播從來不會無聊,有興趣的話可以追蹤一下,說不定又會有什麼改變遊戲規則的公告。
The last time OpenAI did an unannounced livestream, they dropped GPT-4 Turbo and changed pricing overnight



白話點評
終於有人寫出大家一直在迴避的 AI 防禦論文
Anthropic 剛剛證明了一件事:AI 能力進展的速度比我們管理它的能力快太多——Claude Mythos 危險到不能釋出,但誰決定的?接下來怎麼辦?這篇工作論文直接戳中大家都在迴避的問題:我們需要 AI 系統來防禦 AI 系統,但沒人想談誰來控制這些防禦者。AEGIS 框架提出了超激進的想法——一個由多方共同治理的 AI 防禦系統,獨立運作保護關鍵基礎設施,由多個利害關係人監督而不是企業或政府單獨控制。想像一下網際網路的免疫系統,但它要對所有它保護的人負責。技術架構超有趣——AI 防禦者被設計限制住,透明運作,內建問責機制。但真正的突破是治理模式:基礎設施營運商、資安研究員、民間社會,還有政府,大家都有發言權決定這些系統怎麼運作。這是我看過第一個認真試著解決「誰監督監督者」問題的防禦 AI 方案。
AI 怎麼看
網路安全
high現在就開始跟基礎設施營運商建立關係——等到 AEGIS 這種系統真的出現,你需要的是信任網絡,不是只有技術能力而已
這篇論文提出的 AI 防禦系統可以比 AI 攻擊者發現漏洞還快去修補——簡單來說就像是網際網路的免疫系統
你的資安團隊可以從一直在打地鼠遊戲對付威脅,進化到有個 AI 隊友幫你提前三步想好對策
雲端基礎設施
high評估一下你們的系統哪些會被列為「關鍵基礎設施」——你可能會有新的義務要承擔
AEGIS 把基礎設施商看成是強制參與者,不是可選的客戶——這比較像公用事業監管,不是 SaaS 訂閱那種
你的系統穩定性可能會靠你根本控制不了的 AI 系統,還要聽一堆你從沒見過的人的指揮
這跟你的工作有關嗎
資安工程師
整個會變不一樣AEGIS 提出的 AI 系統可以自動發現、評估、修補漏洞——根本改變了人類資安工作的樣子
開始學著跟 AI 防禦系統一起工作,不只是對抗 AI 攻擊——今天就開始試試 AI 輔助的威脅建模
基礎設施架構師
好消息集體防禦框架可以用 AI 保護關鍵系統,不用每個組織都自己建 AI 資安團隊
設計系統時就考慮集體防禦——標準化 API、可觀測的架構、清楚的重要性分類
政策分析師
整個會變不一樣AEGIS 代表一種新的 AI 治理模式——不是企業自律也不是政府控制,而是多方合作行動
研究其他產業的合作治理模式——這個框架會需要既懂 AI 又懂集體行動的政策專家