
OpenAI 直播活動
OpenAI 將舉辦一場直播活動。在直播期間將揭露具體的公告、產品發布或示範內容。
上一次 OpenAI 突然搞直播,他們直接丟出 GPT-4 Turbo,然後一夜之間改掉所有定價

我開發了 Arc Sentry,一個針對開源權重大型語言模型(LLM)的前置提示詞注入偵測器。與其他工具在生成後掃描文字模式不同,Arc Sentry 在 generate() 被呼叫前直接讀取模型的內部殘差流(residual stream),並阻止會破壞模型資訊幾何結構的請求。 在 130 個 SaaS 部署資料集的直接對比測試中: Arc Sentry:92% 檢測率,0% 誤判率 LLM Guard:70% 檢測率,3.3% 誤判率 關鍵差異在於架構設計。LLM Guard 在輸入進入模型後才進行分類,但 Arc Sentry 在神經層級直接攔截威脅,甚至在生成開始前就已經防禦。