CrabTrap：用大型語言模型當保鑣的 HTTP 代理，保護生產環境中的 AI 代理

Brex 開源了一個叫 CrabTrap 的安全工具，用大型語言模型（LLM）來監控和管制生產環境中的 AI 代理。這個 HTTP 代理會夾在你的應用程式和外部服務之間，用 LLM 來判斷 AI 代理發出的每個請求是否安全，才決定要不要放行。簡單來說就像是在你的 AI 系統門口放一個保鑣——它會看著你的代理想做什麼，然後把可疑的動作擋下來。這解決了一個真實的問題：當公司開始部署自主 AI 代理來處理像是 API 呼叫或資料存取這類工作時，他們需要防護欄來防止代理出錯或被駭客利用。CrabTrap 讓你可以定義政策，然後用 LLM 即時執行這些政策，這樣就能更安心地運行 AI 代理，不用一直盯著它。