往下拉回到首頁
Brex 推出 CrabTrap:用 AI 當保鑣,讓你的 AI 機器人不會亂來

Brex 推出 CrabTrap:用 AI 當保鑣,讓你的 AI 機器人不會亂來

CrabTrap: An LLM-as-a-judge HTTP proxy to secure agents in production

欸你知道嗎,現在很多公司都在用 AI 機器人自動處理工作,像是自動呼叫 API、自動存取資料那種。但問題是,這些 AI 機器人有時候會出錯,或者被壞人利用,對吧?Brex 就開源了一個叫 CrabTrap 的工具來解決這個問題。簡單來說就是用另一個 AI(大型語言模型)當保鑣,守在你的 AI 機器人和外部服務之間。每當你的機器人想做什麼事情,這個保鑣 AI 就會先檢查一下「欸,這個動作安不安全啊?」,安全才放行,不安全就直接擋下來。這樣你就不用一直盯著你的 AI 機器人在幹嘛,也不用擔心它會亂來。說真的,對那些想要放心用 AI 自動化工作的公司來說,這個工具還滿實用的。