CrabTrap: 프로덕션 환경의 AI 에이전트를 보호하는 LLM 판정형 HTTP 프록시

Brex가 개발한 보안 도구 'CrabTrap'이 오픈소스로 공개되었습니다. 대형 언어모델(LLM)을 사용해서 AI 에이전트의 동작을 감시하고 제어하는 HTTP 프록시입니다. 애플리케이션과 외부 서비스 사이에 위치하면서, AI 에이전트가 보내는 각 요청이 안전한지를 LLM이 판정한 후 통과시키는 방식이죠. 쉽게 말해서 AI 시스템의 입구에 경비원을 배치하는 것 같은 거예요. 에이전트가 뭘 하려고 하는지 감시하다가 의심스러운 행동은 차단합니다. 기업들이 API 호출이나 데이터 접근 같은 작업을 자동화하는 AI 에이전트를 실제 운영 환경에 배포할 때, 에이전트의 오류나 악용을 방지해야 하는데요. CrabTrap은 정책을 정의하고 LLM이 실시간으로 이를 집행하도록 해서, AI 에이전트를 안전하게 운영할 수 있게 해줍니다.