아래로 당겨서 돌아가기
Arc Sentry가 LLM Guard를 압도: 프롬프트 인젝션 탐지 92% vs 70%

Arc Sentry가 LLM Guard를 압도: 프롬프트 인젝션 탐지 92% vs 70%

Arc Sentry Crushes LLM Guard in Prompt Injection Detection: 92% vs 70%

오픈 웨이트 대형언어모델(LLM)을 위한 프롬프트 인젝션 사전 탐지기 Arc Sentry를 개발했습니다. 기존 도구들이 생성 후 텍스트 패턴을 스캔하는 방식과 달리, Arc Sentry는 generate() 호출 전에 모델의 내부 잔차 스트림(residual stream)을 읽어 모델의 정보 기하학을 불안정하게 만드는 요청을 차단합니다. 130개 SaaS 배포 데이터셋 직접 비교 결과: Arc Sentry: 92% 탐지율, 0% 오탐율 LLM Guard: 70% 탐지율, 3.3% 오탐율 핵심 차이는 아키텍처입니다. LLM Guard는 입력이 모델에 들어간 후 분류하지만, Arc Sentry는 신경 수준에서 위협을 선제적으로 차단하고 생성 시작 전에 방어합니다.