Intel Arc Pro B70 32GB로 Qwen3.5-27B 드디어 구동 성공—실제 속도 공개

Intel Arc Pro B70 GPU로 AI 모델 추론을 돌려본 적 있나요? 이 사용자는 vllm(GPU 가속화 프레임워크)과 며칠 밤을 싸우다가 결국 성공했고, 이제 실제 성능 데이터를 공개했습니다. 핵심은 llama.cpp와 vllm 모두 Qwen3.5-27B Q4 양자화 버전에서 약 12 토큰/초의 생성 속도를 달성한다는 것입니다. 흥미롭게도 텐서 병렬화(tensor parallel) 같은 최적화 기법은 오히려 성능을 악화시켰고(PCIe 토폴로지 때문일 수 있음), 파이프라인 병렬화(pipeline parallel)는 배치 처리에서는 도움이 되지만 단일 쿼리에서는 성능이 떨어집니다. Arc Pro로 로컬 AI 추론을 고려 중이라면 이 실측 데이터는 꼭 봐야 합니다.