아래로 당겨서 돌아가기
같은 비행 전투 시뮬레이터 프롬프트로 9개의 로컬 모델을 테스트, 모두 Q8 양자화, 다양한 양자화 제공자, MLX 사용

같은 비행 전투 시뮬레이터 프롬프트로 9개의 로컬 모델을 테스트, 모두 Q8 양자화, 다양한 양자화 제공자, MLX 사용

I tested 9 local models on the same flight sim prompt, all Q8, different Q providers, MLX

9개의 로컬 대형언어모델(LLM)에 동일한 비행 전투 시뮬레이터 프롬프트를 입력했는데, 양자화 제공자와 파라미터 수에 대한 제 가정들이 깨졌습니다. 모두 8비트 MLX 양자화 버전, M3 Max 128GB에서 실행, omlx로 제공, Claude Code로 입력. 매번 동일한 프롬프트——단일 HTML 파일, 3가지 선택 가능한 항공기(제트기, 프로펠러기, 모델이 선택하는 와일드카드 기종), 동적 적기, 조명탄, 손상 시스템, 추락 시 나선형 하강. 프롬프트부터 완성까지의 횟수를 세고 "실제로 플레이 가능한가"로 평가했습니다.