NVIDIA의 Nemotron-3-Super 크기 절반으로 줄였는데 수학 성능은 더 좋아졌다——단일 GPU로 AIME 2026 90% 이상 정답률 달성

개발자가 NVIDIA의 Nemotron-3-Super-120B를 대폭 최적화한 버전을 공개했습니다. 모델 크기를 절반으로 줄였는데(120B에서 64B 파라미터로) 수학 능력은 오히려 더 강해졌어요. 방법은 이렇습니다: 원본 모델을 가져와서 전문가 시스템(MoE)을 512개에서 256개로 줄이고, GRPO라는 기법으로 약 270개의 경시 수학 문제로 미세조정한 후, AWQ와 FP8 양자화로 압축했습니다. 결과는? 초어려운 수학 벤치마크인 AIME 2026에서 90% 이상의 정답률을 달성했고, 단 하나의 H100 GPU에서 실행됩니다. 로컬 AI를 쓰는 사람들에게는 정말 중요한 소식입니다——모델은 작아지고, 성능은 같거나 더 좋고, 비용은 훨씬 절감됩니다. 벤치마크 결과도 탄탄하고, 여러 버전(완전 정밀도 BF16, 양자화 버전)이 공개되어 있어서 자신의 하드웨어에 맞게 선택할 수 있습니다.