Gemma-4 미세조정 및 배포 시 마주친 문제들 정리

안녕하세요, 저희 ML팀이 이번 주에 Gemma-4의 학습과 배포를 정상 작동시키기 위해 시간을 보냈고, 그 과정에서 겪은 모든 문제들을 기록해두고 싶습니다. PEFT가 Gemma 4의 커스텀 레이어를 인식하지 못합니다. Google이 비전/오디오 프로젝션을 새로운 ClippableLinear 클래스로 감싸놨는데, 이것이 nn.Linear를 상속하지 않아서 텍스트 전용 미세조정이라도 PEFT가 LoRA 추가를 거부합니다. 해결책: 가중치 로드 후 PEFT 호출 전에 래퍼를 제거하세요. SFTTrainer가 학습을 조용히 중단합니다.