往下拉回到首頁
Gemma-4 真的超難用?我們踩到的坑都在這裡

Gemma-4 真的超難用?我們踩到的坑都在這裡

Trials and tribulations fine-tuning & deploying Gemma-4 [P]

欸你知道嗎,我們公司的 AI 團隊最近在玩 Google 新出的 Gemma-4 模型,結果一堆問題。簡單來說就是,這個模型的架構有點怪,Google 用了一些特殊的設計,導致常用的微調工具(PEFT)根本認不出來,連文字微調都會被擋掉。說真的有點扯,後來才發現要先把 Google 的包裝層拆掉才行。 還有啊,用來訓練的工具(SFTTrainer)會莫名其妙地停止運作,完全沒有錯誤訊息,根本不知道發生什麼事。這篇文章就是他們把所有踩到的坑都整理出來,如果你也想用 Gemma-4 的話,先看一下別人的經驗談可能會省掉不少麻煩。