往下拉回到首頁
Google Gemma 4 被發現有隱藏功能,開發者在求救:誰會 C++ 來幫忙破解?

Google Gemma 4 被發現有隱藏功能,開發者在求救:誰會 C++ 來幫忙破解?

Gemma 4's Hidden Multi-Token Prediction Feature: Community Reverse Engineering Effort Underway

欸你知道嗎,有個開發者發現 Google 的 Gemma 4 AI 模型裡面藏著一個叫「多令牌預測」(MTP)的功能,根本沒人知道。簡單來說就是這個功能可以讓 AI 一次預測好幾個字,而不是一個一個慢慢來,這樣生成文字會快超多。 問題是,這個功能被鎖在編譯後的檔案裡面,開發者已經把模型權重挖出來放在 HuggingFace 上了,但現在需要懂 C++ 的高手幫忙把它轉換成可以直接用的 PyTorch 格式。說真的有點扯,Google 自己的功能反而要靠社群來破解。 如果你剛好會逆向工程或 C++,這是個超好的機會可以為開源 AI 社群做貢獻,而且搞不好會發現更多有趣的東西。有興趣的話可以去 HuggingFace 看看那些提取出來的檔案。

相關標籤

reverse engineeringmodel weightsMTPTFLiteneural networkcommunity contribution