往下拉回到首頁
天啊!Qwen 3.6 35B 模型竟然有 40% 的神經元「死掉」了

天啊!Qwen 3.6 35B 模型竟然有 40% 的神經元「死掉」了

Qwen 3.6 35B Model Has a Serious Problem: 40% of Its Brain Cells Are Dead

欸你知道嗎,有個工程師在檢查 Qwen 3.6 35B 這個大型 AI 模型時,發現了一個超扯的問題。簡單來說就是,這個模型裡面有大量的「神經元」(就像是 AI 的腦細胞啦)根本沒有在工作,輸出的值全部都是零。更誇張的是,在某些特定的層裡面,竟然有 40% 的神經元都死掉了。這就像你的大腦有 40% 的神經細胞不工作一樣,想想就知道有多糟。奇怪的是,同一家公司的小一點的模型(Qwen 3.5 9B)就沒有這個問題,所有神經元都活蹦亂跳的。到底為什麼會這樣?沒人知道。可能是訓練的時候出問題,也可能是壓縮模型時搞砸了。總之這件事滿令人擔心的,因為沒人確定這會怎樣影響 AI 的表現。