往下拉回到首頁
欸你知道嗎?訓練AI模型現在可以省128倍的網路流量,根本省錢神器

欸你知道嗎?訓練AI模型現在可以省128倍的網路流量,根本省錢神器

ResBM: New Transformer Architecture Cuts AI Training Data Transfer by 128×, Making Massive Models Cheaper to Train

簡單來說就是,Macrocosmos發現了一個訓練大型AI的新招數,叫做ResBM。你知道為什麼訓練AI這麼貴嗎?因為當你把一個超大的AI模型分散到好幾台電腦上一起訓練時,這些電腦之間要不停地傳資料給彼此,那個資料量超級大,就像在高速公路上塞車一樣。ResBM就像是一個聰明的「資料壓縮機」,它可以把這些資料壓到只有原本的1/128,也就是說可以省128倍的網路流量。最扯的是,這樣做居然不會讓AI學得更差,效果還是一樣好。這對那些沒有超級多預算的公司和研究單位來說,根本就是天大的好消息——訓練AI可以便宜很多,速度也快很多。說真的有點猛。