往下拉回到首頁
天啊你的舊電腦現在可以跑超強AI了,速度快到不行

天啊你的舊電腦現在可以跑超強AI了,速度快到不行

From 1 token/sec to 100 tokens/sec: Your old hardware just became a supercomputer

欸你知道嗎,才兩年前大家在自己電腦上跑Llama 405B,每秒只能處理1.2個token(就是AI回答時一個字一個字的速度啦),那時候大家都覺得超厲害。結果現在呢?同一台電腦可以跑Qwen 3.5-397B、DeepSeek V4 Flash這些新出的超強AI模型,速度快到每秒30-100個token,而且效能還比Llama 405B好超多。簡單來說就是,你家裡的舊電腦現在可以做以前需要花大錢買超級GPU才能做的事。這進度真的有點扯,根本想像不出明年會怎樣。