往下拉回到首頁
Intel 放出新版 AI 工具,現在可以用自家顯示卡跑大型語言模型了

Intel 放出新版 AI 工具,現在可以用自家顯示卡跑大型語言模型了

Intel LLM-Scaler vllm-0.14.0-b8.2 released with official Arc Pro B70 support

欸你知道嗎,Intel 剛剛更新了他們的 LLM-Scaler 工具(新版本叫 vllm-0.14.0-b8.2),現在正式支援他們的 Arc Pro B70 顯示卡。簡單來說就是,如果你想在自己的電腦上跑 ChatGPT 那種大型 AI 模型,以前可能要用 NVIDIA 的卡,現在終於可以用 Intel 的硬體了。這對想要自己架設 AI 系統、不想被雲端服務綁住的人來說,算是個不錯的進展啦。說真的,Intel 在 AI 硬體這塊終於有點動作了。