Groq

Groq的語言處理單元(LPU)相比傳統GPU提供顯著更快的AI推論速度，能夠實現實時AI應用與更低延遲。該公司的專用硬體架構特別針對大型語言模型推論進行最佳化，在效能關鍵的部署中提供競爭優勢。