LPU是一種定製的專門用於大模型推理加速的芯片。大模型的首token輸出時間及token輸出速度都極快。這對於一些時間敏感型的特定場景非常有用。比如說軍事,應急,救援等。
Groq的幾個創始人都將加入英偉達。Groq的雲服務仍將保持運營。
有人評價,其實蘋果最應該買的,可惜廚子沒那個眼光。