輝達計畫將 Groq 的 LPU 技術整合進其 AI 工廠 (AI Factory) 架構，預期能克服哪些在 AI 推理市場的挑戰？

Question

輝達整合 Groq LPU 技術以克服 AI 推理市場挑戰

Accepted Answer

輝達計畫將 Groq 的 LPU（語言處理單元）技術整合到其 AI 工廠（AI Factory）架構中，此舉預期能協助輝達在 AI 推理市場中克服多項挑戰。Groq 的 LPU 晶片專為 AI 推理設計，強調低延遲和即時反應能力，這將有助於輝達擴展其在推理與即時運算能力。