ai July 22, 2024 GROQ 增強了 META LLAMA 3.1 的快速人工智慧推理能力 快速 AI 推理領域的領導者 Groq 推出了由其 LPU™ AI 推理技術提供支援的 Llama 3.1 模型。 Groq 很榮幸能與 Meta 合作推出這項重要的產業產品,並以 Groq 速度運行最新的 Llama 3.1 型號,包括405B Instruct、 70B Instruct 和8B Instruct。這三個模型可在GroqCloud Dev Console (一個由超過30 萬名開發人員組成的社區,已經在 Groq® 系統上建置)和麵向大眾的 GroqChat上使用。 Meta 創辦人兼執行長Mark Zuckerberg 表示: 「我非常高興看到Groq 針對Llama 3.1 模式雲部署的超低延遲推理。這是我們對開源的承諾如何推動創新的絕佳示例。 「Meta 正在為 AI 創建相當於 Linux 的開放作業系統,不僅是為提供快速 AI 推理的 Groq LPU,而且是為整個生態系統。在技術上,開放總是獲勝,隨著 Llama 3.1 的發布,按照這個速度,Meta 已經趕上了最好的專有模型,他們領先於封閉模型只是時間問題。「隨著 Meta 的每一個新版本的發布,我們都會看到加入我們平台的開發人員數量大幅增加。在過去的五個月裡,我們被 Llama 的質量和開放性以及Groq LPU 上的速度令人難以置信。 Llama 3.1 型號在性能和功能方面向前邁出了重要一步。作為迄今為止最大、功能最強大的公開大型語言模型,Llama 3.1 405B可以與業界領先的閉源模型相媲美。企業、新創公司、研究人員和開發人員第一次可以在不受專有限制的情況下存取這種規模和功能的模型,從而實現前所未有的協作和創新。借助 Groq,AI 創新者現在可以挖掘 Llama 3.1 405B在 GroqCloud 上以前所未有的速度運行的巨大潛力,建立更複雜、更強大的應用程式。