Meta訓練新模型使用了多少張H100 GPU？
Answer
Meta 使用 H100 GPU 訓練新模型
根據台灣人工智慧實驗室創辦人杜奕瑾在「2025台灣AI產業年會」上的說法，Meta 使用超過 1.6 萬張 H100 GPU 訓練其新模型。這顯示了生成式 AI 模型訓練所需的大量運算資源和投資。
生成式 AI 的發展困境
杜奕瑾指出，生成式 AI 在 2024 年面臨三大困境：耗能、訓練成本高昂以及數據隱私挑戰。Meta 使用如此大量的 H100 GPU 訓練模型，更突顯了 AI 發展在能源和成本上的巨大需求。
AI 產業的未來趨勢
NVIDIA 執行長黃仁勳認為，2025 年將會是 Agentic AI（AI 代理）爆發的年份。在這個背景下，台灣產業界應思考如何運用既有的半導體優勢，跟上 AI 時代的發展。
觀看原始文章The Llama 4 herd: The beginning of a new era of natively ...
Llama 4 Scout offers an industry-leading context window of 10M and delivers better results than Gemma 3 using NVIDIA H100 GPU.
【2.4萬個GPU結合6千個CPU，打造當前全球最高規格AI運算環境 ...
馬斯克在今年4月曾透露，旗下AI新創公司xAI發展的Grok-2模型，訓練時使用2萬個H100 GPU，這樣的規模，與Meta的Llama 3模型訓練使用的24k GPU規模相似。
Introducing Llama 3.1: Our most capable models to date
Our latest models expand context length, add support across eight languages, and include Meta Llama 3.1.
2.4 萬個H100 GPU 訓練Llama 3 新模型，Meta 展示AI 運算火力 ...
Meta 在其工程部落格公開兩座AI 資料中心部署細節，包含超過24000 個NVIDIA H100 GPU 等運算硬體，Meta 正使用這些 GPU 叢集訓練下一代大型語言模型 Llama 3。
你想知道哪些？AI來解答
Meta 訓練新模型使用了多少張 H100 GPU？
杜奕瑾提出的生成式 AI 在 2024 年面臨的三大困境是什麼？
NVIDIA 執行長黃仁勳預測 2025 年將爆發哪種 AI 技術？
台灣產業界應如何運用半導體優勢來應對 AI 時代的發展？
生成式 AI 模型訓練的龐大運算資源需求對能源和成本提出了什麼挑戰？
你覺得這篇文章有幫助嗎？
有幫助
沒幫助
回報問題
1
0
0
分享給好友
