騰訊高管稱GPU夠訓練未來幾代模型 GPU更大的需求來自推理
2025-05-14 22:49:02
來源:
同花順7x24快訊
騰訊高管表示,騰訊有足夠的高端芯片來繼續(xù)訓練模型,(芯片)對于未來幾代模型而言是足夠的。目前騰訊看到對GPU更大的需求是在推理側,用戶推理需求在逐漸增長,推理token(詞元)的需求比之前預計的更多。如果做出更先進的模型,推理需求相比目前的需求還會更多,將消耗更多token。目前AI的需求非常高,需求已經(jīng)超過GPU資源(能提供的算力)。(第一財經(jīng))
0人