字節(jié)今年向英偉達(dá)訂購超10億美元GPU
6月14日消息,據(jù)報(bào)道,今年春節(jié)后,擁有云計(jì)算業(yè)務(wù)的中國(guó)各互聯(lián)網(wǎng)大公司都向英偉達(dá)下了大單。字節(jié)今年向英偉達(dá)訂購了超過10億美元的GPU,另一家大公司的訂單也至少超過10億元人民幣。
一名云廠商人士稱,字節(jié)、阿里等大公司主要是和英偉達(dá)原廠直接談采購,代理商和二手市場(chǎng)難以滿足他們的龐大需求。英偉達(dá)會(huì)按目錄價(jià),根據(jù)采購規(guī)模談一個(gè)折扣。據(jù)英偉達(dá)官網(wǎng),A100售價(jià)為1萬美元/枚,H100售價(jià)為3.6萬美元/枚;據(jù)了解,A800和H800售價(jià)略低于原版。
中國(guó)公司能否搶到卡,更多是看商業(yè)關(guān)系,比如以往是不是英偉達(dá)的大客戶?!澳闶呛椭袊?guó)英偉達(dá)談,還是去美國(guó)找老黃(黃仁勛)直接談,都有差別。” 一位云廠商人士說。
部分公司也會(huì)和英偉達(dá)進(jìn)行 “業(yè)務(wù)合作”,在購買搶手的數(shù)據(jù)中心GPU時(shí),也購買其它產(chǎn)品,以爭(zhēng)取優(yōu)先供應(yīng)。這就像愛馬仕的配貨,如果你想買到熱門的包,往往也得搭配幾萬元的衣服、鞋履。
綜合行業(yè)信息,字節(jié)今年的新下單動(dòng)作相對(duì)激進(jìn),超過10億美元級(jí)別。一位接近英偉達(dá)的人士稱,字節(jié)到貨和沒到貨的A100與H800總計(jì)有10萬塊。其中H800今年3月才開始投產(chǎn),這部分芯片應(yīng)來自今年的加購。據(jù)了解,以現(xiàn)在的排產(chǎn)進(jìn)度,部分H800要到今年底才能交貨。
據(jù)了解,僅字節(jié)一家公司今年的訂單可能已接近英偉達(dá)去年在中國(guó)銷售的商用GPU總和。
GPU在中國(guó)大型互聯(lián)網(wǎng)科技公司中主要有兩個(gè)用途:一是對(duì)內(nèi)支持業(yè)務(wù)和做一些前沿AI研究,二是把GPU放到云計(jì)算平臺(tái)上對(duì)外售賣。
一名字節(jié)人士透露,2020年6月OpenAI發(fā)布GPT-3后,字節(jié)就曾訓(xùn)練了一個(gè)數(shù)十億參數(shù)的生成式語言大模型,當(dāng)時(shí)主要使用的GPU是A100前代產(chǎn)品V100。由于參數(shù)規(guī)模有限,這個(gè)模型生成能力一般,字節(jié)當(dāng)時(shí)看不到它的商業(yè)化可能性,“ROI(投資回報(bào)率) 算不過來”,這次嘗試不了了之。
阿里也曾在2018-2019年積極采購GPU。一位阿里云人士稱,當(dāng)時(shí)阿里的采購量至少達(dá)到上萬塊規(guī)模,購買的型號(hào)主要是V100和英偉達(dá)更早前發(fā)布的T4。不過這批GPU中只有約十分之一給到了達(dá)摩院用作AI技術(shù)研發(fā)。2021年發(fā)布萬億參數(shù)大模型M6后,達(dá)摩院曾披露訓(xùn)練M6使用了480塊V100。
阿里當(dāng)時(shí)購買的GPU,更多給到了阿里云用于對(duì)外租賃。但包括阿里云在內(nèi),一批中國(guó)云計(jì)算公司都高估了中國(guó)市場(chǎng)的AI需求。一位科技投資人稱,大模型熱潮之前,國(guó)內(nèi)主要云廠商上的GPU算力不是緊缺,而是愁賣,云廠商甚至得降價(jià)賣資源。去年阿里云先后降價(jià)6次,GPU租用價(jià)下降超兩成。
2、電商號(hào)平臺(tái)僅提供信息存儲(chǔ)服務(wù),如發(fā)現(xiàn)文章、圖片等侵權(quán)行為,侵權(quán)責(zé)任由作者本人承擔(dān)。
3、如對(duì)本稿件有異議或投訴,請(qǐng)聯(lián)系:info@dsb.cn