绿茶通用站群绿茶通用站群

独肖有哪几个

独肖有哪几个 新订单12月才能交付!英伟达GPU持续缺货涨价 客户“勒紧裤带”节约使用

  在持(chí)续已久的“AI热潮”中(zhōng),各家争(zhēng)相推出的(de)大模(mó)型、AI应用,都进一步推升了对算力狂热的需(xū)求。本周(zhōu)已有(yǒu)报道(dào)指(zhǐ)出英伟达后续对(duì)AI顶级(jí)规(guī)格芯片需(xū)求明显(xiǎn)看增,紧急向台积(jī)电追加预订(dìng)先进封装产能。

  需求飙涨下,英伟达(dá)GPU价格自然也是水涨(zhǎng)船高。据集微网(wǎng)消(xiāo)息(xī),有(yǒu)代(dài)理(lǐ)商透露,英伟达A100价格从去年(nián)12月(yuè)开始上(shàng)涨,截至(zhì)今年4月上半月,其5个(gè)月价格累(lèi)计涨幅达到37.5%;同期A800价格累计涨(zhǎng)幅达20.0%。

  同(tóng)时,英伟达(dá)GPU交货周(zhōu)期也被拉长,之前拿货(huò)周期大约为一(yī)个月,现(xiàn)在基本都需要三个月或(huò)更长。甚至(zhì),部分新订单“可能要(yào)到(dào)12月才能交(jiāo)付”。

  供(gōng)需的巨(jù)大鸿沟面前,在(zài)这(zhè)一情形(xí独肖有哪几个ng)之下,众多客(kè)户(hù)也不得独肖有哪几个不“勒紧腰带”。上述文(wén)章指出,国内(nèi)可用于(yú)训(xùn)练AI大模型的A100大约有4万-5万(wàn)个,供应(yīng)相当(dāng)吃紧,一些云(yún)服务厂(chǎng)商已严格限制内部使用这些先进芯(xīn)片,以将其保留至需要强(qiáng)力运算(suàn)的任务。

  值得一提的是,类似的(de)事情在微软内部也早已发生。3月(yuè)已(yǐ)有外媒(méi)报(bào)道指出(chū),微软内部陷入AI服(fú)务器硬(yìng)件短缺的窘境,不得不(bù)对AI硬件资(zī)源采取“配额供给”机制,限制公司内部其他AI工具开发团(tuán)队的资源用(yòng)量。

  拉长(zhǎng)时间(jiān)线来看(kàn),有GPU业内(nèi)人士指出,实际上从去年(nián)6月起(qǐ),英(yīng)伟达就(jiù)已宣布上调A100价格,涨幅(fú)20%左右,渠道商在加紧囤货。至于英伟达(dá)A800,在ChatGPT火爆之前就已出(chū)现涨(zhǎng)价,但反(fǎn)映到(dào)市场则(zé)有一定的滞后(hòu)性,赶上ChatGPT爆(bào)火这一时间(jiān)点,更放(fàng)大了这一现(xiàn)象(xiàng)。

  “英伟达GPU涨(zhǎng)价与(yǔ)ChatGPT有一定(dìng)的关联性(xìng),且交(jiāo)货(huò)周(zhōu)期也受到了(le)连(lián)带的(de)影(yǐng)响,导致(zhì)市场上出现了众多炒卡(kǎ)的行为。”

  此外,在海外电商(shāng)平台上,英伟达新旗舰级GPU H100的价格(gé)在4月中(zhōng)旬就已(独肖有哪几个yǐ)炒到了超过4万美元。

  随着(zhe)如今各家科技(jì)巨头争相推(tuī)出自家大模型,GPU需求量(liàng)仍在持续攀升(shēng)。OpenAI指出(chū),AI大模型要持续(xù)取(qǔ)得(dé)突破,所需(xū)要消耗的计算资源每3~4个月就(jiù)要翻一倍,资金也需要通过(guò)指数级增长获得(dé)匹配。

  据(jù)财通证(zhèng)券测算,2023/2024/2025年大(dà)模型有望为GPU市场贡献(xiàn)69.88/166.2/209.95亿美元(yuán)增量。

  其中在训练端,以目(mù)前主(zhǔ)流的训练端(duān)GPU英伟达A100测算(suàn),假设ASP为1万美元(yuán),2023/2024/2025年全球训练端(duān)GPU需求市场规模预计分别为0.74/2.00/4.07亿美元;

  在推理端,以目前英伟(wěi)达用于推(tuī)理端计算的(de)A10测(cè)算(suàn),假设ASP为(wèi)2800美元,2023/2024/2025年(nián)全球推理(lǐ)端(duān)GPU需求(qiú)市场规模预计分(fēn)别为69.14/164.2/205.88亿美(měi)元。

  业内人(rén)士也表示,AI大模(mó)型训练(liàn)成本之一(yī)是基础算力,大概需(xū)要(yào)384-3000块左右的A100才(cái)能基本满足(zú)要求,如果价(jià)格持续上涨(zhǎng),无(wú)论是互联网、AI大厂、还是创业新贵(guì),要追(zhuī)加(jiā)的投入都可(kě)能远超(chāo)当初。

未经允许不得转载:绿茶通用站群 独肖有哪几个

评论

5+2=