挖貝網(wǎng)> 產(chǎn)業(yè)> 詳情
英博數科發(fā)布英博云,加碼GPU容器服務(wù)
隨著(zhù)AIGC驅動(dòng)智能算力需求爆發(fā),英博數科憑借深厚的技術(shù)積累和市場(chǎng)洞察,推出了英博云多款GPU智算產(chǎn)品和服務(wù),全面迎接算力市場(chǎng)的變革。近日,英博數科高層在與媒體交流時(shí),詳細解析了大模型產(chǎn)業(yè)趨勢、算力市場(chǎng)的三大變化及英博云的差異化優(yōu)勢。
大模型驅動(dòng)算力市場(chǎng)三大變化
2023年,全球算力規模達910EFLOPS,同比增長(cháng)40%,其中智能算力增長(cháng)136%,遠超整體增速。然而,大模型爆發(fā)帶來(lái)的算力需求正經(jīng)歷深刻的結構性變化。英博數科CEO浦威指出,算力市場(chǎng)的主線(xiàn)邏輯已發(fā)生三大變化:
通用大模型訓練規模擴大:
從千卡集群邁向萬(wàn)卡甚至十萬(wàn)卡集群,成為大模型迭代的基礎門(mén)檻。國內外科技巨頭如OpenAI、xAI、字節跳動(dòng)、阿里巴巴等紛紛部署大規模智算中心,推動(dòng)了萬(wàn)卡級別集群的普及。
垂直大模型需求彈性化:
在科研、金融、零售、影視等領(lǐng)域,算力需求呈現分散性和動(dòng)態(tài)性,逐步從定量向彈性模式轉變。企業(yè)在進(jìn)行模型微調時(shí)對算力需求波動(dòng)較大,因此更青睞按需分配的彈性算力方案。
算力需求從訓練轉向推理:
隨著(zhù)大模型商業(yè)化落地和多模態(tài)模型普及,推理場(chǎng)景的算力需求快速增長(cháng)。預計到2027年,中國AI服務(wù)器推理工作負載將占72.6%。推理算力要求更快的響應速度和靈活性,以滿(mǎn)足實(shí)時(shí)業(yè)務(wù)需求,如客服對話(huà)、文本生成和視頻生成等。
英博云:高效、彈性算力解決方案
面對市場(chǎng)新需求,英博數科通過(guò)英博云推出了覆蓋大規模集群和彈性算力的多樣化解決方案。
定制化智算中心建設:
面向大模型頭部客戶(hù),提供從集群選型、建設、運維到整體交付的全流程解決方案,滿(mǎn)足萬(wàn)卡級別訓練需求,確保集群穩定高效運行。
GPU容器服務(wù):
針對中小型企業(yè)的彈性需求,英博云提供VCluster形式的GPU和CPU混合資源服務(wù),支持按小時(shí)、按分鐘計費,有效控制成本,提升算力利用率。
先進(jìn)算力實(shí)驗室:
為客戶(hù)提供主流算力卡和設備的測評,優(yōu)化算力配置。例如,某3D視頻生成企業(yè)通過(guò)英博云的建議,將訓練設備從A卡更換為H卡,效率提升超過(guò)兩倍,顯著(zhù)降低成本。
單位有效算力成本:評估算力效率的新標桿
為解決算力資源浪費和GPU卡閑置問(wèn)題,英博云提出了**“單位有效算力成本”**的評估框架。該標準通過(guò)算力投入成本(設備、機電、運維)與有效算力(裝機算力、卡可用率、卡利用率、模型算力利用率)的比值,幫助企業(yè)精準衡量算力使用效率。
英博數科副總裁秦偉俊強調:“我們從IDC建設、運維折損、模型訓練效率等全鏈條進(jìn)行優(yōu)化,確??蛻?hù)的每一份算力投資都能物盡其用?!?/p>
應對算力市場(chǎng)新挑戰
英博數科CTO李少鵬指出,萬(wàn)卡及十萬(wàn)卡集群并行訓練是當前智算領(lǐng)域的重要挑戰,需要解決計算網(wǎng)絡(luò )搭建、設備選型、機房環(huán)境等難題。英博數科憑借豐富的集群建設經(jīng)驗,在這一領(lǐng)域具備顯著(zhù)優(yōu)勢。
同時(shí),李少鵬強調,隨著(zhù)長(cháng)尾客戶(hù)逐漸成為算力服務(wù)的主要消費群體,彈性算力服務(wù)將成為他們的選擇,推動(dòng)智能算力行業(yè)向高效、低成本的新階段邁進(jìn)。
產(chǎn)業(yè)孵化與生態(tài)構建
在資本密集型的智算中心建設領(lǐng)域,英博數科不僅專(zhuān)注于自身技術(shù)提升,還通過(guò)產(chǎn)業(yè)孵化器扶持AI垂直應用企業(yè)。從資金、算力、人才培養等方面提供支持,推動(dòng)AI應用生態(tài)的繁榮發(fā)展。
副總裁宋琛表示,隨著(zhù)大模型應用向垂直領(lǐng)域滲透,未來(lái)的市場(chǎng)機會(huì )更多來(lái)自中小型客戶(hù)。英博云通過(guò)靈活定制服務(wù),精準填補了GPU算力云市場(chǎng)的細分空白。
面對智算市場(chǎng)的快速變化,英博數科憑借英博云的創(chuàng )新產(chǎn)品和前瞻戰略,助力企業(yè)在大模型時(shí)代實(shí)現算力資源的高效利用。通過(guò)定制化服務(wù)、彈性算力方案和先進(jìn)算力評估標準,英博數科正引領(lǐng)智算產(chǎn)業(yè)向高效化、智能化和普惠化邁進(jìn),為AI技術(shù)的廣泛應用提供強有力支撐。
相關(guān)閱讀
- 云南醫保公共服務(wù)平臺牽手AI 為群眾幸?!凹哟a”
- 杰蘭路:“安全”成問(wèn)界M8車(chē)主購車(chē)重要考量 印證“安全是最大的豪華”
- 啟佑志愿:“干凈專(zhuān)業(yè)組”助高報專(zhuān)家快速確定“穩”志愿
- 易聯(lián)眾區塊鏈應用技術(shù)獲批國家發(fā)明專(zhuān)利
- 天九數科推出免費低代碼,企業(yè)數智化開(kāi)發(fā)成本可降低70%以上
- 沃爾沃變速箱如何助力插混家族超千公里續航?
- 天津康婷開(kāi)展食品安全法專(zhuān)項普法 強化法治意識
- 從技術(shù)創(chuàng )新到安全治理:宜人智科以行動(dòng)推動(dòng)AI可靠可控發(fā)展
- 文創(chuàng )年輕態(tài) 非遺成潮流 2025成都禮品展燃爆蓉城
- 谷歌&凱度BrandZ中國全球化品牌50強揭曉,海爾斬獲行業(yè)第一
推薦閱讀
快訊 更多
- 04-10 11:21 | 為“首發(fā)經(jīng)濟”注入創(chuàng )新動(dòng)力,CMEF見(jiàn)證寬騰醫學(xué)影像技術(shù)革新
- 02-20 18:53 | 手機也要上HBM芯片?三星計劃推出移動(dòng)版HBM,預計首款產(chǎn)品2028年上市
- 12-30 16:40 | 國產(chǎn)首款DDR5內存問(wèn)世!價(jià)格戰開(kāi)啟,復制長(cháng)江存儲擊敗三星路徑!
- 12-30 16:36 | 華為手機回歸第一年:全年銷(xiāo)量或超4000萬(wàn)臺 有望憑借Mate 70在高端市場(chǎng)擊敗蘋(píng)果
- 11-26 18:19 | 眾興菌業(yè)擬與漣水縣人民政府簽訂《招商引資合同書(shū)》 擬投資設立漣水食用菌產(chǎn)業(yè)園項目
- 11-26 18:16 | 美芝股份中選vivo全球AI研發(fā)中心-精裝工程采購項目(標段二)
- 11-26 18:14 | 健之佳擬用不超1億回購公司股份 維護公司價(jià)值及股東權益
- 11-26 09:53 | 格靈深瞳收購深圳市國科億道科技有限公司部分股權并增資5000萬(wàn)
- 11-26 09:37 | 煒岡科技擬以1.49億購買(mǎi)衡所華威9.33%股權 華海誠科擬發(fā)行可轉債收購煒岡科技所持衡所華威股權
- 11-25 10:41 | 精工科技與眾億匯鑫簽署5.16億元銷(xiāo)售合同