中國AI公司選擇多芯片混合訓(xùn)練AI模型以免于算例受限

時間:2024-07-05

來源:電子應(yīng)用技術(shù)

導(dǎo)語:7月4日消息,據(jù)Digitimes報道,為解決人工智能(AI)芯片算力問題,中國AI公司正實施“多芯片混合”的策略來提高在AI計算方面的能力的同時,進一步避免供應(yīng)鏈安全問題。

  7月4日消息,據(jù)Digitimes報道,為解決人工智能(AI)芯片算力問題,中國AI公司正實施“多芯片混合”的策略來提高在AI計算方面的能力的同時,進一步避免供應(yīng)鏈安全問題。

  多芯片混合計算的方法有諸多優(yōu)勢,包括利用多個不同型號的GPU并行訓(xùn)練,來共同提高大語言模型(LLM)訓(xùn)練速度,因同時可以處理更多數(shù)據(jù),可更好利用內(nèi)存,中國廠商可以降低對于更昂貴的英偉達(NVIDIA)芯片的依賴,進而降低成本。

  自2022年10月以來,受美國持續(xù)升級的限制政策的影響,中國獲取國外高性能AI芯片受到了極大的限制。因此,目前也依然存在著一些灰色渠道,但是供給量還是比較有限的。同樣,雖然中國本土也有一些AI芯片,但是性能和產(chǎn)能也都比較有限。

  傳聞稱,目前中國公司已經(jīng)開始開發(fā)“多芯片混合”技術(shù),將不同芯片組成一個訓(xùn)練集群,包括百度和阿里巴巴都在研究這項解決方案。例如,百度在其 2024 年財報電話會議上宣布,它可以組合來自不同供應(yīng)商的 GPU 并將其用于 AI 訓(xùn)練。另一家中國大型科技公司阿里巴巴自 2021 年以來一直致力于“一云多芯片”解決方案。但也面臨諸多挑戰(zhàn),例如需要像NVIDIA NVLink這樣的高速構(gòu)架,確保不同的加速器能高效通信。不過,阿里云已經(jīng)開始轉(zhuǎn)向使用基于以太網(wǎng)的高性能網(wǎng)絡(luò)。


AI
中傳動網(wǎng)版權(quán)與免責(zé)聲明:

凡本網(wǎng)注明[來源:中國傳動網(wǎng)]的所有文字、圖片、音視和視頻文件,版權(quán)均為中國傳動網(wǎng)(connectcrack.com)獨家所有。如需轉(zhuǎn)載請與0755-82949061聯(lián)系。任何媒體、網(wǎng)站或個人轉(zhuǎn)載使用時須注明來源“中國傳動網(wǎng)”,違反者本網(wǎng)將追究其法律責(zé)任。

本網(wǎng)轉(zhuǎn)載并注明其他來源的稿件,均來自互聯(lián)網(wǎng)或業(yè)內(nèi)投稿人士,版權(quán)屬于原版權(quán)人。轉(zhuǎn)載請保留稿件來源及作者,禁止擅自篡改,違者自負版權(quán)法律責(zé)任。

如涉及作品內(nèi)容、版權(quán)等問題,請在作品發(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系,否則視為放棄相關(guān)權(quán)利。

關(guān)注伺服與運動控制公眾號獲取更多資訊

關(guān)注直驅(qū)與傳動公眾號獲取更多資訊

關(guān)注中國傳動網(wǎng)公眾號獲取更多資訊

最新新聞
查看更多資訊

熱搜詞
  • 運動控制
  • 伺服系統(tǒng)
  • 機器視覺
  • 機械傳動
  • 編碼器
  • 直驅(qū)系統(tǒng)
  • 工業(yè)電源
  • 電力電子
  • 工業(yè)互聯(lián)
  • 高壓變頻器
  • 中低壓變頻器
  • 傳感器
  • 人機界面
  • PLC
  • 電氣聯(lián)接
  • 工業(yè)機器人
  • 低壓電器
  • 機柜
回頂部
點贊 0
取消 0