微軟自研AI晶片Maia 300明年大規模部署
微軟宣布推出第三代自研AI晶片Maia 300,計劃明年部署逾百萬顆以支援內部AI服務。新晶片採用不同於輝達的技術路徑,冀降低對後者的依賴並節省成本。
微軟(Microsoft)周一宣布推出第三代自研人工智能晶片Maia 300,並計劃明年部署超過一百萬顆,以支援其內部AI服務。這款晶片專為處理編碼及代用戶執行複雜商業任務等AI數據運算而設,其前代產品已用於微軟自家AI模型,以及透過Azure雲端服務提供的OpenAI模型。
微軟推出新晶片之際,雲端運算競爭對手及OpenAI等AI企業紛紛開發自家晶片,冀打破輝達(Nvidia)在AI運算市場的壟斷局面。Maia 300的設計與輝達不同,後者的AI加速器採用單一大型運算晶片配合高頻寬記憶體,而微軟則採用「小晶片」(chiplets)設計,將多個專用晶片結合,其中關鍵運算功能採用台灣積體電路製造公司(台積電)的2納米技術,其他功能則使用成本較低的3納米技術。
每組Maia 300處理器將安裝在包含96顆晶片的機架中,耗電約167千瓦,相比之下,輝達最新的GB300 AI伺服器機架配備72顆圖像處理器(GPU),耗電約142千瓦。微軟表示,Maia 300每兆瓦電力可完成的運算量較「領先的GPU系統」多約40%,但未有指明比較對象。
微軟Azure硬件系統及基礎設施總裁Rani Borkar接受路透社訪問時表示:「透過優化整個系統,我們基本上能以每一瓦特、每一美元及每一字節記憶體,提供更多智能。」微軟計劃明年開始「多吉瓦級」部署Maia 300晶片,並預期本日曆年資本開支將超過1,750億美元(約1.37萬億港元)。
資料來源:The Standard。
閱讀原文報道 →