【導(dǎo)讀】Credo Technology Group Holding Ltd （Credo）（納斯達(dá)克代碼：CRDO），一家通過快速、可靠且高能效的系統(tǒng)解決方案提供規(guī)?；B接服務(wù)的創(chuàng)新企業(yè)，近日宣布公司 正計劃在開放計算項(xiàng)目（Open Compute Project，簡稱OCP）社區(qū)內(nèi)推動一項(xiàng)互連標(biāo)準(zhǔn)的制定工作，旨在應(yīng)對日益嚴(yán)峻的"內(nèi)存墻"挑戰(zhàn)。所謂"內(nèi)存墻"，是指處理器的計算速度與內(nèi)存的數(shù)據(jù)供給速度之間存在的巨大鴻溝，導(dǎo)致大量昂貴的算力資源因等待數(shù)據(jù)而被迫閑置。在當(dāng)今AI推理環(huán)境中，制約系統(tǒng)性能的往往不再是算力本身，而是內(nèi)存帶寬與容量。
新聞要點(diǎn)：
Credo 計劃在 開放計算項(xiàng)目 (OCP) 社區(qū)內(nèi)推動互連技術(shù)的標(biāo)準(zhǔn)化，以助力解決“內(nèi)存墻”問題，即處理器性能與內(nèi)存訪問速度之間日益擴(kuò)大的差距。
Credo 已成立開放芯粒經(jīng)濟(jì)(Open Chiplet Economy ,OCE) 輕量級序列互聯(lián)(Lightweight Serial Interconnect ,LSI) 工作小組，并計劃貢獻(xiàn)其 OmniConnect 輕量級 AXI framer 規(guī)范。
該舉措旨在通過實(shí)現(xiàn)可組合 AI 架構(gòu)，降低對成本高昂且產(chǎn)能受限的 HBM 的依賴
Credo 正助力構(gòu)建一個開放、可通的生態(tài)系統(tǒng)，用于實(shí)現(xiàn)內(nèi)存解耦（Memory Disaggregation）與芯片間通信技術(shù)的發(fā)展與應(yīng)用。
Credo已在OCP開放芯粒經(jīng)濟(jì)（Open Chiplet Economy，簡稱OCE）子項(xiàng)目下發(fā)起"輕量級串行互連"（Lightweight Serial Interconnect，簡稱LSI）工作組，致力于開發(fā)突破性互連方案，消除制約AI推理規(guī)模擴(kuò)展的內(nèi)存瓶頸。同時，結(jié)合該工作組的成立，Credo 計劃向 OCP 貢獻(xiàn)其 OmniConnect 輕量級 AXI framer 規(guī)范，以期推動構(gòu)建一個由 Credo 及第三方 OmniConnect 產(chǎn)品組成的開放生態(tài)系統(tǒng)，從而實(shí)現(xiàn)內(nèi)存解耦及芯片間通信。
當(dāng)前，高帶寬內(nèi)存（HBM）面臨成本居高不下、供應(yīng)緊張以及密度受限等突出問題。輕量級、高效率串行互連標(biāo)準(zhǔn)的建立，將有力推動基于芯粒的模塊化AI系統(tǒng)的靈活組合，有效降低對HBM的依賴。AI系統(tǒng)設(shè)計師可據(jù)此靈活構(gòu)建面向多樣化、持續(xù)演進(jìn)的AI模型、數(shù)據(jù)流及工作負(fù)載特征的領(lǐng)域?qū)Ｓ眉軜?gòu)——與HBM4相比，相同的帶寬，內(nèi)存容量提升很多倍。這一舉措順應(yīng)了行業(yè)向可組合基礎(chǔ)設(shè)施演進(jìn)的大趨勢，即實(shí)現(xiàn)計算、內(nèi)存與存儲資源的最優(yōu)配置，從而在大規(guī)模AI部署中釋放更高性能、更優(yōu)資源利用率與更強(qiáng)成本效益。
Credo產(chǎn)品副總裁Vishal Shah表示："我們發(fā)起OCP LSI工作組，正是為了回應(yīng)行業(yè)對創(chuàng)新互連方案的迫切需求——既要破解內(nèi)存墻難題，也要為AI系統(tǒng)打造新一代高帶寬、低功耗優(yōu)化的模塊化架構(gòu)。推進(jìn)輕量級成幀與串行互連的開放路線，對于實(shí)現(xiàn)靈活的芯粒集成至關(guān)重要，包括近封裝可插拔配置。這將成為下一輪AI推理技術(shù)演進(jìn)的關(guān)鍵支撐。"
OCP開放芯粒經(jīng)濟(jì)子項(xiàng)目聯(lián)合負(fù)責(zé)人Anu Ramamurthy表示："我們非常歡迎Credo在OCP LSI工作組中發(fā)揮引領(lǐng)作用，助力定義開放框架與標(biāo)準(zhǔn)，加速整個生態(tài)系統(tǒng)的創(chuàng)新與規(guī)模化發(fā)展。Credo計劃將輕量級AXI成幀器規(guī)范貢獻(xiàn)給OCP，是推動行業(yè)在AI互連架構(gòu)上形成共識的重要一步——這些架構(gòu)將實(shí)現(xiàn)互操作性、降低系統(tǒng)復(fù)雜度，并充分滿足下一代AI基礎(chǔ)設(shè)施對高性能的嚴(yán)苛要求。"
輕量級串行互連（LSI）工作組隸屬于OCP服務(wù)器項(xiàng)目下的開放芯粒經(jīng)濟(jì)子項(xiàng)目。如需了解LSI工作組更多信息，請點(diǎn)擊此處。
Credo計劃向OCP貢獻(xiàn)的OmniConnect輕量級AXI成幀器規(guī)范，是Credo OmniConnect多功能AXI-over-VSR（超短距）SerDes總線方案的核心組成部分。該方案通過連接多個外部芯粒計算引擎，可同時實(shí)現(xiàn)裸片間互連與縱向擴(kuò)展組網(wǎng)。如需了解更多Credo OmniConnect產(chǎn)品信息，請?jiān)L問此處產(chǎn)品頁面。
