【導(dǎo)讀】當(dāng)AI Agent從概念驗(yàn)證步入真實(shí)業(yè)務(wù)場(chǎng)景，行業(yè)關(guān)注的焦點(diǎn)正從“芯片有多少算力”轉(zhuǎn)向“算力能轉(zhuǎn)化出多少業(yè)務(wù)價(jià)值”。8月27日，2026中國(guó)國(guó)際大數(shù)據(jù)產(chǎn)業(yè)博覽會(huì)上，海光信息重磅發(fā)布“Agent to Token開(kāi)放計(jì)算架構(gòu)”，以CPU與DCU雙芯協(xié)同及開(kāi)放互連，為Token經(jīng)濟(jì)規(guī)模化提供從芯片到應(yīng)用的全新算力框架。這一架構(gòu)并非簡(jiǎn)單的硬件疊加，而是對(duì)AI計(jì)算分工的重新定義——CPU負(fù)責(zé)指令流與任務(wù)編排，DCU專注Token生成與并行推理，兩者通過(guò)高效互連形成協(xié)同。海光信息總裁助理杜夏威與張攀勇向EEWorld分享了這一架構(gòu)背后的產(chǎn)業(yè)洞察與技術(shù)邏輯。
海光為什么要發(fā)布這樣的架構(gòu)？這一架構(gòu)有什么值得關(guān)注的細(xì)節(jié)？在當(dāng)下發(fā)展中海光能夠提供什么？海光信息總裁助理兼智能計(jì)算產(chǎn)品部總經(jīng)理杜夏威，海光信息總裁助理兼服務(wù)器產(chǎn)品部總經(jīng)理張攀勇向EEWorld深度分享了自己的見(jiàn)解。
為什么要推出“Agent to Token”架構(gòu)
現(xiàn)在，用戶買AI算力，越來(lái)越不只是看峰值性能，而是更關(guān)注一個(gè)實(shí)際問(wèn)題：Token能不能穩(wěn)定、高效地生產(chǎn)出來(lái)。在杜夏威看來(lái)，這種變化實(shí)際上意味著整個(gè)AI產(chǎn)業(yè)正在走向成熟。
如果說(shuō)Token解決的是模型與算力如何更高效協(xié)同，那么進(jìn)入Agent時(shí)代之后，問(wèn)題又向上走了一層。因?yàn)锳gent天然帶有更強(qiáng)的業(yè)務(wù)屬性。傳統(tǒng)大模型更多關(guān)注生成和推理，而Agent需要調(diào)用工具、執(zhí)行任務(wù)、與業(yè)務(wù)系統(tǒng)交互。因此，最終的業(yè)務(wù)效果已經(jīng)不再由單一DCU，甚至單一AI芯片決定。
比如現(xiàn)在的Agent，需要執(zhí)行操作、調(diào)用工具，還需要考慮Sandbox沙箱和安全機(jī)制。這些任務(wù)并不是100%由AI芯片完成，CPU同樣需要參與其中。同時(shí)，在一個(gè)完整的業(yè)務(wù)流程中，AI推理也只是其中一個(gè)環(huán)節(jié)，數(shù)據(jù)存儲(chǔ)、網(wǎng)絡(luò)通信、業(yè)務(wù)系統(tǒng)調(diào)用等都會(huì)影響最終效率。
因此，海光提出“Agent to Token”，并不只是把Token作為新的算力指標(biāo)，而是希望把關(guān)注點(diǎn)進(jìn)一步從Token提升到業(yè)務(wù)層。
“Agent to Token”架構(gòu)的三個(gè)階段
對(duì)于海光此次提出的Token架構(gòu)，杜夏威將其背后的產(chǎn)業(yè)邏輯概括為三個(gè)階段。
第一個(gè)階段，是算力階段。這個(gè)階段主要解決的是“芯片能做什么、能提供多少算力”的問(wèn)題。PFLOPS、TOPS等指標(biāo)是核心衡量方式，這也是海光長(zhǎng)期積累的重要領(lǐng)域。
第二個(gè)階段，是Token階段。隨著大模型快速發(fā)展，Token成為連接算法和算力的重要紐帶。過(guò)去談算力，更多是在談芯片；談參數(shù)量，更多是在談模型。而Token則把模型和算力結(jié)合了起來(lái)，更直接地反映兩者協(xié)同后的實(shí)際效果。
第三個(gè)階段，則是Agent時(shí)代下的業(yè)務(wù)化階段。當(dāng)Token已經(jīng)成為行業(yè)普遍接受的價(jià)值衡量方式之后，下一個(gè)問(wèn)題就是：這些Token到底如何服務(wù)具體業(yè)務(wù)？業(yè)務(wù)流程如何改造？智能體如何與業(yè)務(wù)系統(tǒng)整合？AI如何幫助研發(fā)和生產(chǎn)提效？
海光此前一直推動(dòng)AI計(jì)算開(kāi)放架構(gòu)，以CPU和DCU雙芯戰(zhàn)略為基礎(chǔ)，同時(shí)堅(jiān)持開(kāi)放生態(tài)的發(fā)展思路。這些底層能力，也構(gòu)成了未來(lái)繼續(xù)向Token、Agent，以及更廣泛AI業(yè)務(wù)場(chǎng)景延伸的基礎(chǔ)。
Agent對(duì)CPU提出了哪些新需求？
隨著Agent進(jìn)入實(shí)際行業(yè)和應(yīng)用場(chǎng)景，AI計(jì)算的重心正在從單純的模型訓(xùn)練、推理，轉(zhuǎn)向完整業(yè)務(wù)流程的執(zhí)行。CPU不再只是AI系統(tǒng)的輔助角色，而需要承擔(dān)任務(wù)理解、工具調(diào)用、任務(wù)編排、數(shù)據(jù)訪問(wèn)、結(jié)果處理等大量工作。
張攀勇認(rèn)為，Agent時(shí)代CPU的重要性會(huì)進(jìn)一步提升。過(guò)去服務(wù)器中CPU與加速卡的配比可能是1:4甚至1:8，未來(lái)在Agent場(chǎng)景下可能逐步向1:2乃至1:1收斂。其背后的原因在于，Agent涉及大量非純計(jì)算任務(wù)，CPU承擔(dān)的工作量明顯增加。
不過(guò)，與傳統(tǒng)服務(wù)器相比，Agent時(shí)代CPU承擔(dān)的角色有所變化。過(guò)去CPU更多承擔(dān)通用計(jì)算、數(shù)據(jù)預(yù)處理等任務(wù)，而在Agent系統(tǒng)中，CPU更像是整個(gè)業(yè)務(wù)流程的“中樞”，需要負(fù)責(zé)數(shù)據(jù)接入、沙箱運(yùn)行、任務(wù)理解、決策編排、工具調(diào)用、數(shù)據(jù)庫(kù)訪問(wèn)以及多節(jié)點(diǎn)并發(fā)等工作。因此，Agent對(duì)CPU的需求不一定只是追求更高的峰值算力，而是更加看重串行處理效率、低延遲、高并發(fā)、數(shù)據(jù)處理能力和帶寬，同時(shí)需要與DCU、網(wǎng)絡(luò)等資源實(shí)現(xiàn)高效協(xié)同。
海光也會(huì)針對(duì)這些變化持續(xù)優(yōu)化CPU架構(gòu)，并從系統(tǒng)層面重新定義CPU的定位。例如通過(guò)HSL等互連技術(shù)提升CPU與DCU以及系統(tǒng)內(nèi)部的數(shù)據(jù)傳輸效率，同時(shí)提升IPC和內(nèi)部數(shù)據(jù)通路效率。
安全同樣是重要能力。海光希望將安全能力從芯片底層開(kāi)始內(nèi)嵌到整個(gè)系統(tǒng)中，通過(guò)隔離、權(quán)限管理、加密等機(jī)制，在保證數(shù)據(jù)安全和可信的同時(shí)，盡可能降低對(duì)系統(tǒng)性能的影響。
CPU與DCU不是簡(jiǎn)單疊加，而是重新分工
海光提出“Agent to Token”，核心并不是簡(jiǎn)單地把CPU和DCU放在一起，而是根據(jù)不同任務(wù)的特征重新分配計(jì)算資源。
其中，任務(wù)編排、實(shí)時(shí)決策、工具調(diào)用、數(shù)據(jù)處理和數(shù)據(jù)存取等工作，更適合CPU承擔(dān)。CPU擅長(zhǎng)通用處理、復(fù)雜邏輯和低延遲響應(yīng)；而Token生成、推理等大規(guī)模并行計(jì)算任務(wù)，則更適合交給DCU。
因此，在海光的雙芯架構(gòu)中，CPU更多承擔(dān)Agent側(cè)的指令流，DCU負(fù)責(zé)Token側(cè)的生成流，兩者通過(guò)高效互連形成協(xié)同。
張攀勇認(rèn)為，未來(lái)AI算力系統(tǒng)的“最優(yōu)”，不再是單獨(dú)追求CPU或者DCU性能最強(qiáng)，而是要在系統(tǒng)層面實(shí)現(xiàn)最優(yōu)，通過(guò)合理的任務(wù)分工和資源配置，提高整體效率，并最終降低客戶TCO。
在安全方面，海光則堅(jiān)持“云邊端”與“內(nèi)生全棧安全”的思路，從芯片底層開(kāi)始設(shè)計(jì)整體安全架構(gòu)，在盡量降低對(duì)系統(tǒng)和應(yīng)用性能影響的同時(shí)，提供更高等級(jí)的安全保障。
國(guó)產(chǎn)算力要降低門檻，不能只靠“被動(dòng)適配”
杜夏威表示，海光希望更早進(jìn)入模型研發(fā)階段，讓開(kāi)發(fā)者從一開(kāi)始就能夠基于DCU進(jìn)行原生開(kāi)發(fā)，包括模型訓(xùn)練和推理。這樣，當(dāng)模型后續(xù)迭代時(shí)，能夠盡可能實(shí)現(xiàn)“發(fā)布即可用，可用即好用”。
從這個(gè)角度來(lái)看，國(guó)產(chǎn)AI算力生態(tài)真正要解決的問(wèn)題，不只是兼容多少模型，而是要讓開(kāi)發(fā)者能夠更低門檻地直接在國(guó)產(chǎn)平臺(tái)上開(kāi)發(fā)。
海光目前主要從兩個(gè)方向推進(jìn)：
第一，是持續(xù)完善自身的軟件棧。隨著大模型不斷迭代，新的算子、新的數(shù)據(jù)精度，以及分布式、工程化部署等能力都在快速演進(jìn)。底層軟件棧必須具備足夠完善的支撐能力，才能讓新的模型和算子更快地在DCU平臺(tái)上運(yùn)行起來(lái)。
第二，則是繼續(xù)推動(dòng)開(kāi)放生態(tài)。海光希望通過(guò)進(jìn)一步開(kāi)放和開(kāi)源，讓開(kāi)發(fā)者、用戶以及上下游合作伙伴，能夠更方便地獲得基于DCU的開(kāi)發(fā)工具和技術(shù)支持。尤其是大模型廠商，可以圍繞自身的研發(fā)節(jié)奏，自主開(kāi)展模型訓(xùn)練、推理和業(yè)務(wù)部署。
總結(jié)
從“算力時(shí)代”到“Token時(shí)代”再到“Agent業(yè)務(wù)化時(shí)代”，海光“Agent to Token”架構(gòu)清晰映射出AI產(chǎn)業(yè)價(jià)值重心的遷移路徑。Agent時(shí)代，CPU從輔助角色躍升為業(yè)務(wù)流程中樞，承擔(dān)任務(wù)理解、決策編排與安全隔離；DCU則專注Token生成與大規(guī)模并行推理。海光以雙芯協(xié)同、HSL互連和內(nèi)生安全架構(gòu)，為這一分工提供系統(tǒng)級(jí)支撐。更關(guān)鍵的是，海光正將國(guó)產(chǎn)算力的參與節(jié)點(diǎn)從“模型發(fā)布后的適配”前移至“模型研發(fā)階段的原生開(kāi)發(fā)”，讓開(kāi)發(fā)者從源頭即可在國(guó)產(chǎn)平臺(tái)上完成訓(xùn)練與推理。
