【導讀】當中國I&O領導者紛紛將AI推向邊緣，一個尷尬現狀浮出水面：許多已部署的邊緣AI項目并未達到預期。究其原因，并非技術不成熟，而是方法錯了——簡單“搬運”云端AI?；蚣庇诓渴鹕墒紸I，往往導致投資沉沒。Gartner指出，成功實施并非線性擴展，而需從場景匹配、分布式設計到持續(xù)演進進行系統(tǒng)性重構。面向中國快速變化的環(huán)境，I&O領導者亟需厘清四個常見誤區(qū)，重新定義邊緣AI的落地路徑。
中國的I&O領導者需要明白，成功的邊緣AI實施并非只是簡單地對現有云或邊緣基礎設施進行擴展。實際上，其成功實施的前提包括：為正確的邊緣場景匹配正確的AI技術、針對分布式運營進行設計，以及建立能夠持續(xù)適應變化的運營模式等等。Gartner闡述了常見的邊緣AI實施誤區(qū)，并為中國I&O領導者提供了相應措施，以避免踏入這些誤區(qū)。
不要采取“AI+邊緣”方法，而應從“邊緣+AI”出發(fā)
邊緣AI部署中的第一個常見誤區(qū)，就是采用“AI+邊緣”的方法，即優(yōu)先關注在邊緣站點部署AI技術，而沒有首先考慮邊緣計算應解決的獨特業(yè)務需求。同時，中國I&O領導者也往往面臨業(yè)務壓力或同行壓力，希望快速取得成果。因此，他們可能會首先在邊緣側部署一體化生成式AI基礎設施棧，然后再嘗試尋找合適的現有業(yè)務場景或創(chuàng)造新的應用場景，希望借此獲得業(yè)務成功。然而，這種做法經常導致投資損失，因為它忽視了邊緣環(huán)境真正需要解決的具體業(yè)務場景和運營挑戰(zhàn)。最終，企業(yè)往往會得到利用率不高或與業(yè)務需求不匹配的解決方案，無法創(chuàng)造有意義的業(yè)務價值。
為了避免這一問題，I&O領導者應采取“邊緣+AI”方法，即首先清晰理解哪些業(yè)務問題和業(yè)務機會最適合在邊緣解決，并據此定義邊緣用例（見圖1）。
圖1：邊緣計算用例分類
在選定邊緣用例之后，I&O領導者應與業(yè)務利益相關者共同探索各種邊緣AI技術，并選擇最適合的解決方案。在這一過程中，可以運用設計思維（見圖2）來推進整體流程。
不要將邊緣AI視為基礎設施，而應采用平臺化和產品化思維以實現業(yè)務價值
第二個常見誤區(qū)是，許多中國I&O領導者將邊緣AI視為等同于基礎設施交付的項目，按照傳統(tǒng)的“規(guī)劃-建設-運行-改進”線性周期來推進。這種傳統(tǒng)方法往往導致交付速度緩慢，并且難以適應不斷變化的業(yè)務需求，尤其是在成熟但變化迅速的中國市場環(huán)境中。
為有效管理邊緣AI，I&O領導者應將其視為需要持續(xù)改進的平臺化產品，而非一次性的基礎設施擴展。
為持續(xù)演進做好準備：為模型、數據源、站點環(huán)境以及業(yè)務優(yōu)先事項在初始部署后的持續(xù)變化做好預期。
建立平臺責任人和協(xié)作機制：I&O領導者未必始終直接對平臺負責。在很多情況下，他們協(xié)助構建平臺，并與業(yè)務部門共同對平臺負責。因此，重要的是明確角色與職責，為產品或平臺指定領導者（或聯合領導者），負責路線圖決策、發(fā)布優(yōu)先級以及業(yè)務價值交付。
基于業(yè)務反饋進行持續(xù)改進：持續(xù)改進依賴于運營團隊和業(yè)務利益相關者的意見。因此應定期收集反饋信息，以優(yōu)化用例、調整性能目標并識別支持需求，確保平臺持續(xù)滿足現實業(yè)務需求。
建立持續(xù)更新機制：定義模型、軟件組件和依賴項在分布式站點中的測試、發(fā)布和監(jiān)控流程。同時利用看板（Kanban）或Scrum等敏捷方法保持平臺持續(xù)更新。
衡量價值與擴展就緒度：跟蹤模型性能、運營穩(wěn)定性、服務水平和業(yè)務成果，以指導未來的擴展決策。
不要只依賴“云外展”，而應結合“邊緣匯入”方法
中國I&O領導者在部署邊緣AI時面臨的第三個誤區(qū)是優(yōu)先采用“云外展”方法，而忽視“邊緣匯入”方法的價值?！霸仆庹埂蹦Ｊ綇脑贫顺霭l(fā)，將解決方案延伸至邊緣；而“邊緣匯入”模式則從邊緣出發(fā)，首先滿足本地需求，然后再與云端進行連接。
為應對這一挑戰(zhàn)，I&O領導者應：
在部署模型時同等對待云和邊緣：將云和邊緣視為相輔相成的環(huán)境，而不是一種由云主導、邊緣僅負責擴展云工作負載的層級關系。云環(huán)境可被用于模型訓練、大規(guī)模數據整合、企業(yè)級系統(tǒng)集成和統(tǒng)一的全局業(yè)務報告。
將邊緣定義為本地智能執(zhí)行層：利用邊緣環(huán)境執(zhí)行實時數據處理、即時推理以及對敏感本地數據的快速分析。這種方法有助于降低延遲、保護本地數據，以及加快運營決策。
僅將有價值的脫敏數據上傳至云端：不要默認將所有原始邊緣數據都發(fā)送到云端。相反，應在本地先完成數據過濾、數據整合和數據脫敏，然后再將數據上傳至云端，以用于企業(yè)級數據整合、模型優(yōu)化和全局業(yè)務洞察。
在邊緣部署前對云端訓練模型進行調整：不要假設在云端訓練的模型無需修改即可直接運行于邊緣環(huán)境。應針對邊緣環(huán)境中的計算能力、存儲容量、電力條件和網絡條件進行優(yōu)化調整。
采用量化、剪枝和蒸餾技術來調整模型：通過降低模型的規(guī)模和復雜度，使推理能夠在邊緣服務器、網關設備、工業(yè)PC和嵌入式設備中穩(wěn)定運行，即使資源條件受限。
在正式投產前驗證軟硬件兼容性：根據芯片、AI加速器、操作系統(tǒng)、中間件和設備驅動程序對模型進行測試，以避免出現系統(tǒng)不穩(wěn)定、性能下降和集成失敗的情況。
在本地運營環(huán)境中測試邊緣AI的性能，包括網絡中斷、設備故障、異常數據輸入、業(yè)務流程異常等。
不要將邊緣AI誤認為僅僅是邊緣生成式AI
中國I&O領導者在部署邊緣AI時面臨的第四個誤區(qū)，是認為邊緣AI僅限于邊緣生成式AI。這種誤解通常源于許多I&O領導者并非AI專家，而且在2022年底ChatGPT火爆之前接觸AI的機會相對有限。此外，來自業(yè)務和IT高管的壓力也進一步強化了將邊緣AI僅與邊緣生成式AI掛鉤的傾向。
邊緣AI并不僅僅是生成式AI，而是涵蓋廣泛的AI和機器學習技術，以滿足各種邊緣應用場景的需求。許多邊緣場景都對低延遲、確定性行為、高效利用資源和可預測的運營結果提出了要求。在這些場景中，傳統(tǒng)AI方法通常更加有效且更具可行性，而生成式模型反而可能引入不必要的成本和復雜性。
為了避免將邊緣AI誤解為僅面向生成式AI，I&O領導者應采取以下措施：
明確邊緣AI的完整范圍：應將邊緣AI視為更廣泛的AI能力集合，而不僅僅是在邊緣部署大語言模型（LLM）或生成式AI。將計算機視覺、傳統(tǒng)NLP、時間序列分析、異常檢測、優(yōu)化技術、基于規(guī)則的推理等技術用于更適合它們的場景中。
從邊緣用例出發(fā)，而非從AI類別出發(fā)：評估業(yè)務場景是否需要低延遲、本地自治、確定性行為、可預測成本，以及在受限資源環(huán)境下運行。然后根據這些需求決定哪種方法（生成式AI、傳統(tǒng)AI或基于規(guī)則的方法）更合適。
讓D&A、I&O和業(yè)務團隊共同參與技術選擇：與D&A團隊或AI團隊共同評估模型適用性；與I&O團隊共同評估部署與支持的約束條件；與業(yè)務團隊共同驗證運營價值。這樣能夠降低因市場熱度或供應商影響而盲目選擇生成式AI的風險。
在擴展部署前通過試點進行驗證：在真實站點環(huán)境下，通過概念驗證（POC）測試其技術可行性、推理性能、成本、運維負擔、支持需求以及業(yè)務影響。避免將僅在理論層面可行、但無法在分布式邊緣環(huán)境中穩(wěn)定運行的方案直接進行推廣。
標準化成功部署模式：在試點驗證成功后，建立可復用的部署指南、參考架構、支持流程和擴展標準。這有助于在多個站點復制已經驗證成功的邊緣AI模式，而不是將生成式AI盲目應用于所有邊緣場景。
