Arm推出全球首個Armv9邊緣AI計(jì)算平臺助力物聯(lián)網(wǎng)領(lǐng)域AI轉(zhuǎn)型
隨著邊緣AI工作負(fù)載的復(fù)雜性日益增加，大模型推理需要更高效的邊緣設(shè)備，如智能攝像頭實(shí)時識別、工業(yè)設(shè)備預(yù)測性維護(hù)等等。與此同時，MTE、PAC等安全特性可能成為物聯(lián)網(wǎng)設(shè)備的“標(biāo)配”，尤其在工業(yè)控制、關(guān)鍵基礎(chǔ)設(shè)施領(lǐng)域，推動行業(yè)向更高安全等級演進(jìn)。
基于物聯(lián)網(wǎng)領(lǐng)域?qū)I轉(zhuǎn)型需求的不斷增長。2月27日，Arm發(fā)布 Arm?v9 邊緣人工智能 (AI) 計(jì)算平臺。該平臺以全新的 Arm Cortex?-A320 CPU 和邊緣 AI 加速器 Arm Ethos?-U85 NPU 為核心，可支持運(yùn)行超 10 億參數(shù)的端側(cè) AI 模型。隨著邊緣 AI 在 Arm 平臺上持續(xù)集成，這一全新產(chǎn)品的加入使 Arm 現(xiàn)已能為物聯(lián)網(wǎng)提供最為先進(jìn)的 Armv9 Cortex 處理器系列，覆蓋從極致性能到成本和能效受限的設(shè)備。
Arm 物聯(lián)網(wǎng)事業(yè)部軟件產(chǎn)品管理總監(jiān) Christophe Fava-Rivi表示：“當(dāng)今的物聯(lián)網(wǎng) (IoT) 環(huán)境對邊緣設(shè)備的需求更勝以往。智能攝像頭需要在本地運(yùn)行復(fù)雜的計(jì)算機(jī)視覺算法；工業(yè)傳感器須處理復(fù)雜的機(jī)器學(xué)習(xí) (ML) 模型以進(jìn)行預(yù)測性維護(hù)；即使是簡單的端點(diǎn)設(shè)備，也越來越離不開增強(qiáng)的安全性和虛擬化功能。這些不斷變化的需求使得 Armv9 的先進(jìn)功能不再只是錦上添花，而是新一代物聯(lián)網(wǎng)創(chuàng)新的必備條件?！?/span>
Cortex-A320作為新型邊緣 AI 計(jì)算平臺的推出標(biāo)志著邊緣計(jì)算發(fā)展的重要里程碑，充分發(fā)揮了 Armv9 架構(gòu)的優(yōu)勢，如針對 ML 性能的 SVE2。相較于前代產(chǎn)品 Cortex-A35，Cortex-A320 的 ML 性能提升了十倍，標(biāo)量性能提升了 30%。
該平臺能夠支持基于智能體的 AI 應(yīng)用上運(yùn)行經(jīng)過調(diào)優(yōu)的大語言模型 (LLM) 和小語言模型 (SLM)，從而開辟全新類別的邊緣應(yīng)用場景。在未來的場景中，智能決策將更接近數(shù)據(jù)采集源頭，這不僅能顯著減少延遲，還能有效提升隱私保護(hù)水平。其采用的 Armv9.2 架構(gòu)還為最小的 Cortex-A 設(shè)備帶來了高級的安全功能，例如指針驗(yàn)證 (PAC)、分支目標(biāo)識別 (BTI) 和內(nèi)存標(biāo)記擴(kuò)展 (MTE)。這些功能至關(guān)重要，因?yàn)檫吘壴O(shè)備通常在暴露的環(huán)境中運(yùn)行并處理敏感數(shù)據(jù)。
目前，該平臺已受到了包括亞馬遜云科技 (AWS)、西門子、瑞薩電子、研華科技和 Eurotech 在內(nèi)的多家合作伙伴的支持。
Arm 物聯(lián)網(wǎng)事業(yè)部業(yè)務(wù)拓展副總裁馬健表示：“邊緣 AI 需要更卓越的計(jì)算性能、更強(qiáng)大的安全性，以及更出色的軟件靈活性。得益于廣泛的開源 Linux 支持、強(qiáng)大的安全生態(tài)系統(tǒng)，以及 Armv9 架構(gòu)所取得的關(guān)鍵進(jìn)展，Cortex-A320 可確保與邊緣側(cè)和基礎(chǔ)設(shè)施設(shè)備兼容，同時具備出色能效和可擴(kuò)展性。幫助中國企業(yè)客戶利用Arm的技術(shù)獲得物聯(lián)網(wǎng)AI領(lǐng)域的優(yōu)勢?！?/span>
她認(rèn)為：“AI 的未來趨勢將轉(zhuǎn)向邊緣，而全新 Arm 邊緣 AI 計(jì)算平臺將成為新一輪物聯(lián)網(wǎng)創(chuàng)新的催化劑。Armv9 架構(gòu)的特性、先進(jìn)的 AI 功能和全面軟件支持的結(jié)合，為 OEM 廠商和開發(fā)者創(chuàng)造了新的可能性。通過結(jié)合 Arm 的 A 處理器架構(gòu)及相關(guān)的軟件生態(tài)系統(tǒng)，并在高能效和靈活性支持下，Cortex-A320 為物聯(lián)網(wǎng)領(lǐng)域的各個細(xì)分市場提供了卓越的可擴(kuò)展性和多樣化?！?/span>
通過“性能+能效+安全+生態(tài)”四位一體的創(chuàng)新，Arm的AI邊緣計(jì)算平臺不僅解決了物聯(lián)網(wǎng)設(shè)備在復(fù)雜AI任務(wù)處理中的瓶頸，更重新定義了邊緣智能的可行性邊界。其技術(shù)優(yōu)勢與產(chǎn)業(yè)合作將加速邊緣AI從概念走向規(guī)?；瘧?yīng)用，為工業(yè)自動化、智能家居、智慧城市等領(lǐng)域的數(shù)字化轉(zhuǎn)型提供核心驅(qū)動力，同時推動全球物聯(lián)網(wǎng)生態(tài)向更高性能、更安全可靠的方向演進(jìn)。
