【導(dǎo)讀】面對(duì)邊緣 AI 在算力、功耗、安全、場(chǎng)景碎片化等方面的挑戰(zhàn)，德州儀器 (TI) 全棧嵌入式邊緣 AI 方案以分層布局、軟硬協(xié)同為核心，基于 MCU + NPU 架構(gòu)及 TinyEngine? NPU 解耦設(shè)計(jì)，從硬件加速器、安全架構(gòu)到軟件開(kāi)發(fā)生態(tài)，端到端加速 AI 規(guī)模化落地。
關(guān)鍵詞：德州儀器 (TI)；邊緣 AI；TI 全棧嵌入式邊緣 AI 方案；嵌入式處理技術(shù)；嵌入式產(chǎn)品；嵌入式邊緣 AI；MCU + NPU；端到端邊緣 AI；AI 規(guī)模化落地；TinyEngine NPU；分層布局；軟硬協(xié)同；Edge AI Studio；CCStudio?
近日，德州儀器 (TI) MSP 微控制器 (MCU) 業(yè)務(wù)副總裁兼總經(jīng)理 Vinay Agarwal 接受媒體專(zhuān)訪，分享 TI 如何通過(guò)全面且可擴(kuò)展的嵌入式產(chǎn)品組合與開(kāi)發(fā)生態(tài)，構(gòu)建端到端的嵌入式邊緣 AI 解決方案。
TI MSP 微控制器業(yè)務(wù)副總裁兼總經(jīng)理 Vinay Agarwal
端到端的全棧邊緣 AI 如何重塑下一代智能終端？
AI 正從云端走向終端。在醫(yī)療可穿戴、智能家居、工業(yè)自動(dòng)化和機(jī)器人等應(yīng)用中，設(shè)備需要及時(shí)識(shí)別異常、理解環(huán)境并作出響應(yīng)。本地運(yùn)行模型有助于縮短響應(yīng)時(shí)間、減少數(shù)據(jù)往返云端帶來(lái)的通信功耗，同時(shí)降低敏感數(shù)據(jù)在傳輸過(guò)程中的暴露，為更安全、可靠的終端智能提供支持。
隨著應(yīng)用不斷拓展，工程師需要在有限的功耗和成本預(yù)算內(nèi)，兼顧算力、安全與場(chǎng)景差異。
依托數(shù)十年的數(shù)字信號(hào)處理 (DSP) 與嵌入式技術(shù)積累，TI 將邊緣 AI 能力拓展至微控制器、處理器、無(wú)線連接及毫米波雷達(dá)嵌入式產(chǎn)品組合，并配套硬件加速、安全機(jī)制和軟件工具，提供端到端的全棧嵌入式邊緣 AI 方案，幫助客戶(hù)將先進(jìn)智能融入系統(tǒng)。
MCU + NPU，如何兼顧算力與功耗？
要在終端高效運(yùn)行 AI 模型，需要協(xié)調(diào)推理運(yùn)算與原有控制任務(wù)。TI 的 TinyEngine 神經(jīng)處理單元 (NPU) 通過(guò)獨(dú)立解耦架構(gòu)，與主 CPU 并行執(zhí)行機(jī)器學(xué)習(xí)算法。
TinyEngine NPU 作為獨(dú)立的專(zhuān)用硬件加速器，在執(zhí)行推理任務(wù)時(shí)無(wú)需頻繁喚醒主 CPU，僅由 NPU 完成實(shí)時(shí)計(jì)算與模式匹配。這一架構(gòu)減少了 AI 運(yùn)算對(duì) CPU 的占用，也減少了為執(zhí)行推理而喚醒 CPU 的需求。相較于未配備加速器的同類(lèi) MCU，TI 的集成式 TinyEngine NPU 在運(yùn)行 AI 模型時(shí)，可實(shí)現(xiàn)延遲最高降低 90 倍、單次推理能耗降低超過(guò) 120 倍。
該 NPU 將邊緣 AI 能力拓展至此前無(wú)法承載有效 AI 工作負(fù)載的器件中，包括電池供電電子設(shè)備、具備實(shí)時(shí)分析能力的醫(yī)療可穿戴設(shè)備、個(gè)人電子及工業(yè)設(shè)備。
TI 的 TinyEngine NPU 為嵌入式系統(tǒng)帶來(lái)更強(qiáng)邊緣 AI 能力
分層布局軟硬協(xié)同，如何構(gòu)建端到端邊緣 AI 能力？
不同應(yīng)用對(duì)處理性能、存儲(chǔ)、模擬外設(shè)和成本的要求各不相同。TI 通過(guò)分層產(chǎn)品矩陣，嵌入式產(chǎn)品覆蓋從低功耗 MCU 到高性能處理器，以及無(wú)線連接與毫米波雷達(dá)，支持工程師按需選擇硬件、復(fù)用已有開(kāi)發(fā)資源。
低功耗與成本敏感應(yīng)用：集成 TinyEngine NPU 的 MSPM0G5187，為喚醒詞檢測(cè)、手勢(shì)識(shí)別和預(yù)測(cè)性維護(hù)等功能提供支持，讓輕量化 AI 能力進(jìn)入更多終端。
實(shí)時(shí)控制與復(fù)雜應(yīng)用：MSPM33 系列提供更強(qiáng)的處理、模擬及安全能力；AM13Ex、F28P55 等器件結(jié)合實(shí)時(shí)控制與 AI 加速，服務(wù)電機(jī)、電源等應(yīng)用；AM6x 系列處理器則面向視覺(jué)等更復(fù)雜的處理需求。
從樓宇中的被動(dòng)紅外 (PIR) 運(yùn)動(dòng)檢測(cè)，到工業(yè)設(shè)備的故障診斷，選型需要結(jié)合采集數(shù)據(jù)的質(zhì)量、模型復(fù)雜度、響應(yīng)時(shí)間及功耗預(yù)算。TI 配套的軟件工具支持?jǐn)?shù)據(jù)處理與模型優(yōu)化，幫助工程師匹配應(yīng)用和硬件，在不同性能與成本需求之間作出選擇。
TI 從低到高可擴(kuò)展的邊緣 AI 嵌入式產(chǎn)品組合，支持不同性能水平和價(jià)格區(qū)間的邊緣 AI 部署
邊緣 AI 部署如何應(yīng)對(duì)功能安全與信息安全訴求？
隨著邊緣 AI 部署于車(chē)載、工業(yè)控制，安全成為嵌入式產(chǎn)品的基礎(chǔ)剛需。Vinay Agarwal 將其分為兩個(gè)互補(bǔ)維度：功能安全與信息安全。功能安全關(guān)注系統(tǒng)發(fā)生故障時(shí)的風(fēng)險(xiǎn)控制，信息安全則保護(hù)固件、模型和數(shù)據(jù)，防范惡意訪問(wèn)與篡改。
對(duì)于工業(yè)、汽車(chē)等安全相關(guān)應(yīng)用，TI 將功能安全設(shè)計(jì)貫穿于產(chǎn)品研發(fā)的全生命周期，重視錯(cuò)誤可追溯性及配套文檔，為客戶(hù)在系統(tǒng)層面落實(shí)安全設(shè)計(jì)提供支持。
在信息安全方面，根據(jù)不同產(chǎn)品與應(yīng)用需求，TI 提供安全啟動(dòng)、密鑰與內(nèi)存保護(hù)、硬件加密加速等能力。例如，M33 平臺(tái)在 Arm? TrustZone? 基礎(chǔ)上，結(jié)合 TI 的加密庫(kù)、內(nèi)存保護(hù)及安全加速器，支持更細(xì)致的防護(hù)。專(zhuān)用 NPU 為模型運(yùn)行增加一層硬件安全緩沖，與系統(tǒng)整體安全機(jī)制共同發(fā)揮作用。
如何簡(jiǎn)化邊緣 AI 模型部署？
硬件選型之后，工程師還需要完成數(shù)據(jù)采集、模型開(kāi)發(fā)與優(yōu)化、編譯部署，以及嵌入式應(yīng)用集成。TI 深度整合開(kāi)發(fā)工具鏈，兼顧了自身軟件生態(tài)的易用性與開(kāi)源生態(tài)的兼容性，并通過(guò) Edge AI Studio 與 CCStudio 等工具軟硬協(xié)同，降低開(kāi)發(fā)門(mén)檻。
Edge AI Studio 支持?jǐn)?shù)據(jù)處理、模型訓(xùn)練與優(yōu)化，并兼容主流開(kāi)源框架。客戶(hù)可以導(dǎo)入已有模型進(jìn)行微調(diào)，也可以借助工具建立模型；對(duì)于已滿(mǎn)足性能要求的模型，則可進(jìn)一步編譯并部署至目標(biāo)硬件，讓不同開(kāi)發(fā)基礎(chǔ)的團(tuán)隊(duì)選擇適合自己的路徑。
CCStudio 則支持嵌入式代碼開(kāi)發(fā)、系統(tǒng)配置和調(diào)試，并引入 AI 智能體輔助編程。結(jié)合 SDK、數(shù)據(jù)手冊(cè)和參考設(shè)計(jì)，工程師能夠更高效地完成開(kāi)發(fā)，將精力聚焦于應(yīng)用功能與產(chǎn)品創(chuàng)新。
Vinay Agarwal 表示：“我們致力于推動(dòng)邊緣 AI 全面落地。TI 為客戶(hù)提供的不只是一個(gè)合適的硬件，更要通過(guò)產(chǎn)品組合和開(kāi)發(fā)生態(tài)，端到端賦能邊緣 AI 的部署。”
軟硬件協(xié)同，通過(guò)全棧生態(tài)讓模型與終端系統(tǒng)更高效地結(jié)合，加快邊緣 AI 應(yīng)用落地。
TI 致力于全面加速邊緣 AI 規(guī)模化落地
展望未來(lái)，Vinay Agarwal 認(rèn)為，邊緣 AI 將沿著更精準(zhǔn)的感知、不同層級(jí)的計(jì)算和更完善的信息安全持續(xù)演進(jìn)。隨著汽車(chē)、工業(yè)及機(jī)器人等領(lǐng)域不斷增加智能功能，MCU 也將承擔(dān)更廣泛的感知、處理與控制任務(wù)。
面對(duì)邊緣 AI 在算力、功耗、安全、場(chǎng)景碎片化等方面的挑戰(zhàn)，德州儀器全棧嵌入式 邊緣AI 方案以分層布局、軟硬協(xié)同為核心，基于 MCU + NPU 架構(gòu)及 TinyEngine NPU 解耦設(shè)計(jì)，從硬件加速器、安全架構(gòu)到軟件開(kāi)發(fā)生態(tài)，端到端加速邊緣 AI 規(guī)模化落地。
進(jìn)入中國(guó)市場(chǎng) 40 周年之際，TI 將繼續(xù)通過(guò)持續(xù)技術(shù)創(chuàng)新，幫助中國(guó)客戶(hù)快速落地，讓邊緣 AI 構(gòu)想轉(zhuǎn)化為實(shí)際產(chǎn)品。
關(guān)于德州儀器
德州儀器（TI）（納斯達(dá)克股票代碼：TXN）是一家全球性的半導(dǎo)體公司，從事設(shè)計(jì)、制造和銷(xiāo)售模擬和嵌入式處理芯片，用于工業(yè)、汽車(chē)、數(shù)據(jù)中心、個(gè)人電子產(chǎn)品和通信設(shè)備等市場(chǎng)。我們致力于通過(guò)半導(dǎo)體技術(shù)讓電子產(chǎn)品更經(jīng)濟(jì)實(shí)用，讓世界更美好。如今，每一代創(chuàng)新都建立在上一代創(chuàng)新的基礎(chǔ)上，使我們的技術(shù)變得更可靠、更經(jīng)濟(jì)、更節(jié)能，從而實(shí)現(xiàn)半導(dǎo)體在電子產(chǎn)品領(lǐng)域的廣泛應(yīng)用。
結(jié)論
TI 這套全棧嵌入式邊緣 AI 方案，核心是依靠 TinyEngine 獨(dú)立 NPU 分擔(dān) AI 推理負(fù)載，大幅降低推理延遲與能耗。分層的產(chǎn)品系列覆蓋從低功耗到高性能的不同層級(jí)需求，可適配多樣化的終端場(chǎng)景。在安全層面，方案兼顧功能安全與信息安全，滿(mǎn)足工業(yè)、車(chē)載等高可靠性場(chǎng)景的防護(hù)要求。同時(shí)，Edge AI Studio 與 CCStudio 構(gòu)成完整開(kāi)發(fā)鏈路，降低模型移植與嵌入式開(kāi)發(fā)門(mén)檻。立足中國(guó)市場(chǎng) 40 周年的基礎(chǔ)上，TI 將持續(xù)完善產(chǎn)品與生態(tài)，幫助國(guó)內(nèi)客戶(hù)解決邊緣 AI 規(guī)模化落地中的各類(lèi)工程挑戰(zhàn)，推動(dòng) AI 能力在各類(lèi)嵌入式終端普及。
