亚洲国产成人无码专区-亚洲丁香一区-国产伦a视频-久久精品国产99日本精品免-午夜性做爰免费看-日韩欧美高清在线视频-芒果视频在线观看免费-特黄毛片在线观看-免费一级淫片a人观看69-日韩久久av-91精品91久久久中77777老牛

你的位置:首頁 > 互連技術(shù) > 正文

異構(gòu)算力 + AI 流程編排:破解邊緣 AI 從 Demo 到量產(chǎn)的落地難題

發(fā)布時(shí)間:2026-09-15 來源:轉(zhuǎn)載 責(zé)任編輯:lijiahuan

【導(dǎo)讀】目前行業(yè)多數(shù)邊緣 AI 方案僅能完成單模型推理演示,真正落地產(chǎn)品時(shí),會面臨多模型聯(lián)動復(fù)雜、軟硬件調(diào)度困難、實(shí)時(shí)性不足、云端依賴強(qiáng)、開發(fā)門檻高等一系列工程問題。邊緣 AI 的競爭重心,已經(jīng)從 “能否跑通模型” 轉(zhuǎn)向 “能否穩(wěn)定運(yùn)行完整業(yè)務(wù)流程”。瑞蘇盈科 Mercury+ MP1 異構(gòu)平臺結(jié)合 MakarenaLabs MuseBox 編排方案,依托 CPU+FPGA 異構(gòu)架構(gòu),構(gòu)建端側(cè)完整 AI 處理流水線,為邊緣 AI 工程化落地提供了成熟路徑。


邊緣AI這幾年很熱。但如果站在工程師的角度看,一個(gè)模型能夠在開發(fā)板上跑起來,距離真正做成產(chǎn)品,其實(shí)還差得遠(yuǎn)。


攝像頭采集的數(shù)據(jù)怎么處理?不同AI模型怎么銜接?推理任務(wù)哪些交給CPU,哪些放到FPGA?實(shí)時(shí)結(jié)果怎么輸出?設(shè)備是不是必須依賴云端?這些問題一個(gè)個(gè)看起來都不大,真正組合起來,卻很容易把一個(gè)AI Demo變成一個(gè)復(fù)雜的工程項(xiàng)目。


所以,邊緣AI正在進(jìn)入一個(gè)很有意思的階段:過去大家關(guān)注的是“能不能跑AI”,現(xiàn)在更需要解決的是“能不能把完整AI流程跑起來”。


MakarenaLabs的MuseBox與瑞蘇盈科(Enclustra) Mercury+ MP1的組合,正是在這個(gè)方向上給出了一個(gè)比較典型的思路。它不是簡單把一個(gè)AI模型放進(jìn)FPGA,而是試圖把Linux處理、FPGA硬件加速、AI模型以及整個(gè)推理流程組織到同一個(gè)邊緣平臺中。


1_661.jpg


一塊SoM,為什么還要把CPU和FPGA放在一起?


這套方案的硬件基礎(chǔ)是瑞蘇盈科(Enclustra)的Mercury+ MP1,核心采用Microchip PolarFire SoC。它的一個(gè)關(guān)鍵特點(diǎn),就是沒有把CPU和FPGA割裂開來。Linux運(yùn)行在SoC的處理系統(tǒng)上,而需要硬件加速的AI任務(wù),則可以通過VectorBlox以及自定義FPGA IP來實(shí)現(xiàn)加速。


2_441.jpg


這套架構(gòu)其實(shí)非常符合邊緣設(shè)備的現(xiàn)實(shí)需求,因?yàn)檫吘堿I不是只有“算”。系統(tǒng)啟動、設(shè)備管理、網(wǎng)絡(luò)通信、數(shù)據(jù)調(diào)度、應(yīng)用邏輯,這些工作依然需要處理器完成;而對于實(shí)時(shí)性要求更高、數(shù)據(jù)吞吐更大或者適合并行處理的任務(wù),F(xiàn)PGA則可以提供另一條路徑。


簡單來說:CPU負(fù)責(zé)靈活,F(xiàn)PGA負(fù)責(zé)加速。


這句話聽起來有點(diǎn)老,但放到今天的邊緣AI里,依然很實(shí)用。尤其是當(dāng)設(shè)備面對不同傳感器、不同數(shù)據(jù)流和不同AI模型時(shí),硬件可定制能力就不只是一個(gè)“加分項(xiàng)”,而可能直接影響產(chǎn)品能不能落地。


真正讓方案發(fā)生變化的,是MuseBox


如果只有Mercury+ MP1,那么它本質(zhì)上仍然是一套具備CPU+FPGA能力的SoC硬件平臺。MuseBox加入之后,事情就變了。資料中對MuseBox的定位非常明確——它負(fù)責(zé)AI流程的編排,可以把完整AI Pipeline放在本地運(yùn)行,從實(shí)時(shí)輸入一直到推理和輸出,不強(qiáng)制依賴云端。


這個(gè)變化其實(shí)很關(guān)鍵,因?yàn)檎嬲倪吘堿I應(yīng)用,很少是一個(gè)模型從頭跑到尾。實(shí)際系統(tǒng)往往是多個(gè)處理環(huán)節(jié)串起來的。比如視覺場景中,前端可能首先獲取視頻流,然后進(jìn)行圖像處理,再進(jìn)入目標(biāo)檢測、深度估計(jì)或者人臉分析等AI任務(wù),最后把結(jié)果交給應(yīng)用層。


如果這些事情全部靠工程師自己拼起來,開發(fā)難度自然不低。MuseBox做的事情,可以理解為給底層硬件和上層AI應(yīng)用之間搭了一層“編排層”。它讓硬件加速能力不再只是孤立存在,而是成為完整AI處理流程的一部分。這也是這個(gè)方案比較值得關(guān)注的地方。


從“單個(gè)模型”到“AI Pipeline”


MuseBox目前展示的AI能力包括人臉檢測、識別與分析、目標(biāo)檢測、深度估計(jì),以及人臉和手部關(guān)鍵點(diǎn)檢測、手掌檢測等。單獨(dú)看這些功能,其實(shí)并沒有什么神秘之處。真正值得看的,是這些能力被放到了一個(gè)統(tǒng)一的邊緣AI平臺里。


3_360.jpg


換句話說,它關(guān)注的不是:“我能不能運(yùn)行一個(gè)模型?”,而是:“多個(gè)AI任務(wù)能不能在設(shè)備本地形成一條連續(xù)的處理鏈?”這兩個(gè)問題看起來只差幾個(gè)字,背后的工程復(fù)雜度卻完全不同。


當(dāng)AI應(yīng)用從單一識別功能走向多模型協(xié)同,模型本身反而不再是唯一核心。數(shù)據(jù)如何流動、模型如何調(diào)度、硬件如何加速、結(jié)果如何交互,這些都會變成系統(tǒng)設(shè)計(jì)的一部分。因此,“AI Orchestration”這個(gè)概念開始有了實(shí)際意義,它不是單純管理幾個(gè)模型,而是把數(shù)據(jù)、模型、計(jì)算資源和應(yīng)用流程組織起來。


FPGA的價(jià)值,也正在發(fā)生變化


過去很多人理解FPGA,首先想到的是高速接口、數(shù)字信號處理、視頻處理或者通信。AI起來以后,F(xiàn)PGA當(dāng)然也可以承擔(dān)推理加速。但如果只把FPGA理解成“另一個(gè)AI加速器”,其實(shí)還是低估了它。


Mercury+ MP1這套架構(gòu)真正有意思的地方,在于FPGA不是孤立工作的。它和Linux處理系統(tǒng)結(jié)合在一起,同時(shí)又可以通過VectorBlox或者自定義IP進(jìn)行硬件加速。這意味著開發(fā)者面對的并不是一塊只有固定AI能力的芯片,當(dāng)應(yīng)用發(fā)生變化,需要重新設(shè)計(jì)數(shù)據(jù)通路或者加入特定硬件功能時(shí),F(xiàn)PGA仍然留有調(diào)整空間。


這恰恰是邊緣設(shè)備比較看重的一點(diǎn),畢竟工業(yè)視覺、機(jī)器人、智能終端等應(yīng)用,往往不會像云端服務(wù)器那樣擁有充足的算力和功耗空間。設(shè)備端真正需要的是:在有限資源下,把最關(guān)鍵的任務(wù)處理得足夠快,而且還得穩(wěn)定。FPGA在這里提供的,除了算力,還有一定程度的硬件自由度。


為什么“本地運(yùn)行”越來越重要?


這套方案還有一個(gè)容易被忽略的關(guān)鍵詞:Local。


MuseBox可以讓完整AI流程在邊緣側(cè)運(yùn)行,不強(qiáng)制依賴云端。這并不意味著云端AI沒有價(jià)值,恰恰相反,云端仍然適合大規(guī)模模型訓(xùn)練、集中式數(shù)據(jù)處理以及復(fù)雜計(jì)算。但到了設(shè)備端,很多任務(wù)并不需要把原始數(shù)據(jù)全部送到云端。


實(shí)時(shí)視覺就是典型例子。攝像頭的數(shù)據(jù)持續(xù)進(jìn)入,如果每一幀都經(jīng)過網(wǎng)絡(luò)傳輸再等待云端返回結(jié)果,系統(tǒng)的實(shí)時(shí)性和穩(wěn)定性都會受到影響。而在本地完成采集、處理、推理和輸出,整個(gè)系統(tǒng)的響應(yīng)鏈路可以更短。這也是邊緣AI真正的價(jià)值之一:不是為了“脫離云”,而是讓需要實(shí)時(shí)完成的事情,就地完成。


從硬件平臺走向“可用的AI平臺”


這套方案還有一個(gè)比較現(xiàn)實(shí)的設(shè)計(jì):MuseBox支持WebSocket集成,并提供可選的No-Code GUI。這兩個(gè)能力看起來不像FPGA參數(shù)那么“硬核”,但對于產(chǎn)品開發(fā)反而很重要。


因?yàn)橛布S商最終面對的客戶,不一定都是FPGA工程師。如果每一個(gè)應(yīng)用都要求客戶深入理解SoC架構(gòu)、FPGA IP、AI模型部署和底層數(shù)據(jù)通路,那么硬件平臺本身再強(qiáng),推廣起來也會比較吃力。


所以真正成熟的邊緣AI平臺,最終一定會出現(xiàn)一種趨勢:底層越來越復(fù)雜,上層反而越來越簡單。


復(fù)雜性留在平臺里面??蛻艨吹降?,則應(yīng)該是一個(gè)可以配置、調(diào)用和部署的AI能力。MuseBox的No-Code GUI和WebSocket接口,本質(zhì)上就是在做這種“降低應(yīng)用門檻”的事情。


對FPGA產(chǎn)業(yè)來說,這可能才是更值得關(guān)注的變化


如果把Mercury+ MP1和MuseBox單純當(dāng)成一個(gè)AI Demo來看,其實(shí)沒有必要過度解讀。但如果把它放到整個(gè)邊緣計(jì)算產(chǎn)業(yè)里看,就能發(fā)現(xiàn)一個(gè)趨勢越來越清楚:未來的邊緣AI競爭,不只是芯片算力競爭。


硬件架構(gòu)、AI加速能力、軟件工具鏈、模型部署以及應(yīng)用編排,正在逐漸變成一個(gè)整體。這也是為什么SoM越來越適合這種應(yīng)用。


資料中的完整平臺由MakarenaLabs MuseBox AI Server、瑞蘇盈科(Enclustra) Mercury+ MP1 SoM與ST1基板、Microchip PolarFire SoC,以及VectorBlox/自定義FPGA加速組成,每一層負(fù)責(zé)不同的事情:


SoM解決硬件集成問題;


PolarFire SoC提供處理與FPGA資源;


VectorBlox和自定義IP承擔(dān)硬件加速;


MuseBox則負(fù)責(zé)把這些能力組織成完整AI流程。


這樣一來,AI就不再只是“芯片上的一個(gè)模型”,它開始真正成為設(shè)備的一部分。


從Demo到產(chǎn)品,中間差的就是這一層


其實(shí)現(xiàn)在做一個(gè)AI Demo并不算特別難。真正困難的是把它變成一個(gè)長期運(yùn)行、實(shí)時(shí)響應(yīng)、能夠與設(shè)備系統(tǒng)協(xié)同工作的產(chǎn)品。


這也是MuseBox與Mercury+ MP1組合給出的一個(gè)比較有價(jià)值的啟示:邊緣AI的下一階段,不應(yīng)該只追求“把模型跑起來”,而應(yīng)該關(guān)注“把整個(gè)AI Pipeline跑起來”。


從輸入,到預(yù)處理;


從CPU,到FPGA;


從模型推理,到結(jié)果輸出;


再到應(yīng)用接口和系統(tǒng)協(xié)同。


只有這些環(huán)節(jié)真正連起來,邊緣AI才算完成了從技術(shù)演示到產(chǎn)品能力的跨越。


對于FPGA而言,這同樣意味著新的角色。它不再只是傳統(tǒng)意義上的邏輯資源或者硬件加速器,而有機(jī)會成為邊緣AI系統(tǒng)里的可編程計(jì)算底座。


而PolarFire SoC與Mercury+ MP1提供的是這塊底座,MuseBox做的,則是把底層能力真正“組織起來”。


所以,“能跑AI”只是起點(diǎn)。真正值得期待的,是讓AI在設(shè)備里持續(xù)、實(shí)時(shí)、穩(wěn)定地跑完整個(gè)流程。


這或許才是邊緣AI走向規(guī)模化落地之后,F(xiàn)PGA真正值得抓住的機(jī)會。


結(jié)論


邊緣 AI 規(guī)?;涞氐暮诵钠款i不在于算力,而在于系統(tǒng)級工程能力?;?PolarFire SoC 的 Mercury+ MP1 平臺依靠 CPU 兼顧系統(tǒng)業(yè)務(wù)靈活性、FPGA 保障實(shí)時(shí)加速性能的異構(gòu)架構(gòu),適配各類受限邊緣場景。搭配 MuseBox 實(shí)現(xiàn)的端側(cè)全流程 AI 編排,可完成多模型協(xié)同、本地?cái)?shù)據(jù)處理、脫網(wǎng)推理與標(biāo)準(zhǔn)化輸出,徹底打通從數(shù)據(jù)采集到結(jié)果輸出的完整鏈路。同時(shí)低代碼部署能力大幅降低開發(fā)難度,讓邊緣 AI 擺脫演示屬性,真正實(shí)現(xiàn)穩(wěn)定、可量產(chǎn)的商業(yè)化運(yùn)行,也推動 FPGA 從單純硬件加速器升級為下一代邊緣 AI 的可編程核心底座。


gg_20260512171736_266_20260622170931_179_20260707113844_971_20260708172203_213_20260710172006_775.png

特別推薦
技術(shù)文章更多>>
技術(shù)白皮書下載更多>>
熱門搜索

關(guān)閉

?

關(guān)閉