應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點(diǎn)新聞
企業(yè)注冊(cè)個(gè)人注冊(cè)登錄

DeepSeek開源驅(qū)動(dòng)邊緣計(jì)算變革:成本、算力與場(chǎng)景落地的三重突破

2025-06-06 17:36 視覺物聯(lián)
關(guān)鍵詞:邊緣計(jì)算

導(dǎo)讀:隨著DeepSeek大模型的開源,將重構(gòu)邊緣計(jì)算生態(tài),以“低成本、快部署、強(qiáng)適配”的特性,為邊緣計(jì)算在政務(wù)、能源、生產(chǎn)安全、民生和農(nóng)業(yè)等場(chǎng)景的規(guī)?;涞亻_辟新路徑。

  長(zhǎng)期以來(lái),邊緣計(jì)算領(lǐng)域面臨“硬件定制化周期長(zhǎng)、算法開發(fā)成本高、場(chǎng)景適配難度大”三重壁壘,導(dǎo)致其落地應(yīng)用呈現(xiàn)碎片化特點(diǎn)。

  但隨著DeepSeek大模型的開源,將重構(gòu)邊緣計(jì)算生態(tài),以“低成本、快部署、強(qiáng)適配”的特性,為邊緣計(jì)算在政務(wù)、能源、生產(chǎn)安全、民生和農(nóng)業(yè)等場(chǎng)景的規(guī)?;涞亻_辟新路徑。

  算法革新:從定制開發(fā)到普惠的范式突破

  在邊緣計(jì)算領(lǐng)域,傳統(tǒng)AI模型落地依賴“芯片-算法-方案”三位一體的硬件定制化路徑,不僅面臨長(zhǎng)達(dá)數(shù)月的開發(fā)周期,其中算法環(huán)節(jié)更是需砸數(shù)百萬(wàn)甚至千萬(wàn)級(jí)的研發(fā)投入。

  DeepSeek的開源徹底顛覆了這一格局,其底層算法框架的開放,使開發(fā)者可直接基于開源代碼進(jìn)行本地化調(diào)優(yōu),如今企業(yè)僅需數(shù)十萬(wàn)級(jí)投入,即可在開源算法基礎(chǔ)上完成行業(yè)應(yīng)用延伸。

  以工業(yè)質(zhì)檢場(chǎng)景為例,以往需定制化開發(fā)的CV模型,如今可通過(guò)DeepSeek的大模型普適性能力快速遷移,避免了傳統(tǒng)CV模型“一場(chǎng)景一訓(xùn)練”的高成本困局。

  但從應(yīng)用端來(lái)看,目前邊緣計(jì)算產(chǎn)品出貨量仍以CV算法為主。業(yè)內(nèi)人士表示,大模型開源不過(guò)短短數(shù)月,基于大模型的開源算法目前還沒有真正需求和訂單落地,預(yù)測(cè)今年下半年會(huì)有零散訂單,真正大批量估計(jì)要到明年。

  算力優(yōu)化:架構(gòu)創(chuàng)新與效率提升驅(qū)動(dòng)算力下沉

  相比于傳統(tǒng)大模型,DeepSeek通過(guò)架構(gòu)創(chuàng)新降低必要算力、算法優(yōu)化提升算力效率和場(chǎng)景定制減少冗余算力,使得同等效果下算力需求銳減,將大模型部署的算力門檻從天價(jià)拉低至消費(fèi)級(jí)水平。

  業(yè)內(nèi)人士表示,邊緣端運(yùn)行大模型的算力一般在20T-100T之間,主要看運(yùn)行的模型大?。?.5b、7b、8b、14b、32b、70b、671b),32b基本可以滿足大部分需求。

  雖然運(yùn)行DeepSeek模型對(duì)算力的要求不高,但其對(duì)顯存有特定要求;比如運(yùn)行DeepSeek-r132b-qwen-distill-q8_0模型,顯存占用在40G左右。

  目前,邊緣計(jì)算領(lǐng)域適配大模型應(yīng)用的芯片廠家主要以英偉達(dá)為主,國(guó)產(chǎn)芯片則主要以瑞芯微RK3588、算能BM1684X和BM1688、愛芯元智AX630C和AX650N、后摩等企業(yè)為主。

  但根據(jù)調(diào)研了解,當(dāng)前在邊緣計(jì)算領(lǐng)域,大模型應(yīng)用仍然聚焦于單點(diǎn)應(yīng)用,并未形成規(guī)?;?,大部分應(yīng)用仍然以小模型為主。未來(lái),小模型應(yīng)用將長(zhǎng)期存在,大模型將補(bǔ)充小模型的精確度,兩者應(yīng)用形成互補(bǔ)關(guān)系。

  場(chǎng)景落地:政務(wù)民生多領(lǐng)域突破

  對(duì)中小企業(yè)和邊緣場(chǎng)景而言,硬件成本的大幅降低將帶來(lái)更多的場(chǎng)景應(yīng)用。

  在政府辦公領(lǐng)域,基于DeepSeek構(gòu)建的本地化問(wèn)答系統(tǒng),可直接調(diào)用內(nèi)部法規(guī)數(shù)據(jù)庫(kù),避免互聯(lián)網(wǎng)數(shù)據(jù)的“幻覺”問(wèn)題,準(zhǔn)確率接近100%。

  這種“數(shù)據(jù)不出域”的特性,既滿足了政務(wù)場(chǎng)景的保密需求,又將咨詢響應(yīng)效率提升5倍以上,目前已在多地政務(wù)大廳試點(diǎn)部署。

  在居家養(yǎng)老、智慧社區(qū)等場(chǎng)景,輕量化模型正實(shí)現(xiàn)“最后一米”的智能覆蓋。場(chǎng)景集成跌倒檢測(cè)、用藥提醒等功能,單設(shè)備成本控制在千元級(jí),已進(jìn)入上海、北京等地的社區(qū)試點(diǎn)。這種“低門檻、高剛需”的模式,也標(biāo)志著邊緣計(jì)算從B端向C端的滲透加速。

  現(xiàn)實(shí)挑戰(zhàn):開源模型需深度調(diào)優(yōu),本地化適配成關(guān)鍵

  盡管前景廣闊,邊緣計(jì)算領(lǐng)域仍面臨多重挑戰(zhàn)。

  因DeepSeek的技術(shù)特性與訓(xùn)練機(jī)制共同作用的原因,導(dǎo)致其幻覺率顯著高于行業(yè)水平。在VectaraHHEM權(quán)威測(cè)試中,DeepSeek-R1的幻覺率高達(dá)14.3%,即使經(jīng)過(guò)優(yōu)化,2025年5月的SuperCLUE測(cè)評(píng)顯示,R1幻覺率仍為21%。

  在實(shí)際應(yīng)用中,企業(yè)需要采取交叉驗(yàn)證、提示詞優(yōu)化和行業(yè)數(shù)據(jù)注入等方式,將幻覺率從開源狀態(tài)的15%-20%降至5%以下,才能最大化利用AI能力。

  多位業(yè)內(nèi)人士表示,雖然DeepSeek開源了,但是客戶直接拿過(guò)去是不會(huì)用的,需要包一個(gè)UI界面才能使用;另外,直接用開源的量化模型做部署是沒有意義的,還是要根據(jù)場(chǎng)景去調(diào)優(yōu)測(cè)試。

  小結(jié)

  展望未來(lái),隨著DeepSeek與千問(wèn)3等開源模型的迭代,邊緣計(jì)算將呈現(xiàn)“算力下沉、智能上移”的新趨勢(shì)。

  當(dāng)“大模型開源+國(guó)產(chǎn)芯片崛起+行業(yè)場(chǎng)景爆發(fā)”形成共振,邊緣計(jì)算市場(chǎng)將迎來(lái)繼云計(jì)算之后又一次產(chǎn)業(yè)革命,而這場(chǎng)革命的核心驅(qū)動(dòng)力,正是開源精神帶來(lái)的技術(shù)民主化浪潮。

  近日,視覺物聯(lián)聯(lián)合AIoT星圖研究院正式啟動(dòng)《2025邊緣計(jì)算市場(chǎng)調(diào)研報(bào)告》,將從技術(shù)發(fā)展與落地應(yīng)用等方面展開深度調(diào)研,揭示行業(yè)基本面,洞察競(jìng)爭(zhēng)格局,為企業(yè)戰(zhàn)略制定、投資決策、市場(chǎng)拓展等提供結(jié)構(gòu)化的參考依據(jù)。

  我們擬將調(diào)研更多深耕邊緣AI發(fā)展方向的企業(yè),并從中總結(jié)行業(yè)發(fā)展現(xiàn)狀以及未來(lái)發(fā)展趨勢(shì),供其他企業(yè)參考,歡迎企業(yè)踴躍報(bào)名參加。

a0e980c7dc26a516df2303b40618f541.png