在安防行業(yè)，一個(gè)“盒子”如何讓AI大模型落地？

　　從一年前爆火的ChatGPT，到前段時(shí)間文生視頻大模型Sora，AI大模型的發(fā)展動(dòng)態(tài)、議題仍不斷吸引著大眾關(guān)注和討論。

　　云天勵(lì)飛董事長(zhǎng)兼CEO陳寧曾表示：“未來(lái)3年，全球80%的企業(yè)都將使用大模型。

　　有報(bào)告顯示，截至2023年10月，國(guó)內(nèi)公開(kāi)的AI大模型數(shù)量已經(jīng)達(dá)到238個(gè)，過(guò)去5年世界上參數(shù)量超過(guò)百億的大模型大約有45個(gè)，其中9個(gè)出現(xiàn)在中國(guó)。

　　中國(guó)AI大模型發(fā)展勢(shì)頭正猛，但對(duì)于安防中小微企業(yè)而言，AI大模型能做什么?

　　安防中小微企業(yè)的痛點(diǎn)

　　對(duì)于大多承接項(xiàng)目規(guī)模在100萬(wàn)以內(nèi)的的SMB安防企業(yè)而言，其人員配置一般以銷售為主，技術(shù)為輔，且業(yè)務(wù)多聚焦于零售、餐飲、工廠、倉(cāng)儲(chǔ)、農(nóng)林牧漁等細(xì)分場(chǎng)景，往往中小微企業(yè)很難具備整體AI解決方案輸出能力。

　　這也使得長(zhǎng)尾市場(chǎng)下，相關(guān)攝像頭設(shè)備雖已大范圍鋪開(kāi)，但AI技術(shù)的落地滲透率并不高。

　　究其原因，主要有兩大痛點(diǎn)：

　　服務(wù)成本高

　　中小微企業(yè)所承接的安防項(xiàng)目規(guī)模相對(duì)較小，扣除掉工人、設(shè)備采購(gòu)等費(fèi)用支出后，項(xiàng)目營(yíng)收小。無(wú)法進(jìn)行規(guī)?；?yīng)降低邊際成本，服務(wù)成本居高不下。

　　而中小微企業(yè)本身預(yù)算有限，這也意味著在整個(gè)項(xiàng)目中要考慮到多個(gè)需求并且做出權(quán)衡，在原有基礎(chǔ)上升級(jí)AI變得有門檻。

　　長(zhǎng)尾需求難滿足

　　對(duì)于目前更多中小微企業(yè)而言，其更多的是在“搬箱子”，即上游設(shè)備廠家有什么就賣什么，安防+AI經(jīng)過(guò)近幾年的發(fā)展，也在落地上遇到了“能實(shí)現(xiàn)的客戶需求太少”“新需求的開(kāi)發(fā)、交付速度慢”“生成算法精度差”“定制成本太高”等問(wèn)題。

　　但不可否認(rèn)，中國(guó)SMB安防市場(chǎng)規(guī)模龐大，這不僅僅是一個(gè)設(shè)備產(chǎn)品市場(chǎng)，更是一個(gè)工程市場(chǎng)。因其整體數(shù)量巨大，范圍極廣，規(guī)模累積效應(yīng)也較大。

　　這也意味著，哪家企業(yè)能更好滿足中小微企業(yè)更多需求，幫助其解決更多痛點(diǎn)，哪家企業(yè)便能破局而出。

　　僅千元級(jí)就能用上大模型

　　“大模型一次訓(xùn)練成本在千萬(wàn)級(jí)，主流的訓(xùn)推一體機(jī)價(jià)格普遍在百萬(wàn)元，絕大多數(shù)企業(yè)都無(wú)法承擔(dān)這樣高昂的成本。” 云天勵(lì)飛董事長(zhǎng)兼CEO陳寧坦言道。

　　對(duì)于怎么解決讓AI大模型平民化這個(gè)難題，在歷經(jīng)各種推翻和演練后，云天勵(lì)飛推出了“深目”AI模盒。

 ▲深目AI模盒與常規(guī)推理盒子的對(duì)比

　　在“算法芯片化”的核心能力下，云天勵(lì)飛基于自研大模型邊緣訓(xùn)推芯片DeepEdge10 Max以及自研多模態(tài)大模型“云天天書”的深度融合，做到了將大模型塞進(jìn)一個(gè)僅憑單手便可輕松托起的千元級(jí) 小盒子中。

　　“深目”AI模盒具備算法邊緣側(cè)在線學(xué)習(xí)能力，可實(shí)現(xiàn)“3個(gè)90%”——算法場(chǎng)景覆蓋超過(guò)90%、算法精度超過(guò)90%，使用成本降低90%。

　　也就是說(shuō)，安防人都能夠根據(jù)自身場(chǎng)景需求，利用“深目”AI模盒，就可擁有自己“專屬” 的大模型，訓(xùn)練出實(shí)戰(zhàn)應(yīng)用的算法，。

　　如今，“深目”AI模盒已適配并可承載10億級(jí)SAM、百億級(jí)Llama2等大模型運(yùn)算，可廣泛應(yīng)用于AIoT邊緣視頻、移動(dòng)機(jī)器人等場(chǎng)景。

　　另外，關(guān)于“盒子”里的大模型能力，其來(lái)源于云天勵(lì)飛自主研發(fā)的多模態(tài)大模型“云天天書”。

　　據(jù)了解，云天天書大模型包含語(yǔ)言大模型、多模態(tài)大模型等不同系列，在C-Eval、CMMLU等權(quán)威測(cè)試中多次獲得第一，并于去年正式通過(guò)中央網(wǎng)信辦備案。

　　云天天書1.0版本于2023年初正式推出，至今已完成3個(gè)版本的迭代，預(yù)計(jì)今年6月將迭代4.0 V版本。

　　“深目”AI模盒不僅僅是“壓縮”了大模型和芯片能力的一款全新產(chǎn)品，更是把云天勵(lì)飛大模型通過(guò)算法芯片化能力平臺(tái)“硬件化”的一次重要嘗試。

　　作為云天勵(lì)飛二次創(chuàng)業(yè)的首款產(chǎn)品，深目AI模盒將于6月30日正式發(fā)售且面向所有客戶統(tǒng)一發(fā)貨。

　　少/無(wú)數(shù)據(jù)場(chǎng)景也能生成算法

　　面對(duì)新產(chǎn)品，用戶除了關(guān)注性價(jià)比外，還需要關(guān)注產(chǎn)品是否“好用”的問(wèn)題。

　　云天勵(lì)飛副總裁羅憶介紹，“深目”AI模盒能實(shí)現(xiàn)秒速訓(xùn)練場(chǎng)景算法。

　　在“深目”AI模盒的算法訓(xùn)練平臺(tái)上，有大量與生態(tài)合作伙伴共同打造的算法商城，能夠提供覆蓋14個(gè)大類、100+個(gè)小類、千余種算法。

　　用戶可以直接調(diào)用預(yù)訓(xùn)練算法，并上傳自身場(chǎng)景圖片完成算法的微調(diào)和升級(jí)，快速訓(xùn)練出高精度算法。

　　在演示中，以店外經(jīng)營(yíng)為例，當(dāng)用戶需要訓(xùn)練識(shí)別算法時(shí)，可以直接使用平臺(tái)現(xiàn)成的算法對(duì)目標(biāo)進(jìn)行識(shí)別。用戶只需要對(duì)識(shí)別結(jié)果標(biāo)記“正確”和“誤報(bào)”，算法精度就能通過(guò)自主學(xué)習(xí)快速提升。

　　那數(shù)據(jù)幾乎空白的場(chǎng)景，如天災(zāi)人禍等極端場(chǎng)景，面對(duì)這樣“敏感數(shù)據(jù)”“無(wú)數(shù)據(jù)”的情況，用戶該如何訓(xùn)練算法?

　　云天勵(lì)飛給出的答案是——使用AI合成數(shù)據(jù)來(lái)訓(xùn)練算法。

　　據(jù)介紹，以加油站場(chǎng)景的吸煙識(shí)別為例，“深目”AI模盒能夠利用大模型能力，以加油站為背景，生成在該環(huán)境抽煙行為的人物，并將數(shù)據(jù)用于算法訓(xùn)練中，填補(bǔ)訓(xùn)練數(shù)據(jù)的空白。

　　“在我們AI合成數(shù)據(jù)的過(guò)程中，我們也會(huì)基于已有的一些真實(shí)數(shù)據(jù)并引入3D引擎去精準(zhǔn)微調(diào)、預(yù)訓(xùn)練我們的大模型，讓生成的效果更加貼近真實(shí)的場(chǎng)景。”云天勵(lì)飛董事長(zhǎng)兼CEO陳寧解釋道。

　　十年磨一劍，出鞘必鋒芒。2014年，云天勵(lì)飛推出基于CV小模型的“深目”1.0，為“AI+公共安全”市場(chǎng)開(kāi)啟了新紀(jì)元;2024年，云天勵(lì)飛選擇二次創(chuàng)業(yè)，推出了基于自研芯片和大模型技術(shù)的“深目”AI模盒。

　　“深目”AI模盒的面世也充分印證了AI商業(yè)化須從方案化到運(yùn)營(yíng)化再到產(chǎn)品化的發(fā)展路徑，未來(lái)，我們期待云天勵(lì)飛能傳來(lái)更多AI大模型在安防落地的好消息。