AI在安防行業(yè)的探索和落地：大模型賦能下，如何塑造安防新紀(jì)元？
來源:安防行業(yè)網(wǎng)
|
作者:龍運智能
|
發(fā)布時間: 2023-12-08
|
827 次瀏覽
|
分享到:
隨著人工智能技術(shù)的不斷發(fā)展和應(yīng)用，安防領(lǐng)域正成為AI技術(shù)商業(yè)化落地發(fā)展最快、市場容量最大的主賽道之一。在AI大模型的賦能下，安防行業(yè)將會迎來怎樣的新突破和新發(fā)展呢？
隨著人工智能技術(shù)的不斷發(fā)展和應(yīng)用，安防領(lǐng)域正成為AI技術(shù)商業(yè)化落地發(fā)展最快、市場容量最大的主賽道之一。在AI大模型的賦能下，安防行業(yè)將會迎來怎樣的新突破和新發(fā)展呢？一、安防行業(yè)，在過去一年里有哪些明顯的變化呢？據(jù)深圳市安全防范行業(yè)協(xié)會等機構(gòu)的調(diào)查統(tǒng)計顯示，安防行業(yè)2023年產(chǎn)值約為9460億元，增長幅度為4.9%。同時，相關(guān)報道顯示，2022年中國安防設(shè)備市場達(dá)1878億元，其中視頻監(jiān)控市場達(dá)808億元，防盜報警市場達(dá)214億元，出入口控制市場達(dá)528億元，樓宇對講、智能家居市場達(dá)328元。2023處于經(jīng)濟發(fā)展的復(fù)蘇期，那么對于安防市場而言，在過去一年里有哪些明顯的變化呢？其實安防市場大的變化主要有2個方面：一是傳統(tǒng)的政府類項目市場進(jìn)展緩慢，隨著雪亮工程等大規(guī)模城市級項目建設(shè)進(jìn)入尾聲，政府端對公共安全的投入呈現(xiàn)放緩的態(tài)勢，大部分企業(yè)開始向商業(yè)市場布局；二是生成式AI及大模型席卷各行各業(yè)，安防行業(yè)作為AI落地最佳場景，在過去的三年中卻陷入了沉默期。二、AI大模型混戰(zhàn)，漸進(jìn)產(chǎn)業(yè)化落地ChatGPT的出現(xiàn)讓大眾領(lǐng)略到生成式AI的力量，令人振奮，這也宣告著大模型時代正式到來。對此，安防人也更多的思考——視頻感知、圖像感知與大模型結(jié)合，會有怎樣的技術(shù)變革?安防、智慧物聯(lián)碰上大模型，會產(chǎn)生怎樣的火花?在安博會開場的前一天，10月24日，大華發(fā)布了星漢大模型。早在今年五月，宇視就發(fā)布了“梧桐”大模型。如今，大華的入局，將AI大模型這一池子水，攪動得更劇烈了。據(jù)悉，大華“星漢”大模型是以視覺解析為核心的多模態(tài)融合行業(yè)大模型，能夠帶來AI算法準(zhǔn)確性和泛化性躍升，實現(xiàn)圖文提示定義新功能，突破視覺認(rèn)知能力，全場景自主解析，高效滿足海量碎片化需求，將首先在城市治理和電力行業(yè)進(jìn)行應(yīng)用。值得注意的是，“星漢”大模型支持大小模型與算力協(xié)同，通過算法融合，實現(xiàn)大小模型協(xié)同部署，為用戶構(gòu)建好用、用得起的大模型系統(tǒng)。大華還專門成立未來通信研究院，專注進(jìn)行視頻數(shù)據(jù)智能化連接的底層研究，對“全連接”能力進(jìn)行加強和提升。同為股份也特地開辟了一塊AI大模型系統(tǒng)體驗區(qū)，同時展出了同為開放訓(xùn)練解決方案，支持大模型少樣本學(xué)習(xí)的能力，易于開發(fā)跨場景算法應(yīng)用，助力視覺AI算法在更多細(xì)分行業(yè)落地，打通AI落地的最后一公里。據(jù)悉，同為自研的AI大模型系統(tǒng)屬于百億級視覺語言多模態(tài)大模型，可深度理解視頻和自然語言，感知場景中更多目標(biāo)種類、屬性和關(guān)聯(lián)態(tài)勢，進(jìn)一步提升安防系統(tǒng)的管理的范圍、效率和智能化程度。據(jù)工作人員介紹，目前同為AI大模型尚未正式發(fā)布，此次在展區(qū)展出的AI大模型系統(tǒng)為首次展出，預(yù)計年底將正式發(fā)布全新的行業(yè)大模型，可深度加持、理解安防行業(yè)任務(wù)和數(shù)據(jù)，進(jìn)一步賦能安防產(chǎn)業(yè)生態(tài)圈。記者走訪了解到，天視通也正在著手自研行業(yè)大模型的工作，專注研發(fā)人/動物的精準(zhǔn)識別和統(tǒng)計，以期借助智能算法動物識別技術(shù)幫助畜牧業(yè)實現(xiàn)高效的動物管理，自動記錄動物種類、數(shù)量等信息，增強算法泛化能力，實現(xiàn)精準(zhǔn)的養(yǎng)殖和數(shù)據(jù)分析。記者發(fā)現(xiàn)，算能也設(shè)置了一個互動體驗區(qū)——AIGC繪畫體驗、AI公文寫作等互動體驗，全面展示了AI生成、AI校對、AI續(xù)寫、AI靈感等智能能力，十分有趣。例如，在AI公文寫作互動中，輸入“工作報告”等兩三個關(guān)鍵詞標(biāo)簽，便可生成一篇文章，并且關(guān)鍵詞越具體，輸出的內(nèi)容也越專業(yè)、具體。此外，還有針對法律行業(yè)的大模型-智能法務(wù)助理法小開——可根據(jù)輸入內(nèi)容，為咨詢者提出相對專業(yè)、細(xì)化的法律依據(jù)與建議。還有，熵基展出的BioCV大語言模型也支持多語言表達(dá)與理解、持續(xù)繪畫、邏輯推理等能力。并且基于7B模型進(jìn)行場景微調(diào)，開發(fā)了基于大語言模型的醫(yī)療助手，實現(xiàn)了位置查詢、在班醫(yī)生查詢和預(yù)約醫(yī)生等功能。此外，360智慧生活展區(qū)的視覺云應(yīng)用體驗區(qū)也有生成式AI的展示成果——圖文問答、開放目標(biāo)檢測......仍有多家企業(yè)展會上秀出大模型的“肌肉”。整體來看，越來越多的中大型企業(yè)已經(jīng)開始注重自研行業(yè)大模型的能力。AI大模型，已經(jīng)不再只是一個概念，它變成了一種能力的體現(xiàn)，開始成為真正有實力底蘊的安防、智慧物聯(lián)廠商秀“肌肉”的舞臺。AI大模型在漸進(jìn)落地的過程中，將會有越來越多的玩家涌入，安防識別與分析能力將會有質(zhì)的飛躍。三、大模型帶來想象空間 但行業(yè)化應(yīng)用面臨不少考驗以AIGC為例，其在語義理解、文本創(chuàng)作、邏輯推理等領(lǐng)域的卓越表現(xiàn)，以及自然語言對話的低門檻交互方式，讓行業(yè)看到智能化升級又將迎來新的發(fā)展空間。對于特定行業(yè)的碎片化場景，用戶其實并不需要通用大模型的全面能力，更需要行業(yè)大模型的精度和質(zhì)量。在行業(yè)知識圖譜的基礎(chǔ)上，以沉淀的行業(yè)數(shù)據(jù)、專家經(jīng)驗以及工程實踐能力予以配合，通用大模型演進(jìn)下的行業(yè)垂直模型將拉開強人工智能場景化應(yīng)用新序幕。眾所周知，作為數(shù)字化和智能化應(yīng)用的前沿領(lǐng)域，安防行業(yè)擁有極為豐富的感知設(shè)備和可觀的數(shù)據(jù)資源，再加上廣泛的應(yīng)用場景，行業(yè)必將成為大模型率先落地的垂直領(lǐng)域之一。伴隨著高性能、高穩(wěn)定的大模型不斷突破發(fā)展，更高通用性和工業(yè)化水平AI2.0將持續(xù)拓寬安防行業(yè)數(shù)字化、智能化的邊界。一方面大模型、AGI等新一輪的AI技術(shù)變革將使得安防領(lǐng)域AI算法更加精準(zhǔn)。另一方面通過多模態(tài)技術(shù)可以將圖像、語音和文本等數(shù)據(jù)進(jìn)行融合，實現(xiàn)多樣化海量數(shù)據(jù)深度挖掘，并在此基礎(chǔ)上進(jìn)一步提取數(shù)據(jù)內(nèi)容關(guān)聯(lián)價值。例如在多種非結(jié)構(gòu)性數(shù)據(jù)中提取相關(guān)的人、事、物、組織等關(guān)鍵要素，繼而形成具有知識價值的圖譜，不但提升了長尾AI需求落地的效率和效果，更有可能改變相關(guān)產(chǎn)品研發(fā)、項目運營等環(huán)節(jié)的交互方式。可以相信，伴隨著AI大模型等技術(shù)在安防領(lǐng)域逐漸落地及場景突破，有望在行業(yè)內(nèi)真正構(gòu)建起事前預(yù)測預(yù)防、事中制止、事后監(jiān)督的治理體系與機制，進(jìn)而提高社會預(yù)測預(yù)警預(yù)防各類風(fēng)險能力，增強社會公共安全防控的整體性、協(xié)同性、精準(zhǔn)性，更能推而廣之，探索安防在安全生產(chǎn)、應(yīng)急防災(zāi)、生態(tài)建設(shè)與保護(hù)等領(lǐng)域的深度應(yīng)用。AI大模型融入公共安全領(lǐng)域其背后的價值將不可估量。2、行業(yè)化發(fā)展面臨應(yīng)用與安全諸多挑戰(zhàn)在誘人的發(fā)展前景外，技術(shù)的雙刃劍效應(yīng)在AI大模型上依然不容小覷。正如覃智泉主任所言，當(dāng)前公安領(lǐng)域面臨著AI大模型應(yīng)用及安全方面諸多問題需要深入思考。在應(yīng)用方面，哪些業(yè)務(wù)可以引入大模型？用哪些業(yè)務(wù)數(shù)據(jù)進(jìn)行大模型訓(xùn)練？數(shù)以千億計的數(shù)據(jù)進(jìn)行訓(xùn)練必將帶來高昂的費用支出，誰來承擔(dān)？大模型在公安工作中落地應(yīng)用，帶來的法律跟責(zé)任問題該如何界定等等；在安全方面，如何保證訓(xùn)練數(shù)據(jù)安全，AI大模型帶來的虛假信息、深度偽造信息等如何解決？這些已經(jīng)成為阻擋AI大模型賦能公安應(yīng)用較為現(xiàn)實的問題。在AI大模型應(yīng)用部署上，華為技術(shù)有限公司科學(xué)家胡善勇也提出：由通用大模型向?qū)I(yè)行業(yè)大模型演進(jìn)，需要投入高昂的算力成本、數(shù)據(jù)成本、算法成本以及人力成本，這與狹窄行業(yè)應(yīng)用對應(yīng)的商業(yè)價值和商業(yè)收益不成正比，因此目前來看，面向行業(yè)大模型還難以形成正向的商業(yè)應(yīng)用閉環(huán)，需要企業(yè)持續(xù)不斷地試錯與投入。安全問題是AI大模型另一較為凸顯的話題，近段時間無論是AI“黑產(chǎn)”，還是深度偽造帶來的涉詐犯罪風(fēng)險正在積聚。在此次人工智能論壇上，美亞柏科AI研發(fā)中心總經(jīng)理趙建強等相關(guān)專家系統(tǒng)地總結(jié)了AI大模型在數(shù)據(jù)安全方面面臨的一些困境：一方面AI大模型存在算法、數(shù)據(jù)等安全風(fēng)險。以算法風(fēng)險為例，大模型無法抵抗提示注入、對抗樣本等攻擊，可靠性低。如受到攻擊，用于大模型訓(xùn)練的一些個人隱私數(shù)據(jù)容易泄露，尤其是涉及到的個人身份信息。同時，它還存在歧視、倫理偏見等數(shù)據(jù)方面的問題。另一方面大模型、生成式AI（AIGC）技術(shù)存在被不法分子利用的風(fēng)險，如通過深度偽造相關(guān)視頻或圖像信息進(jìn)行詐騙，目前國內(nèi)已經(jīng)出現(xiàn)類似的案件。同時，生成式人工智能技術(shù)可能帶來非常多的虛假信息，或者說加速虛假信息的生成和傳播。除了以上兩個方面，AI大模型或者生成式人工智能技術(shù)本身及應(yīng)用過程中還會帶來很多在倫理道德、法理、法律等方面的挑戰(zhàn)，甚至可能影響整個社會穩(wěn)定，危害到國家安全。3、大模型可信與規(guī)范化需要評測標(biāo)準(zhǔn)據(jù)賽迪顧問統(tǒng)計顯示，截至2023年7月，國內(nèi)累計已經(jīng)有130個大模型問世，再加上一些企業(yè)孵化的行業(yè)大模型，有人戲稱目前國內(nèi)已經(jīng)進(jìn)入“千模大戰(zhàn)”。然而，這些大模型是否果真名副其實，能否稱得上“大模型”，以及當(dāng)前公布的大模型算法是否有缺陷、內(nèi)容是否符合法律法規(guī)要求及政策監(jiān)管，都不得而知。面對大模型、AIGC急速發(fā)展帶來的一系列應(yīng)用與安全問題，如何構(gòu)建可信的AI大模型、實現(xiàn)對AIGC內(nèi)容的規(guī)范管理已經(jīng)成為行業(yè)及國家重點關(guān)注的內(nèi)容。清華大學(xué)互聯(lián)網(wǎng)司法研究院助理教授艾清遙表示，相較于智能輔助駕駛，目前對于AI大模型能力的評測，尤其是AIGC內(nèi)容方面的檢測還沒有一個通用指標(biāo)或通用范式。在安全問題受到高度重視的當(dāng)下，AI大模型產(chǎn)業(yè)需要統(tǒng)籌發(fā)展與安全，特別是涉及公共安全領(lǐng)域的垂直應(yīng)用大模型，亟需建立可信與規(guī)范化的評測標(biāo)準(zhǔn)體系。四、多方聯(lián)動并舉 助力行業(yè)大模型規(guī)范化應(yīng)用“變革是由問題倒逼而產(chǎn)生，又在不斷解決問題中而深化?！盇I通用大模型在向行業(yè)大模型持續(xù)精進(jìn)的過程中，需要跨過應(yīng)用適配性與安全規(guī)范化兩道坎，這也是當(dāng)前各個行業(yè)針對大模型發(fā)力的重點。“行業(yè)大模型落地部署，硬件非常簡單，通過加大算力的部署即可實現(xiàn)。真正的挑戰(zhàn)是軟件技術(shù)以及對行業(yè)業(yè)務(wù)層面的深度理解。”胡善勇表示，行業(yè)大模型對公共安全治理將會是一場非常重大開創(chuàng)性變革，雖然在公安與司法領(lǐng)域，大模型商業(yè)化應(yīng)用閉環(huán)還較難實現(xiàn)，但前期的戰(zhàn)略預(yù)研至關(guān)重要，這不但需要國家及地方政府予以資源支持，還需要在統(tǒng)一引領(lǐng)下，通過產(chǎn)學(xué)研以及社會組織共同努力實現(xiàn)預(yù)研的持續(xù)推進(jìn)，在為大模型行業(yè)化應(yīng)用打下堅實基礎(chǔ)的前提下，相信在未來三到五年公共安全行業(yè)大模型應(yīng)用將會有成效彰顯。自AI落地行業(yè)之日起，安全問題已經(jīng)不是一個應(yīng)用層面的問題，而是產(chǎn)業(yè)級問題。胡善勇特別強調(diào)，AI安全問題關(guān)鍵是源頭，通過法律、法規(guī)前置化處理以達(dá)到治理非結(jié)構(gòu)數(shù)據(jù)帶來的深度偽造與虛假信息。趙建強也提出，針對AI大模型及生成式人工智能技術(shù)的安全治理需要從多個方面入手:一是要源頭治理，國家發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》明確提出來在生成式人工智能技術(shù)研發(fā)過程中進(jìn)行數(shù)據(jù)標(biāo)注。相關(guān)部門也將制定相應(yīng)的分類分級監(jiān)管規(guī)則或者指引，加強對生成式人工智能的模型、算法、數(shù)據(jù)的安全評估和管控。二是要加強行業(yè)自律，無論是內(nèi)容生產(chǎn)、應(yīng)用還是服務(wù)，相關(guān)企業(yè)需要加強自律，需要對大模型從技術(shù)、內(nèi)容等方面進(jìn)行深度審核、管理、治理；行業(yè)組織則需加快相應(yīng)產(chǎn)品評估方法和標(biāo)準(zhǔn)落地，以引導(dǎo)行業(yè)發(fā)展。三是通過技術(shù)的方式去支撐法律、規(guī)則和標(biāo)準(zhǔn)落地，實現(xiàn)對大模型產(chǎn)品的“質(zhì)檢”。目前人為因素已經(jīng)沒有辦法監(jiān)督和評價生成式人工智能所生成的內(nèi)容，需要通過AI方式進(jìn)行鑒別，以AI對抗AI，進(jìn)而實現(xiàn)對大模型進(jìn)行安全性評估，對內(nèi)容數(shù)據(jù)進(jìn)行相應(yīng)的監(jiān)督檢查，實現(xiàn)最大限度發(fā)現(xiàn)可能存在的偽造、虛假信息。正如前段時間熱映的《奧本海默》引發(fā)的熱議，原子彈的研發(fā)對人類而言最終是利是弊，發(fā)人深省。也許當(dāng)前社會正處于強人工智能的“奧本海默時刻”，面對快速迭代的AI大模型以及AIGC技術(shù)，AI技術(shù)“雙刃劍”效應(yīng)必然要求行業(yè)必須堅持發(fā)展與安全并重的態(tài)度，才能讓新技術(shù)真正發(fā)揮更大價值。
（文章來源于：安防行業(yè)網(wǎng)，如有侵權(quán)請聯(lián)系刪除）
