好爽又高潮了毛片免费下载,国产97在线 | 亚洲,亚洲一区二区三区AV无码,特级AAAAAAAAA毛片免费视频

移動端

AI大數據時代下安防云存儲關鍵技術應用

2019年08月28日 19:04$artinfo.Reprint點擊量:1142

  針對視頻云存儲技術,業內主流安防廠家可以說已經做得爐火純青了。安防廠家將云存儲的底層技術與安防流媒體結合,形成了安防特色云直存產品。無需外部設備拉流,存儲可直接接收前端傳輸過來的數據。但如今,安防行業也發生了翻天覆地的變化,視頻流已經*不能代表安防行業的數據特色了,AI時代即將來臨。
 
  目前業內的AI數據內容主要有人臉數據和結構化數據兩種,包含機動車、非機動車、行人。數據類型包含了圖片、抓拍記錄、報警記錄、圖片屬性信息等一系列非結構化數據。這類數據的特點是比較碎片化,與視頻流數據類型不同。視頻流可以保證持續不斷的寫入,而且文件打包大小比較均勻。但是碎片化的文件,由于其大小和數量都是未知,零散的寫入對CPU和硬盤資源的消耗都是很大的。對CPU來說,需要同時處理很多的線程。對于硬盤來說,磁頭需要不斷的換道尋址,大大減少了硬盤的壽命。
 
  對于這種比較特別的數據類型,傳統的流媒體服務無法進行處理。目前主流安防廠商都為此專門開發了用于拉取此類數據流的軟件,安裝在通用的存儲硬件中就可實現存儲功能。由于是新興市場,目前絕大多數場景中使用單臺設備存儲就可以滿足,但隨著AI的普及,數據量也將不斷增大,對于一座城市來講,為了掌握城市中交通狀況,需要采集每一條道路、每一個路口的車輛數量信息、擁堵信息以及車流走向等。通過算法后的數據,可以模擬城市交通的運行狀況,以此來預測下一秒的動向,及時作出預警方案,實現真正的大數據時代。當數據規模擴大到一定程度的時候,底層的云存儲機制將是人們不得不考慮的技術支撐。但這樣的話問題就出現了,傳統安防云存儲只有對視頻的接入能力,無法主動獲取結構化數據。于是,在未來的短期內,這種AI數據云存儲勢必成為存儲應用層的主流。
 
  雖然通過應用層與底層的對接,可以實現一體化的AI數據云存儲,但是當數據類型進一步進化,出現新的數據結構時,云存儲將如何應對?一味地做兼容開發勢必不是長久之計,還會浪費人力物力。更糟糕的是,如果在一個現場存在多種數據類型,那就需要部署多套云存儲來進行不同數據的存儲,這對存儲空間是一種極大的浪費,占用的資金成本也*,可行性極低。
 
  針對安防行業的業務特性,云存儲的以下兩大技術方向需要重點突破:
 
  一是元數據組織和框架構建,解決大規模集群管理和海量文件的問題。
 
  整個分布式系統中需要管理的節點數成百上千臺,用戶的一個真實文件會被分布在多臺節點上,由多臺節點負責承載真實數據的寫入。在讀取時需要經過元數據管理服務器請求拿到數據位置信息,從而發起讀取。而針對元數據請求的性能是逐級遞歸還是一次訪問就能完成操作,是衡量整個系統性能的關鍵要素。
 
  對于一個單獨的大文件,是否能充分發揮讀寫性能,涉及拆分粒度問題。元數據服務作為核心,需要能在支持上千的節點、上萬的客戶端請求完成高速并發處理,這在基礎的協議框架和信令交互模型上就需要考慮齊全,通過超高協議序列化和反序列化性能、可擴展的協議設計、網絡框架模型、任務處理模型這些底層基礎件上一層層向上,在每個環節中都做到處理。一個合理元數的組織結構可以采用類型對象存儲的分桶方式,讓數據hash分布,實現文件的簡單管理,對于桶內數據不需要采用類似傳統目錄樹形式進行逐級的遍歷,僅需一次定位就可以完成操作。
 
  對于文件的數據塊組織管理,一方面要控制較好的粒度實現IO能充分發揮多節點多磁盤的優勢,另一方面需要降低元數據的管理壓力,提升管理的集群規模數和文件數量。在存儲節點上存在用戶的數據塊被切分成一段段落在各個磁盤內,系統長期運行或者重啟、掉電、字節跳變等,需要能夠將節點管理的數據塊和元數據中的數據塊進行比較,查出差異項完成修正,對于損壞數據提早觸發恢復,這就要求元數據在組織合理,能夠快速的查找到對應節點的元數據信息,并在比較處理過程中不影響其他的元數據實時訪問和新增。
 
  二是明確的讀寫模型對提供業務使用語義,解決視頻和圖片不同寫入和讀取要求。
 
  常見的讀寫并非提供一個接口就行,需要有明確的讀寫語義。比如文件系統提供的是文件操作語義,按open/write/read/close模式,并支持seek和修改、追加的語義;S3接口提供的是putObject/getObject接口,按照一次完成上傳,上傳后可以見的語義;HDFS提供的是類似文件系統的操作語義,但不支持修改。
 
  對視頻而言,應該按照文件的語義但又無需支持追加和修改,僅需支持流式的寫入,并支持邊寫邊讀,避免業務層需要開大緩存或者將視頻文件緩存本地才能上傳。對于圖片寫入方式也是同理,也應支持文件流方式寫入。雖然看上去圖片可以一次寫入一張,但是現在的圖片高清化可以有1MB或者更大,僅通過設置緩存大小完成應用程序的一張圖寫入,會出現云存儲的客戶端內的內存占用過大或者寫入不夠平滑會存在一頓一頓的效果并引發緩存滿出現圖片丟失問題。在讀取上,對一張圖片內數據沒寫入完成無需可讀,但是整張寫入完成是要立即可讀。
 
  再從文件名角度看,由于每張圖片對應一條前端的抓拍記錄,因此對圖片地址可以隨結構化記錄一起存儲,對于用戶來說無需關系圖片地址生成方式,這意味著圖片地址可以由系統返回進行生成。對于視頻流存儲后形成的錄像文件來說,使用方可以無需記錄每段錄像文件名,通過云存儲提供的文件名能力,按照自定義的業務邏輯生成文件名,后續按照規則進行查詢即可完成錄像列表或者錄像文件的回放。
 
  另外,隨著AI在安防領域落地,異構云存儲將存儲的應用層與文件管理層、資源分配層獨立開發部署,這樣一來,做云存儲底層和硬件的廠商可以專心保障存儲機制的穩定性,應用廠商可以專心做不同數據類型的兼容。只要底層標準化做好,各大安防與存儲廠商就可以形成一個穩定的生態合作。一方提供物理資源,一方提供上層業務,不再局限于軟硬一體的產品模式。在此基礎上,一些受限于資本投入的廠家甚至可以開發自己的云服務。上層的應用軟件甚至可以存儲在云端,作為一個公用資源,讓終端用戶開發屬于自己的專業存儲服務。
版權與免責聲明: 凡本網注明“來源:智慧城市網”的所有作品,均為浙江興旺寶明通網絡有限公司-智慧城市網合法擁有版權或有權使用的作品,未經本網授權不得轉載、摘編或利用其它方式使用上述作品。已經本網授權使用作品的,應在授權范圍內使用,并注明“來源:智慧城市網www.cmr6829.com”。違反上述聲明者,本網將追究其相關法律責任。

本網轉載并注明自其它來源(非智慧城市網www.cmr6829.com)的作品,目的在于傳遞更多信息,并不代表本網贊同其觀點或和對其真實性負責,不承擔此類作品侵權行為的直接責任及連帶責任。其他媒體、網站或個人從本網轉載時,必須保留本網注明的作品第一來源,并自負版權等法律責任。

編輯精選

更多

本站精選

更多

專題推薦

更多

名企推薦

更多

浙公網安備 33010602000006號