當(dāng)前位置：成都萬(wàn)緯信息技術(shù)有限公司>>華三>>大數(shù)據(jù)/服務(wù)器>>H3C AIOS人工智能平臺(tái)

H3C AIOS人工智能平臺(tái)

返回列表頁(yè)

參考價(jià)

面議

具體成交價(jià)以合同協(xié)議為準(zhǔn)

產(chǎn)品型號(hào)

品牌

廠商性質(zhì)其他

所在地成都市

在線詢價(jià) 收藏產(chǎn)品查看聯(lián)系電話

聯(lián)系方式：譚先生查看聯(lián)系方式

更新時(shí)間：2024-04-07 12:58:14瀏覽次數(shù)：230次

聯(lián)系我時(shí)，請(qǐng)告知來自智慧城市網(wǎng)

產(chǎn)品分類 品牌分類

  華三

新安防

云計(jì)算/超融合

大數(shù)據(jù)/服務(wù)器

無(wú)線安全

存儲(chǔ)

交換路由

智能數(shù)據(jù)中心網(wǎng)絡(luò)

全部產(chǎn)品列表

暫無(wú)信息

成都萬(wàn)緯信息技術(shù)有限公司

經(jīng)營(yíng)模式：其他

商鋪產(chǎn)品：167條

所在地區(qū)：

聯(lián)系人：譚先生

詢價(jià) 給他留言

產(chǎn)品簡(jiǎn)介

隨著AI科學(xué)計(jì)算的技術(shù)突破

詳細(xì)介紹

隨著AI科學(xué)計(jì)算的技術(shù)突破，人工智能已經(jīng)廣泛應(yīng)用于各行各業(yè)，如醫(yī)療、金融、汽車、法律、工業(yè)、教育等等，其中AI科學(xué)計(jì)算服務(wù)中心化也成為眾望所歸的選擇，雖然AI 深度學(xué)習(xí)目前的門檻有所降低，但是對(duì)于專業(yè)的數(shù)據(jù)科學(xué)家，依然是需要為了環(huán)境搭建，并行運(yùn)算，分布式存儲(chǔ)，作業(yè)調(diào)度等基礎(chǔ)設(shè)施和服務(wù)耗費(fèi)較多的人力和成本，為此，H3C AIOS人工智能平臺(tái)應(yīng)運(yùn)而生，提出軟硬件一體化方案，從基礎(chǔ)硬件的部署和軟件安裝，到交互式開發(fā)環(huán)境的一鍵啟動(dòng)，從模型的深度訓(xùn)練和調(diào)優(yōu)，到多機(jī)多卡GPU作業(yè)靈活調(diào)度，H3C AIOS人工智能平臺(tái)，提供了十分簡(jiǎn)潔的使用方式，實(shí)現(xiàn)了資源的整合/彈性擴(kuò)容縮容和合理調(diào)度,同時(shí)也提供豐富的可自定義的軟件和鏡像和二次開發(fā)的API接口，可方便的集成進(jìn)入原有SaaS平臺(tái)。
針對(duì)圖像處理、語(yǔ)音識(shí)別、自然語(yǔ)言處理等深度學(xué)習(xí)場(chǎng)景下，需要搭建大規(guī)模的GPU集群，針對(duì)不同的算法模型、不同的深度學(xué)習(xí)框架，用戶如何統(tǒng)一調(diào)度與管理GPU集群的計(jì)算資源、存儲(chǔ)資源，分配給不同的租戶使用，是需要解決的問題。
對(duì)于TensorFlow、Caffe、MxNet等深度學(xué)習(xí)框架，如何快速部署，提供開發(fā)鏡像環(huán)境，滿足不同用戶在不同場(chǎng)景下的框架需求、算法需求與開發(fā)需求，也是數(shù)據(jù)科學(xué)家難以逾越的一道門檻。
面對(duì)不同用戶同時(shí)進(jìn)行模型訓(xùn)練、在線推理，采用什么策略對(duì)各個(gè)任務(wù)進(jìn)行調(diào)度，是搶占模式還是先出，以及每個(gè)訓(xùn)練任務(wù)利用哪個(gè)GPU加速卡，每個(gè)卡的運(yùn)行狀態(tài)如何，都需要統(tǒng)一的監(jiān)控與管理。
針對(duì)以上問題，為用戶提供一體化的軟硬件部署和管理服務(wù)，減少系統(tǒng)安裝維護(hù)工作量；優(yōu)化分布式訓(xùn)練部署模型，實(shí)現(xiàn)多機(jī)多卡GPU資源與訓(xùn)練作業(yè)靈活調(diào)度；提供豐富的可自定義軟件和鏡像庫(kù)，充分滿足客戶對(duì)AI計(jì)算環(huán)境的需求。
• 靈活的資源調(diào)度機(jī)制：提供強(qiáng)大的資源調(diào)度策略，以及資源實(shí)時(shí)監(jiān)控，使企業(yè)可以有效、合理的使用各種計(jì)算資源。
• 完善的API接口服務(wù)：系統(tǒng)所有核心業(yè)務(wù)，都對(duì)外提供完善的API接口，用戶可以通過這些接口，實(shí)現(xiàn)人工智能平臺(tái)服務(wù)與用戶已有SaaS平臺(tái)的深度集成。
• 靈活的權(quán)限管理策略：系統(tǒng)通過對(duì)人員角色權(quán)限的劃分，以及資源的使用規(guī)劃，使得平臺(tái)中不同的用戶的計(jì)算資源都能很好的隔離，滿足企業(yè)對(duì)權(quán)限管理的各種要求。
• 豐富的性能監(jiān)控服務(wù)：AIOS平臺(tái)提供完善的性能監(jiān)控服務(wù)，能實(shí)時(shí)監(jiān)控系統(tǒng)所有服務(wù)的健康狀況和硬件/網(wǎng)絡(luò)利用率情況，并針對(duì)各種日常運(yùn)維工作，提供可視化的操作界面，提高系統(tǒng)運(yùn)維管理者的工作效率。

特性及優(yōu)勢(shì)

AIOS平臺(tái)為用戶提供了強(qiáng)大的全流程可視化管理平臺(tái)：交互學(xué)習(xí)平臺(tái)，集群管理平臺(tái)，性能監(jiān)控平臺(tái)，審計(jì)平臺(tái)這四大模塊又同時(shí)對(duì)外提供豐富的接口組件，使得用戶既可以通過我們的平臺(tái)進(jìn)行常規(guī)業(yè)務(wù)操作，又可以利用我們提供的接口組件，將核心服務(wù)集成到自己現(xiàn)有系統(tǒng)中。
AIOS平臺(tái)提供了一系列的函數(shù)庫(kù)，方便用戶在建模編寫腳本的過程中，快速調(diào)用這些函數(shù)而無(wú)需關(guān)心這些業(yè)務(wù)無(wú)關(guān)的技術(shù)細(xì)節(jié)；同時(shí)我們?cè)谙到y(tǒng)不同功能模塊中，提供了不同的工作集，方便用戶在具體場(chǎng)景中快速操作。所有這些，都大大加速了用戶在開發(fā)人工智能解決方案時(shí)的速度。
統(tǒng)一的集群管理：負(fù)責(zé)整個(gè)系統(tǒng)計(jì)算資源的集中管理、統(tǒng)一分配與作業(yè)調(diào)度，包括GPU資源池的集中管理與分配、多租戶方式隔離計(jì)算資源、以作業(yè)方式動(dòng)態(tài)分配計(jì)算資源以及計(jì)算資源回收等。
統(tǒng)一的監(jiān)控運(yùn)維：實(shí)時(shí)監(jiān)控管理集群資源使用情況和集群狀態(tài)，包括作業(yè)狀態(tài)、GPU使用率、集群健康度等，并分析每一類的資源占用情況，提供觸發(fā)預(yù)警機(jī)制。
統(tǒng)一的開發(fā)環(huán)境：支持拖拽式和編碼式建模，提供一站式的交互開發(fā)操作界面，幫助用戶完成模型腳本在線編輯、模型訓(xùn)練、模型驗(yàn)證以及模型推理等核心功能，并結(jié)合硬件資源可視化、作業(yè)調(diào)度器，提高系統(tǒng)硬件資源的利用率。

產(chǎn)品功能特性

資源管理服務(wù)：系統(tǒng)提供完備的資源管理平臺(tái)，對(duì)所有計(jì)算資源進(jìn)行集中管理，通過該平臺(tái)，可以實(shí)現(xiàn)對(duì)各類資源的狀態(tài)查詢以及相關(guān)維護(hù)操作。

任務(wù)流建模：任務(wù)流建模是整個(gè)建模過程的核心，用戶可以利用平臺(tái)提供的標(biāo)準(zhǔn)化組件進(jìn)行無(wú)編碼式的建模，也可以通過平臺(tái)提供的各類框架運(yùn)行組件，編寫自定義腳本進(jìn)行建模訓(xùn)練。

實(shí)時(shí)日志：用戶在訓(xùn)練過程中，可以打開實(shí)時(shí)日志查看功能，實(shí)時(shí)查看訓(xùn)練過程中輸出的日志。

在線腳本編輯服務(wù)：
平臺(tái)為了方便用戶更好更快速的修改自己的建模腳本，在任務(wù)流界面提供文件管理功能，方便用戶及時(shí)找到自己的腳本，并進(jìn)行在線腳本編輯。

在線文件管理支持用戶瀏覽自己的整個(gè)文件空間，并支持圖像預(yù)覽、在線編輯編輯，全屏腳本編輯等操作。
在線推理服務(wù)
人工智能計(jì)算平臺(tái)模型訓(xùn)練的目的是為了訓(xùn)練出符合要求的模型，而在線預(yù)測(cè)才是讓模型產(chǎn)生價(jià)值的地方。平臺(tái)提供通用推理鏡像服務(wù)，支持將主流模型文件部署為在線服務(wù)，并提供統(tǒng)一的模型接入規(guī)范，支持多種模式格式。
同時(shí)，平臺(tái)在線推理服務(wù)支持推理接口的在線預(yù)測(cè)功能，以及模型推理服務(wù)的多實(shí)例部署。

系統(tǒng)構(gòu)架

的前后臺(tái)分離架構(gòu)

在以前傳統(tǒng)的網(wǎng)站開發(fā)中，前端一般扮演的只是切圖的工作，只是簡(jiǎn)單地將UI設(shè)計(jì)師提供的原型圖實(shí)現(xiàn)成靜態(tài)的HTML頁(yè)面，而具體的頁(yè)面交互邏輯，比如與后臺(tái)的數(shù)據(jù)交互工作等，可能都是由后臺(tái)的開發(fā)人員來實(shí)現(xiàn)的，或者是前端是緊緊的耦合后臺(tái)。導(dǎo)致后臺(tái)的開發(fā)壓力大大增加，前后端工作分配不均。不僅僅開發(fā)效率慢，而且代碼難以維護(hù)。
AIOS采用的前后端分離架構(gòu)，很好的解決前后端分工不均，開發(fā)過程相互依賴，bug難以定位等諸多問題。將更多的用戶交互邏輯由前端專職處理，而后端則可以專注于數(shù)據(jù)處理，業(yè)務(wù)權(quán)限控制等，前后端通過標(biāo)準(zhǔn)的restful接口實(shí)現(xiàn)數(shù)據(jù)交互。
后端專注于：服務(wù)層 & 數(shù)據(jù)訪問層 & 權(quán)限控制；
前端專注于：頁(yè)面展現(xiàn)（視圖層）& 交互邏輯；

的微服務(wù)架構(gòu)

AIOS采用kubernetes+docker+rabbitmq的微服務(wù)架構(gòu)模式，利用kubernetes實(shí)現(xiàn)高可用的集群環(huán)境，以及統(tǒng)一的資源調(diào)度，配合docker容器技術(shù)實(shí)現(xiàn)多租戶資源隔離，由rabbitmq實(shí)現(xiàn)分布式消息處理。為平臺(tái)展現(xiàn)層提供強(qiáng)大的內(nèi)核支撐，平臺(tái)采用的微服務(wù)架構(gòu)模式有以下特點(diǎn)：
· 服務(wù)高度自治，集中管理；
· 復(fù)雜業(yè)務(wù)得到拆分，易于維護(hù)；
· 高度靈活易于拓展；

靈活的多層級(jí)資源分配機(jī)制

平臺(tái)使用NFS（Network File System）實(shí)現(xiàn)統(tǒng)一的網(wǎng)絡(luò)文件存儲(chǔ)系統(tǒng)，極大簡(jiǎn)化了平臺(tái)部署的復(fù)雜性，提高了公共文件資源的利用率。再結(jié)合linux多用戶多任務(wù)的系統(tǒng)特性，實(shí)現(xiàn)文件存儲(chǔ)資源的多租戶資源隔離。
平臺(tái)為了解決不同用戶群體在資源使用上的多樣性和特殊性，首先在集群的節(jié)點(diǎn)管理上提供分區(qū)管理功能，即將集群中的所有服務(wù)器節(jié)劃分為若干個(gè)區(qū)域；其次針對(duì)不同的用戶組織，由管理員進(jìn)行服務(wù)器資源的統(tǒng)一分配，管理員可以根據(jù)實(shí)際的業(yè)務(wù)需求，針對(duì)不同的用戶群體進(jìn)行靈活配置。
此外，為了有效提高計(jì)算資源使用的利用率，以及保障用戶使用資源的公平性，平臺(tái)針對(duì)計(jì)算資源以及各類業(yè)務(wù)運(yùn)行時(shí)實(shí)例，提供了多層級(jí)資源分配限額機(jī)制。

多租戶存儲(chǔ)資源隔離

平臺(tái)基于GlusterFS（Gluster File System）實(shí)現(xiàn)統(tǒng)一的分布式網(wǎng)絡(luò)文件存儲(chǔ)系統(tǒng)，為用戶提供多租戶隔離的文件存儲(chǔ)服務(wù)，并利用GlusterFS的分布式特性，有效保障用戶數(shù)據(jù)的安全性。
平臺(tái)基于Docker Registry為用戶提供多租戶鏡像倉(cāng)庫(kù)服務(wù)，即向用戶提供平臺(tái)常規(guī)業(yè)務(wù)所需要的各種內(nèi)置運(yùn)行時(shí)鏡像，又向用戶提供私有的鏡像倉(cāng)庫(kù)服務(wù)，用戶可以上傳自己的鏡像，并在實(shí)際的開發(fā)、訓(xùn)練以及推理中使用自己的鏡像。
平臺(tái)利用Kubernetes強(qiáng)大的作業(yè)編排能力，為用戶提供統(tǒng)一的計(jì)算資源調(diào)度，所有計(jì)算資源集群內(nèi)共享，在用戶需要時(shí)，平臺(tái)根據(jù)用戶的資源需求動(dòng)態(tài)創(chuàng)建運(yùn)行時(shí)環(huán)境，運(yùn)行結(jié)束即收回。這樣即保障了用戶資源的合理使用，又大大提高了集群資源的利用率。此外，利用了容器的隔離特性，有效保障用戶數(shù)據(jù)的安全。

強(qiáng)大的作業(yè)調(diào)度機(jī)制

AIOS平臺(tái)的核心是模型訓(xùn)練，對(duì)CPU、內(nèi)存、GPU等資源的合理使用要求非常高，通常這些計(jì)算設(shè)備造價(jià)不菲，計(jì)算資源的合理使用是體現(xiàn)一個(gè)計(jì)算平臺(tái)最重要的指標(biāo)。平臺(tái)采用的kubernetes先天支持多種策略的作業(yè)調(diào)度，可以有效保證各類訓(xùn)練任務(wù)的及時(shí)有效執(zhí)行。再結(jié)合平臺(tái)提供的用戶資源申請(qǐng)分配機(jī)制，以及資源使用率告警機(jī)制，可以靈活有效的管理多租戶場(chǎng)景下，集群計(jì)算資源的統(tǒng)一合理調(diào)度。

完善的資源監(jiān)控體系

Heapster是容器集群監(jiān)控和性能分析工具，可以定時(shí)采集集群環(huán)境中所有節(jié)點(diǎn)的CPU、內(nèi)存、網(wǎng)絡(luò)以及磁盤情況，平臺(tái)通過Heapster實(shí)現(xiàn)上述資源的統(tǒng)一采集及管理；而平臺(tái)自主研發(fā)的cMonitor則可以對(duì)GPU資源進(jìn)行定時(shí)的采集及管理；結(jié)合平臺(tái)提供的計(jì)算資源告警機(jī)制，最終可以在平臺(tái)展現(xiàn)層實(shí)時(shí)監(jiān)控集群環(huán)境下的所有資源，并及時(shí)向管理員發(fā)送告警信息，有效管理集群硬件資源，提高資源利用率。