城市治理大模型落地面臨復(fù)雜挑戰(zhàn)
 

　　近年來，國家及地方政府不斷推出各類政策，積極加速城市治理大模型建設(shè)的進程。然而，在探索大模型的落地與實際應(yīng)用中，卻面臨不少現(xiàn)實挑戰(zhàn)：
 

　　? 當(dāng)前算力資源仍難以獲取，現(xiàn)有的政務(wù)云算力以通用算力為主，無法滿足大模型訓(xùn)練和推理所需的多元算力資源需求。
 

　　? 項目實施交付復(fù)雜，大模型作為新興技術(shù)部署流程繁瑣，實施人員難以應(yīng)對。
 

　　? 適配調(diào)優(yōu)耗時耗力，實際部署中需要花費大量的時間和資源來進行硬件與算法的兼容性適配，還要針對硬件特點做特定調(diào)優(yōu)。
 

　　? 難以橫向擴展，隨著業(yè)務(wù)量增長或者基座模型參數(shù)量的變化，算力需求增加，算力平滑擴容成為亟需解決的問題。
 

　　城市治理大模型一體機解決方案
 

　　面對上述挑戰(zhàn)，新華三集團憑借深厚的技術(shù)積淀，與數(shù)字政通聯(lián)合推出了面向政府?dāng)?shù)字化轉(zhuǎn)型典型場景的大模型一體機解決方案。該方案可以幫助用戶快速部署 “開箱即用”的政務(wù)私域大模型，助力客戶實現(xiàn)智能化轉(zhuǎn)型。
 

　　該方案采用新華三全國產(chǎn)大模型訓(xùn)推旗艦H3C UniServer R5330 G7作為智能算力底座，內(nèi)置數(shù)字政通人和大模型，經(jīng)過多輪次嚴(yán)格測試與優(yōu)化，針對“12345熱線平臺的工單處置流程自動化”和“行政執(zhí)法平臺的案件智能評查”這兩個場景的私域數(shù)據(jù)微調(diào)后處理準(zhǔn)確度達85%以上，應(yīng)用推理精度達90%以上。
 

　　人和大模型是數(shù)字政通從“網(wǎng)格化”到“一網(wǎng)統(tǒng)管”發(fā)展過程中，專注城市治理行業(yè)應(yīng)用，立足全國多個項目沉淀的業(yè)務(wù)和數(shù)據(jù)基礎(chǔ)，全面擁抱生成式人工智能技術(shù)趨勢而發(fā)布的AI大模型產(chǎn)品；該模型基于通用大模型底座，結(jié)合城市治理行業(yè)經(jīng)驗和專業(yè)知識進行微調(diào)，打造更符合行業(yè)需求的應(yīng)用新范式，具備專業(yè)的知識問答、語言理解、文本處理、邏輯推理等能力；同時，通過持續(xù)學(xué)習(xí)和優(yōu)化，不斷提升專業(yè)領(lǐng)域的場景應(yīng)用效果，解決民生訴求、法治政府、城市管理、基層治理、城市運營等行業(yè)場景的痛點問題，做城市治理的業(yè)務(wù)專家。
 

　　本次推出的城市治理大模型一體機解決方案基于新華三全國產(chǎn)大模型訓(xùn)推旗艦H3C UniServer R5330 G7打造而成，支持業(yè)界領(lǐng)先的GPU，可同時搭載8塊雙寬GPU，提供多種靈活的GPU拓?fù)浼軜?gòu)，擁有廣泛的模型兼容性，兼容超過200個主流AI模型，涵蓋計算機視覺、自然語言處理等多個領(lǐng)域。
 

　　? R5330 G7預(yù)置訓(xùn)練框架、模型文件，節(jié)省了從零開始搭建環(huán)境的時間和成本，提升大模型應(yīng)用效率
 

　　? 硬件與算法的緊密集成，使得系統(tǒng)在性能、穩(wěn)定性和兼容性方面得到優(yōu)化，減少了用戶在配置和維護上的復(fù)雜性
 

　　? 采用2顆高性能國產(chǎn)處理器，搭配國產(chǎn)PCIe加速卡，構(gòu)建自主私域一體機
 

　　新華三攜手?jǐn)?shù)字政通打造的城市治理大模型一體機解決方案，以創(chuàng)新技術(shù)賦能城市治理，不僅是大模型與創(chuàng)新技術(shù)的完美結(jié)合，更是為數(shù)字中國的建設(shè)注入了新動力。面向未來，新華三集團將秉持“精耕務(wù)實，為時代賦智慧”的理念，不斷攜手更多合作伙伴，賦能百行百業(yè)數(shù)字化變革。