隨著大型語言模型 (LLM)(如 ChatGPT)和機器學習 (ML) 在生成式 AI 的前景方面引起媒體和業界的無休止關注,這些技術的發展也為數據中心行業帶來了大量挑戰。
除了 AI,ML 和物聯網 (IoT) 等技術也需要具有廣泛帶寬和創新電源解決方案的數據中心。隨著對計算能力和連接性的需求不斷增長,系統運營商對數據中心的依賴也在不斷增加,以高效處理和存儲大量信息,同時保持卓越的性能。
利用先進 AI 算法的邊緣計算系統可以在網絡內執行實時數據處理和決策,以最大限度地提高整體性能。邊緣計算還可以幫助實現為 AI 提供動力所需的實時數據處理。隨著生成式人工智能、法學碩士、物聯網、云應用、實時數據處理以及對低延遲應用的需求將計算能力推向前所未有的水平,邊緣計算市場規模預計將從 2024 年的約 340 億美元飆升至 2033 年的 7000 多億美元。
鑒于生成式人工智能的迅猛發展,數據中心行業的任務是快速適應計算能力的激增,并滿足對有效電源解決方案日益增長的需求。
釋放人工智能潛力的關鍵可能取決于邊緣計算的有效性。邊緣計算使用分布式信息技術 (IT) 架構,在網絡外圍盡可能靠近其原始來源的地方處理數據。這可以減少延遲并提高性能,同時還可以降低能耗——這是大型數據中心運營商的長期對手。
應對實施邊緣模型的挑戰
為了成功設計和實施邊緣計算模型,數據中心部門需要應對一些挑戰。隨著組織開始減少對傳統集中式數據中心收集、處理和存儲數據的依賴,邊緣計算能夠重塑業務開展方式。例如,隨著能源網分布越來越廣泛,邊緣計算可以提供所需的低延遲數據處理,以促進實時發電和配電決策,從而以最佳方式滿足需求。
不那么集中的數據中心生態系統也為消費者帶來了好處。然而,消費者對處理大量快速移動數據的應用程序的依賴也推動了數據中心開發人員解決物流挑戰的需求。這些挑戰包括在靠近數據源的社區、設施和人口密集地區建立數據中心。這對于需要極低延遲的應用程序尤其重要,例如直播、增強現實 (AR) 和自動駕駛汽車。
隨著這些應用程序對邊緣計算基礎設施的需求不斷增加,另一個挑戰也隨之而來——減輕這些設施內 IT 設備和電源產生的熱量。為了應對產生的高熱量,開發人員的任務是實施高效的電源系統,其中包括高效傳導或液冷整流器、浸入式冷卻和熱量控制解決方案等功能。減輕熱量對于數據中心的運營效率以及防止設備損壞甚至更糟的系統故障至關重要。
設備損壞和停電的后果可能很嚴重。根據 Uptime Institute 的一項調查,超過一半的受訪數據中心運營商在 2020 年至 2023 年期間遭遇過停電。最嚴重的停電成本仍然很高,54% 的受訪者表示,最嚴重的停電給他們造成了超過 10 萬美元的損失。此外,近六分之一的運營商表示,他們遭遇的停電損失超過 100 萬美元。
這些令人警醒的統計數據凸顯了彈性數據中心電力系統的重要性,以及需要遠程監控和隨時解決潛在問題。隨著邊緣計算推動對更廣泛分布的數據中心的需求,遠程監控和診斷的重要性也日益凸顯。此外,對經驗豐富、隨時待命的服務技術人員的需求從未如此高漲,以幫助維持這些關鍵邊緣網絡的正常運行時間。這要求數據中心運營商建立明確的戰略方法來管理根據需要擴展資源的復雜過程。
最后,數據安全是邊緣計算流程的另一個關鍵方面,因為多個邊緣位置可能會增加遭受網絡攻擊的可能性。運營商需要確保其邊緣位置符合行業標準的數據隱私和合規措施。還必須實施安全協議,包括訪問控制、威脅檢測和數據加密。持續監控和審核邊緣設備和網絡以確保及時發現威脅或攻擊也至關重要。
采取整體方法實現全國邊緣連接
邊緣計算生態系統中的利益相關者(包括政府、服務提供商和應用程序開發商)需要共同努力,充分發揮邊緣計算的優勢。支持人工智能所需的廣泛計算能力并應對該技術帶來的挑戰需要采取整體和協作的方法來實現網絡架構、基礎設施設計和系統管理。