在全球范圍內(nèi)，數(shù)據(jù)科學和人工智能（AI）正在影響著現(xiàn)代數(shù)據(jù)中心的設(shè)計和發(fā)展。隨著每天數(shù)據(jù)量的激增，傳統(tǒng)的數(shù)據(jù)中心最終會變得越來越緩慢，致使輸出效率低下。將人工智能用于數(shù)據(jù)中心，可顯著改善現(xiàn)有的功能和流程，比如被用于故障預測，以及提前對尚未建成的數(shù)據(jù)中心進行建模和模擬。數(shù)據(jù)中心運營商是其中的直接受益者，除了大幅提高工作效率外，還能有效降低運營成本。

(資料圖)

然而，要想從現(xiàn)有的深度學習模型中獲得有意義的結(jié)果，數(shù)據(jù)中心運營商需要不斷增加計算能力和內(nèi)存帶寬。如今，強大的通用芯片（如CPU）已經(jīng)無法支持如此復雜的深度學習模型。因此，能夠?qū)崿F(xiàn)并行計算能力的AI芯片越來越受歡迎 。

人工智能正在改變數(shù)據(jù)中心

多年來，谷歌、亞馬遜和Meta等數(shù)據(jù)中心和存儲提供商一直通過使用AI不斷改進在運營中面臨的問題，AI已經(jīng)成為數(shù)據(jù)中心建設(shè)中的一種合理投資。下面我們就來看看有了AI加持的數(shù)據(jù)中心將有哪些改進。

一：能源效率

隨著數(shù)據(jù)中心變得越來越大、越來越復雜、越來越多地連接到云，AI正在成為防止設(shè)備過熱，同時節(jié)約能源的重要工具。根據(jù)美國能源部的《美國數(shù)據(jù)中心能源使用報告》，自2010年以來，美國數(shù)據(jù)中心的用電量每年增長約4%，到2020年達到了730億千瓦時，超過該國總用電量的1.8%。

此外，數(shù)據(jù)中心還貢獻了全球約2%的溫室氣體排放量。許多數(shù)據(jù)中心正在通過使用AI來提高運營效率，特別是在能源管理方面。在這里，AI可以自動監(jiān)控和調(diào)整整個數(shù)據(jù)中心的電力和散熱需求。公開資料顯示，谷歌在其數(shù)據(jù)中心中通過AI控制其暖通空調(diào)系統(tǒng)（HVAC）后，可將總體能耗降低約30%~40%。

二：服務(wù)器優(yōu)化

基于AI的預測分析可以幫助數(shù)據(jù)中心運營商在公司的許多服務(wù)器上智能分配工作負載。這樣，數(shù)據(jù)中心負載就變得可預測且易于管理。使用具有內(nèi)置AI功能的負載平衡工具，就能從過去的數(shù)據(jù)中學習，并更有效地運行負載分配。

三：故障預測和排除

基于AI/ML的溫度警報系統(tǒng)在很多數(shù)據(jù)中心中得以部署，數(shù)百個溫度傳感器實時監(jiān)測數(shù)據(jù)中心設(shè)備的健康狀況，如濕度、溫度和運行性能。此類系統(tǒng)收集的數(shù)據(jù)和結(jié)論非常有助于數(shù)據(jù)中心進行預測性維護，防止因緊急維修而導致大規(guī)模停機。

四：數(shù)據(jù)的智能監(jiān)控和存儲

結(jié)合機器學習（ML），AI將取代監(jiān)控大量數(shù)據(jù)的日常工作，并提高IT專業(yè)人員的任務(wù)處理質(zhì)量和效率?，F(xiàn)在，AI在數(shù)據(jù)中心有一個非常令人稱道的應用，那就是在巡檢機器人中的使用。AI驅(qū)動的機器人可以在沒有人為干預的情況下自動更換故障磁盤，整個更換過程包括自動檢查、故障磁盤定位、磁盤更換和充電等，一系列工作在四分鐘內(nèi)就能順利完成。

從以上四個方面可以看出，人工智能正在滲透并深刻地改變著數(shù)據(jù)中心的運營。而更為重要的是——有了AI，數(shù)據(jù)中心運營商就能夠在同一物理硅架構(gòu)上增加更多工作負載，快速匯總和分析數(shù)據(jù)，并產(chǎn)生生產(chǎn)性產(chǎn)出。

這些負載通常是數(shù)據(jù)密集型和計算密集型的，相應的應用程序需要大量的計算能力，這是由與其AI模型相關(guān)的訓練和推理工作負載驅(qū)動的。因此，數(shù)據(jù)中心的人工智能還必須要有巨大的計算能力的支持。而這一切單純依靠通用芯片幾乎是不可能實現(xiàn)的，而且擴展成本非常高昂。

若要在數(shù)據(jù)中心實現(xiàn)真正的人工智能，就必須利用高性能處理器（CPU）、高速內(nèi)存和GPU等專用硬件的組合才能高效處理大量數(shù)據(jù)并支持人工智能工作負載。這些專用處理器被設(shè)計用于執(zhí)行矩陣計算，使其在涉及并行處理大量數(shù)據(jù)的機器學習任務(wù)中特別高效，可以顯著加速人工智能工作負載的處理。

數(shù)據(jù)中心AI芯片的競爭格局

據(jù)Arizton分析，2021年全球數(shù)據(jù)中心市場規(guī)模為2,158億美元，并將以4.95%的復合年增長率增長，預計到2027年將達到2,883億美元。另一家市場分析機構(gòu)P&S Intelligence預測，2021年全球數(shù)據(jù)中心市場規(guī)模估計為2,200億美元，復合年增長率為5.1%，到2030年將達到3,436億美元。盡管兩家機構(gòu)的預測數(shù)據(jù)略有差異，但從中我們?nèi)阅芸吹竭@樣一個結(jié)果，那就是數(shù)據(jù)中心是一個有著數(shù)千億美元潛力的巨大市場。

數(shù)據(jù)中心是企業(yè)用來存放計算機、服務(wù)器和網(wǎng)絡(luò)系統(tǒng)以及滿足IT需求的組件或基礎(chǔ)設(shè)施的地方。作為數(shù)據(jù)中心重要組成部分的服務(wù)器將占有很大的市場份額。根據(jù)Industry Research的研究，2021年全球數(shù)據(jù)中心服務(wù)器市場規(guī)模約為339.86億美元，預計在預測期內(nèi)將以12.69%的復合年增長率增長，到2027年將達到695.98億美元。

人工智能需要巨大的計算能力。隨著各類企業(yè)、終端用戶、云服務(wù)提供商甚至電信服務(wù)提供商的AI部署激增，2023年對專用AI處理器的需求將繼續(xù)飆升，AI芯片市場將延續(xù)過去幾年的增長勢頭。來自麥肯錫的分析數(shù)據(jù)表明，到2025年，預計數(shù)據(jù)中心將成為AI芯片的主要收入來源，達到150億美元，比2017年增長150%。

研究公司Omdia的分析師認為，2023年發(fā)貨的大約200萬臺服務(wù)器都將配備至少一個協(xié)處理器來加速計算工作負載，與2022年相比增長了53%，其中很大一部分將采用GPU、TPU和專用AI加速器。

在利潤豐厚的數(shù)據(jù)中心芯片市場，競爭異常激烈。這場競爭最初的核心是Intel與AMD之間有關(guān)CPU的競爭。隨著AI在數(shù)據(jù)中心的應用不斷擴大，數(shù)據(jù)中心芯片市場的競爭不斷外溢。因此，兩年前Intel推出了第一款用于數(shù)據(jù)中心的GPU——Intel服務(wù)器GPU。作為回應，GPU制造商NVIDIA也推出了代號為“Grace”的基于Arm的CPU芯片進入服務(wù)器CPU市場，預計將于2023年上市。蓬勃發(fā)展的數(shù)據(jù)中心行業(yè)正在深刻影響著Intel、AMD和NVIDIA的銷售前景和彼此的競爭關(guān)系。

Reportlinker在其發(fā)布的2023人工智能芯片報告中提出，全球AI芯片市場將從2022年的156.5億美元增長到2023年的232.9億美元，復合年增長率（CAGR）為48.8%。預計2027年人工智能芯片將增長到888.5億美元，CAGR為39.8%。現(xiàn)在，AI芯片市場的主要參與者包括NVIDIA、Intel、AMD、Alphabet、Mediatek、Qualcomm、NXP等。但在數(shù)據(jù)中心市場，競爭的焦點主要集中在NVIDIA、Intel和AMD之間。

1、NVIDIA DGX A100

NVIDIA發(fā)明了GPU，并推動了AI、HPC、游戲、創(chuàng)意設(shè)計、自動駕駛汽車和機器人開發(fā)領(lǐng)域的進步，該公司的GPU一直保持著穩(wěn)步迭代。2020年5月，NVIDIA公司推出了EGX A100和EGX Jetson，第一款基于NVIDIA Ampere架構(gòu)的邊緣AI產(chǎn)品是EGX A10。2022年3月，NVIDIA發(fā)布了基于Volta GPU架構(gòu)的新DGX Station、DGX-1和DGX-2。

這些AI超級計算機是為深度學習訓練、加速分析和推理而構(gòu)建的。該系統(tǒng)包括為數(shù)據(jù)中心設(shè)計的NVIDIA旗艦芯片DGX A100，該芯片集成了8個GPU和高達640GB的GPU內(nèi)存。DGX A100采用NVIDIA A100 Tensor Core GPU，是適用于各種AI工作負載的通用系統(tǒng)。目前炙手可熱的ChatGPT主要采用了NVIDIA A100，并利用了微軟Azure的基于云的資源和服務(wù)。如果將ChatGPT和微軟其他應用程序的需求結(jié)合起來，預計2023年微軟對AI服務(wù)器的需求總量將達到25,000臺左右。

圖1：NVIDIA數(shù)據(jù)中心旗艦GPU DGX A100

（圖源：NVIDIA）

全新的NVIDIA H100 Tensor Core GPU，是NVIDIA新一代超高性能數(shù)據(jù)中心GPU，旨在為每個工作負載中實現(xiàn)出色性能、可擴展性和安全性。H100基于NVIDIA Hopper GPU架構(gòu)構(gòu)建，將加速云數(shù)據(jù)中心、服務(wù)器、邊緣系統(tǒng)和工作站中的AI訓練和推理、HPC以及數(shù)據(jù)分析應用，與上一代產(chǎn)品相比，可將大型語言模型的速度提高30倍。根據(jù)英偉達此前的信息，H100 Tensor Core GPU計劃于2023年推出。

2、Intel Habana Gaudi2

就在NVIDIA去年宣布Volta GPU架構(gòu)計劃后，同年5月份，Intel Habana Lab與Habana Greco宣布推出用于訓練和推理的第二代深度學習處理器Habana Gaudi2。這款處理器是為AI深度學習應用而構(gòu)建的，采用先進的7nm工藝。Gaudi 2包括24個Tensor核心，專門為訓練大規(guī)模深度學習模型而優(yōu)化。在Habana Lab的上一代處理器中，只有八個Tensor核心。

此外，每個Gaudi 2芯片中包含的SRAM和HBM2E存儲器的數(shù)量分別增加了兩倍和三倍。Intel聲稱Gaudi2提供的吞吐量是Habana第一代AI訓練芯片的三倍。在內(nèi)部基準測試中，該芯片的吞吐量是英偉達數(shù)據(jù)中心旗艦A100-80GB GPU的兩倍。

Gaudi 2芯片的關(guān)鍵特征之一是某些網(wǎng)絡(luò)組件直接集成到處理器中。這減少了數(shù)據(jù)中心運營商必須購買的額外網(wǎng)絡(luò)硬件數(shù)量，從而降低了成本。Gaudi 2配備了24個100千兆以太網(wǎng)端口，比其前身多了14個。Intel的第一款真正的數(shù)據(jù)中心GPU，代號Ponte Vecchio，預計將在2023年上半年推出。

圖2：Intel深度學習處理器Habana Gaudi2

（圖源：Intel）

3、AMD Instinct MI250X

2022年可謂是AI芯片的發(fā)展之年，同年9月份，AMD發(fā)布了基于5nm架構(gòu)的Zen微架構(gòu)Zen 4的更新版本。AMD是一家主要專注于圖形卡和GPU的芯片制造商，盡管在開發(fā)專門用于AI的硬件方面并沒有太多聲音，但該公司在5月份推出了Ryzen 7000系列，這是一款專為機器學習能力而打造的新系列PC處理器，并有望隨著Zen 4的推出而進一步發(fā)展。

當然，AMD在數(shù)據(jù)中心AI芯片上并不是完全沒有聲音。AMD Instinct MI200 系列加速器就是AMD新推出的數(shù)據(jù)中心GPU，它采用創(chuàng)新性AMD CDNA 2架構(gòu)、AMD Infinity Fabric技術(shù)以及先進的封裝技術(shù)。對于高性能計算工作負載，AMD Instinct MI250X有著出色的GPU性能，高達47.9 TFLOPS雙精度（FP64），結(jié)合FP?64 Matrix Core技術(shù)，可實現(xiàn)高達95.7 TFLOPS的雙精度（FP64矩陣）峰值理論性能。對于機器學習和深度學習工作負載，MI250X可提供高達383 TFLOPS峰值理論半精度（FP16）性能。

圖3：有著出色GPU性能的AMD Instinct MI250X

（圖源：AMD）

數(shù)據(jù)中心AI趨勢展望

人工智能正在成為各個行業(yè)現(xiàn)代技術(shù)背后的驅(qū)動力，在優(yōu)化、預防性維護、虛擬助理、欺詐檢測和異常檢測等方面都有應用。有人甚至說，如果沒有人工智能，許多數(shù)據(jù)中心在經(jīng)濟上或運營上都不可行。與此同時，數(shù)據(jù)中心也必須提供巨大的計算能力和存儲資源，人工智能才能實時地處理大量數(shù)據(jù)集并進行訓練和推理。通過GPU和TPU等專用硬件，數(shù)據(jù)中心可以加速復雜的計算，支持人工智能應用程序和工作負載。

TrendForce數(shù)據(jù)顯示，2022年，配備通用GPU（GPGPU）的AI服務(wù)器僅占全球服務(wù)器年出貨量的1%。預計從2022年到2026年，人工智能服務(wù)器的出貨量將以10.8%的復合年增長率增長。四家主要的北美服務(wù)提供商（谷歌、AWS、Meta和微軟）在2022年的年度人工智能服務(wù)器總需求中占據(jù)了很大份額，約占全球采購量的66.2%。在用于AI相關(guān)計算的服務(wù)器GPU市場上，主流產(chǎn)品有NVIDIA的H100、A100和A800以及AMD的MI250和MI250X系列。其中，A800是專為中國市場設(shè)計的產(chǎn)品。就服務(wù)器GPU的市場份額而言，NVIDIA控制著約80%，而AMD控制著約20%。

根據(jù)IDC報告，2023年全球人工智能支出將增長26.9%，達到1,540億美元。2026年，以人工智能為中心的系統(tǒng)支出預計將超過3,000億美元。展望未來，人工智能在數(shù)據(jù)中心的未來應用和趨勢將非常突出。人工智能通過提高運營效率、性能和安全性來振興數(shù)據(jù)中心。數(shù)據(jù)中心可以通過多種方式從將人工智能集成到其組織和運營中獲益。

2023年將是人工智能領(lǐng)域取得重大進展的一年。在未來的幾年里，人工智能在整個數(shù)據(jù)中心自動化方面的能力將得到改善。屆時，數(shù)據(jù)中心AI芯片的競爭將更加激烈，除了三家基礎(chǔ)雄厚的企業(yè)，預計很多創(chuàng)新公司亦將加入競爭隊伍。