NVIDIA宣布推出人工智慧超級運算服務NVIDIA DGX Cloud，企業透過這項服務可立即獲得為生成式人工智慧及其他突破性應用項目訓練先進模型所需的基礎設施和軟體。
DGX Cloud提供專用的NVIDIA DGX AI超級運算叢集，並且搭配NVIDIA AI軟體。這項服務讓各個企業只要透過簡單的網路瀏覽器，就能使用自己的人工智慧超級電腦，如此一來便省去購置、部署和管理企業內部基礎設施的複雜性。企業按月租用DGX Cloud運算叢集，這確保他們能夠快速輕鬆地調整開發大型多節點訓練工作負載的大小，無需等待通常需求龐大的加速運算資源。
NVIDIA創辦人暨執行長黃仁勳表示，現正處於人工智慧產業的iPhone時刻。新創公司爭相打造顛覆性的產品和商業模式，而現有公司則在尋求因應之道。DGX Cloud讓客戶可以在全球規模的雲端環境裡，立即取得NVIDIA的人工智慧超級運算資源。
NVIDIA與各大雲端服務供應商合作託管DGX Cloud基礎設施，由Oracle Cloud Infrastructure(OCI)開始。Oracle Cloud Infrastructure的OCI RDMA Supercluster提供一個專門打造的RDMA網路、裸機運算及高效能本地和塊儲存(block storage)，可以擴大到擁有超過32000個GPU的超級電腦叢集。微軟Azure預計將在下一季開始託管DGX Cloud，Google Cloud及其他業者很快就將加入。
全球生技公司龍頭之一的Amgen、保險科技領導業者CCC Intelligent Solutions與數位業務平台服務提供商ServiceNow是首批使用DGX Cloud的人工智慧先驅。
Amgen將DGX Cloud搭配NVIDIA BioNeMo大型語言模型軟體，以加快發現藥物的速度，其中包括NVIDIA AI Enterprise軟體，而在NVIDIA AI Enterprise軟體中另有提供NVIDIA RAPIDS資料科學加速函式庫。
Amgen數位創新研究加速中心生物製劑治療發現研究部門執行主任Peter Grandsard表示，Amgen的研究人員借助NVIDIA DGX Cloud與NVIDIA BioNeMo，就能夠專心投入進行更深層次的生物學研究，而不必浪費時間對付人工智慧基礎設施和設定機器學習工程。相對於其他平台，DGX Cloud的強大運算和多節點能力，使得我們能夠利用BioNeMo，將蛋白質LLMs的訓練速度提高三倍，利用NVIDIA RAPIDS將訓練後的分析速度提高100倍。
財產與意外傷害保險經濟領導雲端平台CCC使用DGX Cloud來加快開發和訓練人工智慧模型的速度，以及擴大模型規模。這些模型用於支援該公司的創新汽車理賠解決方案，協助加速推動產業採行智慧自動化技術，且每天為數百萬名企業用戶及其消費者創造更美好的理賠體驗。
ServiceNow使用DGX Cloud與公司內部的NVIDIA DGX超級電腦，進行兼具靈活度和擴充性的混合雲端人工智慧超級運算作業，協助該公司在大型語言模型、程式碼生成和休閒分析方面進行人工智慧研究。ServiceNow還共同管理負責任的開放科學生成式人工智慧BigCode計畫，這項計畫使用NVIDIA的Megatron-LM框架進行訓練。
企業使用NVIDIA Base Command平台軟體來管理和監控DGX Cloud的訓練工作負載，這套軟體在DGX Cloud及企業內部的NVIDIA DGX超級電腦之間提供了流暢的使用體驗。客戶使用Base Command平台可以按照每項工作所需的正確數量和類型DGX基礎設施來搭配不同的工作負載量。
DGX Cloud包括NVIDIA AI平台的軟體層NVIDIA AI Enterprise，提供端到端的人工智慧框架和預先訓練好的模型，以加速推動資料科學管道與簡化生產式人工智慧的開發和部署作業。在 NVIDIA AI Enterprise 3.1中提供了全新預先訓練好的模型、經最佳化調整的框架及加速的資料科學軟體庫，讓開發者有其他方法來啟動人工智慧項目。
DGX Cloud的每個執行個體都有8個NVIDIA H100或A100 80GB Tensor核心GPU，每個節點共有640GB的GPU記憶體。利用NVIDIA Networking技術建構出的高效能、低延遲性結構，確保能夠在互連系統的叢集中調整工作負載的大小，使得多個執行個體能夠當成一個巨大的GPU來使用，滿足訓練先進人工智慧的效能要求。在 DGX Cloud另採用高效能儲存裝置，為人工智慧超級運算提供了完整的解決方案。
DGX Cloud在整個人工智慧的開發過程中有提供NVIDIA專家群的支援。客戶可以直接跟NVIDIA的工程師合作、將模型調整到最佳狀態，以及迅速解決各種產業使用案例裡開發方面的疑難雜症。