
商傳媒|責任編輯/綜合外電報導
美國人工智慧(AI)雲端運算公司 CoreWeave 於週四宣布,已在其雲端服務中全面支援 Nvidia Vera Rubin 平台,並同步推出 CoreWeave Notebooks 及 Forge AI 開發平台,旨在加速 AI 模型從開發到部署的整個流程。
CoreWeave Notebooks 是一款專為 AI 工作負載設計的 Python 筆記本。這款工具基於開源的 marimo 平台,提供一個互動式開發環境,讓 AI 工程師能即時寫程式(即進行 Python 程式設計,一種廣泛用於人工智慧開發的程式語言)、執行分析並查看結果。其「反應式執行」的特性,能確保程式碼、程式狀態與輸出結果始終保持同步更新,避免過時資料導致判斷失誤。CoreWeave 指出,這項筆記本工具將儲存於專案內部,便於團隊協作與重複使用,並支援 Python 及 SQL 語法,以利分析專案數據。
同時發表的 CoreWeave Forge 則是一個整合性平台,旨在將模型訓練、推理、評估及代理程式開發等環節匯集於單一環境。CoreWeave 產品與工程執行副總裁 Chen Goldberg 表示,AI 代理程式任務涉及大量上下文、重複的模型呼叫及數千個並行任務,這對整個平台構成壓力,因此 CoreWeave 的任務是確保運算、網路與軟體能作為一個整體系統運作。
在硬體支援方面,CoreWeave 的雲端服務現已支援 Nvidia Vera Rubin 平台。AI 公司 Cognition AI 已是首批採用 Vera Rubin 叢集的客戶之一,並表示在 SWE-2 推理工作負載上,Vera Rubin NVL72 的總 Token 處理量(throughput)較 Nvidia GB200 NVL72 基準提高了高達 4.8 倍;在強化學習工作負載中,輸出 Token 處理量也提高了 3.8 倍。這些顯著的效能提升,能讓單一繪圖處理器(GPU)同時處理更多 Devin 工作階段,加速研究週期並降低每次工作階段的成本。
此外,CoreWeave 也將導入 Nvidia 專為 AI 代理程式設計的 Vera CPU,以處理 AI 代理程式工作負載中大量仰賴中央處理器(CPU)的任務。初步部署將以機架規模配置,每個機架包含 128 個 Vera CPU,共計 11,264 個 CPU 核心,並整合 Nvidia BlueField-4 DPUs 及 Spectrum-X Ethernet 交換技術,預計可支援超過 11,000 個並行代理程式環境。Forge 平台目前已上市,並提供 Pro 版本的 30 天免費試用期。
