0
| 本文作者： 趙之齊 | 2026-01-20 09:52 |
作者 | 趙之齊
編輯 | 包永剛
在預(yù)訓(xùn)練賽道憑借硬件性能與生態(tài)優(yōu)勢稱霸的英偉達，進入AI推理時代后，面臨新的挑戰(zhàn)。
在CES 2026上，英偉達創(chuàng)始人兼CEO黃仁勛強調(diào)了“物理AI”是AI的下一波浪潮。他將推理性AI置于核心位置，發(fā)布了具備自主思考能力的自動駕駛AI Alpamayo，提出了與西門子聯(lián)手打造工業(yè)AI的未來藍圖，并且，也披露了下一代AI計算平臺Vera Rubin的細節(jié)。
顯然，黃仁勛不愿讓Rubin停留在“概念革命”的想象層。他花了大量篇幅闡述AI推理帶來的挑戰(zhàn)：模型規(guī)模每年增長十倍，推理從單次生成走向多步思考，所需算力呈指數(shù)級膨脹，更長的上下文也導(dǎo)致存儲與帶寬壓力飆升。
對此，英偉達給出的解決方案是，集成Vera CPU、Rubin GPU、NVLink 6交換機、ConnectX-9 SuperNIC、BlueField-4 DPU和Spectrum-X以太網(wǎng)交換機的組合平臺。
在部分業(yè)內(nèi)人士眼中，這是一場“營銷意味更重”的發(fā)布：面對TPU、超節(jié)點等在推理領(lǐng)域相繼崛起，以及單芯片制程逼近物理極限的現(xiàn)實，英偉達推出六芯協(xié)同組合Rubin平臺，是其保持在推理市場領(lǐng)先地位的關(guān)鍵一步。
但這背后也隱藏著現(xiàn)實問題：
Rubin的推理性能突破，建立在NVFP4自適應(yīng)調(diào)整精度前提下，“但提高FP4精度的推理，難免會擠壓FP16、FP32等更高精度的計算資源，且精度下降后，對于文生視頻等對精度敏感的場景而言，推理質(zhì)量也會肉眼可見地變差”。
而對于黃仁勛提出Rubin平臺用45℃溫水冷卻、有望為全球數(shù)據(jù)中心總電力消耗節(jié)省約6%的論斷，AI系統(tǒng)架構(gòu)師徐先生解讀：“這種方式的出液與進液溫差很小，核心元器件的實際工作溫度可能維持在八九十?dāng)z氏度，機柜的故障率很難實質(zhì)下降。”
面對這一系列嚴(yán)苛的前置條件，Rubin能否切入推理市場并實現(xiàn)大規(guī)模落地，尚不明朗。（更多關(guān)于Rubin落地的細節(jié)判斷，歡迎添加作者微信 Ericazhao23 交流。）
不過，黃仁勛形容這套六芯組合系統(tǒng)的出現(xiàn)“恰逢其時”——它告別了單一芯片的能力競賽，邁向算力基礎(chǔ)設(shè)施的全棧升級，這與他在GTC 2025上強調(diào)的打造“AI工廠”概念，一脈相承。
對于此次戰(zhàn)略轉(zhuǎn)向，多位業(yè)內(nèi)人士給出了相似判斷：“Rubin的發(fā)布對于國產(chǎn)芯片來說短期會利空，但長期會利好。從英偉達這個動作可以看出，單芯片性能紅利已經(jīng)觸頂，多芯片協(xié)同與系統(tǒng)設(shè)計能力會成為新的破局關(guān)鍵?！?/p>
這種系統(tǒng)性的能力，也是許多國產(chǎn)芯片公司已在探索的技術(shù)路徑。
Rubin的發(fā)布，是英偉達在推理時代進一步加固自身的生態(tài)護城河。然而，行業(yè)也已形成共識：“訓(xùn)練業(yè)務(wù)的價值核心是效率，但推理業(yè)務(wù)的核心是成本”。在新的價值邏輯下，Rubin要實現(xiàn)它的藍圖，需要跨過哪些關(guān)卡？在競爭日趨激烈的推理賽道中，英偉達還能延續(xù)其在預(yù)訓(xùn)練領(lǐng)域的霸主地位嗎？
在CES現(xiàn)場聆聽分享的胡晨輝，已有十多年芯片從業(yè)經(jīng)驗。已經(jīng)耳聞Rubin存在的他，這次比起驚喜，更多是平靜地感慨：“它終于來了”。
在他看來，黃仁勛的整場演講，都在傳遞一種“強者恒強”的氣質(zhì)。
介紹完架構(gòu)細節(jié)后，黃仁勛強調(diào)了Vera Rubin在商業(yè)上的亮眼表現(xiàn)：
訓(xùn)練一個十萬億參數(shù)規(guī)模的大模型時，其所需的集群規(guī)模僅為Blackwell系統(tǒng)的四分之一；在同等功耗和空間條件下，一座Vera Rubin數(shù)據(jù)中心的AI計算吞吐量，預(yù)計可達到基于Hopper架構(gòu)數(shù)據(jù)中心的約100倍。
不僅如此，未來大規(guī)模AI服務(wù)的token生成成本，預(yù)計能降到當(dāng)前水平的十分之一左右。
這樣的性能與成本優(yōu)勢，切中了推理時代的核心需求——過去數(shù)據(jù)中心“更大模型+更強算力”的發(fā)展路徑，如今已難以被復(fù)制，各類交互、駕駛、控制等場景對時延高度敏感，且更多落地在端邊側(cè)，對成本有著苛刻追求。面對群雄逐鹿的格局，英偉達也開始以“性價比”為抓手，堅守推理市場的份額。
黃仁勛還指出，此次Rubin的發(fā)布，也打破了英偉達過往“每一代新平臺不應(yīng)有超過一兩個芯片發(fā)生變動”的原則，可以說是其從“AI芯片廠商”，向打造“AI工廠”轉(zhuǎn)型的重要一步。
對于這一策略的轉(zhuǎn)變，煒燁智算副總裁孟健雄認(rèn)為，短期內(nèi)對國產(chǎn)芯片可能利空，但最終一定是具備制造業(yè)優(yōu)勢的中國更占贏面——只是這個周期可能非常漫長。
徐先生也直言，這次英偉達的動作，釋放出一個關(guān)鍵信號：如今他們講的不再是單芯片的故事，而是多芯片系統(tǒng)的協(xié)同價值，這意味著其芯片設(shè)計、代工封裝等環(huán)節(jié)已經(jīng)接近物理極限，對國產(chǎn)芯片來說，反而是一種利好。
芯片領(lǐng)域資深投資人IO資本創(chuàng)始合伙人趙占祥，也持相似立場。他指出，通過全局設(shè)計來提升綜合算力、推出整機乃至集群級的解決方案，是Google TPU很早就開始走的路線，而這條技術(shù)路徑，國內(nèi)已有不少芯片創(chuàng)業(yè)公司在積極布局。（各類芯片架構(gòu)的進一步探討，歡迎添加作者微信 Ericazhao23 交流。）
此外，這一趨勢對國內(nèi)存儲廠商也十分有利。
他進一步分析說：大模型推理對KVCache的調(diào)用頻率更高，當(dāng)前的性能瓶頸是GPU直連的HBM容量有限，而存儲服務(wù)器又與計算單元的物理距離過遠。由此來看，未來CXL存儲、LPDDR等新型高速存儲技術(shù)，都有望被部署到GPU周邊，通過縮短數(shù)據(jù)傳輸鏈路來提升推理性能，進而帶動相關(guān)技術(shù)的商業(yè)化落地與規(guī)?；瘧?yīng)用。
毋庸置疑的是，英偉達發(fā)布的Rubin平臺，在硬件性能和性價比上的進一步突破，也加強了其生態(tài)護城河。
但趙占祥也指出一個核心矛盾：英偉達試圖通過強化軟硬耦合，綁定客戶采購其全套產(chǎn)品；但客戶其實更傾向于選擇軟硬解耦的方案，不愿被英偉達的生態(tài)完全綁定，因此，采購決策負擔(dān)與顧慮也可能隨之加重。
不過，在生態(tài)綁定的爭議之外，Rubin所標(biāo)榜的五倍性能突破，要真正落地應(yīng)用，還需跨過多重技術(shù)與實踐關(guān)卡。
在CES 2026上，黃仁勛把NVFP4 Tensor Core稱作是一項“偉大的發(fā)明”。
這是一個完整的處理器單元，能自適應(yīng)地調(diào)整精度和結(jié)構(gòu)，從而在允許精度損失的場景下實現(xiàn)更高吞吐量，并在需要時恢復(fù)到可能的精度。這種動態(tài)調(diào)整能力，完全在處理器內(nèi)部自主完成。Rubin GPU的AI推理浮點性能相較上一代Blackwell提升五倍，核心驅(qū)動力正是NVFP4 Tensor Core對精度與吞吐率的自適應(yīng)調(diào)度能力。
然而，這種技術(shù)模式能否獲得市場青睞？
“晶體管就那么大，提高FP4精度的推理，難免會擠壓FP16、FP32等更高精度的計算資源”，AI系統(tǒng)架構(gòu)師徐先生說道。
顯然，高精度是預(yù)訓(xùn)練的剛需，一定程度上犧牲了精度的Rubin，瞄準(zhǔn)的最大場景或是未來行業(yè)模型的后訓(xùn)練和推理應(yīng)用、訓(xùn)推一體化領(lǐng)域。
但這就陷入一個尷尬境地：即便英偉達仍維持著技術(shù)領(lǐng)先的地位，國內(nèi)廠商卻已開始憑借超節(jié)點等形態(tài)進行追趕，“這條賽道跟國產(chǎn)芯片廠商布局高度重疊，英偉達當(dāng)下力推的技術(shù)方向，國產(chǎn)廠商也在做”，徐先生補充道。
同時，不可忽略的是，在推理領(lǐng)域，精度下調(diào)雖能減少顯存占用、提升運算速度，但也會對模型的最終準(zhǔn)確率產(chǎn)生影響。
有國內(nèi)大模型廠商的從業(yè)人士告訴雷峰網(wǎng)，公司內(nèi)部曾開展多輪不同精度的對比測試，結(jié)果顯示，尤其是在文生視頻領(lǐng)域，當(dāng)精度從FP16降到FP8，視頻的生成效果已經(jīng)肉眼可見地變差——這還建立在當(dāng)前多數(shù)文生視頻產(chǎn)品時長僅為五秒的前提下。
不過，業(yè)內(nèi)也有不同看法。趙占祥認(rèn)為，在推理需求高速增長的情況下，精度壓縮是行業(yè)必經(jīng)之路，由于NVFP4張量核心能實時分析Transformer模型各層的計算特性、動態(tài)調(diào)整數(shù)據(jù)精度與計算路徑，本質(zhì)上還是推理的自適應(yīng)數(shù)據(jù)壓縮技術(shù)，會在精度損失和推理性能之間做平衡。
即便如此，市場對于向FP4精度跨越仍存疑慮：當(dāng)前業(yè)內(nèi)主流的推理精度普遍停留在FP8級別，當(dāng)精度進一步壓縮，雖然英偉達宣稱可通過特定技術(shù)實現(xiàn)微乎其微的精度損失，但在文生視頻等對精度敏感的場景中，是否會引發(fā)更顯著的效果衰減？
種種未知下，Rubin技術(shù)落地的真實效果，行業(yè)還在等待驗證。
“Vera Rubin的功耗是Grace Blackwell的兩倍，但我們?nèi)匀荒軐era Rubin塞進這個框架里，這本身就是一個奇跡”，黃仁勛在大會上說道。但這份樂觀，能否真正實現(xiàn)？
“散熱是未來超節(jié)點和萬卡集群最重要的競爭點”，AI系統(tǒng)架構(gòu)師徐先生說道。
Rubin的液冷計算托盤，摒棄了傳統(tǒng)的電纜和軟管設(shè)計。在徐先生看來，這樣設(shè)計的優(yōu)勢在于無線纜架構(gòu)，能對GPU、CPU、網(wǎng)卡及存儲等核心模塊都進行制冷處理。
不過，他指出，這種方案下，如果進液溫度為45度，出液溫度可能就在50度左右，如此小的溫差，預(yù)估核心元器件的實際工作溫度仍會維持在八九十?dāng)z氏度。這就意味著，機柜的故障率很難實質(zhì)下降，整個集群的模型浮點運算利用率（MFU）大概率可能停留在30%-50%的區(qū)間，硬件算力依然存在嚴(yán)重浪費。
盡管已有業(yè)內(nèi)消息稱，面對Rubin與下一代Feynman平臺的功耗激增，現(xiàn)有散熱方案已經(jīng)難以應(yīng)對，英偉達正要求供應(yīng)商研發(fā)“微通道水冷板”技術(shù)，但在徐先生看來，這種方案的天花板較低，最終的散熱體系還是要融入浸沒式液冷技術(shù)，才能突破瓶頸。（服務(wù)器散熱技術(shù)迭代，液冷如何破局？歡迎添加作者微信 Ericazhao23 交流。）
除了散熱，電力供應(yīng)也是不容忽視的關(guān)鍵環(huán)節(jié)。
“一個很有意思的現(xiàn)象，以前你走進大廠的機房，一排機柜看過去都是滿滿當(dāng)當(dāng)裝著服務(wù)器，但現(xiàn)在，一個機柜里可能只有一兩臺，看起來空空蕩蕩的”，某大廠算力行業(yè)人士李明說道。
背后原因，是現(xiàn)有電力承載力已難以匹配設(shè)備的能耗需求。
黃仁勛也抓住了這一痛點。他介紹，Vera Rubin平臺堅持使用45攝氏度溫水冷卻，無需能耗巨大的冷水機組，這一設(shè)計預(yù)計能為全球數(shù)據(jù)中心節(jié)省約6%的總電力消耗。
在李明看來，如果這個故事真能講通，那對于當(dāng)下電力資源緊缺的全球數(shù)據(jù)中心市場來說，無疑是一劑強心針。
不過，一個無法回避的現(xiàn)實是，Rubin的規(guī)?；涞?，需要一套更全面的非標(biāo)配套體系作為支撐。
胡晨輝指出，未來部署Rubin產(chǎn)品的總擁有成本（TCO）肯定會降低，畢竟能源利用效率顯著提升，但同時，部署Rubin的IDC可能需要專用變電站來支撐。徐先生也認(rèn)為，Rubin架構(gòu)單機柜的功耗門檻極高，需要大量非標(biāo)電壓、電線等配套設(shè)施，實則給供電系統(tǒng)帶來了不小的壓力。
與此同時，很多數(shù)據(jù)中心原來的硬件配置乃至運維團隊，可能都要因此“換一波”。不過，煒燁智算副總裁孟健雄也推測，在故障率相當(dāng)?shù)那疤嵯拢?strong>設(shè)備集成度越高、系統(tǒng)內(nèi)故障源點越少，相應(yīng)的維護成本也有望降低。
在群雄逐鹿下，英偉達的Rubin“豪賭”能否落地，取決于其能否跨過能源與精度的雙重門檻；而國產(chǎn)芯片的未來，則在于能否抓住這次規(guī)則重構(gòu)的機遇，例如通過增加芯片部署數(shù)量、制定更優(yōu)的散熱方案，將系統(tǒng)設(shè)計的優(yōu)勢轉(zhuǎn)化為真正的市場競爭力。
當(dāng)六芯組合的時代真正來臨，胡晨輝最強的體會是：SOC不再是傳統(tǒng)意義上的系統(tǒng)級芯片，系統(tǒng)也不再局限于硬件的簡單集成，行業(yè)里的參與者，都要樹立做“場景底座”的商業(yè)思維。
這場圍繞AI基礎(chǔ)設(shè)施的博弈，正火熱展開。
作者長期關(guān)注半導(dǎo)體、算力上下游等方向，歡迎添加作者微信 Ericazhao23 交流。
注，文中李明為化名。
雷峰網(wǎng)(公眾號：雷峰網(wǎng))雷峰網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
