〈All-In with Chamath, Jason, Sacks & Friedberg〉-EP-Jensen Huang: The Doomer Hoax, Superintelligence Is Here, and The Future of AI (ft. President Trump)

https://allinchamathjason.libsyn.com/jensen-huang-the-doomer-hoax-superintelligence-is-here-and-the-future-of-ai-ft-president-trump

Jensen Huang 走上台的時候,整排人先站起來。All-In 的四位主持人 Jason Calacanis、Chamath Palihapitiya、David Sacks、David Friedberg 把週更節目整集讓給他,Jason 在開場說,能讓他們這樣做的只有三種人:川普、耶穌,還有台上這位。節目的介紹詞把規格講到滿:NVIDIA 是這個市場上最重要的一檔股票,營收年增 97%,需求不只在,還在加速,而且是唯一一個全端的 AI 工廠級運算平台。Jensen 自己的說法是,GPU 像時光機,它讓你早一點看見未來,而如果你能看見、能預測,就更有機會把未來做成最好的那個版本。

那天真正的主戲不是財報,是週末的一篇文章。節目本來就要從 Dario 那篇談 AI 安全的文章開場,讓 Jensen 講他的讀法;讓幾個人意外的是,幾家前沿實驗室罕見地在同一篇文章上集結。還有人開玩笑問,那篇文不知道有沒有先跑過 AI 文字偵測。

「這是編的」

Jensen 先把兩件事切開。吹哨本身是嚴肅的事,任何時候有人出來說內部控制有問題,都要當真,他認為那位吹哨者 Coxton 有勇氣把自己的擔心寫出來。但同一篇文裡,把預測講成科學結論的那一部分他不能接受;講的人是科學家,講出來的東西明顯不科學,這是不負責任。

接下來他對帳。五年內 AI 會完全接手放射科,世界上不會再有放射科醫師,結果剛好相反,放射科醫師比以往任何時候都需要,而 AI 確實在放射科裡全面接手了掃描判讀,他覺得這很好。六到十二個月內,九成的程式碼會由 AI 寫出來,這是去年講的,錯了。六到九個月內,一半的入門工作會消失,錯了。明年一半的白領工作會不見,錯了。GPT-2 太危險不能放、Llama 3 太危險不能放,也都過去了。

他的判斷是,這些預測得有人負責,因為它們跟「美國贏下 AI」互相矛盾。Chamath 把這條線接到「相信專家」的爭論上:有人拿 COVID 當類比,說那群受過教育、比一般人早知道的研究者講的話,後來未必成立,現在的戰場就在「相信專家」跟「把預測的歷史紀錄攤開來看」之間。他問 Jensen,這些話是從正在做這件事的人嘴裡講出來的,背後是什麼樣的心理結構或動機,商業的,還是政治的。

Jensen 沒有猜動機。他說這些是歷史上數一數二重要的公司,工程師跟研究員非常強,他跟他們是公司對公司的密切合作,要在公開場合講這些其實很為難。他認為這些公司應該用以前蓋公司的方式來蓋:安靜地蓋。

公司要在安靜裡蓋起來

Jason 追問:所以你不准組織裡的人代表整個組織講話,尤其是週末心情不好、或氣到離職的時候,更不准用公司的名義發文。Jensen 的答案很直:那是他們來上班時就講好的。NVIDIA 要的是穩定、一致,核心價值是照顧員工的家庭,讓人有條件做一輩子想做的事,做的事要有意義,然後盡可能安靜地做,讓別人的成功裡有自己的貢獻。他也講得很白:公司不歡迎內部的政治討論,種族、宗教、政治都帶回家講。公司是無黨派的,兩邊都幫,誰執政都希望美國成功。

先把工程做對,再談監管

同一天稍早,Satya 來過節目,他講的是在談會卡住產業的監管之前,先把基本功做好:量測、標準化。Jensen 對「把工程做對」的落點是,把研究用更可預測的方式轉成工程,不要用恐懼推銷,東西還沒準備好就留在裡面。Demis 提過一個類似 FINRA 的組織,Chamath 說沒人清楚 Dario 要的是什麼,聽起來像一個帶著某種控制權的跨國變體。

Jensen 的原則是監管要解決真實問題,所以他先問真實問題長什麼樣。到目前為止,實際出事的都在實驗室裡。他幫實驗室講了一句公道話:它們的算力最多,因為它們在解前沿問題,最危險的地方在它們那裡是合理的。高中生不會出事,因為算力不夠;新創也不會,理由一樣;整個地球上,除了前沿實驗室,沒有人有足夠的算力。

他說這些實驗室正在從研究過渡到工程,同一時間在建公司、建文化、建技術、建工程、建產品,確實有點火燒頭髮,但一邊是一家實驗室的四起事件,另一邊是另一家實驗室的一起大事件,第一件該做的事就是從工程角度做根因分析:發生什麼、當初能怎麼做、接下來要把什麼制度化,不管是技術、方法還是流程,確保不再發生。他願意賭錢,這些案例未來再發生的話,都在他們自己的控制範圍內防得住。另一種可能是他們出來說,分析完了,不知道發生什麼,也不知道怎麼控制,請社會幫忙;他認為不太可能,真要是這樣,就送一批工程師進去。他相信那些人自己處理得來。

他的標準也沒打折:這些公司等級不同,就該用同等級的標準要求,而他們自己也想要被這樣要求。

RSI 是最性感的詞,底下是一組工程手法

Jason 提到前一晚從 David 那裡聽到的消息:GLM 團隊所在的中國實驗室智譜,要把三十億美元押進一條遞迴自我改進(RSI)的訓練路線。節目上補的細節是,這家公司的創辦人剛募到五十億美元,公開說要把「讓 AI 訓練下一個 AI」、把流程自動化列為優先事項。

Jensen 先把它從神壇上拿下來。他說這是現在最性感的說法,底下卻是一整套很合理的東西:脈絡內的學習、技能、反思、強化學習、合成資料生成,這些都會讓 AI 隨著時間更會解問題。再往下一層是不動權重的改進,用 LoRA 調權重,用合成資料跟強化學習加強,累積一段時間之後,再拿這些經驗回去重訓基礎模型。用這套技術提升各種工作的生產力,包括拿來做 AI 本身,他認為非常合邏輯,而且他確定每一家都在某個程度上這樣做。問題出在這個詞被拿去當武器。Jason 把話補完:那種講法給人的印象,是它會失控螺旋。

Jensen 說當然不會。理由很工程:你可以在公司裡 RSI 一整天,但當你要把產品放出去,還是得評估它、再測一次、確認沒有回歸。控制的基本流程就是這樣。實驗室從研究走向工程之後,控制會好得多,因為控制來自方法、知識、實務、工具、技術,還有驗證跟評估;有了這些,RSI 可以在公司裡面做,好產品可以在外面放出來。

開源跟閉源都要,水龍頭打開就有水

Chamath 把題轉到開源,順帶提到 Hugging Face 那筆交易,說那可能是最關鍵的收購之一。Jensen 從第一原理講起:這個世界兩種模型都需要。他自己能用閉源就用閉源,那個週末他用了四個,體驗很好,前沿、一直在變好。閉源在他的腦中像瓶裝水:水是免費的,他當天早上洗澡用掉很多免費的水,重點是在對的地方用對的水。電也一樣,世界上的各種原物料都一樣,兩種都要。

開源之所以必要,理由包括主權、隱私、專有技術。他拿數字出來:過去六個月,四千億美元的創投資金進了 AI 原生公司,其中八成用開源模型;如果沒有開源,這些人要怎麼蓋他們想蓋的東西?他們的夢不會跟前沿實驗室一樣,而美國的強項就是有很多條創新的路。要贏這場 AI 競賽,不是幾家科技公司贏,是每一家公司、每一個產業、每一個研究者、每一個老師、每一個學生、每一家新創都贏。有人會用閉源,很多人會用開源。

這場比賽比的是誰用得最好

Sacks 問,開源模型從中國來還是從美國來,有差嗎?Jensen 說他們自己也在盡力貢獻,但得面對現實:今天全世界對開源的貢獻,絕大多數來自中國,因為他們的工程師多,科學跟數學人才以量取勝,清華這類學校大量製造這種人。我們下載 Linux、下載 Kubernetes,裡面很多東西被中國人碰過;下載下來就是你的,fork 過來、改進、變成自己的。下載一個中國模型也一樣,它剛好是幾個很強的中國研究者做的,但下載之後,它就是你的。

比賽的重點,他說,是誰把技術用得好。上一次工業革命的發明者是馬克士威、伏特、安培,沒有一個是美國人,工業革命從歐洲來,但美國把它在社會層面上發揮得比誰都好,結果就擺在那裡。他希望這一代照這個樣子發生。

Sacks 追問,那為什麼共產黨那套說法在這裡傳得這麼順?Jensen 的觀察是它比較實用。中國沒有人在講這個要結束、那個要終結、什麼大災難;Friedberg 補的那句是,他們很務實,把 AI 看成會推進經濟跟社會的技術,沒有那種「它會終結文明」的團體。Jensen 接著講得很重:我們在把這件事編出來。讓他受不了的地方是,如果那是真的,就該好好談、去做點事;就算那是真的,也該把時間花在處理它,而不是嚇一群什麼都做不了的人。把東西做對,是我們的工作。

Sacks 問他,歷史上什麼時候有這麼多人,這麼激烈地說一件這麼不真的事?Jensen 說那些說法可以被量測、可以被證明是錯的,既不基於科學,也不基於研究,所有基於科學跟研究的東西都指向相反的方向。Sacks 給的解釋是對前沿的恐懼:人類沒去過,沒看過,所以怕,很容易被講。Jensen 說也可能是生命經驗。

他舉自己的例子。他剛出社會時是工程師,不太打字,因為他是軟體普及之前的那一代,那時得先把電腦做出來,軟體才可能流行。這個世代的工程師不一樣,進公司拿到一台筆電、一張椅子,就開始打字,從早打到晚。可是打字之前就有工程。世界還有一座山的工程要做,而其中大部分已經不是打字了。他說以前有忙的工程師,之後也會有;他平常跟 NVIDIA 的軟體工程師開玩笑說你們只是在打字,他最喜歡的鍵是 backspace,因為最好的軟體是最小的軟體。

總統打進來,說這是場騙局

Chamath 正要開始拆解 NVIDIA,話才講到「從最底層開始」,台上的手機響了。Jensen 接起來,喊了一聲總統先生,說自己正跟幾位主持人一起在台上,Jason、Chamath、兩個 David 都在,前面坐了幾千人,而且他們剛剛正在聊他。他說,你當初看穿了那一整套複雜的東西,我們都很感謝。

Trump 被接上麥克風之後,先拿這件事開玩笑:Jensen 能做出全世界最複雜、十年內沒人抄得走的晶片,卻不會把他接上擴音。接著是他的判斷:這一切是一場騙局,中國是最高興的那一方;有些州本來什麼都拿不到,現在因為資料中心進來,反而被想進去的人塞滿。他提到芬蘭,說 Google 想去芬蘭蓋一座大的,他不高興,因為在美國拿不到許可。他說,資料中心很好,它們讓人變有錢、讓州變有錢,是未來二十、二十五年的石油,比網路跟 AI 都大。他認為這些反對聲浪正好幫了不想看到這件事發生的人,可能是政治人物,也可能是中國,而「我們不會讓它發生」。

他補一句:機器人不會接管世界,AI 不會接管世界;要小心、要謹慎做,但那不代表要讓產業停下來。他的總結是「誰贏了 AI,誰就贏了」,這件事比網路更大。他提到自己有位在 MIT 教了四十一、四十二年的教授叔叔,說如果相信基因,他有一點點優勢。他也報了數字:這個國家從來沒有這麼好,二十兆美元的投資正在進來,對照拜登那四年不到一兆美元,而這是「一年」。最後他說,他不知道在場有誰,也不知道自己在跟誰講話,但他會到。

電話掛掉之後,台上有人問這是不是安排好的。Jensen 說沒有,是真的;有人一開始以為是橋段。Sacks 補了背景:這位總統不分時間打來,有一次在橢圓辦公室,他們在睡覺,總統一個一個問晚餐名單,問到 Jensen,Sacks 說他在放假,這趟假他已經延了五年,總統說把他弄上電話,還反問「什麼是放假」。

Sacks 接著問 Jensen,他為什麼看穿?民調是負八十,換成別人坐在橢圓辦公室,就會去做當下受歡迎的事,因為大家要的就是關掉資料中心、結束 AI,而他說這是騙局。Jensen 說他不確定,因為很多人真的信了。他觀察那套故事一開始錨在國家安全,那個錨最近被拆掉,就改錨在安全。

安全要怎麼做,他講得很具體:讓實驗室自己抓住控制、有好的測試,有第三方評估者,而且要好幾組;這跟財務稽核沒兩樣,稽核員不必比公司更懂生意,只要會問對的問題,多組獨立評估可以避免一家公司被單一來源影響。要蓋得安全、測得安全,這是他的順序。

沒有電,就沒有下一場工業革命

他在電話上本來想跟總統講的事,也對全場講了一遍:AI 正在創造大量的工作。總統從這任政府第一天就要的是在美國創造工作、把美國再工業化、確保美國有支撐下一場工業革命的能源。沒有能源就沒有工業成長,所以他要能源成長、工作成長、供應鏈再工業化。Jensen 說這一切此刻都在發生,工作比以往更多,包括軟體工作;四千億美元的創投資金過去六個月進到 AI 產業,創造了大量工作,也創造了對算力的巨大需求,而算力需求又變成對資料中心的需求。

他提到德州州長 Abbott 跟他說的事:資料中心正在全美各地蓋起來,產業要對小社區有同理心,要更會聽。

再往下一層是資本。Chamath 說 NVIDIA 等於是被迫變成 AI 的銀行,才能把生態系推起來;他們跟 Cloverleaf 這種公司做土地、電力、殼體,又跟 BlackRock、Goldman Sachs 這些機構把融資能力做出來。Jensen 的講法是,這是一場新的工業革命,每個環節都要製造;電力、網路之後是 AI,以前我們能供電、能找東西,現在我們能問、能知道。他說人類像是接上了那個無形的場,什麼都能問,它還能解釋給你聽。要能做到這件事就得生產智慧,而那是生產過程,這就是基礎建設必須先蓋的原因。

基礎蓋好之後,他看的是整條生態系的其他層:這個產業不是只有模型,也不是只有晶片,重點在上面那些應用,還有基礎建設那一層,資料中心、施工、電力、發電。他從整條生態系裡找瓶頸,哪裡有公司在被蓋起來、哪裡有卡點,就讓供應鏈先放大,等到要部署算力的時候,人家已經準備好。土地、電力、殼體,他說這跟往上游看供應鏈沒兩樣。他比大多數人更早想長期供應鏈,因為公司太大,要成功得靠一票公司支撐:Corning、Lumentum、TSMC、記憶體公司,這些都是革命還沒來就先一起做的,這樣成長來的時候才長得出來。

往上做到需要的地方,往下盡量低

Chamath 問的是另一個方向:利潤長期會往應用層移動,在那裡可以賺得久一點;你買了 Hugging Face,等於進了模型服務的生意,OpenRouter 這種東西看起來很合理,Bedrock 也該有更好的版本;上面這些人不怕往下走,你有最好的資產負債表、最好的工程師、被驗證過的經驗,你怎麼看這件事?

Jensen 的回答是,NVIDIA 跑全世界每一個模型。一年半前,他們跑的只有 OpenAI;現在 Meta 的 Llama、Grok、Gemini 都在上面,Anthropic 也在他們的平台上放大;前沿模型一個一個開出來,模型跟實驗室的數量都在長。這些實驗室全都建在 NVIDIA 上,理由是他寧願幫每一個人成功,而不是從裡面切一塊走。他的策略是往上做到需要的地方,往下盡量低。如果沒有 NVIDIA 做出 CUDA,那些框架不會存在;如果沒有 Megatron、Megatron Core,大規模訓練不會發生。他們把必要的技術發明到需要的深度,然後讓一千朵花開。

Chamath 的質疑是,超大規模那一層需要更多競爭,你已經很幫 neo cloud,你介紹我認識 Nebius,但這種公司我們需要五十家、一百家、一千家。Jensen 說他其實出奇地不好競爭,那不是他的個性,他很樂意有五家超大規模業者。不過他也指出一個現象:所有 neo cloud 最早的客戶都是超大規模業者,因為超大規模業者一年只規劃一次,而市場波動太大,他們的規劃幾乎總是錯的;區域型雲端反應快,知道自己那個州、那個國家、那個地區的狀況,拿土地、電力、殼體的方式,是坐在西雅圖或帕羅奧圖的人看不到的。於是現在有一大群分散在各國的公司,在幫大家拿土地、電力、殼體;各國也開始把這件事當戰略,想把自己的電力只留給自己的公司。NVIDIA 也在那個國家裡,可以幫當地的 neo cloud 長起來。他點名澳洲的 Firmus 又加了兩 GW,東南亞的 IOH 和其他業者加了幾 GW。

五個領域的前沿模型,跟銀牌的問題

Jason 注意到另一條線:你不只往上走,還很用力做開源,Nemotron 做得很好,Hugging Face、Poolside、Laguna 這些也都被你收進來或合作,自駕的開源堆疊也很有破壞力。他的說法是,你們在五個領域都是前沿模型;你不像在拿銀牌的人,你是要拿金牌的。他問兩個問題:你會做出最強的開源模型嗎?開源追得上前沿模型嗎?

Jensen 說他們會做,一是因為他們有能力,二是因為客戶需要。他拿自駕當例子:他們的推理型自駕系統是世界上第一個「會思考」的自駕車。因為會推理,就不需要那麼多資料,不必先練幾十億小時的道路資料,它可以把問題拆開:這個我看過,不完全一樣,但大致一樣。為什麼這件事非做不可?因為全世界的車都會自駕,不只是車,還有農機、卡車、廂型車,而大多數業者規模不夠大,養不起整套堆疊。NVIDIA 做一套很不尋常的堆疊給他們,他們只要做最後一哩的調校。未來會動的東西,都可能是自駕的。

生物那邊也一樣。ESM2 這個蛋白質語言模型、ESMFold、OpenFold、AlphaFold2,這些如果 NVIDIA 沒做,就不會存在;他特別喜歡的 Protein Complex,做的是下一代蛋白質的合成跟結合,是開創性的東西。他做這些是因為禮來需要、Mark 需要、其他人也需要,而他們自己還沒有能力做。他說他做每一件事都是出於需要,不是想去顛覆誰,「我們不是早上醒來想著要顛覆誰,我們是早上醒來想著要幫大家」。

Terafab、2030 年的微影,跟「快跑」

Sacks 問他對核心業務的競爭威脅怎麼看,他先開玩笑說「我們就是人太好」。談到 Elon 宣布的 Terafab,那個一億平方英尺的廠,Jensen 說如果這件事有人做得成,那就是他;兩個人曾經同一班飛機去一個國家,飛機很好,Elon 喜歡聊這些,他們聊了很久。Friedberg 問的是,你設計晶片、不自己製造,你的晶片可以在那裡製造嗎?Jensen 說他們對製程懂很多,因為他們一直在推極限,規模又大,公司內部的記憶體技術很強,他們是全世界最好的半導體公司之一。他也說,你沒辦法勸 Elon 不要做,那是他的超能力,他一旦決定要做,很難擋。

Sacks 再問中國自己長出來的高階微影設備走到哪了。Jensen 說他們 2030 年會到,而 2030 就在轉角。中國很擅長大量生產,這是時間問題;他說自己看的是十年、二十年,對 NVIDIA 要想下一個十年、再下一個十年,所以兩三年只是一眨眼,什麼都不是;「對他們來說,他們已經到了」。

Jensen 催了一句「得快跑」,台上把話收在「放慢絕對是錯的策略」。

超智慧已經來了,只是形狀很窄

Jason 把最後一段拉回定義。他說產業裡大部分人都覺得我們正在 AGI 的時刻,定義是跟任何人類一樣聰明;有人直接說我們已經到了。他問下一個路標,超智慧,Jensen 怎麼看。Jensen 說他覺得超智慧也到了,前提是把範圍縮窄:他的自駕車不需要會做蛋捲,只要會開車,那樣就是超智慧。它比人類好,事故率大約是人類的十分之一。合成蛋白質、做蛋白質的虛擬篩選,也已經到了。

Sacks 問他,站在人類的前沿好不好玩。他說喜歡。他的收尾是,未來很好,大家都要到;很多人不必工作,但這件事好到不做可惜;他希望所有人都在那裡,人類一起大成功;實驗室的人在做真正重要的工作,他希望他們成功。他也希望這齣戲的戲劇性可以調小一點,而且最後一件事是:美國要整隊跟上。