〈America〉-EP-Elon Musk's full discussion with NVIDIA CEO Jensen Huang at the launch event

https://x.com/america/status/2105051153599811684

America 發表會把題目釘死:AI 會不會塑造未來已經不是問題,問題是美國會不會帶著它走。Gavin Baker 把 Elon Musk 跟 NVIDIA 執行長 Jensen Huang 請上台。三人還沒進入正題,現場先喊了一輪 Go America。Gavin 把萊特兄弟、登月、網際網路串成一條線,說美國幾乎帶過每一次重大技術革命,好處落到普通美國人身上。Jensen 接口,台上這兩個人就是這一代的萊特兄弟。Gavin 覺得 superintelligence 這個叫法本身就是不錯的品牌,現場後來多半簡稱 SI。他要談的是美國怎麼贏,以及贏了之後,對普通美國人好不好。

整疊運算被重做一遍,底層是電

Jensen 把人工超智慧、也就是 SI,講成整疊運算的重做。從處理器怎麼設計、晶片怎麼跑,到軟體怎麼訓練、怎麼開發,再到應用能做什麼、怎麼做,每一層都被重寫過。以前那套比較像把資訊找出來。現在這套是生成式的。要做成,第一件事是電。電跑算力,算力跑演算法,演算法再餵應用。地基是能源。有了能源,才蓋得了土地、電力、機殼,基礎設施才有地方住。

美國在晶片設計跟演算法開發上,他認為是世界級。接下來要盯緊的,是電力的生產跟送到位。他點名川普總統的親能源路線,說這條路有遠見;沒有它,資料中心根本蓋不起來。資料中心上線速度很快,已經進到很多社區跟街區。這一段他承認還得做得更好:跟社區當夥伴,把人帶進來,讓他們分到這場工業革命的好處。晶片要世界最好,電要很多,演算法要夠強,還得讓美國人對這項技術有熱情,擴散進製造、醫療、太空探測這些產業。他說,這樣才贏。

Elon 講的更短。要大量發電,也要放大晶片產能。軟體、任何偏智力或數位的東西,他認為美國在贏。拉長來看,真正要跟的是中國。中國是最大的競爭者,發電量大約是美國的三倍。晶片他覺得會想得出辦法。長期真正卡的,是怎麼發出夠用的電,以及邏輯跟記憶體的製造產能,是不是落在美國,或至少落在安全的區域。

Gavin 說,萊特兄弟已經在崗位上了。他把 SpaceX 公開談過的十 GW 拿出來對帳:若真的接上,大約會占美國新增電力的四分之一。SpaceX 有真正的火箭工程師在幫忙把電力接上來,連渦輪機都有人在做。

五 GW 對一趴 GDP

Elon 先把尺度釘住。美國平均用電大約五百 GW。每多五 GW 穩定產出,大約就是用電量加一趴。他願意跟任何人賭,這一趴會差不多變成 GDP 加一趴,因為每瓦特能擠出來的有用智力一直在往上。硬體這一頭,Jensen 的 GPU 每瓦特算力持續變好。演算法那一頭,每瓦特能換到的智力也在變好。兩條線都往上畫。十 GW 依這個比例,大約是 GDP 加兩趴。

兩人當場算了一輪。Jensen 先估,一 GW 一年大概能產出四百到五百億美元的經濟產出。Elon 把美國 GDP 的一趴對成三千億。五 GW 就是那一趴,也就是三千億,換算下來大約一 GW 六百億。Gavin 在旁邊笑他們在算 maths。Jensen 說別的不一定行,數學還行。Elon 補一句:這個數字會一年比一年跳得更兇。

地上拿不到的電,往軌道上搬

SpaceX 看的更長。Elon 要的是地上拿不到的能源,答案在太空。軌道算力他認為會是一件很大的事。他說 Google 也認這條路,TPU 剛送上去、正要送、或很快會送;去年好像已經有一顆 H100 進過軌道。在太空裡,這套跑得動。

SpaceX 跟 Tesla 的目標是一年兩百 GW 的太陽能產能。搬到太空,拿得到銘牌功率,甚至更好。放在地上,大概只能拿到五分之一到八分之一,還得配上大量電池。太空裡基本上永遠是白天。

Jensen 覺得現在是對的時間點。這套運算系統的經濟回報夠好,發射成本雖然還很高,對整體經濟效益來說已經負擔得起。他把 NVIDIA 的算力送進太空,講成走到那裡最好的辦法。Gavin 接口:用美國的電、美國的晶片、美國的火箭,往卡爾達肖夫尺度爬。

Starship 是這條線的運力。Elon 說週一那次飛得好,Starship 第一次進了軌道,還放出 Starlink V3。衛星很大,翼展跟一架 737 差不多,是 Skylab 以來送進軌道最大的一票酬載。他預期明年大概能走到一週一次,或一週兩次。Starship 本來就要把足夠的酬載送到月球跟火星,在表面蓋一座會自己長大的城市。粗估,月球表面大約要一百萬噸,火星也差不多這個量級。另外,它一年至少會發射幾百 GW 的 AI 算力。兩百 GW 一年,相當於美國總能耗每年加四成。數字很大。他覺得有一天可能走到一 TW。認真的噸位。

資料中心改叫 SI 工廠

Gavin 接著問小鎮。他把電送到這些地方,講成再工業化、把小鎮救回來、電網也跟著現代化。他說這是過去三十五年美國政治人物都想做成的事。他問資料中心對普通美國人、對社區到底好在哪,有沒有愈做愈好。

Jensen 先改名字。以前叫資料中心,因為那是放資料的地方。現在蓋的這些東西,他改口叫 SI 工廠,超智慧工廠。叫工廠,因為它在產出有經濟價值的東西。這些是真的工廠:大型發電、大量運算跟網路、冷卻系統都在裡面,東西很複雜。他拿網際網路當對照。以前人可以在任何地方找到任何東西。有了這套 SI 基礎設施、這些 SI 工廠之後,人可以在任何地方知道任何事、做任何事。

全美一年大概在蓋十到二十 GW。他估,光是把這些資料中心蓋出來,大概一百萬個工作。別忘了電廠也要蓋,資料中心本身要蓋,營建、電力冷卻、管線工都算進去。Gavin 前面講三十五年,Jensen 原本想講五十年。這大概是五十年來第一次,美國在再工業化,而且會長出一大批藍領工作。他要的經濟形狀,是白領跟藍領都在,不要只剩白領。這是把建造跟手藝拉回美國的機會。

Gavin 點名 Colossus 跟孟菲斯一帶。Elon 說經濟衝擊是正面的,而且很大。那一帶以前失業不少,現在工作多過人,他講成 overemployment。稅收對社區幫助很大,他印象裡稅收預算大概翻了一倍。他們也做比較小、但幫得上忙的事:低價、半價的 Starlink。另外在蓋一座兩億五千萬美元的水資源回收廠。社區這邊你得先做事,對方才會回報。

Jensen 另補一條他覺得常被忘掉的:大概有史以來第一次,市場力量本身就撐得起永續能源投資。核融合、核分裂、小型核反應器、大型反應器,幾乎每一種永續能源今天都有人出資。電池儲能也一樣,你丟一個像樣的點子出來,就會有人出錢。這次有機會把未來的能源投資做起來,不必靠政府補貼。

Gavin 代表美國人謝了兩人一輪:加起來為普通美國人的 401(k) 創造超過五兆美元財富,直接工作數萬、也許數十萬,薪資總額好幾百億。Elon 把帳往 Jensen 那邊推,說五兆大概是 Jensen 一個人做出來的;他自己大概三兆五上下。Gavin 說自己本來想保守一點。

Agent 關進殼裡,再用另一顆晶片盯

週一同一天,Gavin 一邊看 Starship 第一次軌道飛行,一邊讀 NVIDIA 的 Open Agent Safety Framework。要把那兩百 GW 美國太陽能、美國晶片、美國超智慧送進軌道,Starship 得在。

Jensen 先講安全。他們要推進 SI,用負責任、也偏樂觀的方式。他相信 SI 會打開的未來,是他想待在裡面的那種,所以才推得這麼用力。另一面,技術得安全、得穩。訓練模型那一段,環境通常相當安全。評測、測試的時候不一樣。agentic 系統、模型本身,得被高度圍住,圍堵系統得真的夠硬。圍住了也不能信它真的出不去,得即時監看。最好用另一顆晶片來看,帶外,在 agent 自己的環境、自己的沙盒外面。圍堵加監看。評測走完、真的部署,用的是非常接近的同一套。

這跟你聘一個數位員工、或真人員工沒兩樣。你給權利、給工具、給權限,然後持續監看。Agent 這件事,圍堵跟監看得做到最嚴的那一檔。NVIDIA 端出兩項技術。Open Shell 是圍堵系統,有點像瀏覽器對網站;現在它是 agent 的瀏覽器,把 agent 跟電腦其他部分隔開,給它的權利只限於它該有的那些。監看系統是一顆新晶片,叫 BlueField,隨時盯著 agent 在做什麼。一旦做出越界、踩到既定政策的事,就往上報,報到你需要的層級為止。

Gavin 提到技術部落格裡的一個類比:網際網路早期大家都怕信用卡被偷,後來網路被做安全了,才有 Amazon、Netflix、Google、X。現在對 AI 做同一件事。Jensen 接著講:安全跟把技術往前推是同一件事。Autopilot 就是例子,技術更先進,也更安全。兩邊不衝突。以為能力往前就會犧牲安全、安全往前就會落後,他認為是假選項。Gavin 接口:安全讓人敢加速。

委派得更久,週末八小時變成三分鐘

Tom Brown 進場時晚了一點。Gavin 說自己是從 X 帳號認得他。Tom 是 Anthropic 共同創辦人,車上轉錯彎,所以比大家晚到。Gavin 接著問普通人能拿到什麼:Anthropic 這幾天宣布了 Opus 5.5,今天能拿它做什麼,一年後又會在哪。

Tom 說 Opus 5.5 延續他們一貫的進度:每一次發版,這些超智慧多幾分 IQ。使用者現在會感覺到的,是能委派的任務時間變長了,比上一版扛得更久。一般美國人若真的要把一件事交給它,會做得更好。另一件比較少人注意到:之後會有大量軟體由這些模型寫出來。大家手上的產品會愈來愈好,也愈來愈便宜。以前工具是人做工程做出來的。之後會是人加上超智慧一起做工程,量比以前大得多。

Gavin 補了現場聽過的故事:超智慧找到能救命的藥,用在以前沒人知道能安全治療的病上;教育上也已經有很深的影響。他要每人講,對普通美國人,SI 今天在做什麼,一年後又能做什麼。

Jensen 先自報身分:我就是普通美國人。他用 Claude 幫忙做研究,不要只給答案。他常做比較研究,兩三種做法並列,列出一串問題,對成長率、變化率這類數字做對照。每個問題他都寫進去,請它做出像樣的報告、把圖畫出來,有時是圓餅圖,有時是長條圖,按下去就走。他說最開心的就是看它跑,然後一份漂亮的報告回來。以前週末要花四、六、八小時才能學一樣新東西;現在大概三分鐘,而且收得更緊。人變聰明的速度變快了。

Elon 看到的是幫人把生活跟工作整理好。專業上、私生活上,他覺得這會變成必要,如果現在還不是的話。他覺得 AI 非常有用。他聽過很多醫療的軼事:醫生判錯了,把 X 光或 MRI 丟給 AI,AI 判對,沒有它,人可能已經死了。這種案例他聽過不少。Gavin 打趣說,希望 Opus 5.6 會告訴 Tom:別左轉,走右邊。

牛排刀不該自己決定這塊肉能不能切

這些超智慧會帶上創造者的價值。Gavin 點出美國人共享的幾條:憲法第一修正案、言論自由、對真相的承諾。他問兩人怎麼把對的價值灌進去。

Jensen 先問能不能講有爭議的。Gavin 說可以。SI 是工具。帶價值的 SI,意思是它有判斷。看你怎麼用,它可能會評斷你,而這個評斷會讓它變不好用。他拿牛排刀當例子。五分熟,切得很順。若端上來是三分熟,看起來很像還活著的肉,刀就切不動了。他還不確定,這些工具到底該帶多少判斷。刀只是例子,別的場景也一樣。使用者意圖不一樣。網路安全裡,防守的動作看起來可能跟攻擊很像。你會希望這把 SI 替防守的人出手,就算那一拳看起來很兇。

時間不夠了。Gavin 問白宮那場顯然又長又有產出的午餐,有沒有能對外講的。Elon 說做得不錯,簽了一份關於 SI 安全的聯合聲明,白宮很快會公布,如果還沒公布的話。裡面包括聯合監看、董事會特別委員會,以及互相改作業。自己改自己的作業,顯然比較差。

Jensen 把內容再攤開。裡面有嚴格的內部控制,方法跟流程都是既有的。產品要做成什麼,得寫清楚;內部控制要確保真的照那個意圖交貨。稽核分兩層:內部稽核會往上報,外面還要有第三方。產業之間再把實務拿出來分享。他覺得這份聲明有牙齒,寫得好,應該成為產業往後的標準,每家公司都該接。總統把人找齊,盯著這場會,把大家帶出來,他覺得會開得很好。

Gavin 代表美國人謝了台上所有人,謝謝他們把未來往樂觀的那一側推。Jensen 看著他,說了一句:他在跳舞。

麥肯錫:美國跑 AI 的資料中心,2030 年用電可能追上現在整個加州

https://www.mckinsey.com/capabilities/tech-and-ai/our-insights/the-top-trends-in-tech

麥肯錫在 2026 年 9 月出版 Technology Trends Outlook 2026,第六版。作者是 Michael Chui、Roger Roberts、Tanguy Catlin。前兩位在灣區,Catlin 在波士頓。今年的故事被從螢幕搬進實體世界:撐起資料中心的電網和晶片、把 AI 做進身體的機器人、自己找新化合物的 agent 系統,以及把上千顆衛星送上軌道的發射台。

AI 要再放大,就得有電。光是能源技術,2025 年就吸進近 2,000 億美元投資,在各個科技領域裡屬於最高的那一檔。AI 基礎設施的支出,一年內翻了一倍。報告認為,現在要問的也包括誰蓋得起硬體、湊得齊會部署的人,把 AI 放進真實世界。同一時間,資安和軟體開發也跳得很大,數位這一側同樣在被加快。

組織正在沒有已驗證路線圖的情況下,搶著把 AI 拉到可運作的規模。人要重新訓練,舊系統要更新,網路暴露在一直變的安全風險裡。缺的是電、人才、資金。報告認為,跨過這些障礙,部署技術只是一截,還得從內部改掉既有的營運模式。

十四條分成三組,今年新加兩條

今年列了十四條,比去年多兩塊長得很快的領域:Agentic 軟體開發,以及科學發現與工程用的 AI。前者已經實質改掉軟體怎麼被做出來;後者開始改科學研究與工程怎麼做。雲端和邊緣運算今年不列了。報告的說法是這兩項已經成熟、被廣泛採用,創新還在,但量測到的水準比不上仍在前線的題目。

三組名字如下。AI 革命:Agentic 軟體開發、Agentic AI、科學發現與工程用的 AI、AI 基礎設施與模型架構。算力與連線的前線:特定用途半導體、資安與可信任系統、進階連線、沉浸式實境、量子技術。尖端工程:機器人、移動、太空、生命科學與生物工程、能源與永續。移動在這份報告裡指交通載具,包含能自己做即時決定、不必有駕駛的車子。

四條是 AI 本身。另外十條也被 AI 加快。機器人裡出現能跟周圍互動的自主機器。生命科學公司找新藥的速度被拉開許多倍。資安的作法、半導體的創新、基礎設施本身,都在被改。寫程式這條,報告開頭用很多個數量級形容產能,後面量到的分布沒有那麼整齊。組與組的界線在模糊,很多新東西發生在縫裡。

去年還有三個名字被改過。原先的 AI 趨勢,今年叫 AI 基礎設施與模型架構。數位信任與資安,改叫資安與可信任系統,強調安全要持續織進硬體和軟體。生物工程改叫生命科學與生物工程,把治療、診斷、基因體和腦科學拉進同一條。

採用程度報告打 1 到 5。1 仍是前沿,幾乎還沒人拿去用。2 是實驗,小規模原型,不急著算回收。3 是試點,先在少數業務用途上部署。4 是規模化進行中。5 是已經在整個企業採用,變成標準做法。

螢幕上的事,Agent 開始自己做完

十四條放在一起,有五件事反覆出現。報告認為,負責帶組織的人得懂這五件。

AI 已經改過螢幕上的工作:回答問題、起草文件、摘要通話。接下來,人把更多自主交給機器。Agent 會自己把許多數位任務從頭做到尾。Agentic AI 被寫成人和 agent 並肩工作的那一層,改的是運作方式。

軟體開發是這件事已經看得到的現場。開發者不必一行一行敲,可以叫電腦做出要的應用。表現最好的工程師,變成會同時叫出好幾個 agent、讓它們寫程式、改程式、測程式的人,人自己去睡。工具從「開發者在旁邊即時下指示」往「把一件事交出去」移。Claude Code、Codex 這類工具把長時間自己跑的 agent 往前推。有的組織開始排下班後的流程:agent 過夜或過週末做事,下一輪工作時段交回寫好的程式、測試、分析或文件。人改成定流程、下判斷的人,執行交給 agent。報告描述,典型兩週一個衝刺的節奏,開始變成起草、測試、除錯、寫文件的連續迴圈,中間才等人審。

Physical AI 是再下一站。意思很具體:把感知、推理、動作加進機器人、交通載具和穿戴裝置,讓 AI 離開螢幕。通用機器人被訓練去認識環境,才能做複雜任務、走過沒有事先排好的場地。車子可以即時決定,不必有駕駛。工業系統可以在沒有人在場的暗廠裡做出複雜產品,報告用 dark factories 這個說法。沉浸式實境的頭戴裝置,同時跟配戴者和外面的世界即時互動。

報告寫,Physical AI 先出現在製造和物流,因為帳算得最清楚。往後指向醫院、工地、農場和城市基礎設施。

藥、程式、材料,都生得比後面的驗證快

生技這邊,AI 可以在過去只生得出少數幾個候選藥的時間裡,提出幾千個。後面那些年數它壓不短:濕實驗室驗證、臨床試驗、法規審查。軟體這邊,程式生得比人審查、測試、安全地部署還快,企業系統裡堆進脆弱的程式。材料這邊,有希望的化合物來得比實驗室合成、驗證還快。報告稱 AI 是近年最有力的加速器,速度本身也是最大的障礙。

軟體這條已經有數字,而且數字不站在同一邊。

報告引用麥肯錫 2026 年 8 月 21 日的研究:若部署成功,Agentic 軟體開發可能為企業釋出近 1 兆美元的價值。同一份研究寫,用了這類工具的公司只有四分之一達到他們定義的實質加速,也就是超過四分之一的團隊、生產力至少翻倍。報告同一段接著寫,用 AI 工具的軟體工程師,八成的生產力加快大約 3%;前兩成是 55%。要到那一層,得把表現最好的人的做法傳給其他人。沒有一套做法的話,會走到另一個結果:三成公司在團隊開始用 agentic AI 工具之後,生產力下降。看起來幾乎每個人都在 vibe coding,那不一定換成價值。

另一項被引用的研究把「寫出來」和「出貨」拆開。Demirer、Musolff、Yang 在 CEPR、2026 年 6 月 21 日的文章寫:AI 工具讓寫程式的活動增加 180%,出貨的版本只增加 30%。程式變多,產品沒有等比例變多。

開發者一個工作日大約只有十分之一在寫程式。瓶頸因此移到兩端:先決定要做什麼,再驗證做出來的東西到底能不能用。報告的分析說,表現最好的組織,把 AI 嵌進開發生命週期四個以上階段的機率,是其他人的六到七倍。出處是麥肯錫 2025 年 11 月 3 日的研究。

信任還沒跟上。Stack Overflow 2025 年開發者調查(2025 年 7 月 29 日):全球 46% 的開發者主動不信任 AI 工具的準確度,33% 信任,高度信任產出的只有 3%。報告把近程目標寫成:在受控的環境裡,人和 agent 一起產生、測試、部署程式。

採用分數是 3,試點。多數組織已經開始試,有些往規模化走,少數快的公司把 agentic 工具當成核心的產品開發流程。科技公司最前面。舊產業還在處理人、流程和治理,否則這套東西進不了日常。北美仍是活動中心。歐洲更小心,強調治理、合規和軟體品質,常常只在少數用途、人看得更緊。亞太在跟數位轉型、工業流程或大型系統現代化綁在一起的地方增長。

科學發現那條更早。採用分數是 2,實驗。多數組織還在起步,雖然過去一年投資和實驗明顯加速。北美在 AI 找藥、計算生物和基礎模型上的資金占比大,錢來自前沿 AI 公司、藥廠、超大規模雲端業者和研究型大學。藥廠、生技、電池、化學和材料組織,是目前最活躍的採用者。

漏洞公開時,利用方式常常已經寫好

以前攻防以天、以週計。防守方有時間先找到漏洞、先補上,攻擊方才有辦法用完。AI 把這段緩衝拿掉。目前超過四分之三的資安漏洞被歸成 zero-day:公開揭露的時候,exploit 已經做好。報告引的是 Zero Day Clock 的〈Zero Day exploitation pressure〉,查閱日寫 2026 年 9 月 4 日。

同一套能力同時服務兩邊。AI 幫安全團隊更快找到洞、補洞,也幫攻擊方更快找到、利用。前沿模型可以在機器的速度上自己發現並利用漏洞,漏洞從出現到被用掉的週期被壓短,人的處理速度跟不上。報告點名 Anthropic 的 Claude Mythos 就是這類模型。

Claude Mythos Preview 被拿來當這個兩面性的例子。模型找出上千個可能的安全缺陷。Anthropic 沒有公開放出。他們經由 Project Glasswing,給一小群防守方有限制的使用權,讓他們辨認、驗證、修補。這則更新的日期是 2026 年 5 月 22 日。

推論變成主要負載,客戶開始自己做晶片

通用晶片長期從筆電一路供到資料中心。AI 改了需求。訓練模型,再把它大規模跑起來(這段叫推論),要的是為特定工作負載最佳化的晶片。推論正在追上訓練,變成主要的 AI 工作負載。模型架構還在變,新的特定用途晶片就為了在那些模型上把推論做得更有效:同樣的電,給出更多結果,成本更低。資料中心的用電已經在拉緊電網,所以每度電能多擠出多少結果,變成晶片的設計條件。

Amazon、Google、Meta、Microsoft 大量投資蓋資料中心,晶片更快、效能更高,對它們直接有利。它們愈來愈常跟半導體廠一起設計配合自家 AI 模型的客製晶片,有些還在摸索把這些晶片賣給外面的客戶。報告的說法是:在晶片業,客戶正在變成另一種供應商。

影響超出半導體。Physical AI 的基礎設施怎麼設計,以及蓋這些機房時,做設備的、供電的,商業模式都在被改。

職缺的組成露出階段差。這份人才需求主要來自英語系國家的公開職缺。連線、資安、能源、生命科學、移動這五條,超過一半的職缺是非研發:總務與行政、營運、業務與行銷。創新還在推,部署已經開始,公司拿去跑算得過帳的用途。四條 AI 相關趨勢,加上特定用途半導體,職缺有超過 75% 仍在研發。報告拿這組職缺說明:過去幾年成長很快,階段仍早。

AI 基礎設施與模型架構的採用分數是 4,規模化進行中。公司正在企業裡擴大部署,各地、各產業的成熟度不同。北美在前沿模型、超大規模基礎設施和創投資金上仍領先。特定用途半導體也是 4。同組裡,Agentic 軟體開發和 Agentic AI 是 3,科學發現是 2。研發職缺占比高,和其中兩條已經在規模化,是兩組並存的數字。

資料中心蓋得比變壓器快

AI 很餓,電網還沒準備好。餓的是電力。

把 AI 拉到大規模使用,一頭撞上雲端巨頭也解不開的限制:電力。美國只計算跑 AI 工作負載的資料中心,2030 年的用電被預估會達到加州今天整州的用電。全球更大。這則預估來自麥肯錫 2025 年 12 月 17 日的文章,談的是 AI 工作負載和超大規模雲端業者的策略。

要多少電是一題。電怎麼送到是更卡的一題。資料中心蓋得比輸電線、變電所和變壓器的供應還快。供應鏈常常是原因。很多市場,變壓器的交期現在超過兩年。全球有超過 2,500 GW 的能源專案卡在電網排隊,等的併網可能是好幾年後。這則來自國際能源署 2026 年 2 月 6 日的說明。

對企業,拿到穩定的算力,開始變得跟拿到人才或資金一樣,是競爭條件。

能源與永續技術本身的採用分數,報告寫的是 4。組織已經走出試點,把這些技術拉到可運作的規模,明顯用在增加電網容量、供應資料中心。太陽能、風電、鋰電池、熱泵、節能,已經是能源投資的預設項目。綠氫、電製燃料、長時儲能、下一代理熱、小型模組化核反應爐、直接空氣捕捉,仍在早期商業化或專案開發。採用在各地不均。電網互聯、輸電、許可和設備瓶頸,在美國仍是明顯限制。歐洲盯的是能源安全、產業競爭力和電網更新,高電價與許可複雜度是它們的難題。

所以「近 2,000 億美元」和「電網沒準備好」可以同時成立。錢已經在能源技術上,送電的設備和排隊沒有跟著縮短。

五條投資外推至少翻倍,12.8 倍那條主要是一筆還沒完成的收購

投資數字看的是已經進到公司的股權資金:創投、企業與策略併購(含合資)、私募(含收購,以及對上市公司的私募投資)、公開募資(含 IPO)。不含企業自己的資本支出和營運費用。已成交的案子是訊號。報告沒有把它當成預測。

算法是:量 2026 年上半年、算到 6 月 30 日的交易,用線性的月速度外推全年。報告註明,超大額交易集中,加上行事曆的淡旺季,會把外推帶歪。這是方向估計。

圖上有五條,2026 年外推至少是 2025 年的兩倍。Agentic 軟體開發 12.8 倍。AI 基礎設施與模型架構 5.3 倍。科學發現與工程用的 AI 3.2 倍。太空技術 12.1 倍。機器人 2.1 倍。

十四條裡,除了進階連線,外推後的全年資金都高於前一年。進階連線是 1.0 倍,持平。它的採用分數已經是 4,規模化進行中,新錢沒有再放大。其他倍數是:能源與永續 1.3、生命科學與生物工程 1.3、資安與可信任系統 1.6、移動 1.2、特定用途半導體 1.1、量子 1.2、Agentic AI 1.4、沉浸式實境 1.9。沉浸式實境的採用分數是 2,外推不到兩倍。量子也是 2,1.2 倍。Agentic AI 的採用分數同樣是 3,外推 1.4 倍,和軟體開發那條的 12.8 倍差很遠。

12.8 倍要單獨拆開。做 Agentic 程式工具的公司,投資到 2023 年幾乎可以忽略,2024 年開始上升,2025 年大約 50 億美元,報告把該年股權投資標成 49 億美元。2026 年上半年越過 610 億美元,主要來自 SpaceX 以 600 億美元、用股票收購 Cursor。TechCrunch 在 2026 年 6 月 16 日報導這筆交易,時間是 Cursor 的 IPO 之後幾天。圖的註腳寫:已宣布,尚未完成。12.8 倍比的是 2025 年全年和 2026 年外推全年,這筆算在裡面。職缺同時在衝,2024 到 2025 年總量變成三倍以上,圖上的增幅是 +221%。採用分數仍是 3。錢先進來,而且一大段是一筆還沒交割的收購;多數公司還在試點。

另外四條翻倍的,使用階段也不一樣。AI 基礎設施是 4,規模化和 5.3 倍的資金同時在走。這條跟前面「支出一年翻一倍」算法不同。5.3 倍是這張圖把 2026 上半年外推到全年,對上 2025 的股權投資。開頭那句是支出,一年內翻倍。兩句都在。合成一個倍數,會把兩套數字混在一起。

科學發現是 2,外推 3.2 倍。機器人是 2,外推 2.1 倍。工業機器人在很多工廠已經上規模,倉庫機器人愈來愈常見;仍早的是 AI 驅動的移動操作、人形機器人,以及更廣的服務機器人。美國仍是機器人新創、Physical AI 模型、軟體和有創投支持的人形開發的主要中心,硬體要拉到規模比較難。中國是工業機器人最大市場,也成為人形生產與部署最重要的早期市場。報告引用 IFR 2025 年 9 月 25 日的資料:中國 2024 年約有 200 萬台工業機器人在運作,當年全球新安裝的工業機器人有 54% 落在中國。中國也把機器人放進第十五個五年規劃的核心,方向是 AI 驅動的機器人。

太空是 2,外推 12.1 倍。很少公司把太空技術嵌進大規模、會重複發生的業務流程。採用在推進的領域是電信、國防、能源、農業、保險和物流。美國在發射、航天器與基礎設施、網路層、太空衍生服務這四層仍然領先。歐洲有地球觀測、天氣預報、衛星導航和氣候監測,難處在私人投資、發射取得,以及下游商業化。錢的倍數,和已經嵌進日常業務,是兩筆分開的帳。

報告的收法是:2026 這十四條讓人看見,新東西可以很快改掉業務目標、全球市場和工作方式。再厲害的技術人也預測不了每一個突破。看懂變化背後的模式,才有機會去塑造,而不是事後才反應。

目前看得到的限制,就是上面這些數字。外推翻倍是方向,而且會被超大額交易拉過;600 億美元那筆還沒完成。科學、機器人、太空的資金倍數已經上去,採用仍停在實驗。藥和材料生得出來,濕實驗室與審查照舊要年。程式生得出來,三成公司的生產力下降,高度信任那些產出的開發者只有 3%。電的那一側,變壓器交期超過兩年,超過 2,500 GW 還在排隊。穩定的電力與算力,已經被寫成跟人才、資金並列的條件。

〈All-In with Chamath, Jason, Sacks & Friedberg〉-EP-Naveen Rao: 4D Computing, AI's Energy Wall & Beating Biology

https://allinchamathjason.libsyn.com/naveen-rao-4d-computing-ais-energy-wall-beating-biology

六月一日,一顆晶片的設計被送進晶圓廠。等它回到實驗室,它已經會生成圖片,一張圖大約花 500 奈焦耳。旁邊放一顆 GPU 當對照,同樣一件事是毫焦耳等級;一奈焦耳是十的負九次方焦耳,差距是好幾個數量級。做出這顆晶片的人是 Naveen Rao,公司叫 Unconventional AI,他在 All-In 這一集裡第一次把這件事講出來。

All-In 的開場介紹把他定位成 AI 晶片新創 Unconventional AI 的共同創辦人兼執行長,也是一路把兩家深科技公司做出來又賣掉的人。他在台上自己補了一句更直白的:他正好是 AI 末日論的相反邊。他認為 AI 會是人類演化的下一步,而他想處理的是底下那層硬體。

一九七八年那台電腦

先從一台電腦講起。一九七八年,他家裡就有一台,那年他大概五、六歲。他學寫程式的理由很單純,覺得那像在解謎。後來他去念電機,一半原因是科幻小說看多了,一直想著要怎麼做出有智慧的機器。等到真的在業界造了一段時間的電腦,他又回學校拿了神經科學博士,動機還是同一件事:怎麼讓電腦變聰明。

創業那條線他講得很簡短。二○一四年,他創了 Nervana Systems,他說那是第一間 AI 晶片公司。那個時候 AI 還不是日常詞彙,要說服別人這件事重要都很難,更別說為它做硬體。他對這種處境的態度是:一樣東西被試過,不代表它就是錯的。後來他把公司賣給 Intel,現在回頭看,他覺得賣得太早;之後他在 Intel 帶 AI 團隊,二○二○年離開。

離開之後他去處理下一個問題:大型語言模型要怎麼變大,於是把 GPU 平台化,讓別人也能拿來訓練自己的模型。ChatGPT 在二○二二年問世之後,他們變成很多人自己做模型時最順手的選擇。這間公司是 MosaicML,二○二三年加入 Databricks,而這塊生意現在大約占 Databricks 總營收的四分之一。

Unconventional AI 要做的事,是回到第一原理,重新想一台電腦該怎麼運作。目標只有一個:把用電效率做上去。原本的時程是五年一千倍,他後來改成三年半,因為進展比預期快;連科學上的難題,都有一部分是靠 AI 更快解掉的。

一間公司一個月用掉 12 GW

他先用一間公司說明能源的尺度。Google 公開講過,他們一個月處理超過 3.2 quadrillion 個 token(3,200 兆),他自己說他平常根本不會用 quadrillion 這個量級。接著他挑了一個偏低的數字來算:如果每個 token 只吃 10 焦耳,乘出來是每個月 12 GW。

再往外擺一層:美國的資料中心今天大約用掉 40 GW,而美國大約是全球資料中心容量的一半,所以全世界加起來還不到 100 GW。其中 12 GW,來自一家公司的 AI 服務。他的估計是,照這個速度,大約三年就會把 AI 能用的電用完。

供給那一邊長得完全是另一個樣子。AI 市場在他口中是往上指數成長,他給的數字是二○三○年一兆美元,也許還更大;電力供給則是線性成長。中間那個缺口就是他要處理的問題,而且他認為只能用技術解決。

資料中心的規劃順序這幾年也換過好幾次。以前是先問有沒有樓地板面積,再來是網路設備,後來變成 GPU,今天排第一的是電。你得先拿到電力合約,再想辦法把它填滿。照這樣算,服務一個 token 的成本大約一半是電,另一半是硬體資本支出、空間這些。所以邏輯變得很簡單:每一瓦都要變現;而他們的商業假設,就是同樣一瓦能變現的倍數比現有硬體好上一千倍。

松鼠的大腦只要 8 毫瓦

人腦大約 20 瓦。猴子按神經元數量等比縮小,大約 1 瓦,跟你口袋裡的手機差不多。老鼠、蝙蝠是毫瓦級。松鼠的大腦是 8 毫瓦,而牠在樹枝之間跳,一千次裡對一千次。也就是說,一支手機的耗電可以塞進一百多顆松鼠的腦。生物做出來的東西很了不起,而且它用的物理基材本來就適合智慧。

他也引了一句他很喜歡的話:你不真的懂一件事,直到你能把它做出來。放在這裡的意思很清楚:人類已經很會做有智慧的系統,只是做得很浪費。

浪費幾乎都花在搬資訊。人類皮質裡有大約 130 億到 140 億個神經元,整個皮質對外的流量只有每秒 160 億位元。一顆高階 GPU 跟外部記憶體之間,每秒搬進搬出將近 30 兆位元;晶片內部的量還要再乘 10 到 100 倍。真正把能源吃掉的就是這件事。

從 ENIAC 到今天的伺服器

電腦的歷史拉長看是機械、類比、數位。一九三○、四○年代轉成數位之後,運作方式換過一次,然後就沒再換:記憶體在外面,計算在另一邊,位元來回搬。一九四五年那台 ENIAC 是為了算火砲彈道,賣點是比人算得快;今天賣電腦的邏輯也差不多,「我比你快兩倍」還是最好賣的一句話,能源效率很少進到那句話裡面。

後面幾十年的趨勢他也講得很清楚。電晶體數量一直往上,頻率跟單執行緒的成長先後停住,到現在連效率都不再靠縮小電晶體改善。Moore 定律大致結束,所以只剩重新想一次題目。

他覺得中間那些抽象層是可以省的。數位的 0 與 1 本身就是對物理世界的一層抽象:電晶體明明有中間狀態,是工程師硬把它壓成 0 和 1。上面的每一層抽象都是有損的,而損失最後都會變成能源。大腦裡沒有線性代數,沒有浮點運算,是神經元本身的物理長出智慧。他想做的,是把半導體物理的抽象直接接到神經網路上。

節拍器、鳥群、蟻群

大自然裡到處都是計算。鳥群裡每一隻鳥做的事很簡單,往左看、往右看、跟著旁邊那隻走,整體就長出漂亮的群飛。蟻群用很簡單的規則做出很聰明的事。這套學問叫動力系統理論,講的是簡單的局部行為怎麼生出集體行為;大腦也走這條路。

他給的例子是節拍器。把好幾台放在一塊可以前後滾動的板子上,它們會自己同步;每一台推板子一點點,就算起始的相位差了一點,最後還是會走到同一個相位。加到幾百台也一樣。他說可以想像更複雜的版本,比如一半同步、另一半用相反的相位同步。重點是這是一個只靠系統本身的耦合,就會自己走到某個狀態的物理系統。

問題於是變成:這種系統能不能拿來做運算,而且要用在生成式 AI 上。他們先放出一個叫 UNO 的模型,是用一群振盪器做出來的圖像生成模型,模擬過,也開源讓大家玩。那是第一次證明這種東西可以放大、可以訓練,也可以生出有用的東西。

他們拿來看它的工具叫狀態空間軌跡:把系統的狀態想成所有振盪器當下的相位,再看它隨時間怎麼跑。如果你把它條件在某一個輸出上,比如一張飛機、一台車、一隻鳥,它會走上不同的軌跡。台上放的圖,就是這個模型自己生出來的。

把連線丟掉,表現反而更好

在一個密集網路裡,N 個元素兩兩相連就是 N 平方條線。十個元素一百條,還行;一千個元素變一百萬條,這條路很難一直往上走。

他們的做法叫稀疏性:刻意丟掉一堆連線,然後看能不能把整個系統的行為救回來。結果不只是救回來。丟掉連線之後,行為可以更好,也更好訓練。理論上有一堆理由,而他們不只在模擬裡做到,在真實的物理系統上也做到。效率、可擴展性、效能三個同時變好,這種事很少見,他把它叫作聖杯等級的問題;問題被問了很久,關鍵是要用對的方式把它框起來。

第一台實體動力系統電腦

「這是第一台被做出來的實體動力系統電腦(dynamical computer),也是我第一次公開講。」Naveen Rao 說,公司一月才認真開始,當時連團隊都沒有,只先立了一個目標:今年要把第一個實體原型做出來。六月一日,設計送去下線;現在晶片回到實驗室,結果也拿到了。台上放的圖,是這種電腦生出來的第一批圖片。

它只會生圖嗎?他說序列建模、語言模型這類任務都可以做。真正有意思的是能耗:一張圖大約 500 奈焦耳,而一般 GPU 是毫焦耳等級,差了好幾個數量級。原因就是它不搬資訊。

這裡的對照組是 von Neumann 架構。CPU 到 GPU 是一路變得更平行,但記憶體與計算還是分開的,資訊還是要來回搬。他們做的動力系統電腦把計算與記憶體放在同一個東西裡:沒有記憶體介面,每一個運算元件自己就是記憶體。他給這種做法取的名字是 4D computing:三維是物理上的堆疊與平面佈局,第四維是時間與動態。

熱力學極限,與打敗生物

效率好一千倍之後會發生什麼?他說真正要最佳化的是「每一瓦能換到多少智慧」。這個量有一個熱力學極限,誰都超不過去;哺乳類的大腦離那個極限大約還有一到兩個數量級。今天的電腦離極限是十的十次方倍,也就是一百億倍。他們的估計是三年半可以碰到 2D 微影的極限,而公司的總目標是打敗生物。

畫面他也講得很具體:從好幾 GW 的大型資料中心,變成很多散在各處的小型資料中心。他覺得這是好事,對環境比較好,也更在地、更能適應。十年左右的尺度上,他要的是到處都有算力,包括新的機器人形態,甚至幾十億台機器人動態地組起來,解決現實世界的問題。

市場那一頭他用傑文斯悖論收:當一樣東西的底層成本掉下來,用量會增加得比價格掉得更多。價格砍半,用量增加超過兩倍;價格掉到千分之一,用量增加超過一千倍。所以他說,這會是人類有史以來最大的市場。

兩年後是一整櫃機器

演講結束後主持人問的第一件事是生態系:這種東西要真的落到某個人手上,旁邊還需要晶圓廠、封裝廠一整排人,路有多長?同一個活動上,Jensen 稍早才上台講過話,這個問題在現場聽起來特別有畫面。

他的答案很直接:兩年內做到完整產品。產品是什麼?一整櫃機器,一個系統,在上面跑模型,對外就是一條網路線,token 進、token 出;裡面的東西跟現有電腦完全不同。

第二個問題是既有模型怎麼辦。主持人提到世界花了很多年在 KV cache 這類東西上,整個生態都繞著那些抽象打轉。Naveen Rao 的說法是一條滑動的尺:一樣東西比別人好多少,決定了大家願意忍受多少搬家的痛苦。他選的策略是把效率做到讓人非搬不可。搬的地方在模型層,運算層不用動,所以現有的模型可以用;但轉換本身要花掉不少算力。

主持人接著拿 MATLAB 當比喻,問有沒有類似的東西。他說可以這樣理解,但實作起來不是 MATLAB,是一連串隨時間變化的行為;每一個時間步都可以看成「現在的狀態乘上一個轉移矩陣」。

最後問到人。做這種題目的是哪些人?他說一邊是理論的人,動力系統理論已經累積一百年;另一邊是真的在做晶片的人,而這兩群人平常不講話。把他們兜在一起、讓大家協力做同一個東西,是這家公司最難的事之一。中間的橋是一組 Python 函式庫,某種程度上像 GPU 世界的 CUDA:讓人可以表達隨時間變化、帶隨機性的元素。

把整場演講收成一句:AI 接下來最硬的瓶頸是瓦數,而瓦數不太可能在 von Neumann 的架構裡被解掉。對不在晶片業的人來說,有兩個觀察可以帶走。一個是估成長的姿勢要換:模型多強之外,每一瓦能換到多少智慧更值得看,因為成本曲線往下掉的速度,會決定用量往上衝的幅度。另一個是時間點:這台機器六月才回到實驗室,一張圖 500 奈焦耳;離可以插電、接上網路線的整櫃產品,他自己給的答案是兩年。

Rao 押的是這條曲線掉得夠快。這顆六月才回到實驗室的晶片,是他到目前為止唯一拿得出來的回應。

〈All-In with Chamath, Jason, Sacks & Friedberg〉-EP-Naveen Rao: 4D Computing, AI's Energy Wall & Beating Biology

https://allinchamathjason.libsyn.com/naveen-rao-4d-computing-ais-energy-wall-beating-biology

六月一日,一顆晶片的設計被送進晶圓廠。等它回到實驗室,它已經會生成圖片,一張圖大約花 500 奈焦耳。旁邊放一顆 GPU 當對照,同樣一件事是毫焦耳等級;一奈焦耳是十的負九次方焦耳,差距是好幾個數量級。做出這顆晶片的人是 Naveen Rao,公司叫 Unconventional AI,他在 All-In 這一集裡第一次把這件事講出來。

All-In 的開場介紹把他定位成 AI 晶片新創 Unconventional AI 的共同創辦人兼執行長,也是一路把兩家深科技公司做出來又賣掉的人。他在台上自己補了一句更直白的:他正好是 AI 末日論的相反邊。他認為 AI 會是人類演化的下一步,而他想處理的是底下那層硬體。

一九七八年那台電腦

先從一台電腦講起。一九七八年,他家裡就有一台,那年他大概五、六歲。他學寫程式的理由很單純,覺得那像在解謎。後來他去念電機,一半原因是科幻小說看多了,一直想著要怎麼做出有智慧的機器。等到真的在業界造了一段時間的電腦,他又回學校拿了神經科學博士,動機還是同一件事:怎麼讓電腦變聰明。

創業那條線他講得很簡短。二○一四年,他創了 Nervana Systems,他說那是第一間 AI 晶片公司。那個時候 AI 還不是日常詞彙,要說服別人這件事重要都很難,更別說為它做硬體。他對這種處境的態度是:一樣東西被試過,不代表它就是錯的。後來他把公司賣給 Intel,現在回頭看,他覺得賣得太早;之後他在 Intel 帶 AI 團隊,二○二○年離開。

離開之後他去處理下一個問題:大型語言模型要怎麼變大,於是把 GPU 平台化,讓別人也能拿來訓練自己的模型。ChatGPT 在二○二二年問世之後,他們變成很多人自己做模型時最順手的選擇。這間公司是 MosaicML,二○二三年加入 Databricks,而這塊生意現在大約占 Databricks 總營收的四分之一。

Unconventional AI 要做的事,是回到第一原理,重新想一台電腦該怎麼運作。目標只有一個:把用電效率做上去。原本的時程是五年一千倍,他後來改成三年半,因為進展比預期快;連科學上的難題,都有一部分是靠 AI 更快解掉的。

一間公司一個月用掉 12 GW

他先用一間公司說明能源的尺度。Google 公開講過,他們一個月處理超過 3.2 quadrillion 個 token(3,200 兆),他自己說他平常根本不會用 quadrillion 這個量級。接著他挑了一個偏低的數字來算:如果每個 token 只吃 10 焦耳,乘出來是每個月 12 GW。

再往外擺一層:美國的資料中心今天大約用掉 40 GW,而美國大約是全球資料中心容量的一半,所以全世界加起來還不到 100 GW。其中 12 GW,來自一家公司的 AI 服務。他的估計是,照這個速度,大約三年就會把 AI 能用的電用完。

供給那一邊長得完全是另一個樣子。AI 市場在他口中是往上指數成長,他給的數字是二○三○年一兆美元,也許還更大;電力供給則是線性成長。中間那個缺口就是他要處理的問題,而且他認為只能用技術解決。

資料中心的規劃順序這幾年也換過好幾次。以前是先問有沒有樓地板面積,再來是網路設備,後來變成 GPU,今天排第一的是電。你得先拿到電力合約,再想辦法把它填滿。照這樣算,服務一個 token 的成本大約一半是電,另一半是硬體資本支出、空間這些。所以邏輯變得很簡單:每一瓦都要變現;而他們的商業假設,就是同樣一瓦能變現的倍數比現有硬體好上一千倍。

松鼠的大腦只要 8 毫瓦

人腦大約 20 瓦。猴子按神經元數量等比縮小,大約 1 瓦,跟你口袋裡的手機差不多。老鼠、蝙蝠是毫瓦級。松鼠的大腦是 8 毫瓦,而牠在樹枝之間跳,一千次裡對一千次。也就是說,一支手機的耗電可以塞進一百多顆松鼠的腦。生物做出來的東西很了不起,而且它用的物理基材本來就適合智慧。

他也引了一句他很喜歡的話:你不真的懂一件事,直到你能把它做出來。放在這裡的意思很清楚:人類已經很會做有智慧的系統,只是做得很浪費。

浪費幾乎都花在搬資訊。人類皮質裡有大約 130 億到 140 億個神經元,整個皮質對外的流量只有每秒 160 億位元。一顆高階 GPU 跟外部記憶體之間,每秒搬進搬出將近 30 兆位元;晶片內部的量還要再乘 10 到 100 倍。真正把能源吃掉的就是這件事。

從 ENIAC 到今天的伺服器

電腦的歷史拉長看是機械、類比、數位。一九三○、四○年代轉成數位之後,運作方式換過一次,然後就沒再換:記憶體在外面,計算在另一邊,位元來回搬。一九四五年那台 ENIAC 是為了算火砲彈道,賣點是比人算得快;今天賣電腦的邏輯也差不多,「我比你快兩倍」還是最好賣的一句話,能源效率很少進到那句話裡面。

後面幾十年的趨勢他也講得很清楚。電晶體數量一直往上,頻率跟單執行緒的成長先後停住,到現在連效率都不再靠縮小電晶體改善。Moore 定律大致結束,所以只剩重新想一次題目。

他覺得中間那些抽象層是可以省的。數位的 0 與 1 本身就是對物理世界的一層抽象:電晶體明明有中間狀態,是工程師硬把它壓成 0 和 1。上面的每一層抽象都是有損的,而損失最後都會變成能源。大腦裡沒有線性代數,沒有浮點運算,是神經元本身的物理長出智慧。他想做的,是把半導體物理的抽象直接接到神經網路上。

節拍器、鳥群、蟻群

大自然裡到處都是計算。鳥群裡每一隻鳥做的事很簡單,往左看、往右看、跟著旁邊那隻走,整體就長出漂亮的群飛。蟻群用很簡單的規則做出很聰明的事。這套學問叫動力系統理論,講的是簡單的局部行為怎麼生出集體行為;大腦也走這條路。

他給的例子是節拍器。把好幾台放在一塊可以前後滾動的板子上,它們會自己同步;每一台推板子一點點,就算起始的相位差了一點,最後還是會走到同一個相位。加到幾百台也一樣。他說可以想像更複雜的版本,比如一半同步、另一半用相反的相位同步。重點是這是一個只靠系統本身的耦合,就會自己走到某個狀態的物理系統。

問題於是變成:這種系統能不能拿來做運算,而且要用在生成式 AI 上。他們先放出一個叫 UNO 的模型,是用一群振盪器做出來的圖像生成模型,模擬過,也開源讓大家玩。那是第一次證明這種東西可以放大、可以訓練,也可以生出有用的東西。

他們拿來看它的工具叫狀態空間軌跡:把系統的狀態想成所有振盪器當下的相位,再看它隨時間怎麼跑。如果你把它條件在某一個輸出上,比如一張飛機、一台車、一隻鳥,它會走上不同的軌跡。台上放的圖,就是這個模型自己生出來的。

把連線丟掉,表現反而更好

在一個密集網路裡,N 個元素兩兩相連就是 N 平方條線。十個元素一百條,還行;一千個元素變一百萬條,這條路很難一直往上走。

他們的做法叫稀疏性:刻意丟掉一堆連線,然後看能不能把整個系統的行為救回來。結果不只是救回來。丟掉連線之後,行為可以更好,也更好訓練。理論上有一堆理由,而他們不只在模擬裡做到,在真實的物理系統上也做到。效率、可擴展性、效能三個同時變好,這種事很少見,他把它叫作聖杯等級的問題;問題被問了很久,關鍵是要用對的方式把它框起來。

第一台實體動力系統電腦

「這是第一台被做出來的實體動力系統電腦(dynamical computer),也是我第一次公開講。」Naveen Rao 說,公司一月才認真開始,當時連團隊都沒有,只先立了一個目標:今年要把第一個實體原型做出來。六月一日,設計送去下線;現在晶片回到實驗室,結果也拿到了。台上放的圖,是這種電腦生出來的第一批圖片。

它只會生圖嗎?他說序列建模、語言模型這類任務都可以做。真正有意思的是能耗:一張圖大約 500 奈焦耳,而一般 GPU 是毫焦耳等級,差了好幾個數量級。原因就是它不搬資訊。

這裡的對照組是 von Neumann 架構。CPU 到 GPU 是一路變得更平行,但記憶體與計算還是分開的,資訊還是要來回搬。他們做的動力系統電腦把計算與記憶體放在同一個東西裡:沒有記憶體介面,每一個運算元件自己就是記憶體。他給這種做法取的名字是 4D computing:三維是物理上的堆疊與平面佈局,第四維是時間與動態。

熱力學極限,與打敗生物

效率好一千倍之後會發生什麼?他說真正要最佳化的是「每一瓦能換到多少智慧」。這個量有一個熱力學極限,誰都超不過去;哺乳類的大腦離那個極限大約還有一到兩個數量級。今天的電腦離極限是十的十次方倍,也就是一百億倍。他們的估計是三年半可以碰到 2D 微影的極限,而公司的總目標是打敗生物。

畫面他也講得很具體:從好幾 GW 的大型資料中心,變成很多散在各處的小型資料中心。他覺得這是好事,對環境比較好,也更在地、更能適應。十年左右的尺度上,他要的是到處都有算力,包括新的機器人形態,甚至幾十億台機器人動態地組起來,解決現實世界的問題。

市場那一頭他用傑文斯悖論收:當一樣東西的底層成本掉下來,用量會增加得比價格掉得更多。價格砍半,用量增加超過兩倍;價格掉到千分之一,用量增加超過一千倍。所以他說,這會是人類有史以來最大的市場。

兩年後是一整櫃機器

演講結束後主持人問的第一件事是生態系:這種東西要真的落到某個人手上,旁邊還需要晶圓廠、封裝廠一整排人,路有多長?同一個活動上,Jensen 稍早才上台講過話,這個問題在現場聽起來特別有畫面。

他的答案很直接:兩年內做到完整產品。產品是什麼?一整櫃機器,一個系統,在上面跑模型,對外就是一條網路線,token 進、token 出;裡面的東西跟現有電腦完全不同。

第二個問題是既有模型怎麼辦。主持人提到世界花了很多年在 KV cache 這類東西上,整個生態都繞著那些抽象打轉。Naveen Rao 的說法是一條滑動的尺:一樣東西比別人好多少,決定了大家願意忍受多少搬家的痛苦。他選的策略是把效率做到讓人非搬不可。搬的地方在模型層,運算層不用動,所以現有的模型可以用;但轉換本身要花掉不少算力。

主持人接著拿 MATLAB 當比喻,問有沒有類似的東西。他說可以這樣理解,但實作起來不是 MATLAB,是一連串隨時間變化的行為;每一個時間步都可以看成「現在的狀態乘上一個轉移矩陣」。

最後問到人。做這種題目的是哪些人?他說一邊是理論的人,動力系統理論已經累積一百年;另一邊是真的在做晶片的人,而這兩群人平常不講話。把他們兜在一起、讓大家協力做同一個東西,是這家公司最難的事之一。中間的橋是一組 Python 函式庫,某種程度上像 GPU 世界的 CUDA:讓人可以表達隨時間變化、帶隨機性的元素。

把整場演講收成一句:AI 接下來最硬的瓶頸是瓦數,而瓦數不太可能在 von Neumann 的架構裡被解掉。對不在晶片業的人來說,有兩個觀察可以帶走。一個是估成長的姿勢要換:模型多強之外,每一瓦能換到多少智慧更值得看,因為成本曲線往下掉的速度,會決定用量往上衝的幅度。另一個是時間點:這台機器六月才回到實驗室,一張圖 500 奈焦耳;離可以插電、接上網路線的整櫃產品,他自己給的答案是兩年。

Rao 押的是這條曲線掉得夠快。這顆六月才回到實驗室的晶片,是他到目前為止唯一拿得出來的回應。