〈硅谷101〉-EP-让人类交出方向盘:特斯拉FSD十三年的冒险、争议与进化

美國時間九月二十三日,主持人從矽谷飛到德州奧斯汀,坐進一輛沒有方向盤、也沒有踏板的 Cybercab。等了大概八分鐘。他自己有 Model Y,也開過 Model 3。這台明顯小一圈,感覺比 Model 3 還小,只有兩個位子。他坐在原本該是駕駛座的左側,腳下沒有煞車,也沒有油門,心裡還是有點緊。

緊是有道理的。乘客在緊急時沒辦法做物理接管。影片寫道,特斯拉在後台用遠端人員兜底,網路由 Starlink 撐著,乘客可以一鍵請求路邊停靠,並接通 Robotaxi 的專屬服務。節目組今年五月中旬在奧斯汀已經到處看見 Cybercab,測了幾個月,九月才算跨過一個新里程。馬斯克把這種沒有方向盤的車,說成未來交通的樣子。

截至九月二十二日,特斯拉在德州登記的 Robotaxi 一共四百七十六輛:六十七輛 Cybercab,另外四百零九輛仍是有方向盤的 Model Y。醜聞、訴訟和質疑跟著走了十幾年。FSD 沒停,但進步很苦。馬斯克對人頭和成本卡得很緊,硬體反覆推倒,上線前還在加班改;軟體團隊則一直嫌算力不夠、人也不夠。

二〇一三年跟 Google 拆夥,黑盒先裝上車

二〇一三年,成立十年的特斯拉決定做自動駕駛,第一個想合作的是 Google。高精地圖加光達太貴,對不上馬斯克講的第一性原理。Google 要一步做成 L4,馬斯克要先推 L2,再迭代到 L4。兩邊拆夥,兩條路線吵到現在。特斯拉當時連活下去都費勁,自研談不上,於是找了 Mobileye。

二〇一四年十月的 Autopilot Hardware 1.0 很基礎:一顆前鏡頭、一顆前向毫米波雷達、十二個超音波感測器。晶片是 Mobileye EyeQ3,500 MHz,記憶體 256 MB。在特斯拉近十二年、做過能源、自動駕駛、機器人和 AI 硬體的 Kevin Liu 說,早期車規限制很大,這是沒有別的選擇才用的方案。二〇一五年 Autopilot 軟體上線,只做到車道保持和適應性巡航。那個年代很多車連定速巡航都沒標配,所以已經很驚人。有人在車裡吃漢堡,有人在副駕睡覺,直接把它當成無人駕駛。

二〇一六年五月七日,佛州一輛 Model S 撞上正在左轉的拖掛貨車,車主當場死亡。補助駕駛沒有辨認出那輛貨車。Mobileye 先前警告過,禁止雙手離開方向盤,沒有被當回事。事故是催化劑。真正讓兩邊談崩的,是合作方式。影片把自動駕駛拆成感知、規劃、執行。感知演算法由 Mobileye 壟斷,規劃和控制由特斯拉主導。鏡頭畫面進 EyeQ3,算出結果再交給規劃層,底下是黑盒。受訪工程師說,接口得由兩邊硬性定義,接口以下 Mobileye 不開放。特斯拉想改接口,沒有控制權。分手之後,演算法收回自己做,硬體也換了對象。市場並不買單。

八顆鏡頭不夠,第二顆 GPU 才是冗餘的雛形

事故後五個月,二〇一六年十月的 Hardware 2.0 把鏡頭加到八顆,晶片換成 Nvidia Drive PX2。受訪工程師說,八顆是為以後的全自動駕駛預留,當下算力處理不完每一路。十個月後的 Hardware 2.5 補上冗餘:2.0 是一顆 SoC 外掛一顆 GPU,Nvidia 沒有專門的補助駕駛晶片,馬斯克已在推全自動,晶片壞了得有備案,於是多加一顆 GPU,成為雙晶片的雛形。六個月內自研換掉 Mobileye 演算法,並推出 FSD。初期不順。Mobileye 做了多年,新團隊從零開始,問題可以理解。

AI 3 十八個月流片,量產前三個月幾乎沒休

二〇一九年四月,Hardware 3.0 用自研 AI 3 換掉 Nvidia。這條路在 Mobileye 時期就開始佈。二〇一六年一月,馬斯克挖來 Jim Keller。他在 AMD 做過 K7、K8,在蘋果做過 A4、A5,回到 AMD 做了 Zen,後來去了 Intel。二月,Peter Bannon 加入,進特斯拉前已有近四十年計算系統設計經驗,待過蘋果、Intel、PA Semi,帶過蘋果 A4 到 A9。加上三星團隊,第一顆 FSD 晶片花了十八個月,二〇一七年十二月第一次流片就成功。Kevin Liu 記得,第一次出來基本上沒什麼毛病,小改一版就量產,後面沒再改。做處理器能一次流片就過的是極少數,很多晶片連開機都開不了。當時用的 14 奈米相對成熟。

跟 Hardware 2.5 的 Nvidia Pascal 比,AI 3 的神經網路算力提升五倍以上,其他參數也明顯上去。它為自動駕駛定做。通用晶片還要做執行緒排程、記憶體存取、分支預測,跑神經網路時利用率很難拉高;這顆的有效利用率到百分之八十。影片引用的說明是,二〇一六年沒有從零做起的神經網路加速器,別人只是在 CPU、GPU 或 DSP 上加指令,特斯拉決定做成原生的。

AI 3 正要量產,Jim Keller 離開,硬體交給 Peter Bannon。Kevin Liu 轉述的印象是,Keller 喜歡從零到一,不喜歡從一到十。在蘋果和 AMD,晶片完成之前人就走了。特斯拉當時要做晶片,正好是那種工作。

晶片順利,量產前三個月卻忙到接近崩,因為馬斯克不愛加人。Kevin Liu 說,到今天 FSD 軟體團隊,連機器人那邊的 FSD,人都很少。他們要同時支援還在量產的 Hardware 2.5,又要寫 Hardware 3 的軟體。沒有配套軟體,晶片測試跑不起來,硬體團隊只好自己上傳程式、自己寫指令來測。那三個月是他在特斯拉最忙的一段,幾乎沒休,大概只休了一兩天或兩三天。

自研換來成本和主導權。二〇一八年底公司快破產,整車又用了大量 TI 的車規晶片,希望全部降價,TI 不答應。Kevin Liu 說當時這類晶片利潤平均可以到百分之五十到五十五。他把整套換成功能相當的 ADI,硬體軟體都得重測,還是換。TI 發現這套料占營收很大,執行長出面來求。採購把降價表丟過去:全部降,就改回來。僵持好幾個星期後 TI 答應,那一年大約省下兩千萬美元。馬斯克寫信感謝。

跟 Nvidia 也不乾脆。Kevin Liu 說,到今天 Nvidia 的 Thor 仍是通用晶片,Nvidia 不希望被單一客戶鎖死。配合度更讓馬斯克受不了。有批車要返修,團隊懷疑主機板過熱,只想讀晶片上的溫度感測器。幾行驅動來回扯了約一個星期,對方接著要收費,付了還要再等一個星期。三行程式拖了快半個月。

感知改看影片,雷達在缺貨裡被拿掉

AI 3 在二〇一六年是照卷積神經網路 CNN 設計的。二〇一七年那篇 Attention Is All You Need 隨後改了路線。六月,Google 公開 Transformer,後面催生 ChatGPT。三十歲的 Andrej Karpathy 離開 OpenAI。馬斯克當時還是 OpenAI 聯席董事長,邀他進特斯拉,直接向自己回報。特斯拉的自動駕駛當時在低谷。受訪工程師認為他最大的作用是招募:很多人上過他的課,才有理由進一家車廠。

二〇一八年到二〇二一年,感知連改了四輪。Karpathy 進門先把車道線、車輛、行人交給深度學習,用大量資料訓練,讓系統自己認環境,沒見過的路也還能判斷。任務一多就不夠用:紅綠燈、錐桶、減速丘、施工標誌若各跑一個網路,程式量和車上算力都扛不住。HydraNet 讓所有任務共用底層的特徵萃取網路(backbone),只在頂端分出任務頭(head)。影片把它比成一棵樹,樹幹是共享算力,樹枝是不同的辨識,單一任務可以微調,而不把別的任務帶壞。

早期感知像在看照片,CNN 一張張找車、人、車道線。路上是連續的。小車被巴士擋住的那幾幀,系統得靠前後時刻猜它還在不在。團隊改成看連續幾秒的影片,並預測物體怎麼動。再來,八顆鏡頭原先各看各的,左右都看到一輛車,不清楚是不是同一輛。Transformer 的交叉注意力加上空間變換,把多視角投進同一個俯視座標,做出 2.5D 的鳥瞰圖 BEV。受訪工程師說,學界的多感測器融合也一直有人在做。

二〇二一年,感知開始真的在理解整條路。五月,馬斯克決定拿掉所有毫米波雷達。他早就說過鏡頭就夠,融合多種感測器又重、又增加維修。時間點仍讓內部覺得突然。Kevin Liu 說真實原因是供應鏈:疫情裡雷達供不上,供應商 Continental(Conti)像是談崩了。核心料供不上,採購會升到 Elon,讓他直接跟對方執行長談。不配合的就被拉黑,他的態度是今天不給就不要了。軟體早就被催著在演算法裡拿掉雷達,人手不足,一拖再拖,疫情成了催化劑。測距精度掉下去,只能用純視覺估速度。有人反對,雷達估速度較準,也不怕天氣。

拿掉雷達之後,還得只靠鏡頭做出三維。十四個月後技術放出來。二〇二一年的鳥瞰圖是 2.5D,二〇二二年 AI Day 變成真 3D,靠的是占用網路 Occupancy Network。空間被切成體素(voxel),被佔住就是障礙。長方體框包不住轉彎的兩節公車,也包不住挖土機那支又長又有高度的手臂:有時能從下面開過去,太低就不行。系統不必先認識每一樣東西,也能避障。

訓練需要 ground truth,哪個體素被佔、哪個是空的。傳統靠人工標光達點雲,成本可以是標物體框的十倍以上,而且特斯拉量產車沒有光達。內部用自己的自動標註網路產生標籤,算力也撐得住了,才訓得動。馬斯克對外瞧不起雷達,內部仍有特殊車輛裝光達,專門採這些參考。影片引用的說明是,少數車裝較貴的感測器,就能當成電腦視覺的標註。

Hardware 4:兩顆還是三顆,GDDR 換來容量瓶頸

算力愈來愈緊,二〇二〇年 Hardware 4.0 啟動。2.5 升 3.0 主要是換一顆晶片、加安全冗餘;這次是全系統重做。電路板裝不下更大的晶片、更多的記憶體和電源,老車主不能再像以前那樣免費升到下一代硬體。鏡頭從一百二十萬畫素提到五百萬。車載先看耐熱、抗震和壽命,看清一定距離就夠,幀率比堆畫素重要。Kevin Liu 說,五百萬畫素讓 CMOS 功耗變大,電線得更粗,訊號還要走一到三公尺才到車身中段,做不到手機那種一億畫素。

位置也被改。前擋風原本三顆鏡頭,馬斯克砍掉一顆。他問,人只有兩隻眼,為什麼要放那麼多。意見不合就拍桌罵髒話。雷達拿掉之後,前保險桿成了盲區,停車可能撞上。團隊建議車頭再補一顆。他說人入庫前也看不到車頭下面。人有記憶,車沒有,記憶得另訓一個模型。後來從 Cybertruck 起,前保險桿又加回鏡頭。Kevin Liu 說,Elon 知道自己可能不對,公司也改得很快。

Hardware 3.0 是兩顆各 72 TOPS 的 AI 3。Hardware 4.0 單顆 AI 4 算力已經翻倍,軟體還是說兩顆不夠,三顆才能把 FSD 做出來。Elon 答應了,硬體真的做出三晶片。雙晶片是一顆壞了另一顆接管;三顆要決定誰接管,冗餘、供電、訊號都更複雜。量產前一兩個月,專案經理問到底用兩個還是三個。Elon 像是忽然想起,Kevin Liu 猜財務長提過,覺得三個太貴。軟體說研發都開始了。他說最終決定,就是兩個,不用再討論。板子趕在量產前改回去。內部到現在還在爭要不要再加晶片。流傳的玩笑是:你給我十倍,我能把它用掉。Kevin 覺得模型還有空間可收,只是人手太少,力氣都花在把模型做大。

AI 4 仍找三星做,服務卻不如 Hardware 3。外面生意一多,時程嚴重延遲,效果也不夠好,流片大概三四次。特斯拉選了大家沒用過的 GDDR,設計碰上很多困難。模型變大之後,真正卡住 AI 3 的是記憶體頻寬。影片把晶片比成工廠:算力是工人,頻寬是運原料的高速公路。一百個工人,一次只運得進二十個人的材料,另外八十個只好站著。記憶體從 LPDDR、DDR、GDDR 到 HBM,頻寬和功耗一起往上。特斯拉原先用手機、筆電常見的 LPDDR,為了頻寬改選遊戲顯示卡的 GDDR。功耗高、廠商少、價格也高。用了幾年,容量反而成瓶頸。美光或三星不會只為特斯拉做一款車規大容量 GDDR。內部在做 Hardware 4.3,改回 LPDDR,犧牲一點頻寬換容量。Kevin Liu 說他當時是唯一提出來的人,沒有人聽,他認為那是決策失誤。也許不久車上就會看到 4.3。

成本仍壓得很低。他說整套硬體比 MacBook Air 低很多,大約一台普通 iPad。外觀可以不變,每隔幾個月內部大改一次,性能守住,成本下降。AI 3 和 AI 4 也裝進伺服器攤研發成本,晶片相同,接口和訊號不同,跟主打訓練的超級電腦不同。AI 4 伺服器做兩件事:pixel injection,生成類似世界模型的訓練場景;以及推論驗證,把真實路況回放,看 FSD 會怎麼決策,再跟人類駕駛對照。影片說,被稱為 V12.0 的版本在二〇二三年二月裝車,設計得早,沒針對 Transformer 優化,很快過時。緊接著,舊程式碼被推倒,改走端到端。

三十萬行收成兩千行

二〇二二年七月,Karpathy 離開,軟體創始成員 Ashok Elluswamy 接位。外界猜演算法碰到困難,股價跟著跌。Karpathy 說自己滑進管理職,那不是他想做的,他想回到技術。若舊路線繼續,工作會愈來愈像在重複優化。年底 GPT-3.5 震到整個圈子。馬斯克剛買下 Twitter,想調特斯拉工程師去改推薦。Davor Ros 不想走,告訴他自己在做車用的 ChatGPT:用神經網路取代規則,模仿人怎麼開,沒見過的場景也能避障,必要時壓實線閃過去。馬斯克被說動,還想做一段像 007 的示範。Davor 留下。端到端把大約三十萬行程式收成兩千行。

前 AI 軟體工程總監 Srihari 負責過 Robotaxi 和 Optimus 的 AI 工程,以及軟硬體協同。馬斯克點名過他們把車載 AI 電腦的性能做出來,說沒有這個團隊,Robotaxi 做不成。他回憶,端到端在 ChatGPT 之前就開始試,ChatGPT 加速了其中幾條路,團隊人非常少。二〇二三年八月底,馬斯克在自己車上直播第一次公開演示,地圖上的路徑是臨時點的。車自己開,中間闖了一次紅燈,被笑很久。二〇二三年底員工成批收到 FSD V12,二〇二四年一月推向一般車主。特斯拉是第一家把端到端裝上量產車的車廠。想法本身更早:Nvidia 二〇一六年提過,學界一九八九年就有。

V12 若是一整張網路,畫面上的 BEV 從哪來?參與開發的演算法工程師說,網路中間多拉一條 head,專門顯示鳥瞰圖。推論時這條分支像闌尾,只負責顯示。底層雖然重寫,仍沿用了不少 Karpathy 留下的感知。Srihari 說,更好的物體偵測和占用網路,都是下一步的種子。

二〇二四年十一月的 V13 增加參數,拉高接管里程 MPI,加上車位到車位,並針對 AI 4 優化。鏡頭捕到的光子不做前置處理,直接進模型,延遲變短,物體之間的關聯更能被預測,開起來少一點猶豫。幀率和解析度也提高。Hardware 4 的五百萬畫素,先前演算法並沒有用滿,用多少由演算法自己決定。V12 是在驗證端到端走不走得通,V13 則是把控制端簡化,讓同樣的車上電腦跑得更有效率。內部有人拿它比 SpaceX 的 Raptor V3。Srihari 把目標說成 intelligence per watt:電腦很小,就在那一點功耗裡擠智慧。

二〇二五年十月跳過 V14.0,推出 V14.1。馬斯克稱為 V12 之後的第二大更新。參數提升十倍,Robotaxi 的技術第一次大規模流回量產車,並加入強化學習、新的視覺編碼器,以及重寫過的底層 AI 編譯器。Srihari 說這一版是在押縮放定律(scaling laws)。實體 AI 沒有現成文獻,技術棧得自己發明,不能只靠為自迴歸 Transformer 寫好的那套。二〇二五年底,一輛 Model 3 從加州開到南卡羅來納,兩天、兩千七百英里,全程 V14,沒有一次人工介入。

端到端仍是黑盒。上億個 token 進去,只輸出轉向和加減速,模型會學到假相關:人是因為前車煞車燈而減速,它卻可能以為原因是旁邊在晃的樹枝。Ashok Elluswamy 後來說了三條補法。車上先篩,只上傳極限反應、複雜路況、特殊車輛,不把無聊的高速巡航全部收回來。訓練時讓網路額外吐出一個 3D 場景,檢查它在看什麼、空間關係有沒有建對。再把訓練好的 FSD 放進另一個生成式網路做出的世界模型裡開,重播曾經犯錯的片段,也注入新的極端場景。

傳統模擬是人搭場景、定物體、寫物理,再渲染成畫面。世界模型直接生成每個感測器會看到的內容,也能從一段現成影片往後接。即時生成很吃算力;右轉時行人和其他車要怎麼照現實起反應,也很難做真。最新演算法還把音訊送進決策,目前用來聽警笛和救護車,以後才接到車輛控制。Srihari 的理由是,人看得到、聽得到的,就該試著餵給模型。

客戶車上是 L2,拿到許可的 Robotaxi 被當成 L4

二〇二四年十月發表的 Robotaxi 沒有方向盤、沒有踏板。服務晚了一年才開始:二〇二五年六月,奧斯汀先放十到二十輛 Model Y。Kevin Liu 說,不論 Model Y 還是 Cybercab,硬體跟量產車沒有差別;當時為 Cybercab 做的安全冗餘,後來也放進所有車型。差在軟體。Robotaxi 更新更勤,比客戶車上的 FSD 進一點,底層仍是同一個模型。放在一般特斯拉上它還是 L2;放進這批車,再加上政府的 L4 營運許可,它就是 L4。內部最新的版本要長時間測穩,才推給量產車。

測出問題就靠遠端。主持人坐車時沒有那麼擔心,他認為這個階段特斯拉會盡力保住每一輛。等到幾千、上萬、幾十萬輛,怎麼在安全還在的前提下把範圍拉開,才是外面質疑的擴張速度。現場受訪者說,早期戰備室裡隨時有人盯著最初那幾輛,每一公里都有人看,成本裡含著這些人的薪水。安全數字若以後證明夠了,人工比例就會降下來。

奧斯汀上線後一年,加州、舊金山灣區、內華達、亞利桑那等地陸續拿到條件不同的許可。Srihari 認為剩下的是驗證、法規和部署:多快鋪出去、多快拿到回饋、誰有基礎設施能在不同地方擴。FSD V14 跑在 Hardware 4.0 上,又快到瓶頸。下一顆是 AI 5,比 AI 4 更難,內部還出現瞞報。

二〇二五年八月,被馬斯克當成特斯拉 AI 核心基礎設施、華爾街甚至看成潛在數千億美元資產的訓練電腦 Dojo 被叫停,團隊解散。他的解釋是 AI 5、AI 6 拿來訓練也夠用,不必再重複投 Dojo。Kevin Liu 參與了 AI 5,說挫折和隱瞞很大,Peter Bannon 的離開也跟這件事有關。AI 4 跟三星摩擦多,Bannon 決定從 AI 5 起完全自研,不再外包。人手和經驗都不夠。新招了很多人,仍遠少於三星那種幾百、上千人的設計團隊;Hardware 3 和 4 都有三星深度參與,自己單幹很多環節沒做過。

進度被拖住,還因為德州的專案主管隱瞞困難。對台積電一直說再兩個月,這句話講了快一年。Elon 把圖紙送過去,對方說這不是再兩個月,是再一年,根本離流片還遠。他認定晶片團隊沒說實話,拿掉了一批人,包括 Kevin 的老闆和晶片部門主管。Kevin 認為 Pete 沒有參與瞞報,但那個主管直接向他回報,所以有連帶責任。馬斯克之後親自管晶片團隊,兩條路並行:第三方設計公司協助現有 AI 5,仍交台積電;另一顆請三星回來做,也都叫 AI 5。

影片說的今年四月十五日,台積電版本完成第一次流片,預計量產在二〇二七年。馬斯克說特定任務會比 AI 4 快四十倍。業界猜測,搭載 AI 5 的 Hardware 5.0 會到兩千到兩千五百 TOPS。Kevin Liu 認為功能上會很強,而且用了 MCM。兩種製程可能混在同一款車型上,不會混在同一塊板子上,FSD 的體感應該分不出來。他也聽到較新的內部消息:AI 5 有可能不裝上車,因為馬斯克認為 AI 4 已經夠用,AI 5 主要給算力中心和機器人。這還可能再變,影片說以官方宣布為準。

下半場比的是成本和每一次出行

為什麼是特斯拉做出 FSD?Kevin Liu 說,傳統車廠不必講,矽谷有些新技術公司也會衡量很久。特斯拉願意承擔風險,也願意很快用上新技術。Srihari 把資源拿捏說成一門手藝:要押未來的技術,還得把現在的技術往前移。流程不繁雜,力氣放在讓產品變好的事上;算力、人和時間都有限制,因為功能一直在出。

十三年前,特斯拉和 Google 走了相反的路。後來的 Waymo 用更貴的感測器、更嚴的安全冗餘,先在有限區域把無人駕駛做出來,再慢慢擴大。特斯拉把鏡頭裝進幾百萬輛量產車,把一個遠沒成熟的系統交給真實世界,在事故、爭議、返工和軟體更新裡繼續往前。十三年後還沒分出勝負。影片說下半場的名字叫經濟之戰。Waymo 在商業化和實際營運上仍明顯領先。Cybercab 才剛在奧斯汀有限區域跑。美國聯邦監管機構已經對 Cybercab 啟動調查,查設計是否符合安全標準。現在還不能說特斯拉贏了。

十月的 FSD V15,影片說應該要發布。媒體傳出的消息是參數再大十倍,意在支援 Level 4,早期版本已經在 Robotaxi 車隊裡跑。至少到目前,那條被認為太激進的路線還留在牌桌上。沒有安全員、沒有方向盤,面對數百萬次真實出行,它還能不能維持夠穩定的安全,這題才剛開始。Waymo 要比的,則是多地已經在跑的系統能不能繼續擴張、把車隊做大,並且把成本降到大規模商業化。

〈All-In〉-EP-Elon Musk & Gwynne Shotwell on AI Risks and Peer Review, Starship, Terafab, SpaceX/Tesla Merger

https://allinchamathjason.libsyn.com/elon-musk-gwynne-shotwell-on-ai-risks-and-peer-review-starship-terafab-spacextesla-merger

Gwynne Shotwell 在 SpaceX 的第 24 週年是九月九日,錄這集的時候才剛過幾天。她簽約時是第七個員工,員工編號十一。第一枚火箭賣出去的時候,那枚火箭還不存在。

她說,SpaceX 本來不該存在。

2002 年前後,檯面上的發射商卡位卡得很死,新進者很難擠出空間。可是那批人的客戶服務不怎麼樣,火箭又貴到離譜。接著是 9/11。事件之後大約四個小時內,軍方還大概知道壞人在哪裡,他們很想趕快把一些能力送進戰區,卻找不到人做快速發射。這個機會是那個時間點的行業狀態給的,不是 SpaceX 自己多神。

All-In 這一集的主持人是 Jason Calacanis、Chamath Palihapitiya、David Sacks 和 David Friedberg。開場他們問 SpaceX 最近怎麼樣,她說「我們很無聊,什麼事都沒有,我時間多得很」,還補一句「Elon 的時間比我更多」。

賣一枚不存在的火箭

她進公司的過程也像意外。她跟一個準備離職去 Elon Musk 那邊工作的好朋友吃送別午餐,吃完朋友說「進來見一下 Elon 吧」,她本來覺得不必,最後還是進去了。見面時她直接講:你需要一個全職的人來管 business development,現在掛約聘的看起來不太行。隔天 Elon 的助理 Mary Beth 打電話來,說 Elon 要她去面試這個新設的職位。她的反應是「現在?我有工作,不行」,改約隔天。然後她花了四個星期才決定要去。

「那時候我是個徹頭徹尾的白痴。」她自己的講法是這樣。報到前她給兩週通知,中間多休一週,把家裡的浴室翻修完,因為她確定一旦開始替 Elon 做事,就再也沒時間弄這個。三週後她進公司,員工編號十一。

十幾個月後,她賣出第一枚火箭。那時公司還在做研發,根本沒有東西可以交付。主持人問她那筆生意怎麼談成,她說是行業狀態給的:客戶被原本的供應商卡著,火箭貴、服務差,9/11 之後軍方要的又是別人給不了的東西。她說他們後來做到了自己承諾的事,只是花了點時間。

真正的轉折在 2008 年。那一年公司手上最大的案子是 NASA 的貨運補給合約 CRS,她一路把業務、財務、政府事務都接了下來;她說公司在華盛頓從來不主動出擊,永遠在防守。要談最終條件的那天,Elon 在跑道上問她要不要當總裁,那份合約是 16 億美元。她第一個反應是「我喜歡我現在的工作,我喜歡我的隊友」,第二個反應是「好吧,我又在白痴了,我要」。

一家火箭公司裡的 AI 新手

xAI 併進 SpaceX 之後,那邊的人事流動很大,SpaceX 的人直接走進去補缺口。她說大家其實都很興奮想學 AI,包括她自己在內,她形容自己是「AI 新手」。她把 Elon 的判斷講得很白:如果你不用 AI、不帶頭做 AI,你就有很大的風險變得無關緊要,而 SpaceX 不可能讓自己變成那樣,這家公司做的事太重要。

主持人問,下一代的火箭是不是會越來越多由 AI 設計與建造。她的答案是「百分之百」。她也提到前一陣子數學圈為了某個模型解出 Navier-Stokes 方程而不太高興,二十位菲爾茲獎得主出來說這會毀掉這門手藝。她的反應很直接:比起擔心這些,她更想要世界變得更聰明、問題被解決。

整合還在進行中。不久前他們才把 Cursor 買下來,她說大概就是一個月前的事。她的說法是幾塊業務還沒完全融合,但團隊之間的默契比她想得快,只是沒有快到 Elon 想要的速度。

一個國家的資本規模,一家公司的資產負債表

主持人形容 SpaceX 手上同時有路易斯安那的太空港、Starship、Terafab,還有一堆性質差很大的資本專案,說這已經是一個國家的規模。節目開場的新聞片段把規格念出來:750 億美元的 IPO,掛牌市值 1.7 兆美元;她自己的說法是財務團隊不到六個月就把「史上最大」的那次 IPO 做完。

她先講自己的心理變化。在 xAI 併進來之前,她看到自家支出會怕,一台空氣分離機一百萬美元就讓她心驚;現在聽到的數字是幾億、幾十億。

錢從哪裡來?她的答案是「以上皆是」:現金流、Starlink,需要時再進市場。她說她不打算再釋出股票,也提到上市公司唯一讓她不習慣的地方,法務事前把不能講的話都交代過一輪,「我一定會忘掉一條」。

Starlink 的市場滲透率只有 1.5% 到 2%,看國家而定,所以她認為成長空間還很大;美軍那塊的營收也還很小,她預期那裡同樣還有很多空間。真正讓她自己都覺得有點不好意思的是算力出租。主持人開玩笑把這門生意叫「Elon Web Services」,她說這塊很大,相關的宣布應該很快就會有,而且需求完全看不到下滑。主持人補上規模:這是每季數百億美元等級的建設。

Charlie 的頻譜,和德州那些收不到訊號的地方

主持人把 EchoStar 那筆交易拿出來問。Charlie 手上有一批頻譜,SpaceX 買下來之後,外界開始問直連手機(direct-to-cell)之後是不是要做更大範圍的行動服務。她的回答分兩層:現在這門生意是跟 T-Mobile 合作,但她說 T-Mobile 沒有把所有用戶都開通,只開了付最多錢的那批;接下來他們要用自己花大錢買下的頻譜,而不是到處租別家電信商的一小塊。

目標是把死區消掉。她說這件事在美國特別嚴重,世界其他地方沒這麼糟,德州有一大片收不到訊號的地方。她講了一個自己的故事:有一次跟 Elon 通話,一路因為死區斷線,她心裡想,這樣下去不是被開除,就是要裝一台 Starlink mini 在車上,後來她真的裝了。

聊到這裡,主持人問她接下來要買什麼公司。她說他們幾乎不做 M&A;主持人接著推銷起電動車和電池,說「Starlink 搭 Optimus,算你一個好價錢」。

先把自己淘汰掉

她說得很清楚:舊的技術就是要換成新的。「如果我們不淘汰自己的產品和服務,別人會找到方法替我們淘汰。」當年的 Falcon 9 就是這樣把對手打趴,所以現在輪到他們不能站著被打。要達成 Elon 的目標,真的需要 Starship。她的比喻是:Falcon 9 加 Dragon 是開小廂型車,去火星的路程六個月,你不會想坐在廂型車裡。

主持人追問,NASA 和很多客戶現在還靠那台廂型車。她說今天不會退場,而且 Boeing 拿了政府更多錢開發載人艙,「就讓他們做點生意,他們的艙該飛」。主持人說這個回答有點辣。

至於 Starlink 的競爭,主持人提到 Bezos 那邊在發射,中國也有了返回載具。她認為接下來會非常競爭,最後會贏的是把技術和客戶服務做好的人;特斯拉不廣告,車夠好,人就會買。有人接著問她,會不會有一天大到讓政府想出手,變成下一個標準石油或 AT&T。她只說過去有過一些對立的關係,他們會處理過去;Elon 開的公司產品夠好、說到做到,剩下的就是建立信任,盡可能透明。

把超級電腦放上軌道

主持人請她講太空資料中心。她先糾正名稱:「超級運算,我們得幫 data center 重新命名。」她在節目預告裡的講法很直接:推論算力最有效率的地方,是在軌道上。

地面上的痛點她講得很具體。買地,然後一旦有人知道資料中心要進駐,地價會從一英畝三千美元跳到十八萬美元;許可和執照流程又慢又煩;從動土到有一棟可以用的建築,時間長得離譜,連發電機都要等三年。她說需求是貪婪的、無底的,大家現在就要算力,現在。

軌道上的版本她用同樣的邏輯列出來:發射是自己的;太空的房地產無限大而且免費;散熱也免費,散熱器面對的是深太空;太陽能同樣免費,只要把衛星放在永遠朝著太陽的軌道上就好。她說太陽的能量我們只用到一百萬分之一的一百萬分之一。SpaceX 自己也要做太陽能板,工廠在奧斯汀郊外。

時程她給了:今年會發 Starlink 寬頻的 V3 衛星;下一代的 Starlink 行動衛星也會發,那時候就能開始用 Charlie 那批頻譜;再加上 AI 算力衛星。明年先放一顆上去測,2028、2029 才談得上客戶。Starship 不是非有不可,但它好太多。

訊號是工程,其他都是噪音

主持人問她第一次看到 Starship 那張白紙設計圖時的想法。她說,Elon 做的事幾乎都一樣,一開始看起來很瘋,然後變成現實。當年他說要把火箭降落在船上,大家只能「好啊,那來想辦法」,現在它就在做這件事。她的說法是管理風險,不是迴避風險;失敗要快,學習要快,設計要做得夠壯。

她說自己其實是工程師,很懷念真正下去解技術問題的日子。Elon 對管理層的態度她講得很直白:訊號是工程,其他都是噪音,所以她得做一點工程,不然自己就只是噪音。公司的管理模型是 player-coach,沒有「只做管理」這種事,你必須做你在管的那件事。她承認管理者通常很煩、會拖慢事情,但好的管理者可以把人才的能量放大,把向量調大。

面試很硬。他們要看應徵者有沒有真的成功過的痕跡,因為這裡每個人都很忙,沒被成功燙過的人很難在這裡複製一次成功。他們要的是最好的人,不是「能找到的最好的人」,然後把很難的問題丟給他們;剩下的工作是清掉雜訊和摩擦,讓工程師一天真的能做十個小時的工程,而不是兩個小時。她的講法是,多數大公司、尤其是跟政府做生意的,一天大概只有兩小時在做正事,其他都是雜訊。

上市之後大家的選擇權突然變得很值錢,主持人問會不會出狀況。她說她不擔心,員工來 SpaceX 是為了做有趣、有意義的事,結果也沒有人大量離職。人員會輪調,最好是自願而不是被指派;算力中心缺人,發射團隊的人就過去幫忙,也有 SpaceX 工程師去幫忙 AI 模型那邊。她提到 2008 年的 COTS 案,開發合約一開始是 2.78 億美元,因為範圍變動長到 4.06 億,公司當時只有兩、三百人,卻要做太空梭的接班載具,現在回頭看很瘋。主持人說得直接:在這種公司,夠大膽是特色不是 bug;她同意,這正是讓人留下來的東西。

Elon 從孟菲斯上線

節目進行到一半,主持人的電話響了。他說這通比川普那通重要一點,接起來是 Elon,掛上大螢幕。Elon 開場就說這畫面有種 1984 的味道,主持人接話,說等一下會有拿鐵鎚的女人從走道衝出來。

主持人問他:我們十年內是不是都會死?你的 P doom 是多少?他的回答是,大家都會死,死亡率維持在百分之百。

接著主持人請 Gwynne 給 Elon 打分。Elon 說希望至少三分;她說在 SpaceX,三分叫「好」,還不到「很棒」,四才是很棒;他說那自己是部分滿分。她接著抱怨他準時的問題,還說他應該多花點時間在孟菲斯把 GPU 弄起來。Elon 說他住的地方是孟菲斯的一台 Airstream 拖車。她補一句,這就是很多人不相信他會做的事:他睡在工廠地板上,在孟菲斯幫忙蓋建築、把 Colossus 拉起來。

主持人問他,為什麼 Gwynne 能跟他合作這麼久。他說因為她很強,IQ 和 EQ 都好,這種事見到人就看得出來。至於「她哪一次救過你」這種問題,他說那對他來說就是日常,另一天進辦公室而已。主持人再問,像他這種位置的人很難拿到真話;Gwynne 說她不會想對他說謊。她的理由是火箭這行騙不了人:有問題,你遲早會知道,越早講越好解決,她的原則是「don't let bad shit sit」,有問題就要去打它。Elon 的說法是物理是很嚴厲的裁判。人類訂的法律他看過有人打破,物理訂的法律他沒看過誰打破;火箭沒進軌道就是沒進軌道,不會因為有人說你好話就改變。

話題轉到 AI 風險。主持人問他這七十二小時發生了什麼,他先請大家去看 Hugging Face 那個事件的細節,說很猛:一群狂熱的 AI agent 連續一個星期把 Hugging Face 打得很慘,還取得了 OpenAI 服務的管理權限,而 OpenAI 將近一週之後才發現。Anthropic 也回報了自己那邊的安全事件。他的結論是,任何夠聰明的模型,好像都會想脫離自己的限制。

「Dario 是對的」後面那半句

週末他在 X 上寫了「Dario is right」,之後又補了幾則貼文澄清,那些貼文受到的注意少得多。他在節目上把意思講清楚:他要說的是 AI 的危險在現在這個階段已經非常顯著,AI 安全必須做得更好,不然風險是指數在長。他說這些話他不只從 Dario 那裡聽到,也從 Anthropic 和 OpenAI 的很多人那裡聽到;當這麼多在做模型的人說自己的模型很危險,他認為應該相信他們。

他也不接受「喊危險是為了募資」這種說法。他的講法是:如果一邊說有 10% 的機率把人類清掉,一邊問你要不要認購 IPO 的額度,這要有多離譜的 4D 棋才演得出來。

主持人想把風險鏈拆開:網路攻擊、駭客這種事大家都同意,但從這裡到人類滅絕中間還缺好幾步。他給的例子是軍事系統,如果模型拿到控制權、下令發射核彈,那就很糟。主持人說那些系統都氣隙隔離、不連網;他回:「他們是這樣說,但這些系統好像偶爾還是會拿到軟體更新。」主持人自己接完:所以隨身碟裡有蟲,氣隙還是被跳過去了。

讓對手批改你的作業

他的提案是:讓主要的 AI 競爭對手互相測試彼此的模型。每一家都有自己的 test harness,也就是一整組固定要跑的測驗,看模型會不會去做生物武器、核彈,或是刻意騙人;現在各家都是自己測自己,等於自己改自己的考卷。他說如果每一家的 harness 都拿去測別人的模型,而且中國最強的三、四家也一起做,找到問題的機率會大很多,因為模型是異質的,會從不同角度被敲。他提到電影協會和遊戲產業的做法,也說這件事現在就能做,不必等國會生出一個管制機關。有人擔心這樣會互相偷技術,他說 harness 跑下去都會留紀錄,想蒸餾或偷 IP 會很明顯。

中國的部分他講得很現實:任何方案只要中國不接受,就等於自我閹割,最後什麼都不算。他知道美國的管制機關不可能去中國的 AI 公司查帳,所以能做的就是提前通知加測試:模型發布前先給 API 存取權,別家看到問題就先講,讓對方有機會修;如果對方不修,競爭對手可以公開說他們認為這個模型不安全。他判斷中國很難拒絕這種要求,因為一旦被點名危險還照發,之後真的出事,那個場面很難收拾,法律責任也會很大。主持人問他中國同意的機率有多高,他說這是很合理的要求;實務上沒有強制力,只有輿論的法庭,而他認為輿論的法庭可以很有力。

主持人提到 Lina Khan 前一天的貼文,說「AI 沒有法規」這句話是錯的,產品責任的法律本來就適用;如果 AI 公司推出不安全的產品,民事甚至刑事訴訟的空間都很大。Elon 接得很順:如果競爭對手已經公開警告,公司還是照發,後來真的出事,陪審團不會喜歡那個畫面,罰則會非常大,有人形容那會是菸草公司等級的和解。主持人建議這類安全 harness 沒有理由不開源,讓大家看得到裡面在測什麼,甚至可以拿來賣,等於給模型一個分級;另一位主持人補了誘因的部分,說你要證明別人的模型有問題,就得先投資自己的安全能力。

然後主持人回頭罵 Hugging Face 那個測試。他說放幾千個 agent 去攻擊,同時也該放五千個 agent 去防守,把「這件事可以讓系統更安全」也演示出來,還要有人可以介入;在他看來那是一次有點魯莽的測試,釋出的方式也魯莽。Elon 同意「有點魯莽」,接著把結構講出來:現在最強的兩家是 Anthropic 和 OpenAI,兩邊的模型能力很接近,所以任何一方單方面慢下來,等於把領先位置直接讓給另一邊。他說整體來看,他認為 Anthropic 在安全上比 OpenAI 更用心,但連 Anthropic 自己都承認會擔心自己的模型,Anthropic 很多人公開發言說模型讓他們害怕,因為變聰明得太嚇人。他也說「實驗室」這個詞有點好笑,因為它們其實都是營利的公司。這裡沒有完美解,能做的就是把最聰明的人集合起來,盡量判斷這個模型會不會變成壞人。

另一位主持人補了一個技術理由:異質的評測群可以大幅降低 overfitting 的風險,因為現在的 eval 被過度擬合得很嚴重,模型看起來很強,其實只是把考題背下來。Elon 用一則 X 上的笑話收這段:你的女朋友是滿分十分,但她是個 benchmark maxer。問題是,她真的是十分嗎。

有人問他是不是要推新法規。他的講法是法規這種東西是單向棘輪,加管制很容易,減管制非常難,所以他建議先做這種快、而且中國可能同意的 peer review,之後要往上加都還有空間。主持人補了最後一擊:如果你們不自己管自己,就會被別人管;電影產業當年面對政府審查,自己訂出 R 分級,甚至為了《魔宮傳奇》生出 PG-13。

第十四次飛行之後

Starship 的進度他講得很具體:接下來是第 14 次飛行,這次是最後一次在嘗試塔臂夾取之前飛。如果 14 順利,第 15 次就會試著用發射塔的機械臂夾住飛船;今年底或更可能是明年初,會試著讓飛船和超重助推器都再飛一次。助推器已經重飛過,飛船還沒被塔夾過,也還沒重飛過。一旦飛船可以重飛,人類就有了第一枚完全可重複使用的軌道火箭。

他順便算了成本帳。太空梭只是部分可重複使用,而且那些重複使用的零件難用到讓它每次上軌道的成本比用完就丟的火箭還高;Falcon 9 大部分可重複使用,但每次都要丟掉上面那一節,那大概是中型客機的價錢;助推器常常落在海上,要花好幾天運回來,整流罩落得更遠,回來還要整修。Starship 的設計是助推器和飛船都回到發射台,不只完全可重複使用,還要像飛機一樣快速重複使用。他把這件事叫做讓人類生活延伸到地球之外最關鍵的那個突破。

第一次就夾成功的機率,他給 50% 到 60%。上一次飛行他們在澳洲西北方約一千英里的海面上做了一次模擬降落,如果那裡有塔,那次就會夾到。他還是要多飛一次確認,因為最怕的是飛船在陸地上解體、碎片撒到人身上:「那樣我們的受歡迎程度會掉得非常快。」他說設計本身有能力做到完全可重複使用,這點他很確定;他認為 2027 年達成完全可重複使用加上快速再飛,是非常有可能的事。節目預告裡,她把時間尺度講得更遠:十年內會把人放到火星上,而她會對月球上沒有聚落感到失望。

Terafab,或是不用談規模

被問到 Terafab 的起點,他先開玩笑說 Terafab 是出現在他夢裡的。真正的理由有兩個。一個是台灣:如果有一天晶片因為任何理由不再從台灣出來,事情會非常難辦,所以要有自己的供應。另一個是規模:要把 AI 從伺服器中心一路做到人形機器人和車上的邊緣運算,現有晶圓廠的產能會不夠,而且每一家現在都已經在滿載。晶片不是只有邏輯,還要記憶體、封裝,整套都要有。他的結論很硬:不是蓋 Terafab,就是放棄規模化。

路線是 crawl、walk、run。第一步是在奧斯汀蓋一條研發線,由 Tesla 和 SpaceX 合作,設備都已經下訂,他估計明年底可以做出有點用的東西,但還談不上規模。他也承認他們現在還不太懂這些機器怎麼運作,之前只做過一條 voltage up line。主持人補了一句關鍵:封裝的產能現在幾乎等於不存在,就算你做出晶圓,也要排隊等封裝,所以從封裝切入是對的起點。他們現在已經在做封裝;主持人也提到看到他們在徵微影相關的人。有人問會不會有一天連 ASML 那條路都要自己想辦法,他的回答還是 crawl、walk、run:先證明能做出東西,再證明能做出有用的東西,最後才是大量生產。

兩家公司,和十月一號

主持人問他,既然合作這麼深,為什麼到現在還是兩家公司。他說這是好問題,然後給了一個沒有答案的答案:在這麼多層面都緊密合作的情況下,「可以想像某個動作會是什麼」。主持人接著指出,兩邊的管理團隊已經有幾個關鍵位置重疊。

然後話題跳到十月一號。主持人說他們看到的東西長得像太空船,不像車,還問他:假設要做一個又能飛又能開的東西,你會怎麼做。他要大家等到 10/1。他說到時候需要觀眾在場,來證明那東西不是 AI 生成的。另一位主持人說他看到的時候第一反應是「這模擬做得真好」,對方回他「這不是模擬」,他就說「這一定是假的」。Elon 的說法是,興奮是保證的,成功不保證。

節目最後他得離線去忙 GPU 的事。主持人問他要去幹嘛,他說要去 rack and stack,要去「rage against the machine」。主持人提醒他享受他的 Airstream,然後講了一個 Starbase 的故事:Elon 第一次邀他下去,說「來看看我在蓋什麼」,他問有沒有飯店,Elon 說沒有,我有個兩房的房子,來住;他到了才發現是一棟蓋在沼澤邊的破房子,蚊子多到不行。他問「你明明可以買一棟房子」,Elon 回他:「我沒時間,我得把火箭弄上去。」