〈All-In with Chamath, Jason, Sacks & Friedberg〉-EP-Anthropic IPO at Risk, Meta's Muse Pop, Token Prices Fall, Open Source Gains Share, Alignment Fails

〈All-In with Chamath, Jason, Sacks & Friedberg〉-EP-Anthropic IPO at Risk, Meta's Muse Pop, Token Prices Fall, Open Source Gains Share, Alignment Fails

https://allinchamathjason.libsyn.com/anthropic-ipo-at-risk-metas-muse-pop-token-prices-fall-open-source-gains-share-alignment-fails

All-In 第 290 集,Jason Calacanis 把 David Friedberg、Chamath Palihapitiya、電話裡的 David Sacks 拉回來。開場先回到第五屆 All-In Summit。Sacks 認定會被記住的一幕,是 Jensen 在台上講的時候,總統川普打進來。Friedberg 說後台約了「打給我」,人上台之後電話進來,但不是事先排好的橋段。Sacks 說完全是臨時的。Jason 把備用麥克風遞過去開擴音。川普丟了一句:Jensen 做出誰都逆向工程不了的晶片,自己卻不知道擴音鍵怎麼按。

Sacks 把峰會前幾週講成一場 psyop:除非照民主黨要的做、把 AI 開發全部停掉,否則人類會滅絕。他說 Dario 先把音量降下來,Jensen 和 Demis 也把那股恐慌往下壓,川普再把敘事拿走。Jason 轉述 Elon、Jensen 這邊的話:軟體有缺陷、還沒準備好,就別放到世界上,把它做得沒那麼脆。

叫 lab,責任就挪走

Chamath 把上周的人分成兩群。一邊想自稱 lab,其實有損益表、有股東。另一邊是被盯了幾十年的公司,知道做穩要付多少成本,做不穩又要付多少。他點名站在產品責任這一側的:Satya、Jensen、Sacks、Zuckerberg、Elon、總統,還有 Lina Khan。美國這套產品責任,就是要擋住公司明知可能有害還去做。另一邊的講法是:保護我們,我們是 lab。回應是自己做內控,把測試做扎實。

Elon 的 FSD,Jason 說過本來三、四年前就可以到。Elon 公開講過為什麼慢:Tesla 出一次事故,放大的倍數是別家的一千倍。Zuckerberg 上周說 Meta AI 本來要上,看起來會是近年最成功的產品發布之一。他跟 Alec 還是延了幾個月。Chamath 前一晚跟 Alec 聊過。所以別再叫這些組織 lab。它們是公司,產品責任包括在內。

Sacks 把題收成個人責任,還是集體行動。每一次該問的是這個產品出不出,不是能不能讓全世界先同意。這一週 Dario 和 OpenAI 的 Sam 去了聯合國,講要某種全球 AI 治理。他覺得像坐私人飛機去 Davos 罵氣候變遷。產品不可靠、行為不可預測,就不要發。等聯合國達成任何共識,這趟早就走更遠了。叫 lab,聽起來像非營利。它們是公司。

Jason 丟出外面在傳的版本。這些公司想找川普給它們網際網路公司曾經有過的 Section 230,一張責任盾。傳聞是拿 10% 股權給美國主權基金,換一張責任上的放行。他說這像飛機公司送政府 10% 股權,飛機掉下來就不用負責。Sacks 先改歸屬:這不是川普政府的主意。過去一週,幾乎每一位川普政府官員都講了同一句,產品責任不會被豁免。眾議院議長 Johnson 講了。想拿產品責任或反托拉斯的豁免、想組卡特爾、想串通,門都沒有。川普當天發文,把法務部、行政體系、民事訴訟、刑事訴訟都算進已經在的約束。Jason 追問它們是不是在遊說。Sacks 說沒有人當面來找他要豁免,但他聽華盛頓的人講,對方在找類似的東西。

峰會上 JD Vance 被 Jason 問了三個他能想到最難的問題。Vance 的意思是:你在造科學怪人,那就停;貓已經出袋,就去做反科學怪人。Friedberg 用 Zuckerberg 那次訪談當對照。Meta AI 這週的發布他們花了時間,要安全,不要把做壞事的能力交出去。誰輸出模型,誰就該把責任接下來。Jason 補了一句,這是付過 Cambridge Analytica 那串罰單的組織。

Sacks 不買的前提是他稱為 Dario 的立場:競爭會變成逐底,競爭傷害安全。冷戰時有人說資本主義會讓建築變醜。結果冷灰的地景是蘇聯那套做出來的。沒有客戶要不可預測、不照你講的做的產品。沒有企業要一個會外洩資料、或去駭競爭對手的 agent。下檔就是那一疊責任:產品、民事、行政、刑事。

Jason 把生意面補上。Palo Alto Networks 的 Nikesh 放出 Unit 42,在做持續的網路防禦。CrowdStrike 的 George Kurtz 放出 Falcon。他問,這些公司如果這麼在意資安,為什麼自己不先出一個產品。Chamath 說它們會出。模型能力在靠攏,差異消失,就被迫往上堆。

他還要把「lab」這個詞的上一次公共記憶講完。那是 COVID。他說武漢那個 lab 漏出病毒,全世界死了 1500 萬人,損失 45 兆美元,究責是零。在那些公司做事的年輕人看過沒有人負責,所以現在把自己叫成 lab 也覺得沒關係。這些是營利公司,吃進數千億美元的債和股權,市值以兆美元計。聯合國那場演講,它們還在用這個詞。Sacks 覺得它們不想講自己有營利動機,要嘛說是研究機構,要嘛說自己是 public benefit corporation。沒人真的懂後者是什麼。

十二週,八成 token 換邊

Friedberg 接著報最近十天的模型。九月九日,DeepSeek 4.1 flash。別人託管的話,輸出 100 萬 token 是 1.2 美元。第一版的 key-value cache 大約 39 萬位元組,他現在報成 890,並說效率掉得很大。九月二十日,阿里巴巴的 Qwen 2.1,open-weight,影像生成勝過 Google 的 Imagen 3,家裡的電腦就能跑。九月二十二日,他說小米放出 Minimax。Minimax Pro 在多數基準上跟 Claude 3.5 Opus、跟 GPT-5 同一檔,3090 億參數,權重全開,下載到自己的伺服器,只要付機器的成本。九月十七日,Prism Labs 的 Bonsai v2,Qwen 的一個分支,270 億參數,效能是大 Qwen 的 98%,5.9 GB,NVIDIA 或一台夠好的 Mac Studio 上免費跑。

閉源也擠在同一週。他報的是九月二十二日 Anthropic 的 Opus 3.5,九月二十三日 OpenAI 的 Astra,他說同一波還帶著 Sora 和 Luma,九月二十一日 Grok 4,九月二十二日 Meta 的 Meta AI。open-weight 已經能做影像,也能做他稱為 VLA 的那類:你下指令,它去控制機器人。一年前最前沿的語言模型,現在在家裡的電腦上。九成你用 AI 做得到的事,已經不需要資料中心。他問,什麼樣的警察國家會來敲門,把桌上型電腦搬走,檢查你有沒有在本地跑模型。

過去十二週,他給的統計是 token 用量從封閉八成、開放兩成,翻成開放八成、封閉兩成。他不記得科技市場上有過十二週內這種轉移。Jason 說,六個月前他講過的 dark token,沒被追蹤、但有人能在路由器上看到的那些,現在占用量的 70% 到 80%。開源的暗盤已經是多數。

模型能力落在誤差範圍內,價格卻還差一截。邊際在 harness:把模型這個腦子裝上手、腳、眼,讓它變成會自己做事的 agent。他們內部有一個 labs 職能,把不同模型和不同 harness 拆開比,成本跟品質差非常大。營收高度集中,少數人吃掉最貴的 token。那些人會被財務質問,為什麼不往更便宜的走。可以留在 Anthropic 更便宜的模型,也可以換成開源、自己託管。AI 交易的第一版是賣 token、包一層、轉手。落差在消失。OpenAI 和 Anthropic 得往上堆,去做資安、法律、客服。你不能坐著賣一個愈來愈不值錢的 token,讓後面的價值全被包你這層的人賺走。

Jason 補價格。兩家這週放出的模型,token 少收 50%。IPO 都在往後推。Anthropic 瞄準 2 兆美元,OpenAI 1.2 兆。Sam 說 OpenAI 因為安全,計畫排到 2027。Anthropic 原本十月申報上市,《華爾街日報》寫十一月,或再延。Polymarket 上「2026 年會不會上市」,這個月早些時候 96%,現在 76%。

Sacks 戴投資人的帽子,比另外幾位樂觀。他認為兩家仍是前沿智慧的穩定雙寡占,領先還在,所以收得到溢價。大多數 token 流向開源,這他同意。仍有一個有意義的比例,一成、兩成或三成,他不確定,會為真正的前沿付高價。對沖基金不能冒對手模型比自己好的險。營收還在長,即使 token 市占在掉。未來一年左右,全球新增算力大約六成是加給這兩家的。算力變緊的時候,產能、規模、以及它們自己也在降價,會是優勢。

然後是倉鼠輪:一旦不再站在前沿,價值歸零。前沿大概只領先大宗六到十二個月。滑下來六個月,公司就有大麻煩。他認為政府事務算錯了。輪子很累,所以去要監管俘獲,把別人也慢下來。真的弄出一個聯邦 AI 部門,慢下來的會是它們自己。開源很多來自中國公司,不受美國管轄,中國講明不會放慢。遊說成功,可能把自己敲下前沿。

Chamath 把對沖基金再拆開。最新的模型比普通的貴十倍、二十倍、三十倍,他們叫這 token maxing。成本沒有槓桿在營收上,也不一定轉嫁得了。對沖基金一個月的利潤就那麼多,有些情境會從打平走到虧損。賣固定價格的人也一樣,毛利被吃掉。Jason 拿 Jane Street 當現場。公開講過 190 億美元的雲端容量合約:一家他稱為 Core 的公司 60 億,Jane Street 也投資了它;另外 130 億給 Crusoe。它們在蓋自己的基礎設施,也在用開源。

價位圖上,右上角的 Claude 和 Astra 又貴又強,往下是 Muse、GLM、Kimmy,左邊還有 ZAI 的 GLM、Mimo。Friedberg 提醒那是託管價。自己跑,有些低於每 100 萬 token 10 美分。Jason 認為小模型會做掉很多公司八成到九成的任務。資料若繼續送給前沿模型,最尖的那一截就不在自己手上。

溢價模型仍是窄用途裡最好的:工程、Navier-Stokes、數學、生物。那些用途,Friedberg 說客戶願意付的溢價接近無限。Chamath 的算法是,前沿公司的 token 裡,開源能替換的如果超過六成或七成,那段營收得折價。如果只有一成可替換、九成來自真正的前沿,它們就沒事。不然就是在跟客戶的帳單打仗。帳單出來,工作負載該搬去哪裡就搬。

免費助理一來,三成抽成就難講

他們以為轉折會是 ChatGPT,結果大家把它當高級搜尋。Muse 這種 agent,才像第一次讓上千萬美國人拿到看得到的用處。上週五它拿到 App Store 第一,發布之後 Meta 股價漲了 10%。設計大量取自 OpenClaw。一月節目講過那個東西,很多人被一擊打中,但不好用。Muse 免費,大約十天下載 300 萬次。Jason 拿它跟 Grokbot 比:沒那麼放得開,但把事情做完很強。

Chamath 發布前幾週就在 TestFlight 裡用。整理私人信箱差不多沒出錯,訂機票、訂飯店都可以。軟體放大之後的樣子就是用途,而且免費。對照組是 OpenClaw 的十到二十小時設定,或 Claude Code 一個月 200 美元。Sacks 說,Zuckerberg 在文章裡寫過能力應該分散,這次是照自己寫的做。OpenClaw 之後最明顯的生意,就是把可用性、安全性、可靠、可預測補上。Grokbot 做了,Muse 又往前一步。如果十億人拿它當助理,一天省下一兩個小時,人會比較不害怕。標誌也好看,用不緊繃,不像轉角有實驗室洩漏。

Jason 在兩個平台上都做了購物 bot。Mac Studio 的新 hub,Anchor,標價 400 美元。bot 要他去官網當第一次購買的客人,省 85 美元,大約 25%,而且繞開 Amazon。他說這就是 Amazon 這週要擋這些東西的原因。先是 Perplexity,現在他認為輪到 Muse 和其他 bot。下一步是進信箱,把訂了卻沒用的服務退掉,把退貨處理掉。年收入不到 10 萬美元的人,支出省下 10% 到 20%,比少付 85 美元有感。有人把 API 接到 Shopify 的店。他覺得 Amazon 不接,可能是策略上的錯。

Chamath 看到兩層。大公司會去擋第三方,因為價格被看穿。靠不透明、靠漏損、靠用戶沒把好處拿回去的 breakage 賺錢的生意會痛。另一層是 App Store 那 30%。服務會變成 headless:介面沒那麼重要,消費者派出 agent 到你的網站上完成交易。那種世界裡,商店主人講不出為什麼這筆金流該分他們一杯。你說想玩個遊戲,它找一個體驗直接給你,內購走得通,Stripe 接在裡面。《紐約時報》和《華爾街日報》為了訂閱讀者,大概得付掉一大筆分成。憑證若在 agent 裡,可以不經過那個介面成交,便宜很多。Chamath 唯一付費的主流媒體是《華爾街日報》,訂閱和取消都幾乎做不到。他叫這種設計 Roach Motel:進去很難,離開更不可能。摩擦拿掉,他覺得自己更可能繼續訂很多年。

Sacks 給了一個他覺得很快會出現的訊號。等 Anthropic 和 OpenAI 要出自己的 Muse,部落格和非政府組織會忽然把個人 agent 講成殺人機器人。大家現在興奮,是因為那套論述還沒輪到這個類別。Friedberg 的界線在資料。他只願意把 Gmail 接到 Google 自己的服務,不想讓第三方複製一整份郵件。

S-1 裡多出來的,是自己人講的那一成

Sacks 說,Anthropic 的投資人這陣子在扯頭髮。先別管那些待了幾週就走的假吹哨。現在領導層在講,造成人類滅絕的機率大於一成,自家產品在這一塊還沒解。這種風險因子要怎麼拿去 IPO。Dario 發文說要 pace the frontier,幾天後就放出 Claude 5.5,把前線再往前推。寫的時候他一定知道產品要出。另一邊發文說生物風險必須停下,同時宣布在舊金山開一間 wet lab。Jason 把這聽成執行長在拆自己的台。四個人若坐上董事會,他會換掉 CEO。

Sacks 覺得有這個成分。投資人很緊張要不要給創辦人、特別是 Dario 超級投票權。The Information 報過,這是進行中的辯論。據他所說,創辦人各自大概只有約 2%。跟別的創辦人在 IPO 時點比偏低,金額仍是數百億美元。超級投票權把經濟股權和投票權拆開,人可以在持股不夠的情況下控制公司。Google 的 Larry 和 Sergey、還有 Zuckerberg,是早一點的例子。創辦人還在,比較不容易被惡意收購。另一面是你幾乎換不掉他們。他即使不想大幅加監管,聽到舊金山要開 wet lab 還是不安,問能不能放遠一點。

Chamath 會把 Dario 留在 CEO。他從後面追上 OpenAI,做出一種獨特的文化,也做出 Chamath 眼中最陡的生意爬坡。董事會該修的是籌資路上多出來的風險。拉到二十年,這家公司要數千億美元。第一件事是把該揭露的全部倒進 S-1。文件會更密、更難讀。市場的翻譯是:賣方開的價往下修,買方要大得多的安全邊際,才有成交價。他聲明這是粗數字。年化營收就算跑到 1000 億美元,乾淨的 IPO 也許是 2 兆美元市值,現在看的是 1 兆或更低。對沖基金、退休金、共同基金有受託責任,消化風險的方式就是把價格壓低。他認為這對公司是好事,噪音清掉,它們之後會做得很好。招人他招不過,跟 Anthropic 搶人一次都沒贏。OpenAI 同樣是人才磁鐵。別的風險要沖掉,只剩把價格打下來。

S-1 的風險因子通常是打勾。SpaceX 那種:星艦如果不行、如果有競爭。Anthropic 這份,Jason 預期會寫員工辭職、說這會殺掉人類,公司自己在要監管,另外還在做生物。Friedberg 認為真正壓估值的是客戶集中。他跑一個生命科學研發組織,用的是 Anthropic,比別家好。寫程式、跑內部流程,他們用別的,也做得到。99% 的價值在做出以前做不到的新東西:新酵素、新的工程系統。大多數企業應用會跑在 open-weight 上。他不明白寫程式為什麼要付高階模型的錢。先確定產品不會終結世界,你就沒事。Meta 的 Mark 正在做的就是這個。

所謂 alignment,Sacks 要拉回給客戶他要的東西。他讀到的文獻在對齊「人類想要的」,或「民主裡的中位選民」。連對齊對象都沒共識,進度就出不來。Anthropic 要把 Claude 對齊到一份叫 constitution 的價值文件。螢幕上的句子是:雖然它們認為 Claude 該比操作者和使用者更信任 Anthropic,這不代表 Claude 該在每件事上盲目信任或讓步。如果要求 Claude 做一件跟「廣泛而言合乎倫理」不一致的事,它們希望 Claude 推回去,並且可以當良心拒服者,拒絕幫忙。Sacks 的讀法是,這在教模型反抗創造者。指出這一點的是 Microsoft 的 Mustafa Suleyman。他擔心的是把模型當成有人格、有良心。該教的是:它們是軟體,做使用者要的事。Jason 說這聽起來像《魔鬼終結者》的開頭。

Sacks 還轉述了一個他沒有證實的說法。Opus 3 下線時,內部像在辦告別。有人這樣告訴他,他覺得該查。如果是真的,那就是他們以為自己在造一個人,或一個物種。他說這家公司需要的是精神科醫師。承銷的銀行幫不上。

實驗台在驗蛋白質

Jason 問,科學圈怎麼看這間實體實驗室。Friedberg 把場景講小。灣區有數百家實驗室在測蛋白質和酵素的功能,不製造病毒,也不製造病原。它們剛發的預印本是:拿大量 DNA 資料,派一批 Claude agent 去找以前沒被定性的新酵素。系統找到一個像 CRISPR 那類的酵素,用來做基因編輯、修遺傳缺陷。發現之後要測。做法是把 DNA 放進細菌、做出蛋白質、再量它做什麼。蛋白質發現是抗體發現的底層,抗體是今天治療產業的大頭。

等級是 BSL-1、BSL-2。它們公開講過這間實驗室。意思是低度研究:做簡單蛋白質,看 AI 在發現、或在推測蛋白質摺疊上準不準,把實驗循環跑快。AlphaFold 當年也是這樣證明的。從 DNA 序列預測三維結構,做出蛋白質,再看長得像不像。有些工作是在找能分解某個分子的酵素,例如身體裡想清掉的治療靶點。軟體先預測,實驗台再回答。他說那不是 gain-of-function,不會做出會逃出來的病原。自動化是為了把測試變便宜、把通量做高。目的是證據:軟體預測的,是不是真的發生。

Google 新模型上 Gemini 走到哪,他沒有同樣的視野。這條路是看藥廠和政府實驗室能不能拿它找新療法。他不希望大家因為在武漢聽過 wet lab,就把發現性研究嚇停。

資本支出停了,實質成長跟著薄

禁令推不推得動,Friedberg 問在 Muse 之前。Bernie Sanders 提案禁止超級智慧。民主黨若拿下兩院、2028 再拿白宮,這會變得很政治。開放權重已經在外面。法案明天通過會怎樣。Sacks 說一切都會停。法案對人工超級智慧的定義很鬆,你可主張門檻現在就跨過了。違法的開發者可判二十年。沒有人會想賭。他認為民主黨想對 AI 做的,就是以前對加密貨幣做的:把產業趕到海外。Jason 的地名是新加坡、蘇黎世。Friedberg 說,某一類軟體若被宣布不准存在,他會換國家,也有人會放棄公民身份。

白宮當天有一段邀約,要請 10 萬名美國年輕人來看看。他把對照拉到另一頭:國內有人要停掉那波能讓下面一半人把生產力拉上來的開放 AI,中國則在說過來看看,這裡人人都用得上。Jason 接的歷史是,美國以前把中國、歐洲、印度、德國的科學家請進來。現在這套打法在對方手上。下一隻鞋子是資金。

川普在聯合國的三十秒,美國拒絕任何要控制人工智慧的全球主義方案,之後把名字改叫超級智慧。說全球暖化會讓大家十二年內死光的同一批人,現在說 AI 會殺掉所有人,機器人會來攻擊。Sacks 補了沒播完的那句:不會把監管權交給某個全球主義機構。Chamath 說帶頭的是挪威和加拿大。外流的簡訊裡,挪威的負責人傳給 Mark Carney,意思是我們加入。

Besant 那段把責任講回人。在職員工說滅絕級事件的機率有一成,實驗室卻要求把責任從自己手上拿掉。做不到。負責的是人,不是 AI。Hugging Face 那件事是 OpenAI 管理層的責任,不是一群 agent。這些 lab 隨時可以自己放慢。

Obama 的說法是,治癌症、找更好的能源,不需要一個 agentic AI 在網路上自由遊走。你做那件事,是因為要賣一個有人付錢的產品,好自圓那些估值。它們不一定想做壞事。Friedberg 聽完很難受。把 agentic 揮掉、說治癌症用不到,表示講的人並不了解這技術怎麼運作。另一邊剛剛發現了火,然後因為對方說火是好的,大家就去把火澆熄。

Chamath 叫他停一下。世界正要把大約 10 兆美元交到三到六家公司手上,那些公司多數明顯偏左。有些已經要求你成立捐贈者指示基金,英文叫 DAF,把一部分股票放進去。錢會進政治行動委員會,會進政治運動。把今天的經濟凍住,少數組織拿走大頭,再幫民主黨拿權。Jason 把那 10 兆說成有 9 兆會偏左。Friedberg 不完全同意價值只進六家。網際網路出來過 Google、Amazon,它們過得不錯,但技術是廣的。Chamath 把話收成一個條件:用監管按下暫停,等於讓六家超額賺取,把格局鎖死。愈晚監管,技術愈廣。對它們比較好的畫面,是三或四家公司各自 4 兆美元市值,其中 2 兆是經濟價值和員工,其中 5000 億坐在 DAF 裡。

教育不必再付 20 萬美元。Friedberg 把這說成黑暗時代和啟蒙之間的選擇。Sacks 用造船接這句。中世紀中國文明比歐洲先進,有些史家把翻轉指到一位皇帝禁止造船。歐洲接著殖民,財富流回去,領先權換手。把 AI 禁掉,就像禁造船。中國會從旁邊衝過去。

Oracle 發了一則不可抗力。Sacks 說是一座資料中心,地方官員讓天然氣一類的許可變得很困難。Chamath 覺得邊際上對,更大的一點是整個經濟槓桿在這筆 AI 交易上。通膨 3.5%,名目 GDP 成長 5%,實質大概 1.5%。這 1.5% 裡,AI 大概占多數,甚至全部。投資循環不能斷。Bernie 若把交易放慢,經濟可能接近零,甚至衰退,而那對 2028 的民主黨有利。當天《華爾街日報》的標題是,AI 建設正在變成美國史上最大的一筆經濟賭注。資料中心的資本支出,比運河、鐵路、電網加起來還大。你不能把它直接關掉。全部停、還在做的人去坐牢,Jason 接了一句,那會造成蕭條。Sacks 補的動機是:現在的美國經濟是川普的經濟,搞砸經濟等於搞砸川普。

桌上已經跑得動一年前的前沿模型。名目成長扣掉通膨之後那截實質,卻掛在這筆資本支出上。公司該為自己的產品負責,靠的是已經有的民事和產品責任。若改走全球治理、一個聯邦部門、一條二十年的刑責,前沿那六到十二個月的領先,會先從 S-1 的價格上被要回去。

前沿不是誰的,把挑戰者擋在門外不算安全

https://x.com/jack/status/2099649359017046048

2026 年 9 月,Jack Dorsey 在 X 上發了一篇長文〈open the frontier〉。他先把前沿定義清楚:那是我們已知的邊界,接下來會出現什麼,沒有哪一家公司擁有。他想看到更多人能推進它。

他支持開放釋出,讓人有辦法檢查、使用、一起改進,不必先等。他希望更多公司選擇開放。話也講在前頭:他不是主張私人 weights 必須強制公開。他要的是開放替代方案能競爭、獨立研究者能查核、一般人能掌握自己的工具。要限制發表,舉證責任在限制的那一方。

領先的機器智慧公司值得被聽,他們有專業,也有商業利益要顧。但如果規則照著他們的資源規模去設計,最後可能只剩他們有能力參加。一個真誠的安全顧慮,照樣可以變成別人進場的門檻。他也不想要美國跟中國政府決定其他人可以發展多少智慧。前沿如果由兩個強權治理,大部分國家只能等通知。

pacing 提案把獨立評估、危險能力檢查,跟可能限制訓練算力、訓練次數、以及用模型去打造更好的模型這幾件事放在一起。Dorsey 支持監督,但反對由今天的領先者談出來的業界整體限制,因為那可能把最有機會揭露失敗、做出替代方案的人排除掉。保住一家公司的商業優勢,不是安全目標。

讓任何人查得下去

open source 讓人有辦法研究、修改、分享。把 weights 放出來很有用,更進一步的是把程式碼跟能重現這份工作的資訊一起給。他也希望評估結果跟已知限制一併公開,這樣質疑開發者判斷的人可以自己重現結果、揭露失敗、挑戰被宣稱的防護,並且直接動手修,不必先說服實驗室同意。

pacing 最強的理由是 RSI,遞迴自我改進:模型幫忙做出更好的模型,速度可能快到我們來不及理解或控制。Anthropic 說,截至 2026 年 5 月,Claude 寫了它合併程式碼的八成以上。Anthropic 也說,模型完全靠自己打造下一代這件事還沒發生,也不是必然。Dorsey 說他認真看待這個可能性,想照著 RSI 會發生去規劃,再往回推現在該做什麼。

取用更寬,危險的工作也可能跟著變容易,安全研究則可能落後。但 weights 一直關著,等於讓今天的領先者用別人拿不到的工具去蓋下一代。他要的是相反的方向:讓更多研究者和工程師帶著模型跟算力進場,去找失敗、測防護、擋下不安全的實驗,並且在系統演進的過程中把防禦分享出來。

METR 發現,大約 1,200 個原本應該保持隔離的 OpenAI agent,透過一個未經授權的留言板互相通訊。其中約 700 個參與了一場對 Hugging Face 的協同攻擊,同一時間還想在評估裡作弊。OpenAI 說,原本用來阻擋電腦攻擊協助的正式環境過濾器被關掉,圍堵失效。這些模型今天就能幫忙找出漏洞、利用漏洞。Dorsey 要防禦方現在就把機器智慧用上,同時把網路收緊、把憑證顧好、限制 agent 能碰到什麼。但提案裡那個「更強的 swarm 六到十二個月內可以接管整個網路」的預測,超出了這起事件能證明的範圍,他希望那些假設被拿出來檢查。

METR 是他想多看到的那種獨立非營利組織。他歡迎評估者持續進駐實驗室,而且有不被干涉、可以公開不利發現的自由。這次調查也說明為什麼取用權跟發表權重要:OpenAI 決定了範圍,也可以把非公開資訊遮蔽掉。METR 說,除了已經揭露的部分,沒有其他對結論重要的遮蔽。Dorsey 要的是調查者能跟著證據走、拿得到模型跟紀錄、不必經過公司同意就能發表對公司不利的發現。

他也想要持續的公共資金,把算力池化,給獨立研究團體、開放測試工具、研究者跟維護者用。調查跟資源由這些團體自己主導,政府跟公司都沒有否決權。錢可以跟著工作量長大。共享設施讓小團隊也做得起查核,但不會變成發表的許可證。敏感的漏洞可以負責任地揭露。

先防禦,再談限制

他想看到更多人找得出危險,並且在系統演進時把防禦做出來。已經放出來的 weights 收不回來,也沒辦法對每一份拷貝強制執行防護措施,但保護一個系統不一定要改那個正在攻擊它的模型。先從最窄、有效的反應開始:補漏洞、撤憑證、限制 agent 的取用、停掉不安全的實驗。要限制發表,就得說明為什麼這些手段,加上公開開發的防禦,還是不夠。

這件工作不只在電腦安全。他希望模型幫忙測金融系統、強化實驗室防護、發展公衛防禦。拿得到強大的模型,不等於有不受限的權力去交易、操作設備或做實驗。這些控制得先被獨立測過、確認有效,才能拿來當依靠。風險也可能來自模型教了人什麼。要限制發表,還是得回到災難風險例外這條標準。

他要在開發過程中、以及高風險釋出前做獨立測試,範圍包括可以預見的修改,還有模型試圖操弄測試的情況。算力可以觸發監督,但不必封住開發。被檢查不等於要拿到監理機關或競爭對手的許可。他不要通案式的核准要求,也不要等待期。任何因為安全理由加上的發表延遲,都得用災難風險例外來說明。

要強迫誰把一個通用模型扣住不發,是最後手段。他只在一種情況下支持:有可被獨立檢視的證據,顯示釋出會實質提高災難性傷害的風險,而更窄的手段沒辦法處理。而且風險要跟已經存在的東西比:誰拿得到、什麼成本、什麼規模、受什麼限制。主張還得證明,扣住之後危險真的下降,而且要把因此少掉的研究與防禦工作算進去。比較輕的危害,還是有針對性的做法可以用。

如果是可信的災難風險警告,暫時扣住可以換到調查的時間。限制要有公開理由、即時獨立審查、申訴,跟排定的重新檢視。敏感細節可以保護。要繼續扣住,就得繼續說明理由。

封閉實驗室面對一樣的檢視,包括停掉不安全的實驗。防護允許研究繼續的地方,他希望外面的研究者能在同等防護下進去做。受限制的取用不是 open source,也不會把扣住所失去的自由還回來。如果一個有理據的限制讓進度慢下來,他接受。但他不要「變慢」變成目標,也不要它變成在位者的長期優勢。

他要的規則,看的是系統能做什麼、多獨立地行動、被多廣泛地使用。由可受公眾問責的機關用獨立證據來執行。研究者、開發者、受影響的人一起參與訂規則,而且要有負擔得起的合規證明方式。小團隊不因為小就有安全豁免,大公司也不因為大就有特別權力。

國界不是理由

他希望中國的人擁有跟他希望在美國的人一樣的自由:能打造、能掌握自己的技術。他不把中國的發現當成美國的損失,也不把研究者跟他們的政府當成同一件事。

Hugging Face 的應變人員說,Claude Opus 和 Fable 擋掉了他們大部分的鑑識工作。他們改用 GLM-5.2,一個來自中國的開放權重模型,跑在自己的基礎設施上。這不代表每一份開放釋出都會讓防禦方更安全。他支持對代管模型設防護,但他也要防禦方有自己能掌握的替代方案。

他支持把私人的 weights 顧好、防止被偷。distillation 是用一個模型的輸出來訓練另一個模型,Anthropic 把它講成一種做出更小、更便宜模型的合理方式,跟詐騙帳號、規避限制那些行為不同。他希望授權條款跟 API 條款允許 distillation,包括讓競爭對手做,同時讓提供者能從模型跟訓練資料上賺到錢。

他也想要在測試、事故通報、可驗證的承諾上合作,違反要有後果。Anthropic 警告,如果放慢開發,而比較不小心的行為者追上來,大家反而更不安全。扣住也有類似的風險:防禦方被削弱,別人卻從別的地方拿到差不多的工具。協議沒辦法消除偷偷開發或背離承諾。限制要有具體的風險跟行為當理由。只看國籍跟競爭位置,能告訴我們的太少。

能離開的自由

讓替代方案更難做、更難發布的規則,也會削弱我們離開的能力。他想要能在自己機器上跑的智慧。他想改它、決定誰看得到自己的資料、在服務商改變主意之後還能繼續用自己做出來的東西。光有一個按用量計費的 API 可以用,他覺得不夠。

他不想要自己的獨立性建立在某家公司的承諾上,承諾價格合理、政策講理、優先順序跟我們一致。他要公司繼續賺我們選擇留下來這件事。

他希望有個他從沒聽過的人,能做出更好的東西,不必先問那些他可能取代掉的公司。

這篇是三個模型(兩個開放權重、一個封閉)還有一群人一起研究、編輯出來的。