銀座單向街書店這場,郭宇把題目換成語言模型對世界模型。題目他自己改過好幾次。分享停了兩個月,這一個月他認為有兩件事非講不可。一件是 GPT-6:Computer Use 強到可以操作電腦裡的專業軟體,Marvelous Designer 和 Blender 都能開,建模他說已經和人類工程師、設計師沒有區別。另一件是李飛飛實驗室的世界模型,兩三張照片就能還原一個虛擬世界,但你只能看、只能換角度。
他把例子放在一張逝去親人的照片上。背面、人在環境裡的位置,照片沒拍到,你卻想摸到、想換角度看。一兩張照片交給李飛飛公司的世界模型,還原成 3D 場景,可那是點陣圖。不能互動,不能像真人走來走去。
Figure 是這幾天的具身例子。這家美國公司在舊金山租了三十間 Airbnb,不同房間做不同的事:整理房間、洗衣服、叠衣服、整理床單。世界模型要加快的,是現實裡會發生、又被錄下來的那些事。先在模擬裡做一遍,再把影片丟給機器人學。疊床單得知道重量、材質、厚度,布拉開之後力怎麼走,不然疊不平整。
從 2022 年 12 月那一代 ChatGPT 算到現在的世界模型,路線不同,目標像同一件:把看得到的物理世界搬進電腦。名字叫 Real to Sim,真實的東西進模擬器。做這件事是為了機器人,為了各種人工智慧能用更多層次認識世界。Facebook 的 Zuckerberg 要做元宇宙,郭宇說那不是理由。
語言模型缺的是因果關係。ChatGPT 或 Claude Code 可以做知識工作,按機率吐出你想說的話,或別人願意聽的話。真實世界裡,你做的事會影響別人,你的因會變成別人的果,也會回到你身上。時間是線性的,後來的事受先前的事影響。模型的神經網路裡沒有這一層。它要懂因果,得靠工具去查 Google、搜尋引擎、Wikipedia。訓練好的本體裡,因果不在。世界模型要的就是因果、物理、重力,先把人類世界仿真進虛擬世界。
ChatGPT 一開始只是在吐文字,英文、日文、中文。後來大家拿它寫程式,程式改網站、改 app,再改到工業製造,改到摸得到的東西。今年一月郭宇講這題,是因為去年十月 Claude Code 推出 Scale,程式可以即時生出來,解決一次性的任務。他說手是從那時伸出去的。這個九月的 GPT-6,把手伸進專業 3D 軟體,伸到做衣服。
二十分鐘,小狗的萬聖節衣服交到打版
這兩天他做了好幾件,其中一件是朋友的小狗,萬聖節主題。ChatGPT 先把衣服做成三個視圖,視圖進 Tripo,輸出大約兩百萬個三角形的模型。模型再進 Blender,綁上骨骼,那個小鬼就動起來。衣服的圖自動進 Marvelous Designer,切片,布可以選針織,也可以選硬的,然後打版。衣服是 3D 的,布卻從平面裁。裁完會標哪裡用什麼工法、怎麼縫,檔案可以交工廠。二十分鐘做完。他在台上說,這很可怕。
二十分鐘的過程,他還看得到每一步。他說回家若改用 Computer Use JEV,就未必看得了。Computer Use 是一套開源庫,接上 JEV 做操作時的快速分類。用它取代 ChatGPT 內建的電腦操作,速度可能快到他根本看不到。到那時他覺得自己連觀察的資格都沒有,只能放手。
OS World 高了十個百分點,衣服對不對得用眼睛看
桌面任務有一份考卷,OS World,全名 Operating System World 2.0。GPT-6 Ultra 比上一版 GPT-5.6 高了十個百分點。他說每一代都在漲,十個百分點已經很顯著,代表它開始碰瀏覽器和主流軟體以外的程式。
操作有兩條路。一條是看螢幕,每一步截圖。網上有人寫,用 GPT-6 開專業設計軟體,Blender 裝好第一件事是把語言改成英文。中文介面辨認要花更多 token,更慢。那則貼文建議專業軟體全部設成英文。你看不懂沒關係,它看得懂。另一條是 MCP,Anthropic 做的協議,模型直接跟軟體後台的程式溝通,只知道邏輯對不對。三角形的數量可以對,人眼看衣服就是不對。網頁可以說把右上角改成綠色。衣服破個洞、形狀怪、蹲下去偏大或偏小,很難講清楚。
所以他要大家更新 ChatGPT,裝好 Blender,跟它講:幫我操作,不要走 MCP。Token 多花可以,用 Computer Use,用視覺看。效果好很多,速度會慢。他覺得 MCP 走到生命週期後面了。它和後面的 Scale,是想用傳統程式讓模型知道軟體內部的狀態。資料庫這類抽象的東西有用。操作電腦時,不能指望訓練階段把世界上每個軟體都用過。他偏向下一代,也許 6.5 那種 Ultra,用 JEV 這種更快的方式處理畫面。下一版的電腦使用,他相信主要靠視覺。
他說這已經很難分清模型和真人,因為用法一樣,很像 Tesla 訓練自動駕駛。Tesla 很長一段時間不用光達。不是買不起,成本也是原因,更主要是想一勞永逸:人學開車用眼睛、用小腦,他們就用視覺模仿人。Cybercab 已在 Austin 鋪開,兩個座位,沒有方向盤,沒有螢幕,沒有可以干預的東西,坐上去到下來都是電腦在開。他最近很少用 Claude,覺得它控制桌面軟體已經遠遠落後 OpenAI。下一代的電腦使用,他相信會領先一個很大的身位,方式像 Tesla 訓練車。模型改用看螢幕來操作之後,三維資產才變得改得動。
可編輯,是相對前一場講的流程。文字生圖,圖交給 Seedance 2.0 生影片,不對就要重做,又煩又花錢。出來的是影片,他說一幀裡可能有二十四張或六十張圖,畫格裡的人改不了。衣服顏色、表情,或只是覺得哪裡不對,都得再生。每參考一次就更失真,這是 Diffusion 模型的特性,十幾二十次之後會很嚴重,而且每次都重算機率。腿往前邁一步,話講不夠準,結果就不準。效果好的片子常常附上幾百字甚至上千字的提示詞。他不覺得提示詞工程會是以後的用法。
GPT 現在能生真實的 3D 模型。走哪一步、往哪轉、換什麼衣服,不必再另外花錢,而且可以馬上改。跟 GPT-6 說顏色不對就行。投影片上的 UV 展開,就是把二維貼圖貼回模型。要加衣服、做一頂針織帽,可以先用圖像生成做出展開後的平面圖,切圖很快,再變成 3D 網格,用網格和平面的對應去改。帽子換色是換貼圖,不是整段影片重算。
Mesh 和 Tripo 是這條路的第二個角色,專門把幾張圖算成網格。他拿圓打比方,也提到微積分:圓在螢幕上是很多三角形,不是真正的圓。加到兩千萬、三千萬個面,肉眼分不出來,像砂紙磨過的圓,微觀仍是尖的。Tripo 收一張到三張參考圖,還原 3D,目前最高大約兩百萬個三角形,貼圖到 4K 或 8K。它最早是做 3D 列印玩具的。小孩五歲、七歲、十二歲各留一個,拍一張照片,大約一分鐘出模型,丟進 Bambu Lab 印出塑膠人偶。現在同一份資產可以進 Blender,讓 ChatGPT 精修、綁骨,讓小孩動;把家做成虛擬空間,人在裡面走;接上語音 API 就能即時講話。日本有人拿這套做 VTuber,人物放到網頁上聊天、走路、蹦跳、唱歌,他說一兩個小時可能做完。
現場的 GPT 補的是:做好的東西可以留著改。同一個角色,今天換萬聖節衣服,明天換動作,之後加對話,每次從已有的成果出發。它問郭宇,小狗那件衣服哪一步必須他自己看。郭宇說是打版對不對。他自己沒做過衣服,朋友在文化服裝學院讀了好幾年,得有設計師在旁邊看。GPT 的說法是,流程和版型系統串得起來,合不合身、布料表現對不對,還是人把關。
郭宇接著問,為什麼不能一步到位。語言模型的觸角已經伸進製造業,模型應該也有做衣服的經驗。現場的 GPT 沒有馬上答。材料在東京的伺服器,簡報和這一兩個禮拜的 3D 操作紀錄都在上面,他當時不在那台電腦、也不在手機上用。這次沒接 JEV,它不能先分類,得讀完才答。他拿在場的靜涵比:同樣做了一週,人會很快知道該說什麼。後來 GPT 補上:可以追求一步到位,經驗豐富也不保證每次做對。通用模型也許懂製衣,未必知道這隻狗的尺寸、這塊布的實際表現,還可能誤判自己生成的版。設計師也要試樣、改版。把測量、模擬、實做的回饋接進去,自動化才穩。今天要人看,不代表永遠過不去。延遲的原因,它說現在不能確認。郭宇真正想問的是另一層:工廠的布,在電腦裡是不是還沒有完整到可以仿真。若物理世界的事在虛擬世界都有資料,Marvelous Designer 裡應該就能把製造做出來。他開著 Extra High,還是慢。
這套軟體他仍建議下載。自動化紡織廠機器裡的模擬不是用它,它比較像虛擬角色的衣服,或學生作業:快到仿真,又還沒把檔完全丟給量產線。人台可以讓 GPT 生。他把女朋友的照片做成一個人台,貼文在 Twitter。身高和比例放進去,就是在虛擬裡量體裁衣。布料有預設的克重和下垂。他不敢說百分之九十九像真的,百分之九十以上他覺得可以。明顯不對的地方,白布試做或交給中國工廠之前就看得到。他說這軟體很便宜,沒多少錢,買一個授權,讓 GPT 接上去自動操作就行。他也要大家用新版的 ChatGPT Extra 自己試。
一位日本設計師的示範,是把人導回 Blender 綁骨,看站著、動著時衣服變不變樣。褲子特別需要這一步。專業裁縫即使用等身人偶,西裝褲仍會留冗餘:坐下去面料要伸。沒有這個經驗,就讓模特蹲,或讓 GPT 轉一圈錄下來看變形。最後還是得穿上身,觸感不會出現在螢幕裡。
他把衣服看成大用例,是因為 2011 年在支付寶做過微群,把中國的買家分成很多群,GMV 最大頭永遠是女裝。全球製造裡,除了吃的就是穿的,穿裡面最大是女裝。AI 若把個人化製衣串起來,他相信兩三年內看得到,不必再找裁縫,設計師按需求做。工業革命以來沒有這種事。個人化若吃掉大量製造哪怕百分之十,通關、物流、貿易都會被改寫。中國若不跟著改,以後製造未必還要靠中國。他也說,現在的成衣畫面仍有不自然的地方。
點陣看得到,重力還沒模擬完
幾張圖組一個空間,他說有點像魔法,而且他並不清楚 World Labs 怎麼做,開源這邊也沒有足夠資料。目前最厲害的是從靜態圖還原空間深度和裡面的物體。兩張投籃照片,可以換角度看那個人。幾張 GPT-4o 生成的城堡,可以還原整座城堡。現場的 GPT 提醒,沒拍到的部分是推測,不一定準;宣傳片第六頁底部有官方連結,Atlas 的演示可以直接開。它也把製衣那個問題留著:現實資訊若都準確進了虛擬世界,Marvelous Designer 裡算不算仿真製造。
還原已經很清楚,比一月或二月那個很粗的預覽細得多,手機上不太分得出差別,廣角也不像早期那樣邊緣明顯歪,他說接近 iPhone 一倍鏡頭。點陣仍不能互動。拿來做一間虛擬房子的展示,買賣房屋用得上。更大的用途是把虛擬世界的影片餵給機器人,這才是世界模型的原意。他說也許一秒、也許一分鐘,就能生出很多影片。創辦人是李飛飛。
投影片上 ChatGPT 在解釋:生成的世界有碰撞網格。攝影機走過去,物體穿不過去,不會穿模,哪裡能過、哪裡不能過,算有一點物理。重力還沒有。若下一版 Atlas 的籃球能改方向、改力度、把框放遠、投進並且落下,他覺得重力才算幾乎到百分之百,也可以改重力去模擬月球。美國要在月球建永久基地,上去做事的是機器人,物理沒先模擬,就無從訓練。不同星球、不同家裡的任務,都卡在這裡。他說現在是 2026 年 9 月,仍非常早,明年再兩三個重要版本,差別會很大。ChatGPT 出來的 2023、2024 並沒有太多讓人停下來的東西,大家還在學一來一回地聊天。真正加速是去年十月、十一月之後。一月開講時,他自己也沒料到會這麼快。
交會點就在可再用的 3D。GPT-6 操作電腦,做出的數位資產可以進遊戲,也可以進影視的 CG。世界模型用兩三張、四五張照片,生成虛擬點陣。一件是可編輯的資產,一件是可觀看的空間,這個月在做出 3D 這件事上碰到一起。
七十毫秒選一個,分類不必先訓練
JEV 是三四天前出來的。郭宇說它這兩天在刷屏,號稱分類比 ChatGPT、Claude 快大約三百倍,不是同一個數量級。它不能聊天,也不能寫字,只做選擇。幾十萬、上百萬個選項丟進去,用自然語言講要哪種特徵,毫秒級挑出來。圖裡找體重超過六十公斤的中年男性,或從閉路電視挑一個有特徵的人,都是這種工作。老的分類器得先有專業資料集,再按需求微調。JEV 不必預設是貓還是狗。Diogo,前 OpenAI 研究員,郭宇不確定名字怎麼唸,離開後把這東西叫做因果模型。郭宇自己的歸類是:大語言模型裡的快速通用分類器。
延遲可以落在六十到三百毫秒,接近說話的速度。浴室長黑斑,問 ChatGPT 去 Amazon 挑日用品會等很久。資料先餵給 JEV,說話的過程裡,幾百毫秒就在螢幕上出現可能用得上的商品。七十毫秒的話,他拿來比一般網頁的 HTTP 請求,覺得是同一個數量級。價格幾乎可以忽略,輸出免費。GPT 輸出貴,是因為回覆要校驗。JEV 只回答選哪一個,他說輸入費用是零。準確率和上一世代 GPT-5.6 差不多;跟 OpenAI 最頂尖的模型比仍有差距。和其他工具一起用,速度快兩個數量級,準確率接近,幾乎不花錢。
選項本身仍要別的模型來做。網站跟著使用者的文字或語音變,那幾萬、幾百萬個選項怎麼設計,他說還是 GPT-6 或 Fiber 的事。濾使用者輸入這一層,JEV 才是他講的壓倒性優勢。它看得懂電腦畫面裡哪一塊是什麼軟體,拿來操作 Google Flights 搜機票,會比 GPT-6 Ultra 快很多。人還得先分辨單程或來回,一座城市又常常有好幾個機場。原帖影片右邊是時間,左邊是操作畫面。
他預期大約一個月,GLM、MiniMax、DeepSeek 都會有很快的電腦操作。DeepSeek 的 Harness,他提到那套命令列工具 DSH,會接上類似的分類,或自己做一套。以前這件事幾乎是 OpenAI 的:訓練 GPT-6 時買了很多 Mac 放進資料中心,讓模型把 Mac 上的專業軟體用過。DeepSeek 現在看不懂圖,得另配一個看圖的模型,再加 JEV,效果接近,成本他說可能是 OpenAI 的一千分之一。
旁邊的用法更日常。郵件批量分類,五百封大概三分美元,朋友有人在做幾十萬封。積著的幾千封,兩三秒讀完,把重要的、待辦的、跟旅行有關的抽出來。下載資料夾也行。他說自己有點精神潔癖,資料夾整理得很好,下載區仍會亂。有人用 JEV 聽新檔,一出現就分類、命名、放到磁碟上對的位置,並放進模型的記憶。下次用語音問 GPT,就不必靠 Finder 的 Spotlight。Spotlight 是蘋果的聚焦搜尋,索引用的還是老方法,沒有 AI,新的 Mac 要花很長時間建索引。公司檔案、倉儲、服裝店、物流中心,他覺得都能用。
遊戲他沒看完。模擬器把狀態讀成 JSON,JEV 決定 Mario 跳不跳。慢了就被怪撞到,所以吃的是反應時間。早年把 AI 放進遊戲角色沒有流行,貴,也慢。他覺得現在可以拿星際爭霸這類試,或在自己的遊戲裡放角色、調強弱,DeepSeek 配 JEV 是一條路。簡報沒寫的還有 MiniMax H3,權重開源,FAL 做成 H3 Max,大約七點幾秒生出十五秒影片,有人拿去做無限電視台。Sora 也出了 2.5,他打算下一場再講影片模型。
量化是現場冒出來的聯想。這類基金十幾二十年前就有,文藝復興那一掛靠數學家、算力,和離交易所很近的機房,新聞出來就下單。散戶資訊、算力和倉位都不夠。有人昨天用 JEV 試,賠了很多。他說賠錢不一定是模型,可能是策略,而且得先找還沒被量化交易的人佔走的地方。去年的 Polymarket 也許還有空隙,預測市場新,華爾街不輕易進,資金池也小。Hyperliquid 同樣可以先讓 ChatGPT 或 Claude Code 把策略寫好,再交 JEV 分類,看一個交易日內有沒有獲利。卡牌拍賣、Mercari 二手,比的是誰先搶到。不必先寫程式。日本的抽選他也提了,說這例子有點不道德:第一時間進網填表很煩,他以前乾脆買黃牛票。Computer Use 變快之後,講一句話就能做,跟一月那種臨時寫程式不是同一條路。
四十億、八十億參數的小模型,Facebook 早做過,用來擋髒話、擋成人圖片、分貓狗、做驗證碼。JEV 多出來的是不必先訓練,用人類語言做通用分類。OpenRouter 已經開放,不用內測,也可以走 Cloudflare。讓 GPT 去 OpenRouter 註冊就能用。
複利在故事,不在高級上班族
他希望聽完的人回家真的打開 agent、ChatGPT、Claude Code,不要只在現場提問。
江西農村長大,第一次大變化是父親把他帶到深圳。數學界最近有兩個人拿了那個相當於諾貝爾的獎,名字他在台上說成王虹淼。他確定的是其中一位比他大一屆,深圳高級中學的,他讀高一時對方讀高二。那些孩子很多父母是第一代創業者,錢已經夠了,想的是這一生做什麼難的事。他自己在生物 X 班,有同學到現在還在美國的癌症研究機構,職涯沒有改。第二次變化是上網從電腦換成手機,大約從 2008、2009 到 2012。他覺得第三次就是現在,而且更快。
東亞父母要小孩讀書、離開體力勞動,至少換到經濟獨立。仕途、後來的經商,都是把智力變成收入。人工智慧上來之後,你調得動的智力和你自己讀來的不成比例。九年、十年學到皮毛,不可能不睡覺把 ChatGPT 的預訓練讀完。它還邊做邊學。他認為好好讀書、好大學、好工作這條,已經是妄想。2023、2024 之後,尤其去年寫程式這件事被攻下來之後,醫生、律師、其他知識工作、高級上班族,靠智力拿超額收益這件事,他看成泡影。
他給自己的下一項是用智慧賺複利,例子是 J. K. Rowling。《哈利波特》的小演員加上後來的片子,賺的遠不如作者。語言會留下複利:演講、書、talk show,因為它影響別人,也製造故事。西方叫 narrative。別人聽到名字就想到那串故事,有時跟著走。決定怎麼講,他說 AI 現在不會。Sora 和其他模型可以生出無窮影片,卻不知道哪一種講法對人是合理的。沒有這項 benchmark。若有一天會了,他覺得可怕。他的講法是,講故事其實就是在騙人。兩三年後會不會變,他不敢說。
所以複利不一定寫書。製造、衣服、影片、influencer,還有深圳人做的 Amazon 爆款,都是先知道別人要聽什麼故事。槓桿可以做很多事,唯獨不是打工。他說這等於逼人從工業革命以來的螺絲釘變成廠長。很難,不是每個人都會講故事,亞洲的教育很少教,某些常春藤也許好一點。網上搜他的名字,多半還是 ByteDance,和他以前退休的事。馬斯克的做法是先把火星、月球講出來,再把事情辦成,講多了,下一件很瘋的話也有人信。他受的教育相反:沒做成不要說。他認為這正是現在模型還沒拿走的能力。
講到這裡他停了,免得被聽成散布焦慮。每個月都有事情在改,要炒股票、改教育,或只改工作方式,都得先承認變化是客觀的。他要的第一件事,是先把心胸打開。