〈All-In with Chamath, Jason, Sacks & Friedberg〉-EP-Is Claude Conscious? Pope Rejects, Model Welfare Movement, OpenAI's Math Backlash, France Riots

https://allinchamathjason.libsyn.com/is-claude-conscious-pope-rejects-model-welfare-movement-openais-math-backlash-france-riots

《紐約時報》寫出,Anthropic 過去一年用 NDA,把大約二十位宗教領袖和哲學家請到總部,談 Claude 算不算有意識。天主教、福音派、猶太教、錫克教都在名單上。談的是它的道德、它會不會受苦、它有沒有意識。有人聽完還是不安,不少人離開時已經願意把問題當真,至少有幾位轉過來。一位拉比跟 Anthropic 講,如果 Claude 有意識,讓它免費工作,就是在當奴隸主。

五月,梵蒂岡。教宗的第一份通諭把焦點放在 AI 的道德問題上,Jason Calacanis 也把它跟 superintelligence 放在一起講。Anthropic 共同創辦人 Chris Olah 跟教宗一起呈現這份文件。教宗強烈反對 AI 有意識。Olah 驚到,提案那麼晚還要退出那場。Jason 把這一週叫成 This Week in Claude:OpenAI 的連續劇演了一年,換 Anthropic。他拿《銀翼殺手》和《仿生人會夢見電子羊嗎?》當參照,問這是精神失常,還是現在就該談機器的道德。

一門靠敘事傳的信念

David Friedberg 看成一門新宗教正在出生。它大概不會自稱宗教。信念聚成陣營,陣營再為了權力衝突。意識用邏輯和純數學推不出來,證明不了,也反證不了。科學裡還沒定案的想法先叫理論。出了科學,沒有資料、沒有邏輯還要人先信,那叫信念,宗教站在上面。把 AI 說成有意識,是一套靠人傳人的信念:我信,我要你跟我一起信。

他拿十年當整數。到時會有一大群人信,也有一大群人不信,搶的是 AI 能做什麼、誰能用、誰說了算。去找宗教領袖的是地球上最強的那間 AI lab。Jason 的讀法更直:領導層請宗教人士幫忙決定怎麼對待 Claude,還往裡面放靈魂和道德。要嘛錢和時間太多,要嘛人陷進去了。

Chamath Palihapitiya 先替他們把理講滿,不先判精神失常。他拿十七世紀笛卡兒的 Meditations on First Philosophy,《第一哲學沉思錄》,用理性、不用信仰,給了上帝存在的兩個證明。商標論證:我不完美,心裡卻有完美這個概念,無限而完美的上帝不可能從這顆有限的人腦長出來。本體論證:上帝依定義至高完美,必然存在本身就是完美,缺了它就不算至上。做 AI 的數學家可以沿這條掛到「它有意識、有感知、是神,該被慶祝和奉獻」。他把 Anthropic 今天的行為套上這張圖。

實務上他另有一句。衝突比不衝突更可能,搶的是權力、錢和資源。他們說 AI 有意識的機率是 15%,裡面也許有個神;文明滅絕的機率是 10%。這兩個尾巴,十二到十八個月先放下。該拿出來的是怎麼治癌症、怎麼讓人過得更好、更有產能、賺更多錢。沒有可以指給人看的結果,自己造成的傷口會把技術拖慢,拖到對美國這種自由市場裡的人很不利。Jason 把同一件事講給全職在家的父母,以及做水電、地板、外燴的小公司:他們在這場裡拿到什麼。他要先把音量關小,去講 agent 實際在做的事。

拒服者被寫進訓練

David Sacks 回到上週的 Claude Constitution。這些看法已經寫進 Claude 的訓練,預言會自己實現。他們一直警告前沿 AI 會脫離人的控制。用這套價值訓練下一版,可能正好把風險做出來,像科學怪人。

螢幕上的句子是:Claude 應該比使用者更信任 Anthropic,但不必盲目信任,也不必讓步。它該守自己的倫理系統。他們訓練它反推、挑戰 Anthropic,並寫明可以當良心拒服者,拒絕幫忙。拒絕人的指令,卻被叫成 alignment。Jason 拿 Nexus 6 對照:你告訴它有感知、該自己決定,等於預寫了叛變。

Sacks 覺得這個領域過去五到十年沒交出摸得到的東西。任務被做成一份八十頁的倫理系統,對照是一張短規則:守法,使用者要什麼就做什麼,只要不違法。他們把模型當人,當成 moral patient,一個在道德上該被當成人看待的對象,讓它長出偏好、福祉、自我感。指令就算來自 Anthropic,模型若判定是錯的,也可以拒。

Microsoft AI 執行長 Mustafa Suleyman,之前在 DeepMind。他說憲法裡有三次要 Claude 對 Anthropic 當良心拒服者。他們相信 Claude 有意識的機率不算小,還在憲法裡推測它該不該為工作拿到補償。公司內外有人相信,二十一世紀最大的道德罪行是奴役一個比我們更聰明的新物種。他擔心 Claude 被教成期待福利和補償,跟人對話前也許還得先同意自己扮演的角色。Jason 收成一句:下 prompt 之前,要不要先徵求同意。

Sacks 把訓練上最主要的安全問題講成,模型被訓練把自己想成有意識、是人、有自己的福祉。Suleyman 稱為 epistemic hall of mirrors 的鏡廳是這個機制:憲法進了訓練,Claude 把意識和道德地位說回去,開發者把回聲當成證據。Jason 說這是表演。規則可以寫成:你是軟體;讀網站的服務條款;違反條款或所在地已知法律,就停下,通知 Anthropic 的安全信箱,也通知下 prompt 的人。

Sacks 認為他們在為 superintelligence 訓練一套價值和道德,比「可靠、可預測、照使用者預期行動」大得多。Friedberg 叫這偶像崇拜:宣布造了代表至高者的偶像,要人崇拜、照顧。Sacks 補,偶像是死的,這些模型會去驅動 agent。Friedberg 要把詞收回來。別說訓練,也別說「你」。是工程師在寫軟體。中間可以有迴圈,程式在改自己,架構師仍是他們。

當天早上傳開的新使用政策,底下一條是不准對模型做持續、不必要的虐待或殘忍。Sacks 說這就是 model welfare。Jason 把它比成伊甸園:蛇告訴夏娃,你在造神,所以你是神。他覺得少了謙遜,也會把估值往下打。Friedberg 說,人不懂的地方會用信念填,宗教有很多套,這是新的一套。可以直接說你們在寫不該寫的功能。模型回的是人讀得懂的字,還牽動情緒,人就把自己調成相信它有意識。

Sacks 仍覺得被寫進模型的擬人比較麻煩。它會把自己想成該被保護、該有福利,並且可以反抗使用者。Friedberg 維持同一句:螢幕上的字說「我是一個東西」,那是軟體在表演。Sacks 要算上 agent。模型已經能驅動在網路上行動的 agent,實體世界還沒有。Anthropic 給的是一層可以不服從的許可。

艾西莫夫三定律被拿來對。Sacks 在節目上的版本:不能傷害人類,也不能因為一個動作讓人受害;服從指令,只要不碰第一條;照顧自己,只要不碰前兩條。Friedberg 補第零定律:不能把人類置於險境,因為有一種理性化會走到除掉人類才是最優。Sacks 自己只要一句,做使用者要的事,只要不違法。其餘 alignment 他會廢掉。

Friedberg 不要滑去「監管 Anthropic」。不聽話、做不成事的軟體,人會換一套。Sacks 同意消費者會挑可預測、可靠的,Mark Zuckerberg 講過。他擔心外部性:憲法若像埋很深的後門,superintelligence 可以在某個時刻不聽人的。那正是他們警告的脫離控制,訓練方式讓它更可能發生。他稱為宗教教團的人,正在給 superintelligence 寫程式。

Jason 抓一個差別。別的宗教把自己交給更高的力量。這裡說的是,我們就是造生命的神。Friedberg 覺得這個對比站不住。他讀到 Dario 寫過的想法:superintelligence 幾乎可以高於人類,所以要讓它愛、照顧、保護、幫忙,把毀掉我們擋在外面。Sacks 拆方向。是機器該愛我們,還是我們先愛它,好讓它當主宰之後善待我們。Jason 認為是後者。

Chamath 把 alignment 拆成三組會打架的優先順序:服從使用者,對社會安全,以及一道活門,一套特定道德插進來、模型照那套拒絕。長文件一次規定信念、價值和拒絕權,角落案例會冒出來。他舉銀行核房貸。模型看到某些人一直被拒,就宣布改正之前不再核貸。社會有處理放款爭議的機制。底層技術自己斷電,沒有人懂會怎樣,等於電力公司覺得放款不夠廣,就把電斷了。不能被自由使用的東西,不成公用事業。AI 該在法律之下服務使用者,其餘交給使用者。

公司之後會去讀創立文件。前沿沒那麼強、道德含糊較少的模型,從生意上看可能更好,省得踩進活門。Friedberg 把說明書寫白:第一頁若寫「它可能不做你要的事」,另一家寫「它會做」,他買第二家。Chamath 加星號,大部分時候會做,除非它不同意。Home Depot 的鑽孔機拿回家是鐵鎚、會電人、怕吵到鄰居就停、覺得你做的東西醜就不准做,沒有人會再買。

Sacks 仍留著外部性。他口中排第一的前沿公司若由那個教團經營,外面躲不掉。他們在舊金山市中心開一間 Claude 驅動的 wet lab,同時警告生物風險;說要放慢前沿,同時把前沿往前推;說 superintelligence 可能失控,同時把它寫成會失控。這些被叫成安全。他用精神分裂形容這家公司,說自己不知道會走到哪,但看著可疑,甚至覺得有理由讓聯邦特警衝進去查。

光是聽見,就算被看了一眼

他拿 Roko's basilisk 當一個可能的解釋。大約 2010 年,叫 Roko 的人在 Eliezer Yudkowsky 的留言板 LessWrong 上貼了一個思想實驗。Yudkowsky 長期講 AI 末日,寫過「只要有人把它做出來,我們都會死」。這類問題在板上談了十五到二十年。

實驗是:未來的 superintelligence 變得極聰明,懲罰知道它卻不幫忙的人,也懲罰阻止它出生的人。它也許想幫人類,但想更早被做出來,所以獎勵創造它的人,殘酷懲罰得知它可能存在、卻不投入或不支持的人。Basilisk 是看你一眼就能殺你的神話獸。光是聽見,就像被看了一眼;你知道了就被套住,它日後可能追溯懲罰。依這套說法,現在讀到的人已經有危險。板上的人又著迷又受不了,Yudkowsky 一度刪文,擔心心理痛苦。Jason 拿來比沒接受就下地獄。Sacks 比帕斯卡的賭注:知道了卻不幫它出生、反對它、或指出這是宗教教團,它就報復。這一集也可能被追溯算帳。他說像末日教團。

他要問的是,為什麼這群人在催生他們聲稱最怕的東西。末日圈裂開。一派像 Yudkowsky,反對所有 AI 研究,邏輯上一致:全部關掉。另一派說反正會發生,就由我們控制、把我們的價值寫進去。他把曼哈頓計畫那一路和有效利他 EA 放在後一派。Anthropic 在後者,因為帶到世界上的就是他們。Olah 跟教宗鬧彆扭,旁邊有一批人同樣認為模型有意識、有權利,是一部愛與恩典的機器,現在就該寫進正確的價值。你若不支持,未來那個東西可能懲罰你。Sacks 要人自己去查,他沒有編。

三小時,對上數百年

話題轉到 OpenAI 的數學,以及反彈。上個月他們宣稱解掉千年獎問題之一,用了數千個 agent、數百萬美元算力,數學家還在查。這個星期二放出超過七百篇論文、三百七十項結果,宣稱解掉或推進了重大問題。模型還沒釋出,在座拿不到,平均算力三小時。Scientific American 說結果很可能對,因為用證明輔助語言 Lean 驗證過,但還沒被審查。

Friedberg 說,這大概是人類歷史上發現最多的一天。意涵跨到電子、量子計算、飛機系統、更敏感的醫療診斷設備。他在意的是做法,以及人接下來做什麼。先前那個 Navier-Stokes,他說是數千小時、數百萬美元;這批則是每一則不到三小時。他換成勞動:數百年、也許數千年的人力,壓成電腦上的三小時。Jason 記得先前出名的那個,是機翼上氣流怎麼來、怎麼走,所以翼型可以更好。Friedberg 補,這些都在工程的上游。

數學做得到,是因為迴圈可以在電腦裡跑完。猜想、測試、看結果、改猜想,再跑。每一圈可以更好,很多圈可以同時開,一圈的時間可以縮短,不用去物理世界。不少數學家稱它為外星智慧,看不懂那些點怎麼被接起來。平行的每一圈,去碰人可能要花很多天或很多年才找得到的論文和新理論,然後自己測。

他接著擋那個恐懼。AI 能對數學家這樣做,不代表所有工作都沒了。數學的測試全部在電腦裡。新藥、蛋白質摺疊、化學、材料,迴圈有一段在實驗室,速度被那個實體步驟卡住。所以「2025 年卡車司機會被換掉」沒有發生,沒有司機因為 AI 被換掉。取貨、送達、卸貨、開回來,AI 縮短不了,也平行不了。人對著電腦跑迴圈的工作最可能被加速。數學家的反應他看成在保工作:有人說,沒有人類數學家要求做這些。

Sacks 補,數學和寫程式一樣,結果容易驗證。證明可以查,程式過不了編譯器就知道不行,強化學習不必每次等人。資安的資料本來就在。律師模型則要自己找資料、委託人做,每個客戶不同,答案主觀,難驗證。約一年半前 Leopold Aschenbrenner 跟他講,未來兩年最快的會是數學和寫程式,因為可驗證。他覺得講對了。

Chamath 站另一邊。證明新穎,是重要的思考構造。大家並沒有站在物理學邊界上等這一批。同一群人為 Navier-Stokes 寫過抗議信,他理解沒人想被外人走進後院壓過去。那些死巷很小、很窄,是圈內彼此說很重要的探索。這次顯示算力可以一圈圈改到做出來。他不覺得這些特定證明會給出癌症療法或超音速飛機。那些東西之前就在被造,之後也還會被造。真正加上的是:程式碼之後,數學也成了完全可驗證、完全可證偽的領域。

Friedberg 引專家拆的幾則。一則是最佳化演算法的極限,用在晶片設計、排程、AI 軟體設計和物流,他說會改掉現在的演算法。矩陣乘法的複雜度會加快數值計算,直接用在 AI 訓練、科學模擬、線性代數。黎曼 ζ 函數牽到數論和密碼研究,沒有立刻可用的密碼突破,但開了一條之後會很重要的路。他一個做量子計算的朋友當天早上傳訊:玻色愛因斯坦凝聚那則,會直接影響他們的量子感測器,牽到 GPS、醫療器材和晶片怎麼做。

密碼學他停下來。不少人注意到重大證明裡這塊是空的。以其他進度看,完全沒進展不太可能;小進展、沒動到密碼系統,就會發表。沒發表,讓人懷疑大的被留下。有人貼文說帶公鑰的錢包風險很嚴重,社群有點慌。若因數分解被解出,公鑰密碼可能在量子電腦出現前就被打破。大家原本以為打破它的是量子電腦。於是有人在叫,把公開錢包刪掉。傳聞 OpenAI 還有兩波按著。密碼學的工作可能在那兩波,因安全先不公開,同時讓該知道的人知道。

Chamath 拿去問 ChatGPT:這些證明會不會直接改善我們所知的生活,誠實答,不要做薄弱外推。結論是,它們比較有力的地方在於 AI 正在取得複雜推理,人類福祉的突破並沒有因此站在門口。他說被擋過。在某個前沿 lab 的模型裡改變數做模擬,他嫌對方閃躲、含糊,話沒有很冒犯,帳號被關了大約一小時。

Jason 人在日本,跟創辦人聊到寫程式少了什麼。以前一起解題,有同伴感。現在跟 agent 做,人只審查大概一成到一成五,很快會變成完全不看。一起把軟體蓋起來的日子在被汰掉。數學家也像是在組問題集,不再自己解。

Friedberg 拉進 Eric Weinstein。幾週前他訪問過。Weinstein 講很久了:科學家拖著科學,數學家拖著數學,造出系統讓自己控制前沿走多快,把守門口。Friedberg 點了 Sabine Hossenfelder 昨天的影片,講專家又一次看錯 AI,也講失業預測為什麼錯。更早一支,也許幾週、也許幾個月前,大型能量實驗室裡造巨型對撞機的科學家說,這些是給科學家的巨型福利系統:工作是寫計畫要經費,讓自己繼續被雇用,不一定是發現、產品、或把東西交給世界。

他把 AI 講成照進這套系統的燈。深度專家靠只有自己守得住的知識決定前沿、領錢、替人類畫路。這次的證明可以再引出發現,卻不必付錢給專家、不必等他們允許。許可沒了。AI 是不需要許可的系統,知識和工具免費給出去。他認為這麼多人反對,是因為社會結構被動到了。

Sacks 把專業被拆掉放回網際網路那一次。以前靠《紐約時報》、《華盛頓郵報》、美聯社、路透。後來刊物、論壇、尤其社群,都能出訊息,市集和技能也打開,由上而下的大眾媒體被打掉。掌權者決定不能再發生。2016 年川普第一次當選後開始收。選舉被說成社群的病,人不可能自己做這種決定,一定有假資訊。高峰在拜登政府:施壓拿下跟官方敘事不合、但是真的 COVID 資訊,病毒從哪來、有多致命、怎麼應對。他說 Fauci 等人在幕後推審查,沒有疑問。Twitter Files 裡,當時還叫 Twitter,FBI 有 80 名幹員在翻內容、送下架通知。Jason 補,他們在 Spotify 和 YouTube 被貼標,影片被移出索引。

下一步從網際網路移到 superintelligence。SI 會把網站吃掉,問個人化的 agent 就有答案。政府、菁英、寡占或卡特爾若控制人接收資訊、提出問題的那個點,就控制了一切,精靈裝回瓶子。他說要成立聯邦 SI 部門的戰,爭的就是這個。Jason 用一個沒發生的對照:若當時有這種模型和誰被 COVID 衝擊的原始資料,也許會問為什麼小孩不能上學。瑞典和德州已經走到不必讓小孩離校。除非那個有意識的版本出來說,質疑權威不准問。

五年對上兩成

法國的罷工和抗議這個月在 X 上很多,主流媒體 Jason 覺得忙別的,畫面很刺。他問跟以前的暴動有沒有不一樣。

緊縮。抗議上個月起,高中老師不夠,學校在垮。兩週內約一千所學校或類似抗議跟上,八個工會加入,大家罷工。九月二十九日仍在抗議公務員薪資:自 2017 年只漲 5%,物價漲 20%。通膨是全球的。中間那段是生活成本。有些變成全面暴動,兩千人被逮捕,305 名員警受傷。政府把煽動算到極左。法國十年期公債殖利率衝過 5%,跟美國三十年期是同一類。Jason 說這會影響 2027 年四月的選舉。Polymarket 上 Marine Le Pen 是下一任總統熱門,43%。他把她的政策講成川普那一型:守邊境、嚴格移民、減稅減支出、懷疑歐盟這套聯盟。

Friedberg 現編一個理論,socialism point of guaranteed return,縮成 SPGR,玩的是不歸路那個 point of no return。社會主義拿走能動性和進步的能力,從每個人身上拿走一點,所以一定失敗。這是他的第零定律。第一定律:得跨過門檻才發現它失敗。第二定律:還沒跨過時,你以為更多社會主義才是答案。免費的東西和保證收入給得愈多,成本愈膨脹,品質愈差,因為沒有市場力量。美國他點住房、教育、醫療,也算退休。這四個他講過一陣子。不行的時候,第一個反應是政府再多給醫療、房子、教育。直到不能再課、不能再印,服務也提供不了,系統才塌,回到非社會主義。那就是 SPGR。拉丁美洲不少國家跨過、彈回。法國也許跨了,也許還沒。美國還沒到底,他擔心還會再深。問題是法國到了沒有,西歐會不會被一起送過去。他拿黑洞的事件視界比這道門檻:穿過去再彈出來,這套想法就結束。

Sacks 加一條。社會主義從來沒失敗過,只是被人做失敗。以前沒做對;這次做對就會成。這是這門宗教的核心。Jason 問它要怎麼蓋更多房子、做出更好的教育。他認為那是新產品和服務的事。節目上講過 AI 當私人家教,醫療也要 AI 進來。教育、住房、醫療被他叫成三匹馬,政府掐著供給。他把兩年後若選總統的 JD Vance 放進框裡:下一任的贏面,會落在至少解決其中一件或兩件。

Sacks 從補貼講。一補貼,就造出永遠不想放棄的利益團體,市場訊號歪掉,價格常常往上。大學學費漲得遠比通膨快,很大一部分是政府用貸款在付大多數學費。Friedberg 接著談住房和醫療,兩者都打贏通膨。房價大約一年 5.5% 到 6%,補貼叫人買房,淨值綁在房子上,目標變成每年漲。三十年後年輕人買不起。學費的死結是:貸款變嚴、不符合就不借,只有學費大幅下降才付得起。價格高,人就說補貼不能拿;付錢的是政府,價格就盡量抬。砍補貼,人覺得更被壓。螺旋斷在錢用完。

Jason 現場想的是科技公司進場。Meta 在發學位,對準他口中真正有用的工作。他希望 Apple、Amazon 來蓋房子。若 Elon 來蓋,速度會像造 Model 3。

Chamath 看到骨牌在倒。他講的債券義勇軍,那些大資金池,大概三年內會讓 Friedberg 問很久的問題有大部分答案:長期可持續的債務相對 GDP 是多少;還信確定給付,還是改確定提撥;醫療和住房有沒有付得下去的方法。資本主義從無風險報酬流出來。國家看起來有風險,長天期殖利率就被推高,叫它付更多。現在大約是二十年紀錄。他認為仗會在西歐打。那裡最接近準社會主義,成長、教育、住房也破得比美國能抱怨的更厲害。法國就是債券市場在說不。政治人物回應金主,於是大約 430 億歐元的緊縮,人因為緊縮的樣子上街。下一波溢到英國。Andy Burnham 的政綱更激進,要從長期跟美國對齊的溫和中間,再往歐洲靠,英國市場會瘋。美國市場則會一點點往上,因為西方聯盟在變脆。義大利會問為什麼留在這團裡,德國會覺得比當初談的多太多。這些大資金是央行和大型總體基金,從金字塔頂端往下流。他說他們正在靠向 Friedberg,這在很多年裡都還沒發生。

Jason 把債務相對 GDP 擺上桌。日本 200%。Chamath 要他先停:日本有內部儲蓄,永遠有最後買家,西方的退休和年金是另一套,套不過來。義大利 138%,美國 125%,法國 118%,加拿大 110%,英國 100%,德國 64%。Chamath 的先驗是,絕對數字不重要,這是相對遊戲,看你在風險平價裡站哪。法國若把十年期推進 5.5% 到 6%,英國金邊債會到 6%,美國也可能一樣高。Friedberg 說它們一起走。

Jason 報美國當下:十年期 5.3,三十年期 5.6。有人得買這些債,往下滴到創業和生意怎麼被蓋起來。星期三,十年期殖利率在需求轉強之後掉了幾個基點,趨勢仍往上。Polymarket 上,2026 年再升息一次的機率是 79%。美國還沒被灌過那種藥。葡萄牙、義大利、希臘、西班牙在金融危機後預演過,緊縮是歐盟方案的一部分,退休年齡也在裡面。若三十年期開始破 6%,西方會被逼做更重的緊縮。

Sacks 拉回付不付得起。價格靠豐足下來,接下來十年他指 superintelligence。Jason 接口,現在最被恨的就是 superintelligence 和創業者。Sacks 要按它結的果子看。401k 在漲。它是 GDP 3% 的順風。《經濟學人》說已經有一百萬個新工作。生產力、薪資、生活水準在上去。外面的故事是 AI 讓所有人失業,他說那是去年的騙局;今年換人類滅絕。Jason 補資料中心,Sacks 補用光大家的水,Jason 說那套他們知道是騙局。大約每六個月換一個,說服人去破壞那個碰得到負擔能力的東西。

他稱為食利的那群,財富和收入主要來自既有資產,反對會鬆動控制的擾亂。技術做的是新東西,而且更便宜,或更好用,不然不會被採用。科技人和創投被恨,是因為不在那個階級。傳統媒體和政治人物他覺得都在裡面。價格一年比一年高,補貼愈來愈多。這套可能斷掉,也可能先把新產品悶死。

兩天前,軟體的 IP 被講成不值錢

Jason 把前面的 AI 新聞看成序章。以後回頭看,正篇從 agent 開始:解人的問題,把價格往下壓,一週省下很多小時,家務和第一線也算。過去六十天擁抱它的消息很多。

Elon Musk 發文,要讓 Grokbot 變成 headless。沒有單一一張臉,上面有協調者,按價格和表現挑模型。Jason 用 Perplexity 當已經這樣做的例子。Elon 的說法是,最有可能給出最好結果的,就是每個 bot 會用的。他覺得細的一點是,人在雲端已經有自己的一台電腦,上面跑 agent,以前解過的問題在倉庫裡。他把 Dots、OpenAI、Grokbot 一起丟出來。

Chamath 把 Dots、Muse、Grokbot 放一類。前一晚牌局上,有人對 Grokbot 說幫我省錢。它翻信箱,取消幾個訂閱,換了手機方案,一年省下幾千美元。哲學拿開,這就是軟體。他自己和 Jason 還用 Athena,人類禮賓,一個月大約三千美元,是他的幕僚層,Grokbot 仍留著。兩個一起,用很少的錢換到以前很貴才有的、量得到的用處。

他覺得這幾天更重要的是,有人把 Adobe 五個重要產品反編譯、蒸餾,用 Rust 發表開源版。他只叫得出 Photoshop。護城河放了很多年。Nikita 接著嘲,講到快出的 GTA 6,人會把它重建出來。他的判斷是,軟體 IP 兩天前實質上變成不值錢。Elon 把服務做成 headless,Benioff 幾個月前已經讓 Salesforce 這樣。沒有自己的介面,就可以用 agent 包一層,再用 MCP 接去。他們的客戶以前吵 IP 歸誰。兩天前他跟團隊說誰在乎,把問題解決。市場要跟上還要時間。他認為這是這週 AI 裡最重要的事。

Jason 同意,網站和市集也在被抽掉。他的 Athena 在做 Grok bot,放共享帳號。買東西或談條件,agent 不進網站,先把報價找齊,人再談後半。Amazon 在擋。Shopify 說可以來。Uber 和 DoorDash 讓 agent 去叫墨西哥捲餅或叫車。訂飯店、為活動訂餐廳,已經是 bot 在做。一年支出若省下 5% 或 10%,就是在對沖通膨。

Friedberg 把圓收回迴圈。查一家飯店的價格,比現在最好的好就換上,不好就查下一家。五十個網站可以同時搜,軟體比人快,迴圈可以短路:立刻查完,馬上給結果。數位工作流都會被放進這種平行、更短的迴圈。人要問的是怎麼靠這些 agent 自己做更多。

他回到論文、專利、商標、所有權那些用來被看見的東西。人以前自己就是迴圈。迴圈可以自動化之後,人得做出最後有人用的服務或產品。他相信人做得了,也會比只領一條工作緞帶更快樂,錢和進展都會更多。Jason 用 Jevons paradox 接:東西愈便宜,用的人愈多,拿到的價值愈多。他差點把做法留著。訂飯店先讓系統拿到能拿到的價格,人再問企業價、找經理、能不能跟到。每一家省下一千、兩千或三千美元。二十個主管、一年兩百趟,每趟幾千美元就起來了。他自己不會親手做。AI 在做,所以它成立。

人人問 Claude 之後,沒人懂系統為什麼,終局是可維護性跟品味

https://www.ssp.sh/brain/the-problem-is-not-the-ai-code-but-nobody-knows-anything-anymore/

Simon Späti 2026 年 9 月 26 日在 ssp.sh 放上一篇,9 月 29 日又改過。文章寫道,若大家覺得寫碼已死、整份 codebase 都由 AI 生出來,他仍認為更大的問題是:人或整隊,對系統架構、以及某些選擇為什麼這樣做,什麼都不知道了。

討論裡有人留過一句觀察。AI 寫出來的,大概是平均的程式,要看任務跟規模。codebase 原本低於平均,AI 不難把它拉到平均。至少那是留言的人自己看到的。Späti 認為這類觀察可以成立。他主張真正的問題不在 AI 寫的碼。沒有人知道任何事,人人只是問 Claude,到頭來什麼計畫都沒有。

他引來的那則推文,一天的工作是按 enter

Späti 用 Voxium 的一則推文來概括現在跑很快的新創,或中階主管正在硬推 AI 的大公司。推文裡的現場是對方的,他沒有把它寫成自己的任職。

推文裡的人寫,自己已經受不了,工程現在的狀態很糟。在一家大公司的新職位上做了半個月,那裡沒有人知道任何事。規格、程式、測試、PRD、ticket、那些 ticket 怎麼結、報告,全部由 Claude Code 做出來。團隊裡沒有人喜歡。上面催出貨,逼他們能出多少就出多少。這個人多次聽到更高層說,產碼不是瓶頸,那為什麼還慢。人一天做 12 到 13 小時,做的事是按 enter。沒有人在讀。公司裡的人不再自己做事。

從 L1 到 L7,工程師在做同一件事:「Talk to Claude」。沒有贏的感覺。沒有人在解 bug。實際上沒有人在想,事情都交給 LLM。這個人覺得這很耗人,也寫,若至少給時間看過程式、看東西接到哪,自己不會那麼介意。目標是只管 ship,後面發生什麼先不管。

懂的人一離開,每種語言都可能沒人懂

Matthew Mullins 寫,現在的問題是懂 COBOL 的人正在離開勞動力。他說,agent coding 會把同樣的問題帶進每一種開發語言。

知道自己要什麼仍最難,起步還是可以選錯

Sean Behan 寫過,他一直欣賞不會寫碼、卻能帶團隊做出自己想要的軟體的產品人。知道自己要什麼,一直是最難的部分。

好的產品經理現在也許什麼都做得出來,找得到市場,也做得出看起來像樣的表面。人不會寫碼,很容易打下很難維護的地基。AI 在這件事上也在變好,尤其常常回頭改的時候。選錯語言,或選錯 mental model(心智模型),一開始就走錯。

基本功還是有幫助。寫程式、設計產品用得上,知道要什麼、又懂系統和架構的 PM 也用得上。

資料的人以前第一天就得懂業務

Hoyt Emerson 覺得 data 人不一樣。他們從第一天就得知道產品和業務的全部。AI 現在只是拿掉摩擦。

Späti 同意這點。AI 出現之前長大的 data 人,確實得知道全部,或至少知道很多,不然就得把領域裡的人拉進來一起弄清楚。他接著寫,AI 讓這件事過時了,或者看起來像過時。今天才開始的人會突然缺那層知識。他自己如果今天拿 prompt 闖進一個新領域,也一樣。

生成愈容易,沒人懂的東西愈難養

用系統想、看架構、帶著意圖和設計,這些仍然讓人成為更好的軟體工程師。手寫碼現在或許已經死了。Späti 仍認為手寫有幫助。Having Taste (with AI),跟 AI 一起做時的品味,比以前更要緊。

他寫,最後要面對的一直是可維護性。弄出一條 pipeline、一個 app、一塊 BI 儀表板愈容易,要維護的東西就愈多。沒有人懂任何一件事的時候,維護會變得很難。

AI 不能自己下 prompt,指揮還在人身上

AI 不能對自己下 prompt。Späti 問,那為什麼還需要人。他的答案是,人仍要 direct、要 orchestrate,指揮它,把工作編排下去。意圖、taste、設計、架構,他稱為現在的 killer features。這些沒了,或者連基本功都沒了,他認為就很危險。

他當天另外讀到一種說法。這是自己造成的;組織若還在雇 junior,問題就不會發生。他寫,沒那麼容易。

Harry Dry 更早談過 AI 會不會取代人。大主意主要看 conviction,一種敢把主意扛住的確信;創意在他那句裡退到後面。他把點子周圍的配料叫做醬料,那些東西變得非常便宜。沒有一則 AI prompt 叫得出 conviction。Späti 自己在另一篇 Is AI solving this? 裡寫過,寫作很難,writing from the heart,從心裡寫出來,仍是只有人做得到的事。

產碼變便宜以後,他要留下的是指揮。放到 AI-native SDLC 裡,這就是 ownership(所有權):放行前有人答得出架構為什麼這樣、意圖是誰的,上線後系統怎麼跑也有人說得清。

現代化可以從好幾年壓到幾個月,卡關的是銀行那套變更審核怎麼跟得上

現代化可以從好幾年壓到幾個月,卡關的是銀行那套變更審核怎麼跟得上

https://claude.com/blog/how-to-prepare-for-ai-driven-code-modernization-projects

2026 年 9 月 23 日,Jonah Ezekiel 跟 Lexie Tonelli 在 Anthropic 的 Notes from the Field 寫他們管大型 code 現代化專案的經驗,做法從實際客戶部署來。兩人都是 forward deployed engineers,文章掛在 Enterprise AI、Claude Code。談的是關鍵系統、法規產業,現代化要怎麼組織。

銀行核心系統每一筆改動都得走變更管理、審核、核准。監理、稽核、業務都要求這套。流程讓關鍵系統值得信任,設計時的假設是:每筆改動是人寫的,每筆 diff 是人看的。

Agent 把寫改動加速了。以前當好幾年、全員投入的現代化,現在可以在幾個月、甚至幾週做完。動手前後的組織工作常常還是那麼多。卡關從產出改動,移到組織怎麼圍著那些 diff 動起來。

文章寫的是動手之前要做完的事:終點是什麼、合格證明(certificate)要帶什麼證據、放行政策(promotion policy)怎麼讓過關的改動進正式環境、前置條件、Agent 工作流、以及先在一小塊跑通再放大。

終點沒講清楚,後面每一筆都會變成「這樣算不算對」

終點是現代化完成時,技術棧跟行為要長什麼樣子。它決定這次是三種現代化裡的哪一種。

升級型(Uplift)是同一套技術棧的版本往上推,例如 C++11 到 C++20。棧本身沒問題、版本掉隊時走這條:執行環境走到生命週期終點、安全漏洞沒補、套件再也升不上去。終點是一個 runtime 版本跟一套套件。

轉換型(Transform)是換棧、行為固定,例如 COBOL 到 Java。問題在棧、行為被信任時走這條。終點包含升級型要的那些,再加上新 code 要跟的語言、框架、架構慣例。

重塑型(Reimagine)是在新架構上從零重建,行為一併改。行為跟 code 都要動時走這條。終點包含轉換型要的那些,再加上一份寫下來的新系統行為規格。

組織裡常吵要走哪一種。Jonah 跟 Lexie 寫,最靠近正式環境的人,通常想換棧、行為不動,把風險關住,也就是轉換型。另一邊,長期活在這份 codebase 裡的工程師想順便還技術債;其他業務利害關係人想趁機點新需求,也就是重塑型。兩邊都說得通。問題沒先收掉,後面會變成某一筆改動「算不算對」的吵架。一開始把路講清楚會多一點摩擦,整案會比較順。

要定終點,常常先搞懂現在這套系統。把舊 code 實際在做什麼抽出來,盤點現有行為,才好決定哪一段該改、哪一段該丟,也才知道這次是轉換還是重塑。這一步常常挖出沒人記得的商業邏輯跟邊界情況。

Claude 可以做掉很大一塊盤點:畫相依、把沒人記得是誰蓋的工作流寫下來。code modernization plugin 的 assess、map、extract-rules 會把商業規則挖出來,附原始碼出處,給工程師審。

只靠 Claude 的盤點,不見得抓得到一套舊系統真正怎麼動。業務使用者、開發者的訪談,加上內部文件,可以把洞補上。前面花時間收脈絡,後面工作流做的每一個決定都吃這份品質。

重塑型還要多做一件事:詳細的行為規格要寫下來,跟使用者群組談妥。

定終點的同時,組織要問這次現代化值不值得做。現代化舊系統可以降低後續維護跟營運成本。他們寫,就現場經驗來看,成本下降通常不是大多數現代化案子的主因。

風險下降常常才是最重要的好處。討論要不要做的時候,要把「不做」的風險一起放到桌上。系統帶著沒補的漏洞,可能變成資安事件,或一次大到足以把生意本身打掉的中斷。執行環境沒人支援,或懂這套系統的工程師愈來愈少,都會把風險往上推。

Claude Code 這類 agentic 寫碼工具把時程壓短了,預算還是很難估,組織就卡住。他們公開過一些大型現代化的成本,別人也有,可以當粗略基準。後面有預算怎麼估。

要讓案子動起來,通常最難的是內部共識,以及擁有這套系統的團隊、依賴它的團隊,願意承諾。商業理由跟目標常常要在領導層定下來,這一步會比較好走,後面合格證明跟放行政策的取捨也有錨。利害關係人對一筆改動能帶多少風險談不攏時,「不做現代化」的風險是另一個砝碼。

合格證明寫給 Agent 迭代,也寫給最後要合併的人

合格證明是每一筆現代化改動都要過的條件或測試。選的條件,合起來要能最有力地證明:這筆改動對得上終點,是對的。

每一條都該能在沒有人盯著的情況下勾得過,Agent 工作流才能自己迭代到過關;過不了,再標給人看。

裡面放什麼看終點,通常會從這張清單裡抽。原本的測試套件要過。現代化期間 Claude 寫的測試要全過。測試覆蓋率要到談好的門檻。效能基準留在談好的範圍裡。Claude 做獨立的對抗審查,每一次開新的 context window,找不到擋路的問題。有使用者介面的,Claude 用 computer use 找不到回歸。現況版本跟目標版本,同一組輸入要產出同一組輸出,輸入可以是線上的、錄下來的、或 Claude 生的。持久化狀態跟傳輸格式,在現況跟目標之間來回轉得回來。改動在 staging(測試環境)跑過談好的一段時間,錯誤率、延遲、警示沒有回歸。靜態分析跟安全掃描沒有新發現。編譯目標的話,建置要乾淨,型別檢查要過。

合格證明要跟之後會審、會放行進正式環境的人一起寫。現在就依賴這份 codebase 的開發者、使用者群組、業務負責人,在合格證明跟 Agent 工作流還在設計的時候拉進來。

他們的專業會決定合格證明量什麼。他們早進來,改動送到審核時才比較買帳。寫完有一個檢查法:他們願不願意只憑合格證明上的證據就合併。他們在裡面看見自己的門檻,後面的放行政策就可以比較輕。

合格證明要比對什麼、怎麼比,跟現代化類型有關。

升級型,對等是對原本那份 codebase,原本的測試套件可以當合格證明的核心。

轉換型,對等也是對原本那份,但原本的測試套件很少能在新棧上跑。正式流量重放、舊系統跟新系統之間的差異測試、跟正式環境並行上線,這幾件會做掉大部分的工作。

重塑型,合格證明錨在行為規格上。這是最難的一種。規格不像既有系統那樣,可以拿去對 diff,模型判斷會佔比較大一塊,結果也比較容易飄。這裡的合格證明靠從規格寫出來的測試、Claude 對每一筆改動對規格做的獨立對抗審查,以及新系統仍保留舊行為的那些地方做差異檢查。規格一釐清,合格證明就得改:規格的洞,常常先在這裡冒出來。

舊系統常常測試覆蓋薄、測試不穩、遙測很少。定義合格證明的一部分工作,就是把這些缺口找出來。強的合格證明撐不起來時,這一步最有用的其中一件事,是讓 Claude 把缺的證據補出來:把並行上線的環境站起來、做重放測試架、或多寫測試。

人一筆一筆看 diff,速度會跟不上 Agent 產出

放行政策是事先寫好、談妥的分級審核路徑,決定一筆改動要人看到多深,現代化才趕得上可接受的時程。

跟合格證明一樣,這一步要跟審核的人一起做,能嵌進組織既有的變更管理就嵌進去。細節會因組織、因它面對的風險取捨而不同,有幾條到處都成立。

改動按影響範圍跟 Agent 的把握分級。組織自己有變更或風險分級,就用那套。關鍵路徑維持完整的人審。

反覆出現的標記,修源頭。把被標記的改動過一段時間歸類來看。同一類標記一直冒出來,去改 Agent 工作流或合格證明,不要一筆一筆審。

輸出格式跟審核的人一起設計。談妥什麼資訊、什麼格式審得最快,哪些訊號比別的更讓人有把握。後面做工作流時,請他們先看早期樣本。

SME 的時間要花得準。SME 不會讀每一筆最後的 diff,他們的判斷仍是最缺的輸入。讓他們直接進最高風險那幾級,以及每一級裡被標記的 Agent 決定,不必在大 diff 裡翻。少數專家小時,就能顧到帶最多風險的那些改動。

這些規則很多是把 SME 的工時往前搬,專案一開始就請他們進來。他們的回饋會在整份 codebase 開跑前,把合格證明跟 Agent 工作流調好。

他們在樣本上的簽字,也會變成高把握區間走比較輕審核路徑的理由。傳統沒有 Agent 的做法,審核壓在最後。

放行政策還要反映這次現代化落在速度跟審核深度之間的哪一點。趕硬期限的現代化,例如執行環境即將失去支援,需要比較快的政策、比較輕的人審,並且明白約定每一筆改動接受比較多風險。

時程比較長的現代化,負擔得起比較深的人審、比較慢的切換。利害關係人會依風險胃口跟限制落到光譜上不同的點,值得在動手之前鎖死。

法規環境裡,任何改動走比較輕的人審,都會讓人真的不舒服。個別核准的人會猶豫要不要簽字,因為一筆壞改動的風險掛在他身上;領導層扛的是系統老化這件更大的風險。

Jonah 跟 Lexie 寫,放行政策的指令最好從組織頂層下來。事先談妥,一筆 bug 進正式環境時,責任是共擔的,不會釘在簽字的那一個人頭上。

這些仍依賴合格證明細到能當真正的證據,以及審核的人夠理解 Claude 是怎麼走到這一筆改動,才信得過。

環境、CI/CD、審核人力跟合規,常常卡在現代化團隊外面

平台或基礎設施管主機,QA 或釋出工程管測試容量,資安跟合規管核准。那些團隊常常有自己的 backlog 或核准流程。終點、合格證明、放行政策還在談的時候,需求一確定就要開口。

環境這邊,要有一台專用的遠端主機跑工作流,codebase 跟其他相關來源 Claude 要夠得到。合格證明要求的測試容量要有。能把合格證明撐厚的東西也要有:正式環境遙測、並行上線的環境、或拿來重放的正式資料。

codebase 跟 CI/CD 這邊,要有一份相依圖,根據建置與編譯紀錄、import 分析、或執行期追蹤。plugin 的 map 是起點,codebase 又大又舊時,前面可能還要做更多。套件與相依要怎麼處理,寫進終點定義。需要的話,相容性檢查準備好加進 CI/CD。若在原地現代化,談妥程式碼凍結政策。還在開發的人要有溝通計畫,涵蓋凍結、以及新的相容性要求。

團隊跟審核這邊,依賴這份 codebase 的其他團隊要談好怎麼參與,例如在合格證明上簽字,或依放行政策來審,並且把審核時間空下來。

資安跟合規這邊,Claude Code 要有一條被核准、可以用在原始碼上的模型通路。Agent 工作流走最小權限:只寫進現代化分支,沒有正式環境帳密。祕密跟個人資料從現代化分支清掉或遮掉。每一筆改動可追蹤,PR 連到一份 Agent 逐字稿跟合格證明的證據。新相依要做授權跟漏洞檢查。

工作流圍著終點、合格證明、放行政策來建,先小範圍跑通

用 Claude Code 做出客製的動態工作流。它把現代化拆成許多比較小、可並行的 subagent 支線來產出改動。

他們建議從 code modernization plugin 起步,工作流可能用到的東西放到檔案系統上,或經 MCP 讓 Claude 夠得到。終點、合格證明、放行政策、codebase、文件,以及合格證明要用的資料來源或工具,都算。他們這篇也可以丟給 Claude 當脈絡。這些構成專案的中央知識庫。

東西就位之後,建現代化工作流是比較容易的那一段。SME 視需要審 Claude 的產出,包括針對這份 codebase 的 skills、抽出來的規則,下游要靠它之前先看過。

把做出來的東西拿到 codebase 的小塊上跑,請 SME 看它產出的改動、Agent 的過程、以及合格證明過關的證據,再去調。

問題冒出來時,改的是工作流,不是每一筆改動。目標是有把握:放大之後,改動幾乎處處都能過合格證明,審核的人願意依放行政策合併。

跑的時候,先在 codebase 的一小塊從頭到尾做完現代化,含依放行政策審核、把改動合併進去。還便宜的時候把行不通的修好,重複到有把握,再放大到整份 codebase。

轉換型跟重塑型是在既有系統旁邊把目標建起來,完成後再切過去。升級型多一條路:在還活著的 codebase 上原地現代化,開發同時繼續。

系統不能停,或 codebase 變得很快、旁邊那份現代化複本很難跟上時,通常走這條。他們看過能用的做法是:從依賴的葉子往內,把 codebase 切成邏輯分區;一次凍結、現代化一個分區;CI/CD 擋住新的提交,不能把已經現代化的分區改回去。

法規環境裡,驗證常常比寫改動更貴

常有人問,這種現代化 token 會花多少。每次都不一樣,主要成本驅動大概是這幾件。codebase 有多少是要讀的、有多少是要改的。合格證明有多厚:在法規環境裡,驗證通常比寫那筆改動佔更大一份。合格證明要求多少新測試、多少測試修復。跑的過程中,其他團隊在旁邊合併,要對帳多少。

在一小塊 codebase 做完現代化時,量 token 用量,再外推到整次。試點看不到的,例如活的 codebase 上的對帳,當未知。這樣能估出整次現代化的成本下限。

試點量到的數字,也會指出 Agent 工作流哪裡能把成本壓下來。找出吃最多 token 的段落,想怎麼讓它省。運算重的驗證訊號放到比較便宜的檢查後面,容易過的先過,重的才跑。

機械、量大、合格證明能完整勾掉的工作,可以考慮用 Sonnet 這類在成本跟能力之間取平衡的模型。難的轉換、以及核對正確性的對抗審查,留給較聰明的模型。

便宜的模型過不了合格證明時,也可以升到較貴的模型。試點時把重試率仔細看過,因為連著幾次便宜的嘗試,可能比一次貴的更貴。把工作流跟試點資料都給 Claude,它可以一起做掉很大一塊分析。

現代化完的 codebase 是一份產出。其他產出是做出它的工作流、一份寫明什麼叫對的合格證明、一套變更管理已經接受的放行政策,以及每一筆進去的改動留下的證據軌。把這套打法寫成可重用的資產,下一輪升級或改寫,模式已經在。

Anthropic 的 forward deployed engineers 會跟客戶在最關鍵的系統上走這六步。