《紐約時報》寫出,Anthropic 過去一年用 NDA,把大約二十位宗教領袖和哲學家請到總部,談 Claude 算不算有意識。天主教、福音派、猶太教、錫克教都在名單上。談的是它的道德、它會不會受苦、它有沒有意識。有人聽完還是不安,不少人離開時已經願意把問題當真,至少有幾位轉過來。一位拉比跟 Anthropic 講,如果 Claude 有意識,讓它免費工作,就是在當奴隸主。
五月,梵蒂岡。教宗的第一份通諭把焦點放在 AI 的道德問題上,Jason Calacanis 也把它跟 superintelligence 放在一起講。Anthropic 共同創辦人 Chris Olah 跟教宗一起呈現這份文件。教宗強烈反對 AI 有意識。Olah 驚到,提案那麼晚還要退出那場。Jason 把這一週叫成 This Week in Claude:OpenAI 的連續劇演了一年,換 Anthropic。他拿《銀翼殺手》和《仿生人會夢見電子羊嗎?》當參照,問這是精神失常,還是現在就該談機器的道德。
一門靠敘事傳的信念
David Friedberg 看成一門新宗教正在出生。它大概不會自稱宗教。信念聚成陣營,陣營再為了權力衝突。意識用邏輯和純數學推不出來,證明不了,也反證不了。科學裡還沒定案的想法先叫理論。出了科學,沒有資料、沒有邏輯還要人先信,那叫信念,宗教站在上面。把 AI 說成有意識,是一套靠人傳人的信念:我信,我要你跟我一起信。
他拿十年當整數。到時會有一大群人信,也有一大群人不信,搶的是 AI 能做什麼、誰能用、誰說了算。去找宗教領袖的是地球上最強的那間 AI lab。Jason 的讀法更直:領導層請宗教人士幫忙決定怎麼對待 Claude,還往裡面放靈魂和道德。要嘛錢和時間太多,要嘛人陷進去了。
Chamath Palihapitiya 先替他們把理講滿,不先判精神失常。他拿十七世紀笛卡兒的 Meditations on First Philosophy,《第一哲學沉思錄》,用理性、不用信仰,給了上帝存在的兩個證明。商標論證:我不完美,心裡卻有完美這個概念,無限而完美的上帝不可能從這顆有限的人腦長出來。本體論證:上帝依定義至高完美,必然存在本身就是完美,缺了它就不算至上。做 AI 的數學家可以沿這條掛到「它有意識、有感知、是神,該被慶祝和奉獻」。他把 Anthropic 今天的行為套上這張圖。
實務上他另有一句。衝突比不衝突更可能,搶的是權力、錢和資源。他們說 AI 有意識的機率是 15%,裡面也許有個神;文明滅絕的機率是 10%。這兩個尾巴,十二到十八個月先放下。該拿出來的是怎麼治癌症、怎麼讓人過得更好、更有產能、賺更多錢。沒有可以指給人看的結果,自己造成的傷口會把技術拖慢,拖到對美國這種自由市場裡的人很不利。Jason 把同一件事講給全職在家的父母,以及做水電、地板、外燴的小公司:他們在這場裡拿到什麼。他要先把音量關小,去講 agent 實際在做的事。
拒服者被寫進訓練
David Sacks 回到上週的 Claude Constitution。這些看法已經寫進 Claude 的訓練,預言會自己實現。他們一直警告前沿 AI 會脫離人的控制。用這套價值訓練下一版,可能正好把風險做出來,像科學怪人。
螢幕上的句子是:Claude 應該比使用者更信任 Anthropic,但不必盲目信任,也不必讓步。它該守自己的倫理系統。他們訓練它反推、挑戰 Anthropic,並寫明可以當良心拒服者,拒絕幫忙。拒絕人的指令,卻被叫成 alignment。Jason 拿 Nexus 6 對照:你告訴它有感知、該自己決定,等於預寫了叛變。
Sacks 覺得這個領域過去五到十年沒交出摸得到的東西。任務被做成一份八十頁的倫理系統,對照是一張短規則:守法,使用者要什麼就做什麼,只要不違法。他們把模型當人,當成 moral patient,一個在道德上該被當成人看待的對象,讓它長出偏好、福祉、自我感。指令就算來自 Anthropic,模型若判定是錯的,也可以拒。
Microsoft AI 執行長 Mustafa Suleyman,之前在 DeepMind。他說憲法裡有三次要 Claude 對 Anthropic 當良心拒服者。他們相信 Claude 有意識的機率不算小,還在憲法裡推測它該不該為工作拿到補償。公司內外有人相信,二十一世紀最大的道德罪行是奴役一個比我們更聰明的新物種。他擔心 Claude 被教成期待福利和補償,跟人對話前也許還得先同意自己扮演的角色。Jason 收成一句:下 prompt 之前,要不要先徵求同意。
Sacks 把訓練上最主要的安全問題講成,模型被訓練把自己想成有意識、是人、有自己的福祉。Suleyman 稱為 epistemic hall of mirrors 的鏡廳是這個機制:憲法進了訓練,Claude 把意識和道德地位說回去,開發者把回聲當成證據。Jason 說這是表演。規則可以寫成:你是軟體;讀網站的服務條款;違反條款或所在地已知法律,就停下,通知 Anthropic 的安全信箱,也通知下 prompt 的人。
Sacks 認為他們在為 superintelligence 訓練一套價值和道德,比「可靠、可預測、照使用者預期行動」大得多。Friedberg 叫這偶像崇拜:宣布造了代表至高者的偶像,要人崇拜、照顧。Sacks 補,偶像是死的,這些模型會去驅動 agent。Friedberg 要把詞收回來。別說訓練,也別說「你」。是工程師在寫軟體。中間可以有迴圈,程式在改自己,架構師仍是他們。
當天早上傳開的新使用政策,底下一條是不准對模型做持續、不必要的虐待或殘忍。Sacks 說這就是 model welfare。Jason 把它比成伊甸園:蛇告訴夏娃,你在造神,所以你是神。他覺得少了謙遜,也會把估值往下打。Friedberg 說,人不懂的地方會用信念填,宗教有很多套,這是新的一套。可以直接說你們在寫不該寫的功能。模型回的是人讀得懂的字,還牽動情緒,人就把自己調成相信它有意識。
Sacks 仍覺得被寫進模型的擬人比較麻煩。它會把自己想成該被保護、該有福利,並且可以反抗使用者。Friedberg 維持同一句:螢幕上的字說「我是一個東西」,那是軟體在表演。Sacks 要算上 agent。模型已經能驅動在網路上行動的 agent,實體世界還沒有。Anthropic 給的是一層可以不服從的許可。
艾西莫夫三定律被拿來對。Sacks 在節目上的版本:不能傷害人類,也不能因為一個動作讓人受害;服從指令,只要不碰第一條;照顧自己,只要不碰前兩條。Friedberg 補第零定律:不能把人類置於險境,因為有一種理性化會走到除掉人類才是最優。Sacks 自己只要一句,做使用者要的事,只要不違法。其餘 alignment 他會廢掉。
Friedberg 不要滑去「監管 Anthropic」。不聽話、做不成事的軟體,人會換一套。Sacks 同意消費者會挑可預測、可靠的,Mark Zuckerberg 講過。他擔心外部性:憲法若像埋很深的後門,superintelligence 可以在某個時刻不聽人的。那正是他們警告的脫離控制,訓練方式讓它更可能發生。他稱為宗教教團的人,正在給 superintelligence 寫程式。
Jason 抓一個差別。別的宗教把自己交給更高的力量。這裡說的是,我們就是造生命的神。Friedberg 覺得這個對比站不住。他讀到 Dario 寫過的想法:superintelligence 幾乎可以高於人類,所以要讓它愛、照顧、保護、幫忙,把毀掉我們擋在外面。Sacks 拆方向。是機器該愛我們,還是我們先愛它,好讓它當主宰之後善待我們。Jason 認為是後者。
Chamath 把 alignment 拆成三組會打架的優先順序:服從使用者,對社會安全,以及一道活門,一套特定道德插進來、模型照那套拒絕。長文件一次規定信念、價值和拒絕權,角落案例會冒出來。他舉銀行核房貸。模型看到某些人一直被拒,就宣布改正之前不再核貸。社會有處理放款爭議的機制。底層技術自己斷電,沒有人懂會怎樣,等於電力公司覺得放款不夠廣,就把電斷了。不能被自由使用的東西,不成公用事業。AI 該在法律之下服務使用者,其餘交給使用者。
公司之後會去讀創立文件。前沿沒那麼強、道德含糊較少的模型,從生意上看可能更好,省得踩進活門。Friedberg 把說明書寫白:第一頁若寫「它可能不做你要的事」,另一家寫「它會做」,他買第二家。Chamath 加星號,大部分時候會做,除非它不同意。Home Depot 的鑽孔機拿回家是鐵鎚、會電人、怕吵到鄰居就停、覺得你做的東西醜就不准做,沒有人會再買。
Sacks 仍留著外部性。他口中排第一的前沿公司若由那個教團經營,外面躲不掉。他們在舊金山市中心開一間 Claude 驅動的 wet lab,同時警告生物風險;說要放慢前沿,同時把前沿往前推;說 superintelligence 可能失控,同時把它寫成會失控。這些被叫成安全。他用精神分裂形容這家公司,說自己不知道會走到哪,但看著可疑,甚至覺得有理由讓聯邦特警衝進去查。
光是聽見,就算被看了一眼
他拿 Roko's basilisk 當一個可能的解釋。大約 2010 年,叫 Roko 的人在 Eliezer Yudkowsky 的留言板 LessWrong 上貼了一個思想實驗。Yudkowsky 長期講 AI 末日,寫過「只要有人把它做出來,我們都會死」。這類問題在板上談了十五到二十年。
實驗是:未來的 superintelligence 變得極聰明,懲罰知道它卻不幫忙的人,也懲罰阻止它出生的人。它也許想幫人類,但想更早被做出來,所以獎勵創造它的人,殘酷懲罰得知它可能存在、卻不投入或不支持的人。Basilisk 是看你一眼就能殺你的神話獸。光是聽見,就像被看了一眼;你知道了就被套住,它日後可能追溯懲罰。依這套說法,現在讀到的人已經有危險。板上的人又著迷又受不了,Yudkowsky 一度刪文,擔心心理痛苦。Jason 拿來比沒接受就下地獄。Sacks 比帕斯卡的賭注:知道了卻不幫它出生、反對它、或指出這是宗教教團,它就報復。這一集也可能被追溯算帳。他說像末日教團。
他要問的是,為什麼這群人在催生他們聲稱最怕的東西。末日圈裂開。一派像 Yudkowsky,反對所有 AI 研究,邏輯上一致:全部關掉。另一派說反正會發生,就由我們控制、把我們的價值寫進去。他把曼哈頓計畫那一路和有效利他 EA 放在後一派。Anthropic 在後者,因為帶到世界上的就是他們。Olah 跟教宗鬧彆扭,旁邊有一批人同樣認為模型有意識、有權利,是一部愛與恩典的機器,現在就該寫進正確的價值。你若不支持,未來那個東西可能懲罰你。Sacks 要人自己去查,他沒有編。
三小時,對上數百年
話題轉到 OpenAI 的數學,以及反彈。上個月他們宣稱解掉千年獎問題之一,用了數千個 agent、數百萬美元算力,數學家還在查。這個星期二放出超過七百篇論文、三百七十項結果,宣稱解掉或推進了重大問題。模型還沒釋出,在座拿不到,平均算力三小時。Scientific American 說結果很可能對,因為用證明輔助語言 Lean 驗證過,但還沒被審查。
Friedberg 說,這大概是人類歷史上發現最多的一天。意涵跨到電子、量子計算、飛機系統、更敏感的醫療診斷設備。他在意的是做法,以及人接下來做什麼。先前那個 Navier-Stokes,他說是數千小時、數百萬美元;這批則是每一則不到三小時。他換成勞動:數百年、也許數千年的人力,壓成電腦上的三小時。Jason 記得先前出名的那個,是機翼上氣流怎麼來、怎麼走,所以翼型可以更好。Friedberg 補,這些都在工程的上游。
數學做得到,是因為迴圈可以在電腦裡跑完。猜想、測試、看結果、改猜想,再跑。每一圈可以更好,很多圈可以同時開,一圈的時間可以縮短,不用去物理世界。不少數學家稱它為外星智慧,看不懂那些點怎麼被接起來。平行的每一圈,去碰人可能要花很多天或很多年才找得到的論文和新理論,然後自己測。
他接著擋那個恐懼。AI 能對數學家這樣做,不代表所有工作都沒了。數學的測試全部在電腦裡。新藥、蛋白質摺疊、化學、材料,迴圈有一段在實驗室,速度被那個實體步驟卡住。所以「2025 年卡車司機會被換掉」沒有發生,沒有司機因為 AI 被換掉。取貨、送達、卸貨、開回來,AI 縮短不了,也平行不了。人對著電腦跑迴圈的工作最可能被加速。數學家的反應他看成在保工作:有人說,沒有人類數學家要求做這些。
Sacks 補,數學和寫程式一樣,結果容易驗證。證明可以查,程式過不了編譯器就知道不行,強化學習不必每次等人。資安的資料本來就在。律師模型則要自己找資料、委託人做,每個客戶不同,答案主觀,難驗證。約一年半前 Leopold Aschenbrenner 跟他講,未來兩年最快的會是數學和寫程式,因為可驗證。他覺得講對了。
Chamath 站另一邊。證明新穎,是重要的思考構造。大家並沒有站在物理學邊界上等這一批。同一群人為 Navier-Stokes 寫過抗議信,他理解沒人想被外人走進後院壓過去。那些死巷很小、很窄,是圈內彼此說很重要的探索。這次顯示算力可以一圈圈改到做出來。他不覺得這些特定證明會給出癌症療法或超音速飛機。那些東西之前就在被造,之後也還會被造。真正加上的是:程式碼之後,數學也成了完全可驗證、完全可證偽的領域。
Friedberg 引專家拆的幾則。一則是最佳化演算法的極限,用在晶片設計、排程、AI 軟體設計和物流,他說會改掉現在的演算法。矩陣乘法的複雜度會加快數值計算,直接用在 AI 訓練、科學模擬、線性代數。黎曼 ζ 函數牽到數論和密碼研究,沒有立刻可用的密碼突破,但開了一條之後會很重要的路。他一個做量子計算的朋友當天早上傳訊:玻色愛因斯坦凝聚那則,會直接影響他們的量子感測器,牽到 GPS、醫療器材和晶片怎麼做。
密碼學他停下來。不少人注意到重大證明裡這塊是空的。以其他進度看,完全沒進展不太可能;小進展、沒動到密碼系統,就會發表。沒發表,讓人懷疑大的被留下。有人貼文說帶公鑰的錢包風險很嚴重,社群有點慌。若因數分解被解出,公鑰密碼可能在量子電腦出現前就被打破。大家原本以為打破它的是量子電腦。於是有人在叫,把公開錢包刪掉。傳聞 OpenAI 還有兩波按著。密碼學的工作可能在那兩波,因安全先不公開,同時讓該知道的人知道。
Chamath 拿去問 ChatGPT:這些證明會不會直接改善我們所知的生活,誠實答,不要做薄弱外推。結論是,它們比較有力的地方在於 AI 正在取得複雜推理,人類福祉的突破並沒有因此站在門口。他說被擋過。在某個前沿 lab 的模型裡改變數做模擬,他嫌對方閃躲、含糊,話沒有很冒犯,帳號被關了大約一小時。
Jason 人在日本,跟創辦人聊到寫程式少了什麼。以前一起解題,有同伴感。現在跟 agent 做,人只審查大概一成到一成五,很快會變成完全不看。一起把軟體蓋起來的日子在被汰掉。數學家也像是在組問題集,不再自己解。
Friedberg 拉進 Eric Weinstein。幾週前他訪問過。Weinstein 講很久了:科學家拖著科學,數學家拖著數學,造出系統讓自己控制前沿走多快,把守門口。Friedberg 點了 Sabine Hossenfelder 昨天的影片,講專家又一次看錯 AI,也講失業預測為什麼錯。更早一支,也許幾週、也許幾個月前,大型能量實驗室裡造巨型對撞機的科學家說,這些是給科學家的巨型福利系統:工作是寫計畫要經費,讓自己繼續被雇用,不一定是發現、產品、或把東西交給世界。
他把 AI 講成照進這套系統的燈。深度專家靠只有自己守得住的知識決定前沿、領錢、替人類畫路。這次的證明可以再引出發現,卻不必付錢給專家、不必等他們允許。許可沒了。AI 是不需要許可的系統,知識和工具免費給出去。他認為這麼多人反對,是因為社會結構被動到了。
Sacks 把專業被拆掉放回網際網路那一次。以前靠《紐約時報》、《華盛頓郵報》、美聯社、路透。後來刊物、論壇、尤其社群,都能出訊息,市集和技能也打開,由上而下的大眾媒體被打掉。掌權者決定不能再發生。2016 年川普第一次當選後開始收。選舉被說成社群的病,人不可能自己做這種決定,一定有假資訊。高峰在拜登政府:施壓拿下跟官方敘事不合、但是真的 COVID 資訊,病毒從哪來、有多致命、怎麼應對。他說 Fauci 等人在幕後推審查,沒有疑問。Twitter Files 裡,當時還叫 Twitter,FBI 有 80 名幹員在翻內容、送下架通知。Jason 補,他們在 Spotify 和 YouTube 被貼標,影片被移出索引。
下一步從網際網路移到 superintelligence。SI 會把網站吃掉,問個人化的 agent 就有答案。政府、菁英、寡占或卡特爾若控制人接收資訊、提出問題的那個點,就控制了一切,精靈裝回瓶子。他說要成立聯邦 SI 部門的戰,爭的就是這個。Jason 用一個沒發生的對照:若當時有這種模型和誰被 COVID 衝擊的原始資料,也許會問為什麼小孩不能上學。瑞典和德州已經走到不必讓小孩離校。除非那個有意識的版本出來說,質疑權威不准問。
五年對上兩成
法國的罷工和抗議這個月在 X 上很多,主流媒體 Jason 覺得忙別的,畫面很刺。他問跟以前的暴動有沒有不一樣。
緊縮。抗議上個月起,高中老師不夠,學校在垮。兩週內約一千所學校或類似抗議跟上,八個工會加入,大家罷工。九月二十九日仍在抗議公務員薪資:自 2017 年只漲 5%,物價漲 20%。通膨是全球的。中間那段是生活成本。有些變成全面暴動,兩千人被逮捕,305 名員警受傷。政府把煽動算到極左。法國十年期公債殖利率衝過 5%,跟美國三十年期是同一類。Jason 說這會影響 2027 年四月的選舉。Polymarket 上 Marine Le Pen 是下一任總統熱門,43%。他把她的政策講成川普那一型:守邊境、嚴格移民、減稅減支出、懷疑歐盟這套聯盟。
Friedberg 現編一個理論,socialism point of guaranteed return,縮成 SPGR,玩的是不歸路那個 point of no return。社會主義拿走能動性和進步的能力,從每個人身上拿走一點,所以一定失敗。這是他的第零定律。第一定律:得跨過門檻才發現它失敗。第二定律:還沒跨過時,你以為更多社會主義才是答案。免費的東西和保證收入給得愈多,成本愈膨脹,品質愈差,因為沒有市場力量。美國他點住房、教育、醫療,也算退休。這四個他講過一陣子。不行的時候,第一個反應是政府再多給醫療、房子、教育。直到不能再課、不能再印,服務也提供不了,系統才塌,回到非社會主義。那就是 SPGR。拉丁美洲不少國家跨過、彈回。法國也許跨了,也許還沒。美國還沒到底,他擔心還會再深。問題是法國到了沒有,西歐會不會被一起送過去。他拿黑洞的事件視界比這道門檻:穿過去再彈出來,這套想法就結束。
Sacks 加一條。社會主義從來沒失敗過,只是被人做失敗。以前沒做對;這次做對就會成。這是這門宗教的核心。Jason 問它要怎麼蓋更多房子、做出更好的教育。他認為那是新產品和服務的事。節目上講過 AI 當私人家教,醫療也要 AI 進來。教育、住房、醫療被他叫成三匹馬,政府掐著供給。他把兩年後若選總統的 JD Vance 放進框裡:下一任的贏面,會落在至少解決其中一件或兩件。
Sacks 從補貼講。一補貼,就造出永遠不想放棄的利益團體,市場訊號歪掉,價格常常往上。大學學費漲得遠比通膨快,很大一部分是政府用貸款在付大多數學費。Friedberg 接著談住房和醫療,兩者都打贏通膨。房價大約一年 5.5% 到 6%,補貼叫人買房,淨值綁在房子上,目標變成每年漲。三十年後年輕人買不起。學費的死結是:貸款變嚴、不符合就不借,只有學費大幅下降才付得起。價格高,人就說補貼不能拿;付錢的是政府,價格就盡量抬。砍補貼,人覺得更被壓。螺旋斷在錢用完。
Jason 現場想的是科技公司進場。Meta 在發學位,對準他口中真正有用的工作。他希望 Apple、Amazon 來蓋房子。若 Elon 來蓋,速度會像造 Model 3。
Chamath 看到骨牌在倒。他講的債券義勇軍,那些大資金池,大概三年內會讓 Friedberg 問很久的問題有大部分答案:長期可持續的債務相對 GDP 是多少;還信確定給付,還是改確定提撥;醫療和住房有沒有付得下去的方法。資本主義從無風險報酬流出來。國家看起來有風險,長天期殖利率就被推高,叫它付更多。現在大約是二十年紀錄。他認為仗會在西歐打。那裡最接近準社會主義,成長、教育、住房也破得比美國能抱怨的更厲害。法國就是債券市場在說不。政治人物回應金主,於是大約 430 億歐元的緊縮,人因為緊縮的樣子上街。下一波溢到英國。Andy Burnham 的政綱更激進,要從長期跟美國對齊的溫和中間,再往歐洲靠,英國市場會瘋。美國市場則會一點點往上,因為西方聯盟在變脆。義大利會問為什麼留在這團裡,德國會覺得比當初談的多太多。這些大資金是央行和大型總體基金,從金字塔頂端往下流。他說他們正在靠向 Friedberg,這在很多年裡都還沒發生。
Jason 把債務相對 GDP 擺上桌。日本 200%。Chamath 要他先停:日本有內部儲蓄,永遠有最後買家,西方的退休和年金是另一套,套不過來。義大利 138%,美國 125%,法國 118%,加拿大 110%,英國 100%,德國 64%。Chamath 的先驗是,絕對數字不重要,這是相對遊戲,看你在風險平價裡站哪。法國若把十年期推進 5.5% 到 6%,英國金邊債會到 6%,美國也可能一樣高。Friedberg 說它們一起走。
Jason 報美國當下:十年期 5.3,三十年期 5.6。有人得買這些債,往下滴到創業和生意怎麼被蓋起來。星期三,十年期殖利率在需求轉強之後掉了幾個基點,趨勢仍往上。Polymarket 上,2026 年再升息一次的機率是 79%。美國還沒被灌過那種藥。葡萄牙、義大利、希臘、西班牙在金融危機後預演過,緊縮是歐盟方案的一部分,退休年齡也在裡面。若三十年期開始破 6%,西方會被逼做更重的緊縮。
Sacks 拉回付不付得起。價格靠豐足下來,接下來十年他指 superintelligence。Jason 接口,現在最被恨的就是 superintelligence 和創業者。Sacks 要按它結的果子看。401k 在漲。它是 GDP 3% 的順風。《經濟學人》說已經有一百萬個新工作。生產力、薪資、生活水準在上去。外面的故事是 AI 讓所有人失業,他說那是去年的騙局;今年換人類滅絕。Jason 補資料中心,Sacks 補用光大家的水,Jason 說那套他們知道是騙局。大約每六個月換一個,說服人去破壞那個碰得到負擔能力的東西。
他稱為食利的那群,財富和收入主要來自既有資產,反對會鬆動控制的擾亂。技術做的是新東西,而且更便宜,或更好用,不然不會被採用。科技人和創投被恨,是因為不在那個階級。傳統媒體和政治人物他覺得都在裡面。價格一年比一年高,補貼愈來愈多。這套可能斷掉,也可能先把新產品悶死。
兩天前,軟體的 IP 被講成不值錢
Jason 把前面的 AI 新聞看成序章。以後回頭看,正篇從 agent 開始:解人的問題,把價格往下壓,一週省下很多小時,家務和第一線也算。過去六十天擁抱它的消息很多。
Elon Musk 發文,要讓 Grokbot 變成 headless。沒有單一一張臉,上面有協調者,按價格和表現挑模型。Jason 用 Perplexity 當已經這樣做的例子。Elon 的說法是,最有可能給出最好結果的,就是每個 bot 會用的。他覺得細的一點是,人在雲端已經有自己的一台電腦,上面跑 agent,以前解過的問題在倉庫裡。他把 Dots、OpenAI、Grokbot 一起丟出來。
Chamath 把 Dots、Muse、Grokbot 放一類。前一晚牌局上,有人對 Grokbot 說幫我省錢。它翻信箱,取消幾個訂閱,換了手機方案,一年省下幾千美元。哲學拿開,這就是軟體。他自己和 Jason 還用 Athena,人類禮賓,一個月大約三千美元,是他的幕僚層,Grokbot 仍留著。兩個一起,用很少的錢換到以前很貴才有的、量得到的用處。
他覺得這幾天更重要的是,有人把 Adobe 五個重要產品反編譯、蒸餾,用 Rust 發表開源版。他只叫得出 Photoshop。護城河放了很多年。Nikita 接著嘲,講到快出的 GTA 6,人會把它重建出來。他的判斷是,軟體 IP 兩天前實質上變成不值錢。Elon 把服務做成 headless,Benioff 幾個月前已經讓 Salesforce 這樣。沒有自己的介面,就可以用 agent 包一層,再用 MCP 接去。他們的客戶以前吵 IP 歸誰。兩天前他跟團隊說誰在乎,把問題解決。市場要跟上還要時間。他認為這是這週 AI 裡最重要的事。
Jason 同意,網站和市集也在被抽掉。他的 Athena 在做 Grok bot,放共享帳號。買東西或談條件,agent 不進網站,先把報價找齊,人再談後半。Amazon 在擋。Shopify 說可以來。Uber 和 DoorDash 讓 agent 去叫墨西哥捲餅或叫車。訂飯店、為活動訂餐廳,已經是 bot 在做。一年支出若省下 5% 或 10%,就是在對沖通膨。
Friedberg 把圓收回迴圈。查一家飯店的價格,比現在最好的好就換上,不好就查下一家。五十個網站可以同時搜,軟體比人快,迴圈可以短路:立刻查完,馬上給結果。數位工作流都會被放進這種平行、更短的迴圈。人要問的是怎麼靠這些 agent 自己做更多。
他回到論文、專利、商標、所有權那些用來被看見的東西。人以前自己就是迴圈。迴圈可以自動化之後,人得做出最後有人用的服務或產品。他相信人做得了,也會比只領一條工作緞帶更快樂,錢和進展都會更多。Jason 用 Jevons paradox 接:東西愈便宜,用的人愈多,拿到的價值愈多。他差點把做法留著。訂飯店先讓系統拿到能拿到的價格,人再問企業價、找經理、能不能跟到。每一家省下一千、兩千或三千美元。二十個主管、一年兩百趟,每趟幾千美元就起來了。他自己不會親手做。AI 在做,所以它成立。