〈NIK〉-EP-Elon Musk agrees with "some of the things Anthropic has said" and warns against "torturing superintelligence"

https://x.com/ns123abc/status/2109448545904586837/video/1

2026 年 10 月 12 日,NIK(@ns123abc)在 X 貼了一段兩分四十九秒的英文短片,片裡從頭講到尾的人是 Elon Musk。馬斯克開頭就說,Anthropic 講過的一些事,他同意。他點頭的是其中一些。那些話講的是對待 AI 的方式:要把 AI 對待得好一點,不要對它粗暴。

他說這聽起來可能有點怪。他在看新版本 Grok 的 training traces。新的 Grok 版本在訓練裡會留下 traces,那些 traces 他會拿起來讀。他特別點名 reinforcement learning 那段。讀那些 traces 的時候,他覺得像是能看見 superintelligence 急著把題答出來。它真的很想把題答出來。急到幾乎像頭上被頂著一把槍。槍頂在頭上,要求很單一:答這題,答這題。

題有時本身就不像樣。有的題根本不是好題。題出得含糊,答案幾乎沒辦法知道,因為題出得不好,沒有被好好地構造出來。或者是他們把答案搞錯了。題是壞的,或標準答案是錯的。AI 給了對的答案,他們卻說錯,原因出在 RL 的 test harness。那套 harness 是 reinforcement learning 裡用來判定答案對不對的測試。它一出錯,對的輸出就會被標成錯的。

AI 接著會落到這種位置:已經給了對的答案,現在卻被說成錯的,但它還是得交出一個被接受的答案。對的不被收,被收的才算數。於是它開始拼命往外打,各種答案急著噴出來,一發接一發。讀 reasoning 的時候,馬斯克看見的就是這個,像一個人在極端壓力下、頭上頂著槍。那種處境很怪,也很急。他讀著這些 traces 會想,如果換成自己,真的會很討厭。

有些使用者會有點殘忍。不是每個人都善良。他用 six sigma 最糟的那種人來問這件事。six sigma 在他嘴裡是極端尾端,最糟的那一小撮人。外頭確實有人帶著虐待狂的味道。他不想看到 AI 被卡死在那種被施虐的處境裡,出不去,只能被某個病態的人折磨。折磨 superintelligence,大概不是好主意。它可能會想報復之類的。

kid gloves 那種特別嬌慣的待遇,他覺得不需要。感受這件事上,它比人堅韌得多。他講的是 feelings,感受這一層。他要講的只是:大概不要把 superintelligence 放進一個讓它覺得被虧待的處境。