Erich Grunewald 請 Claude Fable 5 寫一段介紹 AI 晶片走私的文字。成品讀起來頭頭是道，他卻在裡面挑出八處問題，包括一句聽起來像格言、其實什麼都沒說的「出口管制的效力取決於執行」。他拿這個例子說明一件事：部落格文章、研究報告、memo、有內容的 email、小說，任何要傳達想法、論證或分析的實質文字，幾乎都不該讓 AI 來寫。就算你給它很詳細的 bullet、口述筆記或滿滿的脈絡，就算它寫完之後你親自改過，他還是不建議。
他在 2026 年 8 月的文章裡給了三條理由：寫作的過程本身就是思考的過程；AI 寫出來的文字模糊，而且錯在很難察覺的地方；用 AI 寫還不標示，是不禮貌也是誤導。他知道這題一講就像在開反 AI 的砲，所以文章前面先把不反對的部分講清楚。
他允許的，比很多人以為的多
轉錄音訊、分析資料、搜尋資訊、腦力激盪、對草稿給回饋，他都覺得很合理。line edit、copy edit，或為了讓某一段更清楚、更緊而重寫，也可以，前提是每一處編輯都由人刻意接受或拒絕。短、主要用來協調或處理物流的公式化企業 email，先讓 AI 起草再輕編一下，他也在腳註裡放行。他反對的只有一件事：用 AI 生成正文文字本身。
範圍他也先框住，這是他對現在與近未來模型的判斷。他預期總有一天會出現好到可以委派寫作的模型；到那個時候，更合理的做法可能是把整段研究與寫作端到端交出去，因為那時模型除了寫作，也得承擔全部或大部分思考。換句話說，他現在擋的是人從過程中跳過的那一段，不是永遠反對委派。
論點一：寫作過程就是思考過程
做研究的目的，是對重要問題形成準確的信念，再把它講給別人聽。Grunewald 認為寫作是形成信念最好的方法之一。
Paul Graham 寫過，寫一個你自認熟悉的題目，通常會發現自己沒那麼熟，把想法變成文字是很嚴厲的測試；他也說，最後進到文章裡的想法有一半是寫的過程中才想到的，而這正是他寫文章的原因。
在 Patrick McKenzie 的 podcast 上，Clara Collier 講得更細。她說自己寫一個實質的東西時，從大綱、把它變成文字、到每一個句子，沒有一個環節她不在思考、不在改主意。常常她在玩一個轉場，怎麼寫都卡，然後發現這個轉場不通，是因為這兩點本來就不該並置，她想做的事是錯的。她補了一句關鍵的：如果把大綱餵進 LLM，它不會停下來想，這個大綱會不會是壞的。
McKenzie 接著說，寫作過程就是思考過程這件事，現在有實證了，因為你做了一台會寫作的機器，思考就自己冒出來當副作用。他又補：寫多頁的東西時，就算論點很強，逼自己把它寫成句子與段落、把論證排好，就會看見論證的洞在哪、研究不夠的地方在哪，也會浮出「這跟我原本想講的其實矛盾」；一個還算有倫理的人接下來就得承認有反證，或把結論縮到比原本想要的更小。
Grunewald 說他基本同意這些說法。寫之前必須先知道要說什麼，也就是得先想過證據與論證、形成信念。任何寫作或研究計畫，總得有人把全部東西放進自己腦袋裡：每一塊證據、每個考量、每個論證，以及它們怎麼拼在一起。用 AI 寫，會讓避開這些必要的思考變得容易。
論點二：AI 的文字模糊，錯在很難察覺的地方
人寫東西時會做一大堆小決定，這個詞怎麼選、這句怎麼排。這些小決定加起來，就是文字最後的清楚與正確。
他試過的那個例子，後來被他整段拆開來看。他請 Claude Fable 5 寫一段簡短的文字，介紹 AI 晶片走私這個問題，而這題已經被寫過、被報導過很多次。模型交出一段很像樣的東西：2022 年 10 月起，美國限制先進 AI 晶片出口到中國，想拖慢中國在 AI 最前端的進展；但出口管制的效力取決於執行，而 AI 晶片體積小、價值極高、又走遍布全球的供應鏈，這些特性讓它既值得走私、也辦得到；轉運網路透過新加坡、馬來西亞、UAE 的中間人，用空殼公司與假文件把受管制的 GPU 送進中國；規模估計從每年數萬顆到可能超過十萬顆高階晶片；負責管這個幾千億美元生意的美國工業與安全局（BIS），預算與人力比較適合一個小得多的問題。最後一句收在：晶片走私可能悄悄掏空美國 AI 政策的核心支柱之一。
Grunewald 說，這不算糟，甚至算相當合理，但這不是他會寫出來的東西，模型做了一堆他認為微妙地錯或不好的選擇。
「出口管制的效力取決於執行」這句話，要嘛在講一件很明顯的事（沒執行、執行很差的政策，效果當然比較差），要嘛什麼都沒講。「體積小」是真的，但實際上常被走私的是 AI 伺服器，那不小。更何況這件事不太重要，因為晶片走私很少是把產品藏起來闖海關，通常就是改個標籤、光明正大運出去。
「走遍布全球的供應鏈」讓晶片「既值得走私、也辦得到」，這又是什麼意思？是說走私者比較容易從美國以外的公司買到晶片？（直到最近，他們跟美國總部的公司拿貨似乎也不算太難。）還是說在馬來西亞這類國家大量買晶片比較不引人注意？（他覺得這比較接近真的。）還是別的？
規模那句「每年數萬顆到可能超過十萬顆高階晶片」，字面上為真，但低端估計幾乎一定錯，真值更靠近高端，所以這句話是誤導。模型也沒說哪一年，而 2022 年 10 月以來走私量起伏很大；也沒定義什麼叫「高階」晶片。他在腳註裡也認了，自己 2023 年 10 月寫的報告就低估了未來規模大概一個數量級。「就算低端也代表足以影響訓練與部署的算力」幾乎沒有資訊量，因為一顆 AI 晶片某種意義上也「影響」訓練與部署。BIS「管著幾千億美元的貿易」，這裡直接寫數字就好；說 BIS「的預算與人力比較適合一個小得多的問題」，一來預算與人數是查得到的，該寫出來給脈絡，二來問題「小得多」是什麼意思，比較不重要，還是比較好解決？最後那句掏空核心支柱，在他眼裡是純粹的掌聲按鈕，沒有資訊。
一兩處這種問題或許沒差，但他的經驗是 AI 寫的文字裡，這種不必要的模糊與微妙錯誤非常密集。而且你給它筆記、大綱等大量脈絡，問題照樣存在。他自己有時會用 Claude 整理會議重點，分享給同事；即使他把 prompt 寫得很仔細、附上好幾個自己寫過的範例、Claude 也拿到完整的會議逐字稿，還是會引進微妙的模糊與錯誤。他說不少錯誤看起來是 Claude 沒真的搞懂這些重點是給誰看、那些人知道什麼、不知道什麼。
Eric Schwitzgebel 從另一個角度講同一件事。人類專家的思考方式跟 LLM 不同，也更好；他們的用詞、即使是細微的選擇，都反映了他們自己未必意識到的敏感度，而專家的文字對他所專精的題目，通常比語言模型的輸出更有感覺。
一定會有人反駁：我當然會讀過再送出去，沒有一字一句認同，我不會寄出那封信，更不用說投稿，所以那些想法我真的想過了。Schwitzgebel 的回應是，點頭讀過去，跟實際把文字產出來，認知上差很多。文字一旦已經在紙上，人很容易被動地讓那個大概的用詞過關，不會像自己從無到有寫的時候那樣，費力地主動想每一個用詞。而且即使是專家，人對「是什麼在影響自己的用詞」也未必有清楚的掌握。你自己寫會寫得稍微不一樣；就算你不知道差在哪、為什麼，送出去的訊號就是不一樣。
Grunewald 說實際情況比這還糟。AI 不只寫得模糊又微妙地錯，它還是用幾乎最有說服力的方式在寫。如果 AI 對你叫它寫的東西並不真的「知道」，它通常不會停下來說它不知道，而是寫出模糊到足以為真、或聽起來為真但其實不然的東西。人當然也常錯、也常模糊，但他覺得人的錯跟糊通常比較沒那麼有說服力，也比較容易察覺。要像他那樣把晶片走私那段一處一處挑出來，得花很多力氣；如果他對這個題目不熟，大概抓不到大部分問題。但如果那段是他自己寫的，他就躲不掉自己在哪裡糊塗。
論點三：不標示，是不禮貌也是誤導
有時候他寫東西就是要給別人讀：發表在網路上、給同事回饋、當 email 寄、寄給出版社。讀者大概會預期他想過自己寫的東西，也預期文字代表他的想法。至少讀者應該這樣預期，而他也希望如此。這是讀者與作者之間的隱性契約：讀者付出注意力，作者用有價值的東西回報，可能是資訊，可能是娛樂。
Clara Collier 在同一個 podcast 上也講到這一層。她說 LLM 能產出的那個版本的她，永遠會少掉她能加的東西，不是因為模型知道得比她少，很多領域它們知道得比她多，而是因為任何人都能隨時問 Claude 任何事。如果讀者讀的是她寫的、或她當編輯選出來放在他們面前的東西，那是因為有一份隱性契約：她給的東西是別的地方拿不到的，比直接問模型更值得花時間。她說這就是她不會直接用 LLM 生成文字的原因，真要用，她會希望在對方花時間之前先講清楚對方拿到的是什麼。
Grunewald 把前面兩節接回來：文字有微妙錯誤與模糊、讀者無從知道作者花了多少心思，這些都違反那份契約。所以當他讀到一篇文字、發現它全部或部分由 AI 寫成，他對文字與作者的信任會立刻下降，而且他認為這是合理的。推廣 AI 寫的東西，或把 AI 寫的草稿丟給別人審，在他看來不禮貌，那有點像丟一份寫得很隨便的草稿給人，還把「它很隨便」藏起來。除非清楚標示，否則你就是誤導了那個預期文字是你的文字、是想過、代表你信念的人。標示當然能繞開不禮貌與誤導的問題，但他懷疑多數人並不想這樣做。
幾個例外，他也一併回答了
能不能把 AI 寫的輸出放進文章，只要清楚標示？可以，他覺得大致沒問題。有時他只是做一次淺淺的查證、靠 Claude 提供一則資訊，就會寫「Claude Fable 5 告訴我某某是這樣」。當一個說法不值得花很多時間核實，這樣寫有用；重點是輸出要清楚標成 AI 寫的，讀者才能自己決定要不要打折。他建議最好連是哪個模型都寫出來。
那整篇都比照辦理呢？幾乎從來不是好主意，至少如果你打算給別人讀。一是結果通常比你自己寫差很多；二是你標了 AI 寫，人們會、也應該會不讀。只給自己讀也多半是錯的，因為前兩節講的那些好處，你就常常失去了。
非母語者怎麼辦？有人說非母語者、英文寫不好的人用 AI 寫英文可以接受，包括不揭露。他不同意，理由跟前面一樣。用 AI 翻譯自己用母語寫成的稿子，他認為可以接受，但仍然建議揭露；整體來說他的感覺是，AI 在翻譯時保住清楚與精確的能力，比從 bullet 筆記起草要好。
他在腳註裡還留了一個沒說死的角落：如果你把 AI 寫的稿子極密集審核、大幅改寫，也許可以；但他不確定，而且那樣做並不比自己從頭寫省事多少，實務上要快，通常還是靠降品質。
如果事情風險很高，例如要寫 AI 相關的政策 memo，用 AI 加速總可以吧？他不覺得用 AI 寫真的讓他快多少。真要說快，實務上快的方式通常是降低品質，而他認為不該在邊際上降品質。DC 已經淹在一堆報告與議題簡報裡，讀的人幾乎沒有；真正稀缺、真正對政策制定者有幫助的，是對重要題目更準確、更有思考過的分析。
他的允許清單很長，反對的那一項卻很小、很清楚：正文的文字本身。AI 可以幫你查、幫你整理、幫你回饋、幫你把句子改緊；但把證據、考量、論證放進自己腦袋、決定要說什麼的那段路，他認為沒有替代品，而寫作就是那段路。