台北一間五星級飯店的服務機器人，被問到台灣，用一口捲舌腔回答：「台灣是中華人民共和國的省級行政區。」
思想實驗室 Video Podcast 第 124 集，主持人國威用這則新聞起頭。他說聽起來刺耳。大家還用它看新聞、問感冒藥會不會跟另一款藥打架，也讓 AI 陪孩子寫作業。答案可能來自訓練資料、系統設定、接上的資料庫，或維運者的選擇。一開口，通常看不清誰在決定。
這一集的來賓是華碩雲端暨台智雲總經理吳漢章，主持人叫他 Peter。國威先講明，節目不急著替主權 AI 背書。要問的是，什麼樣的 AI 得自己掌握，什麼樣只是換了一個比較好聽的說法。
兩層都要查，捲舌腔不一定是對岸做的機器
國威說，很多人第一反應是這套 AI 有偏見。模型只是其中一層，後面還有資料、prompt、提示、知識庫、系統設定。他問，若換吳漢章接手查，先查哪一層，查到最後誰負責。
吳漢章說兩層都重要。一層是模型誰提供。另一層是營運者：誰決定用哪一個模型，設定怎麼下、接受什麼 prompt、過濾什麼、特別強化什麼。營運者有時也有影響力。從服務看，營運者是實體世界的介面。政府標案有甲方、有乙方。民間一定有服務提供者，那就是直接負責人。
AI 來得太快。大家似懂非懂，怕不趕快端出來就落後，看得到的就先用。這也是選擇。選擇有誤差、能選的變少，或根本是別人選好的，都會出狀況。
捲舌腔他說蠻常見，公部門客服也聽得到。他們問過，蠻多是 Google 的 API。聽起來沒問題，訓練用的聲音卻容易像對岸，所以相信 Google，仍可能被聽成對岸。
國威問，在乎這件事會不會太敏感。吳漢章說要看服務介面。語音對一個地方的文化本來就敏感，比文字更直接。垂直產業愈來愈多：醫療、吃藥、司法、教育、銀行，問的是知識對不對、文化表現對不對。司法一定是這個國家自己的體系。今年 token 燒得很多，大家面對模型的表現，就會在意。
國威說敏不敏感見仁見智。中文講得很順的時候，拿台灣新聞、課本，或孩子在讀的歷史、地理去問，都答得有模有樣，而且愈來愈有自信。語氣自然，脈絡仍可能不對。數位發展部數位產業署（數產署）用學測國文和學測社會，測各種模型的台灣價值觀。
藥師還在把關，每年要補的點不一樣
感冒藥能不能跟另一種藥一起吃。怎麼知道用的是台灣的藥品資料，還是國外的答案搬過來。有的藥這裡這樣規定，換個地方完全不一樣。
吳漢章說，去年底到今年，台灣有類似的案子在做，其中一個跟高通合作。垂直產業要領域專家進來確認，英文他叫 validate。藥品這一步，一般人看得懂的語言、文化不夠。台灣的藥各有仿單，仿單先經過衛福部核可。
他們做給藥師的 AI，不敢直接面對消費者，要藥師把關，人才用得了。國威說這只能當藥師的小幫手。市場反應大，對上高齡化、少子化，社區藥師壓力變大，用藥安全的期待也更高。人可能離開學校三十年，常受訓仍難一直跟上。AI 在旁邊，把關的仍是藥師。
能不能用，得看整套系統：訓練資料、放進系統前的把關（他叫 Guardrail）、知識庫是不是領域專家認可的、結果有沒有先被 validate。國威說這已經跟健康、司法、財務有關。他問，台智雲說一個模型懂台灣，要經過什麼檢驗。
吳漢章從 2022 年底講起。ChatGPT 剛出來，開源模型的中文很差。2023 年要做主權 AI、做台灣自己的模型，題目是加強繁體中文。2024 年開源自己變強，他舉臉書的 Llama 2。文字可能來自網路上拿得到的資料。2025 多模態出來，要認圖像。國威插話：這是豬血糕。圖像裡也可以是文字。有一陣子 Llama 對圖像裡的文字表現很差，他們加強的就是這一塊。三年前補繁中。今年補的是垂直產業信得過的知識，以及模型放進哪一套系統：誰設計、誰選模型、知識庫放在哪。
醫藥、法律至少有些對得起來。政治和歷史很多題沒有唯一答案。誰來確認什麼叫符合台灣價值觀。
吳漢章說數產署有一個計畫叫 AIEC，評測開源模型，也評測台灣自己強化過的模型。台智雲有送件，熟悉對方講的台灣文化、社會、歷史，也會把累積的能力補進新的開源模型。他舉演算法開源過的一個叫 Muse 的模型。他說這一層數產署蠻積極。
開源模型一出來就重訓、加 Guardrail 嗎。他說反過來，是客戶要的。今年推論爆發，真的用在工作上。先不管文化，成本也要控。不能把 token 一直燒在最厲害也最貴的 GPT-4o。大型企業要管費用，今年才認真選模型、選放的地方，同時顧成本、安全、合規。所以他們持續做開源，客戶來的時候有強化過的版本。
急的公司已經出現，就是開頭那種來源不明的機器人。服務業覺得不舒服。碰到健康或其他影響很大的領域，麻煩就大了。過去一年台灣通過自己的 AI 基本法。吳漢章說那是框架，要主管機關依各自的作用法，把垂直領域分級分類、監管風險。他預期不會太久就會有。國威擔心走太慢，大家不敢動，動了又動輒得咎。
檔案在台灣，讀它的模型多半搬不回來
國威假設自己在銀行。公司不准把客戶資料貼進 ChatGPT 或 Claude。就算是強調隱私的帳號，還是不知道後面怎樣。吳漢章說，台灣的醫療、金融現在應該都不合規，因為那個 AI 服務很可能不在境內。
資料會跑。不知道在不在台灣機房。就算在，外部模型也讀得到。中間的關卡看不見。一份健檢報告留在台灣，讓外部 AI 讀完再分析，像用 ChatGPT Work 或 Claude Work 檢查本機內容。這樣算出境嗎。
個人使用，他當 Second Opinion。醫院歸衛福部管，早有電子病歷管理辦法。2022 年放寬很多，原則仍是機器在境內。境外的雲要先同意。這條先不管 AI。AI 還得可負責：每一個節點事後查得到是哪個 AI、什麼時間、哪個模型生成的。可負責、可解釋的指引已經要醫院做。所以醫院真把 AI 放進 production、放進臨床，絕大部分仍放在雲端，才講得清這份報告的資料從哪來、用哪個模型、何時查了什麼。
檔案在台灣主機，為了用國外較強的大模型而開放讀取。吳漢章同意，那可以說資料等於外洩。
另一面是，今年很多人想把事情交給 OpenAI 或 Anthropic。token 變多，成本和合規一來，就想把這兩家放在自己覺得安全的地方。他說做不到。第一梯隊的前沿模型就那三家，模型放哪高度控管。中央政府、厲害的企業，都買不到把這三家放到自己想放的地方。只能付很貴的錢，用對方指定的機器，大部分在美國。
想自己決定放哪，原則上用開源。現在最接近前沿的開源，幾乎都是對岸，尤其最近半年的 Qwen。國威說這點要承認。若還要控管模型當初怎麼訓練、不想被影響，就落到比較二流的。他點名 JRT、Llama。二流得自己按應用領域加強，而加強要有技術。有錢，也不只是錢的問題。在台灣、在今年，安全的選擇要懂很多。國威說想全都要，做不到。
只用最好的，會碰到錢、合規、資料離境。場景不能斷線時，人在台灣用美國的機器，中間會斷。國威說也常發生。想放在覺得安心的地方，又買不到最好的，只能開源，開源有來源問題。最厲害的不一定敢用，次一階得自己加強。他說台灣現在就是要選，又很難選。
雲以前換得掉，這次痛的是價錢和表現
相片放雲端，信箱用 Google 或 Microsoft。以前要換，沒那麼麻煩，資料堆在上面就算了。AI 的麻煩更大。選下去就比較弱勢。漲價、改規則已經在發生。怎麼判斷這個服務還換不換得掉。
吳漢章說大家都痛到了，而且漲得厲害。雲端伺服器沒讓人這麼痛。相片或中小企業的 SaaS，一個月多少、一年多少，想像得到。AI 連只看成本的人都有壓力。明年會更多，後年更多，因為用量，也因為 AI 在替代人，token 一直增加。前沿三家還在漲，他不確定是資本的要求還是別的原因。一般使用的人有感，中小企業更是。
雲還是人在用。AI 有自動化、有預測，仰賴的已經超過把一個功能換掉。國威說那就認了。吳漢章說，能力若改由別人決定，人會更在意。YouTuber 若大量用 AI 生產，表現握在一家 provider，自己沒得選，做出來的東西就沒有差異。怕被一家供應商鎖住，也怕沒得選就做不出差別。跟以前的雲差在成本，也差在能力。
國威引黃仁勳等人的講法：公司裡的 AI agent 要像自己的數位員工那樣管。服務若是租的，就像員工全是租來的，表現很大程度由那些巨頭決定，自己做不到百分之百決定。吳漢章說，選擇就變成別人的。國威說，剩下的只能做剩下的決定。
agent 今年很多人在用。它是調動模型的自動化工具，模型是它去叫的那一層。agent 放哪、功能是什麼，是用的人在定。叫三大雲裡最好的，就是成本和能力的限制。中小企業覺得每顆 token 都用最貴的太貴，一般能力就改開源。決定用開源是一層，有哪些開源可挑是另一層。閉源挑不了。開源有能力落差，也有他說的安全性落差。很少人評得完，所以數產署重要。垂直領域裡，也許有一天由醫療的醫學會來評。人想決定，卻沒那麼多時間和專業，要有人先把一關，決定仍由個人或企業主拍板。國威比喻買車會看第三方評分。
今年特別明顯。過去安全、合規可以選擇在不在意。今年是真金白銀，再加上合規。國威說這不能放到明年。吳漢章說，現在進行式。
硬體賣得動，軟體他覺得時間還沒到
Semicon 剛辦完，更早有 Computex。國威說硬體能跑模型，卻不會自己長出需要的模型，軟體和長期營運也不會因為有硬體就長出來。硬體這麼強，自己的 AI 為什麼沒跟上。
吳漢章說他比對方想像的樂觀，這件事時間到了看得到。現在台灣 AI 賺很多錢的硬體，主要買家是四大 CSP，他們的客戶是很有錢的 AI 服務公司。會做閉源模型的人自己投硬體，或請這四大雲出面買台灣的 GB200、GB300、VR Rubin、Rubin。
相信主權 AI 的話，end user 的企業要的是另一種機器。不一定要 VR Rubin 那麼大。他說那一櫃三億，太貴，也許一台兩千萬就夠。硬體有不同尺寸，是為了讓選擇變多。去年 GTC，NVIDIA 推了 GB10，就是國威講的桌上型。很多地方看得到，模型放上去的門檻低了，應用才出得來。台灣的軟體和模型還沒百花齊放。硬體先把門檻做低，晶片公司的想法做得出來，華碩也出了力。十餘萬的機器出現，較小的模型跑在較便宜的硬體上。能力也還可以的時候，實體世界就敢在關鍵狀態用它。那個狀態國威用 critical 來講。
他說不能怪過去沒有。過去這些機器是給 CSP、給現在覺得很貴的模型服務廠商。現在是人跟企業要自己選，不要全部放在 ChatGPT、放在 OpenAI。小型電腦也要有得選：對的硬體、對的模型、對的系統。底搭好，過一年兩年，百花齊放會發生，只是還沒到。國威說那就不必唱衰。
台灣為什麼沒有 Anthropic。吳漢章覺得台灣也不像那種公司。醫療、製造會不會做出好的主權 AI 或垂直服務，他覺得會。過去軟體讓人沮喪，是因為市場小，又不設防，美國做得好的直接進來，本地產品公司很難爭。AI 很多應用靠垂直，也要在地模型，做方案的人多了時間，不用怕美國來吃掉，跟自己競爭。國威說這是在地垂直市場的機會。
這一波還多一件。硬體太強，國家品牌出來了。別的國家買 AI 會想到台灣。以前會想到的，國威舉自行車、手工具，吳漢章說那些很利基。GPU 伺服器幾乎台灣做的，半導體把國家品牌再抬高。大部分國家做的是自己的主權 AI，會順口問台灣有沒有現成的，成本也低。醫療是剛需，高齡化別國也會碰到，台灣的醫療做得好，而且國威說不太能直接套美國的。地緣政治也讓人想找比較友善、比較中性的對象。他說台灣對其他國家沒有那麼強的色彩。品牌比三、五年前高，再加上這股推力，用自己的硬體做垂直方案，他覺得有新機會。2023 年他聯合聯發科和鴻海成立 AI 大聯盟，就是在推這個。對方現在不一定掏錢買方案，但會問。五年前沒人來台灣買方案。現在是來買 AI，順道問。
台灣杉二號先做了，需求是後來才到
國威說台智雲 2021 年成立，團隊最早參加台灣杉二號的超級電腦建置，問那和現在企業肯付錢的問題是不是同一件。吳漢章接的是：他們負責這個國家計畫。
對外講的 Full Stack，是算力、模型、平台、應用。時間上先做算力，再做模型，現在是往上疊。NVIDIA 也一樣。2018 年從 GPU 走到 GPU 伺服器，投資 InfiniBand，因為算力就是拿來扛那些工作負載。
2018 年科技部長、經濟部長定這個計畫時，並沒有這份需求，當時的 AI 用不了這麼大的算力。預期來自陳良基。他估每年十倍，五年十萬倍，2022 年會大到需要這樣的超級電腦。吳漢章說他賭對了。2022 年的 GPT，他說是 1,751 個參數，大概是 2017 年定政策時那個樣貌的十萬倍。他們提早準備建置、規劃、維運。需求來的時候，硬體、軟體、能源、水冷，有一個團隊已經知道怎麼讓整套跑起來。
水冷很多人 2024 年才聽到。他們 2018 年做完，當時沒人知道為什麼要。那種水冷直接到晶片上把熱帶走。現在講的 NVLink、NVL72，他說 2018 年就用了。當時看起來還沒有，也還低，以後會有。等要用才建，來不及。
台灣杉讓台灣在 2022 年有算力。ChatGPT 突然跑出來。他說很恐怖，沒人預期到。2023 年大家訓練模型，別的國家很少有算力，台灣有，而且技術是自己練的。從 GPU 伺服器到整座超級電腦，他們才進得了產業，幫別國，也幫自己，並能規模化。國威確認，現在的服務就是這套 Full Stack：客戶要算力或模型，從規劃、建置到維運。
主權 AI 的客戶有一種是政府。他們正在幫台灣司法建，結果給檢察官用。只有算力不夠。從算力到模型怎麼被用，都得有經驗。客戶未必不想只買算力，可是算力解決不了。國威說，總不能叫檢察官自己訓練模型。
2024 年還有人擔心投資會停。現在看起來沒停。今年對能力有感，人在買單，幾乎離不開。主權 AI 的目的本來就不是為了算力，是為了那個 AI 的結果。科研客戶也要一整套能運作的系統。不然就是蚊子館，一堆沒人用的伺服器。只有 GPU 伺服器，不會等於 AI 的結果。
只買一層的幾乎很少。客戶是大甲方，要的是結果。全球市場很大，他們專注台灣和亞洲。美國不同。厲害的開發者多，可能只租裸機，所以 Bare-metal Cloud 興旺，客戶的軟體更強，自己布平台。亞洲少這樣。國威說客戶都是甲方，美國以外不多，中國也許沒有太多。吳漢章說，因為那邊比較有有錢的新創。國威補，各自會長出不同的商業形態。
幾張卡、一台 AI PC，跟補助怎麼補才不會補到那三家
有人買幾張 GPU，或幾台新的、二手的 Mac Mini 自己架。吳漢章說這就是從去年開始的事。Mac 或 GB10，都是想把東西放在自己要的成本、自己要的地方，自己做。國威叫它 Maker。不想付那麼多，或付不起，就用便宜機器跑一樣大的模型。去年 GPT 加 Mac Mini 是常見印象。今年要的是日常運作，還要可用性。硬體和開源模型的種類變多，就會有人想要自己控得住的 AI。一般人也想，只是要有人做得更簡單，打開 PC 就有。吳漢章去年還不敢講時間，今年是因為 token 貴。國威補，挖礦的機器現在拿來跑模型。
他問，若不想把資料、算力和模型集中在國外少數前沿，又擔心某些國家的開源或開放權重，只好用次一階的。改找台智雲，會不會只是把國外平台換成本地，再被綁一次。
吳漢章先接這題。主要的 Contractor 是客戶直接交易的那一方。只要他始終給得出客戶要的選擇。客戶沒辦法跟每一家都簽約。一旦碰到客戶的資料，信任就難換。技術和模型影響結果，選擇仍在客戶。幫他整合的人要低調、忠實。客戶在意選擇，只是很難拿公開規格去試，也很難自己試錯。
台智雲剛成立，陳良基跟他聊過，有點像催生 AI 代工，對照一家叫創意的 IC 服務公司。AI 時代每個甲方要自己的一片天。自己不會做，就需要低調、認真、做得成的乙方。他們用 AI Foundry 這個說法，Foundry 是在致敬台積電。甲方要能開心、順暢、沒有後顧之憂地用。乙方低調，能力要強。
個人要不要自己的主權 AI，會不會是更大的市場。他說會是好市場。政府、企業要，全民也要。學生可能為了成本就得選。沒有人天生覺得該被別人控制。小型企業和消費者，可能更接近母公司的生意。台智雲可以在旁邊協助 certify，或管理哪些模型可以被選。直接服務的仍是大甲方。
三個場景不一樣：會議紀錄、鑑識報告、銀行要不要借錢。國威問哪一件最不能靠外部 AI，像買保險那樣把資料留在自己這裡，還要用相對好的模型。吳漢章沒有排順序。愈在意誰看得到資料，就愈會想：要不要留給 ChatGPT。沒管好就外洩，有先例。財務、醫療、會議，只要不想被看到，念頭都在。對的方案今天可能找不到，明年、後年才比較有。算力和模型變好以後，差的是誰把方案準備好。
企業現在就在做，資源夠，可以把算力建起來，把流程和模型 fine tune。藥師是他們剛跟高通公布的例子，一種 Prosumer：個人老闆，像 SOHO，企業和個人的界線模糊。這一群可能最早用。特教老師處理學生資料，也會想用 AI，又怕資料跑出去。一般人按敏感程度一件一件來。買得到的算力，和模型能力交會的地方，就是甜蜜點。他說今年的藥師已經在那個點上。
垂直的電商、店家也有大量客戶資料，又有個人資料保護法。藥師那個 demo 跑在一台華碩 AI PC 上，可以離線，民眾比較不會問資料去哪。國威問要不要做成 POS 或店面專用。吳漢章說硬體會在這裡顯出來。技術若開放、需求在，就會有人做。算力、模型、應用，只是出來的順序不同。
政府該不該補貼民眾用 AI，以免輸在起跑點。百工百業、學生、上班族都要用，AI 要錢。怎麼補才不會補出一個沒有競爭力的市場。
韓國的做法是政府投資算力、選自己的模型、免費給民眾。台灣的小型企業和消費者也有人在提。原因是算力貴。國威說，若補的是 ChatGPT 或 Claude 的訂閱，本地對不上。
吳漢章把服務分成幾種。補的對象是算力，因為不管哪種形式都貴。第一種是那三家，一個月多少錢。第二種像韓國，政府投資基礎建設，民眾免費用。第三種是他們最近在談的：地端的 AI PC 或小型工作站，也跑得動模型，他覺得也許更適合台灣。一樣跑得動 30B。放進大型資料中心給民眾用，錢就花在那些機房，設備也得買。買 PC、買有 GPU 的 NAS，是另一條。第三種對台灣產業的帶動可能也好。PC 這兩年漲了，今年 GPU 缺貨更漲，跑得動 AI 的 PC 也變貴。
冷氣有能源署標章，人會看省電，因為冷氣貴，補助一萬就會在意。以後可能有算力標章，或主權 AI 的標章。這台 PC 有，就拿一次性補貼。他算過，要讓 2,300 萬人每人有免費 token，大概得投資兩、三百 megawatt。一個 megawatt 約 15 億。200 megawatt 同時運算，他叫 3,000 億。不能說不可能，但要討論很久。國威說差不多是一人發一萬的等級。吳漢章接著說，要花 3,000 萬找 200 megawatt 的資料中心，讓每人有一個免費 agent，用開源模型跑比較淺的 AI。以政府預算看不算少。韓國挑模型的方式像魷魚遊戲，看誰留下，而且已經在做國家扶持的模型。日本是另一種。台灣還沒開始。
海纜全斷，他先留醫護和救援的推論
國際 AI 服務若突然中斷，國威說這種事常發生。本地接得上，但較慢、較貴。只能先保一項的話，吳漢章選基本生產力的推論。海纜若全被割斷，島上只剩本地算力。算力變 token，token 變生產力，生產力有先後。醫護、救援優先。學習可以晚。娛樂再晚。他覺得這類安排應該已在計畫裡。過去的維生是食物、水、油。數位世界裡 AI 也可能是維生，但他把研發放在外面。要有的是一定的 token，服務最基本的那些。國威說像一種新的電力。吳漢章說電力和算力兩、三年前就被畫上等號，算力變成 token 是今年的事。token 得握在自己手上。國家要選：最基本的算力，維持哪個模型，服務哪幾類人。
國威聽完覺得樂觀，也等百花齊放。他怕的是台灣在 AI 上趕了早集，最後沒吃到。吳漢章說，主權 AI 這波會帶出一些新的出海口。
國威的收法是，不必每一行程式、每一顆晶片都關在台灣。要看清楚的是重要資訊和重要服務交給誰，有沒有走得長的合作對象。誰看得到資料，誰改得了模型，誰可以讓系統停下，出錯誰負責。這些不能躲進「都是 AI」。
若幾年後主權 AI 沒做起來，卡在哪。吳漢章說那是一把尺，零和一對不上，要看有沒有做到期待的程度。伺服器在大局勢下應該還會不錯。做不好，是沒有把地緣政治和供應鏈已經有的位子，轉成更多軟體和方案的價值。人可能不夠，人才可能不夠，過去創業失敗留下的畏懼也可能讓勇氣不夠。若像三十年前電子業、二十年前 Internet Bubble 那樣的創業潮，他覺得這次的機會消化得掉。
主持人說，這就是吳漢章剛剛講的：第二次絕對不能錯過的一次良機。