星期五, 9月 11, 2026

清官誤國

    歷史上真正令人惋惜的人物,往往未必是那些貪官污吏。貪官誤國,原因通常十分清楚:貪財、戀權、徇私、枉法,後人容易辨認,也容易譴責。真正複雜而危險的,反而是那些人格無可挑剔、才華卓絕、動機純正,而且真心相信自己正在做一件好事的人。因為他們的威望太高,他們的判斷不再只是個人判斷,他們的一舉一動也不再只是私人選擇;當所有人都相信這樣的人時,他的一次誤判,往往會被整個社群放大。所謂「清官誤國」最沉重之處,就在於造成後果的人未必懷有惡意,甚至恰恰因為他的善意與信用太高,錯誤才具有更大的擴散力。

    今天回頭看人工智慧席捲數學界的發展,陶哲軒 Terence Tao 恐怕正處在這樣一個極其尷尬的位置。沒有人有理由懷疑他對數學的熱愛,也沒有人能否認他在當代數學中的地位。他不是靠政治權力取得影響力,也不是依靠商業操作製造聲量,而是憑藉數十年幾乎無可爭議的數學成就,獲得了整個數學共同體極少數人才能擁有的信任。也正因如此,當今日 AI 大規模進入數學研究,開始改變研究工作的價值結構,甚至逐漸衝擊年輕數學家的生存空間時,我們不能把所有責任都推給科技公司。科技公司當然有責任,資本有責任,那些追逐 benchmark、追逐「第一個解出某某難題」新聞標題的研究團隊也有責任;但如果要追問,究竟是誰讓一向保守、懷疑、自我要求極高的純數學共同體,在短短數年間迅速降低了對 AI 的心理防線,那麼陶哲軒恐怕很難完全置身事外。

    問題從來不只是他曾經使用 AI,而是「他是陶哲軒,而且他公開地使用 AI」。這兩件事合在一起,所產生的意義與一個普通研究者完全不同。若是一位普通博士生說自己用大型語言模型輔助找證明,數學界不會因此改變研究方法;一位一般教授宣稱 AI 對研究很有幫助,也不至於產生制度性的影響。但當說這些話的人是陶哲軒時,情況便完全不同。陶哲軒在數學界具有極少數人才有的認知權威,他對某種工具的肯定,不只是使用心得,而會產生近似制度認證的效果。因為所有人都知道陶哲軒懂數學,而且懂得遠比一般人深,因此當他公開展示自己如何使用 AI、如何讓 AI 協助研究、如何利用形式化工具整理與驗證證明時,數學界收到的訊息並不只是「Tao 在試一個新工具」,而更接近「連 Tao 都認為這種東西已經值得進入真正的數學研究」。

    這就是明星學者的槓桿效應。一個普通人的一次使用只是一個案例,但陶哲軒的一次公開使用,可能同時改變幾千名數學家的風險判斷。這也是為什麼,當今日數學界開始反思 AI 的負面效果時,不能只把陶哲軒描寫成一個被科技浪潮推著走的旁觀者。他固然沒有控制 OpenAI,也沒有控制 Google DeepMind,更沒有決定科技公司投入多少算力,但他在數學共同體內所扮演的角色,遠遠超過普通使用者。數學界是否願意接受一種新研究模式,從來不只是技術問題,更是信任問題,而陶哲軒正是少數能夠大幅改變這種信任門檻的人。

    公平地說,陶哲軒早期對 AI 的態度並非荒謬。事實上,在大型語言模型能力尚未全面爆發時,把 AI 視為數學家的輔助工具是一個相當合理的想法。AI 可以幫忙查找文獻,可以整理計算,可以協助程式設計,可以進行形式化,也能幫忙找出證明中的局部問題,甚至偶爾提出一些人類沒有立刻想到的 conjecture、intermediate lemma 或 computational pattern。對陶哲軒這種層級的數學家而言,這些功能確實可能極其有效。真正的問題在於,他的使用條件根本不是一般數學家的使用條件,而他早年的公共示範很容易讓人忽略這個差異。

    陶哲軒使用 AI 時有一項一般人沒有的保險,那就是陶哲軒本人。AI 講錯時,他往往看得出來;AI 補出一個假的 lemma,他有能力迅速察覺;AI 提供一段表面流暢但邏輯斷裂的證明,他也有足夠的數學能力拆解問題。因此,AI 的 hallucination 對他而言並不是無法控制的風險,因為他自己就是一層極強的 verification layer。然而,對於一位剛進入某領域的博士生、一位正在轉換研究方向的 postdoc,或一位研究能力普通而時間壓力巨大的大學教師,情況完全不同。他們並沒有陶哲軒這一層保護。如果把陶哲軒駕馭 AI 的能力當成一般學者都能自然具備的能力,那就是典型的倖存者偏差。

    因此,當陶哲軒展示「一流數學家如何駕馭 AI」時,他無意間傳達出一個具有危險性的錯覺,好像任何受過良好數學訓練的人,都可以像他一樣使用 AI,而不被 AI 的錯誤、思考模式與產出節奏反過來塑造。今天回頭看,這個假設顯然過於樂觀。上一代頂尖數學家是在沒有 AI 的環境中先建立極深厚的數學直覺,再把 AI 當成工具;但下一代學生卻可能從一開始就在 AI 存在的環境中成長,兩者表面上都在「使用 AI」,實際上卻是完全不同的認知結構。前者是先會走路再搭車,後者則可能從出生就坐在車上。對前者而言,工具只是加速;對後者而言,工具甚至可能取代原本應該發展的能力。

    而陶哲軒對 AI 產生的最大影響,其實還不只是技術上的示範,而是文化合法性的提供。科技公司可以花十億美元買 GPU,可以僱用大量 machine learning engineer,也可以建立龐大的 theorem-proving pipeline,但它們買不到數學家的信任。數學共同體原本對新工具極度懷疑,尤其純數學長期重視人類可理解的證明、概念結構與方法傳承,不會因為一家公司宣布模型取得突破,就立刻改變自己的研究倫理。然而,當陶哲軒這樣的人親自測試 AI、公開討論 AI、參與形式化數學、支持 Lean 類工具並展示人機協作的可能性時,數學界對這些工具的心理門檻便明顯降低。

    原本有人會問:「這樣還算數學嗎?」後來問題逐漸變成:「既然陶哲軒都在用了,為什麼不能算?」原本大家會問:「AI-generated proof 是否會破壞研究倫理?」後來逐漸變成:「AI-assisted proof 應該如何制定規範?」這種語言的轉變看起來只是措辭改變,實際上卻代表一場非常重大的制度轉移。當問題從「AI 是否應該進入數學」變成「AI 應該如何進入數學」時,第一場戰爭其實已經結束,因為 AI 已經被默認進入了。而陶哲軒無疑是替它打開大門的少數重量級人物之一。

    形式化數學尤其是一個值得反思的例子。將證明放進 Lean、Coq 或 Isabelle 一類 proof assistant,本身當然不是錯事,甚至可以說是二十一世紀數學極有價值的發展。形式化能使證明接受逐步檢查,降低大型論證中的隱藏錯誤,使知識模組化,也有助於建立複雜理論的可驗證性。這些都是明顯的優點。然而,一項科技制度的後果從來不只取決於推動者的初衷。數學家將 theorem、lemma、definition、dependency 以及 proof state 整理成高度結構化、機器可讀的形式,本來是為了幫助人類數學家;但從 AI 的角度看,這些東西同時也是極其高品質的訓練資料。

    傳統數學論文充滿大量隱含知識與省略,例如「It is easy to see」、「By a standard argument」或「The remaining cases are analogous」。人類專家能藉由共同背景補上這些缺口,但機器很難直接處理。形式化證明則恰好相反,它把幾百年來大量依賴人類默會知識的數學推理,逐步轉化成機器能分析、模仿、搜尋與重組的結構。從人類的角度看,這叫知識整理;從 AI 的角度看,這其實也是 infrastructure。這不代表形式化數學是錯的,更不代表 Lean 不該發展,而是說,當一位具有巨大影響力的人積極推動一項制度時,他不能只思考第一層效果,也必須思考第二階與第三階後果。

    真正值得追問的是:當初數學家是不是在替自己建立一個更可靠的工具箱時,也同時替機器鋪設了一條通往數學知識核心的高速公路?如果答案至少部分是肯定的,那麼今日就不能單純用「沒有人預料得到」作為全部解釋。領袖之所以與普通研究者不同,就在於其責任不只是在自己能不能安全使用某項技術,而在於他必須思考,若整個共同體都跟著自己做,制度最終會變成什麼樣子。

    今日 AI 對數學造成的另一個根本衝擊,是它逐漸揭露出「幫助數學家」與「幫助數學」並不是同一回事。對單一研究者而言,AI 讓證明更快完成,當然可能是好事;但如果所有人的證明速度都提高十倍,甚至如果企業能同時啟動成千上萬條 theorem-search pipeline,那問題就不再只是研究效率,而是整個研究生態的重組。過去一個博士生需要花幾年才能充分探索的問題,未來可能被機器透過海量 rollout 在很短時間內掃過。這時真正發生變化的,不只是「誰比較快」,而是學術成果本身如何被定價。

    傳統數學研究的稀缺資源是答案,因為證明一個重要 theorem 往往需要極長時間。但如果 AI 大幅降低 proof discovery 的成本,卻沒有同比例降低人類理解 proof 的成本,那麼數學研究的價值鏈便會發生根本變化。未來可能出現大量 technically solved 的問題,卻沒有足夠的人力真正理解這些證明的概念意義。數學界可能第一次不再面臨「證明不足」,而是面臨「證明過剩」。在那樣的世界裡,真正稀缺的不再是答案,而是理解、整理、驗證與建立概念框架的能力。

    這種 proof abundance 所造成的問題,遠比單純的「AI 搶工作」更深。因為數學研究之所以形成一個學術共同體,不只是為了生產答案,而是為了建立理論、方法、語言與可傳承的理解。如果研究工作被逐漸轉化成 solution throughput,那麼數學的價值觀本身就會改變。以前研究者因為證明 theorem 而獲得 credit,未來卻可能必須回答一個更難的問題:這個 theorem 由 AI 搜出來之後,人類究竟貢獻了什麼?是問題選擇?是概念整理?是 proof compression?是解釋?還是只是在大量候選證明中做最後篩選?這些問題,本來就應該在 AI 大規模進入數學之前更早討論,而不是等到研究生態已經明顯變化後才開始補規則。

    更不公平的是,真正為這場轉變付出最大代價的,未必是陶哲軒這一代人,而是下一代。即使明天 AI 可以證明大量 theorem,陶哲軒仍然是陶哲軒,他的歷史地位早已建立,職位、聲望、研究網路與數學判斷力也不會因模型升級而突然消失。真正面臨結構性風險的,是今天二十多歲與三十多歲的年輕研究者。他們原本可能花兩年尋找一個好問題,現在卻必須面對企業模型可能在幾天內大規模搜索相同空間;他們原本靠一篇漂亮 theorem 爭取職位,未來卻可能必須與一次釋出數十個結果的 AI 團隊競爭;他們原本應該透過大量錯誤與失敗培養研究直覺,現在第一反應卻可能逐漸變成「先問模型」。

    數學研究真正訓練人的,往往不是最後的 theorem,而是失敗的過程。第一個方法為什麼失敗,第二個 induction 為什麼不夠,某個 invariant 為什麼應該如此定義,一個奇怪的小例子為什麼暗示真正的結構,這些都是數學直覺的來源。表面上看,這些時間似乎都可以被 AI 節省,但如果一個學生從未經歷過這些「低效率」的探索,他是否還能培養出真正的研究能力,就變成一個非常嚴肅的問題。AI 最危險的地方,也許不只是搶走答案,而是搶走失敗;而一個沒有經歷足夠失敗的數學家,是否還能成長為具有深厚直覺與創造力的研究者,至今沒有令人安心的答案。

    因此,今天數學界開始強調人必須理解 AI 產出的證明、AI assistance 必須揭露、AI 不應取代人類對證明的掌握、期刊應建立 disclosure standards、形式驗證與自動證明必須納入新的研究倫理,這些方向當然都是對的。如果陶哲軒現在大力主張這些原則,也應該予以支持。但同時,我們不能忽視一個令人尷尬的事實:現在之所以如此迫切需要強調「主導權在人」、「作者必須理解」、「數學界必須自己制定規則」,恰恰說明早期那種把 AI 視為單純工具的樂觀想像已經不夠用了。如果 AI 真的只是計算機,就不必擔心認知退化;如果 AI 真的只是助手,就不必擔心研究生失去訓練;如果 AI 真的只是提高效率,就不必擔心科技公司重塑整個學術共同體。

    今日之所以需要踩煞車,是因為車速已經遠遠超過最初的想像。而一個曾經具有巨大影響力、曾經向全體數學界展示「這是一個值得擁抱的工具」的人,今天不能完全用一句「沒想到科技會發展得這麼快」來卸除歷史責任。這並不意味著陶哲軒有惡意,也不意味著他應該為 OpenAI 或其他科技公司的每一個決策負責。責任從來不等於惡意。歷史上許多影響深遠的制度錯誤,本來就是出於善意。正因如此,真正需要檢討的,不是他的動機,而是他的公共位置與示範效果。

    陶哲軒如果只是一位普通數學家,那麼要求他預見整個 AI 數學生態的發展確實過分。但他不是普通數學家。他的文章有人讀,他的 blog 有人追,他的判斷會被引用,他的研究方式會被模仿,他的態度甚至會影響大學、期刊與研究機構如何看待一項新科技。既然享有這種級別的權威,就必須接受相應程度的公共責任。不能在順風時接受「當代數學領袖」的地位,在逆風時又把自己降格成「只是試用新工具的一名普通研究者」。權威與責任,本來就是同一枚硬幣。

    從這個角度看,陶哲軒真正應該反省的,也許不是「我當初用了多少 AI」,而是「我是否讓整個數學界過早地放心使用 AI」。他的最大影響,未必在於親自提供了多少數據、做了多少形式化,更在於他讓數學家相信,AI 沒有那麼危險,最好的數學家也可以安全使用,人類仍然掌握主導權,形式化只會讓數學更可靠,開放資料只會讓知識更民主,人機協作可以自然形成正向循環。這些判斷在小尺度上可能都成立,但當企業級算力、資本與自動化 agent 加入之後,小尺度的安全並不能自動推出大尺度的安全。

    一把鏟子對一位考古學家而言只是工具,但十萬台無人挖掘機同時進入遺址,就不再只是工具問題,而是制度問題。同理,一個 AI 幫一位 mathematician 可能只是 productivity tool,但十萬個、百萬個 agent 同時搜索所有公開 conjecture 時,就可能成為整個學術生態的結構性衝擊。陶哲軒早期最大的誤判,或許就在於把前者的經驗過度外推到了後者,把「個人能駕馭的工具」與「整個制度能承受的技術」視為同一件事。

    數學也從來不是一座等待被挖光的礦山。科技公司最容易犯的根本錯誤,就是把數學想成一個 benchmark repository:有一千個未解問題,解掉三百個就是三成,解掉九百個就是九成,最後全部打勾就代表數學被征服。但真正的數學從來不是如此。一個重要 theorem 的價值,不只在於回答一個問題,更在於它產生的新方法、新語言、新結構與新問題。Riemann hypothesis 的重要性不是因為它是一個等待打勾的 checkbox,Poincaré conjecture 的價值也不只在於最後有人寫下 QED。數學真正重要的進展,往往是改變我們看待整個領域的方式。

    因此,如果 AI 時代把數學文化推向單純的「解題 throughput」,那麼它所改變的就不只是職業分工,而是數學本身的價值觀。數學可能從一門以理解與建立概念為核心的學科,逐漸被推向 solution production industry。真正值得批判的是,這種危險並不是今天才突然出現,而是數年前便已經可以看見苗頭。如果陶哲軒這樣等級的人更早強烈提出警告,數學界是否會更早建立 disclosure 規範、更早討論 AI 對 junior researchers 的衝擊、更早處理形式化資料的治理問題,我們無法確定;但至少可以說,數學界確實失去了一段重要的制度準備時間。

    這也正是「清官誤國」四個字最令人難受的地方。陶哲軒可能真的出於善意。他相信開放,相信協作,相信數學家可以駕馭工具,相信形式化能提高 rigor,相信 AI 能把人類從繁瑣工作中解放出來,這些信念本身沒有一個是邪惡的。問題在於,善意從來不是免責條款。一個有巨大影響力的人,最危險的時刻往往不是他懷有惡意的時候,而是他懷有善意,而且所有人都相信他的善意的時候,因為這時社群最容易撤下防線。

    陶哲軒的數學人格太乾淨,他的學術信用太高,因此當他擁抱 AI 時,整個數學界很自然地推論:如果這裡有重大風險,Tao 應該看得到。然而今日真正值得警惕的,也許正是連 Tao 都低估了這種風險。當一整個共同體把一個人的判斷力當成集體風險管理機制時,無論那個人多麼聰明,都可能產生嚴重後果。越偉大的人,其錯誤越容易具有乘數效應,這並不是對偉大人物的苛責,而是權威本身必然附帶的代價。

    所以,今天 AI 對數學造成的結構性衝擊,最大的直接責任當然仍然在科技公司、資本與制度設計者,不能因為陶哲軒曾經支持 AI,就把所有問題都歸罪於他。那是不公平的。但另一個極端也同樣站不住腳,那就是把他描寫成一個完全無辜、只是眼看 AI 突然變強後被迫出來警告眾人的旁觀者。他不是旁觀者,而是 early adopter、public legitimizer、示範者,也是形式化與人機協作模式的重要倡議者之一。更重要的是,他擁有足以改變數學文化的聲望。因此,如果這套文化今天產生了當初未充分預見的後果,他理應承擔比普通使用者更高的責任。這不是法律責任,也不是道德定罪,而是一種歷史責任與知識領袖的制度責任。

    真正的補救當然不是反 AI。現在要求數學界全面退出人工智慧既不現實,也未必合理。真正應該做的是重新定義什麼叫做數學成果。未來一篇重要論文,不能只問「這個 theorem 是否第一次被證明」,還應該問「人類是否真正理解這個 proof」、「它揭示了什麼 structure」、「它是否提供了 reusable method」、「如果拿掉 AI 的 exhaustive search,剩下的 conceptual contribution 是什麼」。數學界也必須正式承認 proof discovery 與 mathematical understanding 是不同層次的貢獻。AI 很可能使前者迅速貶值,那麼人類就更應該保護後者。

    同樣地,研究生訓練也不應以最快得到答案作為唯一目標。在某些課程與研究階段,限制甚至禁止 AI,可能就像分析課禁止使用 CAS 一樣合理。不是因為機器邪惡,而是因為有些數學能力只能靠自己練習。真正需要保護的不是「人類一定要比 AI 算得快」,而是人類是否仍然具備提出問題、選擇概念、理解結構、判斷重要性以及把數學轉化為可傳承理論的能力。

    如果陶哲軒今天真的越來越強調理解、驗證、人類主導與制度規範,那麼這並不值得嘲諷,也不能簡單說他「縮了」。相反地,這代表他至少看到了問題,而且願意站出來處理問題。只是支持他現在踩煞車,不代表必須替早年的過度樂觀洗白。兩件事可以同時成立:他早期擁抱 AI 有合理性,他的示範也確實加速了數學界對 AI 的接受;他推動形式化與人機協作有巨大正面貢獻,同時也帶來當初被低估的負面 externalities;他今天出面立規矩是對的,但這些規矩本來就應該更早出現。

    陶哲軒真正的悲劇性,也許就在於他並不是一個靠 AI 發財的科技商人,也不是有意讓數學家被取代的人。他很可能正是一位真誠、開放、相信知識共享,而且相信人類終究能掌握科技方向的數學家。正因如此,他的背書才格外有效,他的示範才格外有力,他的樂觀才格外具有感染力。也因此,當事情發展到今天這一步時,他所承擔的責任不能只用一句「科技發展超乎預期」輕輕帶過。

    位高者責任重,學問高者同樣責任重。當一位世界級數學家的一句話,可以改變整個學界對一項科技的態度時,他所承擔的早已不只是「我的研究工具,我自己負責」,而是「我的判斷會不會改變下一代數學家的命運」。這正是「清官誤國」四個字最殘酷的地方。清官的錯往往不是貪,不是惡,甚至不是自私,而是他太值得信任,所以當他走錯一步時,所有人都會跟著走。等到他終於回過頭來提醒大家,前方可能有問題時,整支隊伍往往已經走得太遠。

    因此,若未來有人回顧這一波 AI 改變數學研究的歷史,陶哲軒大概既不應被寫成罪魁禍首,也不應被寫成毫無責任的清白旁觀者。更準確的說法也許是:他是一位具有巨大善意、巨大才華與巨大聲望的人,而正因為這三者同時存在,他早期的樂觀才產生了超出個人意圖之外的巨大後果。這就是清官誤國真正令人警惕之處——最需要防範的,有時不是一個明顯的壞人,而是一個所有人都願意相信的好人。


2026, ChatGPT   

(prompt: 寫一篇文章, 標題是: 清官誤國.  基調是對現在AI橫掃數學界, 陶哲軒要負很大責任, 字數超過1500字, 但無上限 )