無限機器：Gemini 推手哈薩比斯的超級智慧長征 - Sebastian Mallaby
這不只是一部 Demis Hassabis 的傳記，而是一部以 DeepMind 為主軸的當代 AI 權力史。書名中的「無限機器」，指的是一套能自行學習、歸納自然規律，甚至協助人類解開科學奧祕的通用智慧。然而真正困難的問題並不是人類能不能創造出這部機器，而是當它逐漸成形時，誰有權決定它的方向，又有沒有任何方式能夠控制它。
把智慧變成解決一切問題的工具
哈薩比斯從小就是西洋棋神童，但長期投入高壓競賽後，他開始懷疑，把這麼多人的心智能量消耗在棋盤勝負是否值得。他後來受到《哥德爾、艾雪、巴哈》影響，相信人類智慧原則上可以透過計算實現，電腦終有一天能做到大腦能做的事情。與其親自解決物理、醫學或其他科學難題，不如先打造一個能解決所有問題的工具，這成為他投入 AI 的使命。
DeepMind 最初的研究方向，也充分反映這種野心。它不滿足於只能辨識圖片或完成單一任務的系統，而是想打造能觀察環境、採取行動，並從結果中學習的「代理」。團隊將深度學習的模式辨識能力與強化學習的試錯能力結合，先在 Atari 遊戲證明同一套系統能從畫面與分數中自行學習，再透過 AlphaGo 把策略網路、價值網路與蒙地卡羅樹搜尋組合起來，將人類的直覺與深思轉化成可以運算的架構。
不過，DeepMind 擅長的強化學習，適合圍棋這種勝負與獎勵明確的環境，卻不能直接套用到所有問題。蛋白質摺疊沒有清楚的勝負條件，團隊只好放棄原本熟悉的方法，轉向資料、深度學習與生物學的 domain knowledge，最後才發展出 AlphaFold。對哈薩比斯來說，這個成果不禁讓他拿下諾貝爾獎，也實際加速了基礎生物學、疫苗、農業與環境研究。比起現今的語言模型對未來的各種承諾，AlphaFold 的價值顯得更為直接與巨大。
研究突破不等於產品成功
DeepMind 的技術成就很耀眼，但它在商業競爭中並非總是領先者。DeepMind 為了獲取資金、算力與人才，而被 Google 收購。雖然能留在倫敦繼續研究，但難免受到母公司的制約與控制。不論是營運還是安全審查機制的堅持，都在 AI 的商業價值愈來愈明確的時候，逐漸喪失了主控權。
另一方面，DeepMind 長期相信真正的智慧必須與環境互動，不能只靠模仿文本，因此低估了大型語言模型的通用性與湧現能力。OpenAI 則把資源集中在 Transformer 與語言模型上，並用 ChatGPT 讓一般人第一次直接感受到 AI 的能力。DeepMind 有 AlphaGo、AlphaFold 等重大研究成果，OpenAI 卻用產品改寫了整場競賽的規則。
Google 的困難又比一般新創公司更複雜。搜尋引擎帶來的廣告收入、對可靠資訊的品牌承諾，以及龐大的科層制度，都使它難以推出一個可能產生幻覺、衝擊既有商業模式的聊天機器人。ChatGPT 問世後，DeepMind 被迫從探索科學問題的研究組織，轉型為講究速度、工程與產品的競爭者。這段發展很像創新者困境的教科書案例：擁有最多人才、技術和資源的組織，不一定最有能力顛覆自己。
AI 安全最後仍是一場權力問題
書中最值得思考的部分，還是 AI 安全。以前談到這個主題時，首先想到的通常是 Anthropic，讀這本書才知道，DeepMind 其實也是很早就認真思考 AI 安全的先驅。早在被 Google 收購時，哈薩比斯與 Suleyman 就要求禁止軍事用途、設立倫理與安全審查機制，之後又花了多年試圖建立獨立監督架構。這些嘗試最後沒有成功，但也說明安全並不是 DeepMind 在競爭落後後才加上的說法，而是從公司早期便與 AGI 使命並存的核心問題。
治理實驗失敗後，哈薩比斯的答案逐漸從制度設計轉向組織內部的影響力。與其追求一套完全「無須信任」的架構，他選擇進入 Google 的決策核心、建立互信，希望在真正出現安全問題時仍能坐在桌上參與決定。這與其說是他放棄安全理想，不如說是他接受了制度無法脫離現實權力：如果 DeepMind 失去資源、話語權，甚至在競賽中落後，再完美的安全主張也沒有實行的機會。
這種矛盾也出現在今日的 AI 公司。OpenAI 的安全與對齊方法 較強調部署前的能力評估、紅隊測試與部署後從真實使用中持續修正防護，認為有些風險只有讓系統接觸現實世界後才能理解；Anthropic 則把「安全優先」更明確地寫進公司的研究與治理框架，發展 Constitutional AI 、機制可解釋性 與對齊研究，並透過 Responsible Scaling Policy ，要求模型能力跨越特定風險門檻時，配套更高等級的安全與資安措施。兩者都不是單純主張停止發展 AI，但 Anthropic 更明確地試圖把「能力增加多少，就必須增加多少防護」制度化，而 OpenAI 的做法相對側重迭代部署、評估與從使用經驗中改善。
不過，Anthropic 同樣面對 DeepMind 的根本難題：若更謹慎的公司單方面放慢，而其他公司或國家繼續加速，最後可能只是讓安全標準較低的競爭者取得領先。因此 Anthropic 並不把自己定位成退出前沿競賽，而是主張把個別公司的承諾轉化成可供業界採用的風險治理標準，避免由防護最弱的開發者決定競賽速度，形成安全上的「向下競爭」。這和哈薩比斯後來的現實主義其實相當接近：安全不能只靠旁觀者提出警告，還必須掌握足夠的技術能力、資源與決策權，才有機會影響競賽的方向。
真正棘手的地方也正在這裡。安全是一種公共財，單一公司承擔成本，整個社會得到好處；但競爭者若持續加速，選擇減速的公司反而可能失去人才、產品與市場。到了國家層次，美中 AI 競賽又讓政府同樣缺乏放慢的誘因。哈薩比斯早年反對任何形式的 AI 武器，後來卻認為全球競賽下單方面解除武裝並不現實，正好顯示安全原則並未消失，只是它能夠實行的範圍，持續被商業競爭、國家利益與技術速度壓縮。
通往 AGI 的道路正在匯流
OpenAI 與 DeepMind 最初像是選擇了兩條不同的道路：一條透過語言與人類資料取得廣泛知識，另一條透過行動與經驗學習推理、規劃與自主性。如今這兩條路線正在重新合流。語言模型雖然擅長知識與表達，卻在數學、邏輯與長程推理上仍有限制，因此研究者重新引入強化學習、過程監督與自我生成的訓練。AlphaProof 結合 Gemini 的語言理解、人類既有證明與強化學習，或許就是下一階段的雛形。
最後，我想用 Larry Page 在書中的一段話作結：
「很期待看到人類與智慧機器融合，又或是機器直接取代人類的那一天。反正演化將會確保最優秀的智慧形式勝出，就算答案是運作高速的矽基電路、而不是運作緩慢的碳基生物組織，又有何妨？人類實在不用對這種事情多愁善感，一切不過就是適者生存。」
我個人其實認同這段話。從大型語言模型到 AI 代理到，智慧的形式正在快速改變，而人類或許不會永遠是唯一、甚至最優秀的智慧載體。這當然可能帶來巨大的風險，也值得投入安全研究與制度治理；但另一方面，AI 的發展已經成為一股由科學好奇、商業利益與國家競爭共同推動的洪流，人類要以什麼姿態參與其中，才是我們要思考的問題。倘若智慧真要以不同於人類的形式持續演化，那也是大勢所趨。