#279《Summary of Max Tegmark's Life 3.0》

“The question is not whether we will create superintelligent AI, but what happens when we do.”

這句話在我腦中盤旋了好一陣子。

Max Tegmark 在《Life 3.0》裡拋出的問題，並不是那種學術象牙塔裡的科幻假設。它更像是一個已經踩在門口的訪客，而我們還在猶豫要不要開門。

生命的三個階段，我們在哪？

Tegmark 把生命分成三個階段：Life 1.0 是純粹的演化驅動，細菌之類的東西，硬體軟體都由基因決定。 Life 2.0 是人類，硬體（身體）還是演化來的，但軟體（知識、技能）可以自己升級。 Life 3.0？那是連硬體都能自己重新設計的存在。

聽起來很遙遠？也許沒有想像中那麼遠。

讀到這裡的時候，我停下來想了一下。我們團隊每天都在用 AI 工具做各種事情——寫程式、整理資料、甚至開會前的準備。某種程度上，我們已經在 Life 2.0 跟 3.0 的交界處徘徊。只是大多數時候，我們太忙著用工具，沒有認真想過工具會往哪裡去。

書裡花了很大篇幅談「控制問題」（Control Problem）。簡單說就是：當你創造出一個比你聰明的東西，你怎麼確保它會照你的意思做事？

這不是新問題。之前讀《Superintelligence》的時候也碰過類似的邏輯。但 Tegmark 的切入角度不太一樣，他不是純粹在講風險，而是在問：我們到底有沒有認真想過「我們要什麼」這件事？

這很弔詭。我們整天在做產品、做決策、做各種「為了某個目標」的事情。但如果有一天 AI 問你：「你們人類到底想要什麼？」你能給出一個不會自相矛盾的答案嗎？

我不確定我可以。

說到這個，我想起我們團隊在定義產品願景的時候遇過的困境。你以為你知道用戶要什麼，但當你真的把問題攤開來看，會發現大家要的東西常常是互斥的。更快、更便宜、更有品質——三個願望永遠只能選兩個。

Tegmark 不是純粹的末日論者。他在書裡列了十幾種未來可能的劇本，從烏托邦到反烏托邦都有。但有趣的是，他花最多力氣講的不是「哪個劇本會發生」，而是「我們現在的選擇會影響哪個劇本發生」。

這個思路我很喜歡。

創業的時候常常會碰到一種人，他們很喜歡預測未來會怎樣，然後說「反正趨勢就是這樣」。但實際做事的人知道，趨勢是人造出來的。你今天做的每一個選擇，都在微微地推動某個趨勢的方向。

未來不是用來預測的，是用來創造的。

這句話不是 Tegmark 說的，但讀完這本書之後我一直想起它。

講老實話，我在讀這本書的時候一直有個聲音在問：「這些 AGI、超級智慧的討論，跟我一個做產品的人有什麼關係？」

後來想通了。

我們每天都在做決定——要不要用某個 AI 工具、要不要收集某些數據、要不要為了效率犧牲某些東西。這些小決定累積起來，就是在投票。投給哪一種未來，取決於我們有沒有意識到自己在投票。

有趣的是，《Thinking, Fast and Slow》用完全不同的角度說了差不多的事。我們大部分的決定都是 System 1 在做，快速、直覺、不費力。但真正重要的決定，需要 System 2 介入。關於 AI 的選擇，顯然屬於後者。

這本書不會告訴你 AI 會毀滅人類還是拯救人類。它也不會告訴你該買哪支股票或學什麼技能。

但它會讓你開始問一些平常不會問的問題。而在我有限的經驗裡，好的問題通常比好的答案更稀缺。

也許這就是它最大的價值。

📚 書籍資訊