2023 年那個冬天，我身邊做產品的朋友幾乎都在講同一件事：AI 要來了，快點跟上，不然被淘汰。
台灣的企業導入 LLM，學校開課教 prompt，創投把「AI」兩個字塞進每一份 pitch deck。
在那股熱氣裡，很少人回頭去讀一位在 AI 領域工作四十年的研究者早在 2019 年就寫下的一句話——
We humans tend to overestimate AI advances and underestimate the complexity of our own intelligence.
寫這句話的人叫 Melanie Mitchell。她不是潑冷水趕流量，而是在這個領域裡待了半輩子的人。
一位圈內人為什麼比誰都悲觀
奇怪的地方在這裡：越外行，越覺得 AGI 明年就到；越懂的人，講起來越保守。
Mitchell 屬於後者。她把自己的立場放在整本書開頭，幾乎像一句宣戰：
Today’s AI is far from general intelligence, and I don’t believe that machine ‘superintelligence’ is anywhere on the horizon.
這句話在 2019 年就引起爭議。五年過去，它非但沒過時，反而更值得重讀一次。
她針對的不是某個科幻情節，而是 AI 研究界一個反覆出現的循環——每隔一陣子，就有人信誓旦旦地說「十年內達到人類等級的智能」。
這個預測從 1960 年代喊到現在。每一次都落空，每一次都有新理由說「這次不一樣」。
台灣的 AI 樂觀論，很多是進口貨。我們把美國學界早就辯論過、甚至已被推翻的舊預測，當成最新前沿在轉述。
贏了棋，不等於懂了世界
AlphaGo 打敗李世乭那年，輿論一片「機器要覺醒了」。
但 AlphaGo 除了下圍棋，什麼都不會。它連「自己在下圍棋」這件事都不知道。
IBM Watson 也一樣。它能在益智問答節目上碾壓人類冠軍，換到醫療診斷的場景卻頻頻出錯，最後被大幅收攤。
這些系統的共同點是狹窄。它們在一個被精確定義的任務裡表現超凡，一旦跨出框框就徹底失能。
「下棋贏人類」跟「擁有通用智慧」之間，隔著一道多數人沒看見的鴻溝。Margaret Boden 談 narrow AI 與 general AI 的分野時說的也是同一件事——專精和通用是兩種不同的東西，不是同一條線上的不同刻度。
連專家自己都沒有共識
書裡最誠實的一段，是 Mitchell 承認連圈內人對「智能到底是什麼」都吵不出結論。
她的老師是 Douglas Hofstadter，《哥德爾、艾雪、巴赫》的作者。這位一輩子研究心智的人，對 AI 的態度不是興奮，是憂慮——他擔心的不是機器變強，而是人類會因此把自己看成一件即將被淘汰的「遺物」。
一個領域的奠基者級人物如此不安，外圍的行銷話術卻一片亢奮。這種落差本身就值得警惕。
機器缺的不是算力，是「意義」
比起問「機器什麼時候超越人類」，Mitchell 提出一個更準的問題：機器為什麼到現在還無法真正理解？
她給這個困境取了名字——barrier of meaning，意義的障礙。
這個框架的厲害之處，在於它把整場討論的焦點挪了位。不再糾結智能的「量級」高低，而是逼你去看理解的「深度」有多淺。
奇點論者假設智能是一個可以無限往上疊的量。Mitchell 說，不對，問題不在量，在於機器根本沒站上「理解」的第一級台階。
一個五歲小孩答得出、機器答不出的問題
給你一個場景：媽媽把棒球放進盒子裡，然後走出房間。棒球現在在哪裡？
五歲小孩會覺得這問題蠢到不用回答——當然還在盒子裡。
但這種常識推理，對機器是黑洞。它可以在圖像辨識、機器翻譯上表現得比人強，卻在小孩張口就答的問題前卡住。
它缺的不是資料。全世界的棒球照片餵給它也沒用。它缺的是那套人類與生俱來、關於「物體會持續存在」的世界模型。
Gary Marcus 和深度學習陣營的那場著名論戰，爭的正是這件事——光靠統計關聯堆疊，能不能長出真正的推理？Mitchell 站在懷疑的一側。
訓練資料裡有什麼，機器就學什麼
這是全書我認為最該被貼在每間 AI 公司牆上的一句：
If there are statistical associations in the training data… the machine will happily learn those instead of what you wanted it to learn.
機器學的是關聯，不是邏輯。你以為在教它辨識疾病，它可能只是學會了「這台掃描機拍出來的片子多半是病人」。
它 happily 地學下去，完全不知道自己學錯了方向。
膚色辨識的失準、招聘模型對女性的系統性打壓、貸款評分對少數族裔的不公——這些都不是機器「變壞了」。
機器沒有善惡。它只是一面鏡子，忠實地把訓練資料裡的偏見反射回來，而且放大。
那 AI 現在的天花板到底在哪
如果超智慧真的不在眼前，一個合理的追問是：當代 AI 的實力上限，究竟卡在哪三個地方？
Mitchell 給出的答案很具體。
界限一：換個背景就崩潰
在訓練場景裡準確率九成九的模型，把同一個物體換個角度、換個光線、換個背景，辨識率就可能雪崩。
人類看到一隻貓，不管牠躲在沙發後面還是逆光剪影，都知道那是貓。機器沒有這種穩健的泛化能力。
它學到的往往不是「貓長什麼樣」，而是「訓練集裡貓通常出現在什麼像素組合中」。
界限二：學會象棋，還是不會下圍棋
規則明明相似，但一個精通象棋的 AI，沒辦法把任何一點經驗遷移到圍棋上。
人類玩過一款策略遊戲，換到另一款會有「感覺」、會有直覺的類比。機器每一次都得從零開始重練。
舉一反三這件小事，是人類智能最日常也最被低估的能力。
界限三：連自己都解釋不了
最麻煩的是第三點：很多 AI 做完決定，連它自己都說不清為什麼。
模型內部是幾億個權重的黑箱。你問它「為什麼判定這個人不該獲得貸款」，它給不出人聽得懂的理由。
在娛樂推薦上這無所謂。換到醫療診斷、司法量刑、貸款審核，一個無法被問責的黑箱是一場惡夢。
我們為什麼會被迷惑
台灣媒體報導 AI 有一套固定的節奏。從「某某 AI 破世界紀錄」到「AI 要搶走你的工作」，兩則新聞之間常常不到 48 小時。
渲染週期跑得比技術本身快太多。標題要聳動，內文要恐慌，至於那個系統實際上只能做一件很窄的事——沒人想深究。
Mitchell 沒有花大篇幅罵媒體，但整本書的冷靜，本身就是對這種喧囂最好的反駁。
真正該怕的東西，不在天網裡
這裡有一個殘酷的反轉：越多人擔心機器某天覺醒毀滅人類，就越少人盯著 AI 此刻已經在造成的實際傷害。
Mitchell 用了大約十三頁談「可信賴與合乎倫理的 AI」。
在一本談 AI 的書裡，這十三頁不算多。但我認為它比全書任何一段炒作反駁都更值得慢讀。
危害排序：從最普遍的偏誤講起
第一種、也是最普遍的，是統計偏誤與歧視。
招聘系統學會了歧視女性，因為過去被錄取的多半是男性；累犯預測模型複製了既有的種族不平等，因為歷史資料本來就不公平。這些系統每天都在運作，影響真實的人。
第二種是對抗式攻擊。研究者已經證明，在路牌上貼幾張精心設計的小貼紙，就能讓自動駕駛的視覺系統把「停」看成「限速」。
這不是科幻小說的假設，是已經發表在論文裡的實證。對人眼幾乎無感的微小擾動，能讓機器徹底看錯。
第三種是黑盒決策造成的問責空白。當一個沒人能解釋的系統做出改變人生的決定，出了錯，該找誰負責？
天網會不會來，沒人知道。但這三件事，現在、此刻、每天都在發生。
把 2019 的懷疑論，拿到 2024 來對照
這本書有一個沒辦法迴避的處境：它出版在 GPT-3 之前。
ChatGPT 爆紅之後，很多讀者拿它出來檢驗——Mitchell 當年那麼保守，現在打臉了嗎？
答案沒那麼簡單。LLM 確實在流暢度、生成能力上遠超她 2019 年的想像。
但「意義的障礙」這個核心診斷，到今天還站得住。大型語言模型會一本正經地胡說、會在需要推理的地方露餡、會學到資料裡的偏見——這些正是她五年前就點名的病灶。
Mitchell 本人也沒躲。她在自己的 Substack 上持續參與 LLM 推理能力的辯論，沒有變成守舊的懷疑論者，也沒有倒戈成信徒。
這種「持續修正、但守住核心判斷」的姿態，才是一個科學家該有的樣子。
給正在被 AI 熱潮推著走的你
台灣目前還沒有繁體中文譯本。華文讀者能拿到的是簡體版《AI 3.0》，或者硬啃英文原版。
有點可惜，因為在這個企業與校園集體導入 LLM 的當下，它剛好是一劑冷靜劑。
它不會教你怎麼寫 prompt，也不會告訴你哪支 AI 股票該買。
它做的事更根本：幫你建立一種不被行銷話術牽著鼻子走的判斷力。讓你在別人喊「AI 要統治世界」時，能分辨哪些是真的、哪些只是標題。
Kirkus 說書中少數段落偏艱澀。Publishers Weekly 說它主要功能是安撫一般讀者對 AI 的恐懼。這些評價都對。
但在一個高估機器、低估人腦的年代，有一個人願意站出來，把炒作和真實之間那條線畫清楚——
光是這件事，就夠珍貴了。