AI 之父的逆向警告：沒有這項技術，我們可能過得更好

從奠基者到示警者

被稱為「AI 教父」之一的 Geoffrey Hinton，近日向《衛報》表示，人類有可能「從未發展這項技術會過得更好」。他不是一般意義上的「末日論者」，但這番話出自一位曾奠定深度學習基礎的諾貝爾獎電腦科學家，分量格外不同。

Hinton 的擔憂並非停留在遙遠的科幻情境。他警告，人工智能可能在今年或明年觸發大規模事故，例如金融系統或電力系統的暫時停擺。這不是指 AI 有意識地發動攻擊，而是指系統愈來愈依賴高度複雜、互相連接的自動化決策，一旦出錯，影響範圍會遠超單一機構能夠控制的規模。

電力與金融的脆弱點

電力系統和銀行系統是現代生活的隱形支柱。日常供電、轉帳、結算、信貸審批，背後已有大量自動化程式在運作。當 AI 進一步嵌入這些基礎設施，效率提升的同時，也意味着一個模型失靈、一段錯誤數據、一次惡意利用漏洞，都可能沿著互聯的網絡迅速擴散。

Hinton 所說的「暫時停擺」，不是停電幾小時那麼簡單。金融系統若短暫癱瘓，交易無法完成、支付無法結算、市場信心即時受挫。電力系統若局部中斷，交通、通訊、醫療設備、供水都會連鎖受影響。現代城市居民很少有應對這類連鎖中斷的準備，因為我們已假設這些系統會永遠在線。

普通人的生活會被怎樣改寫

對普通人來說，Hinton 的警告首先指向一種新的生活風險：我們愈來愈習慣把日常事務交給自動化系統，卻很少想過這些系統同時失效時該怎麼辦。手機支付、網上銀行、智能家居、導航、外賣平台，全部依賴穩定的電力和網絡。若 AI 相關事故令其中一環中斷，最直接的感受不是「科技失靈」，而是日常生活突然失去可預測性。

在工作層面，企業加快採用 AI 做決策，意味着愈來愈多崗位變成監督機器、處理例外狀況。一旦系統出錯，責任往往模糊：是模型供應商、數據提供者，還是使用模型的機構？Hinton 的警告沒有給出簡單答案，但提醒了一個趨勢：效率愈高，系統愈集中，出錯時的代價也愈大。

不是反對，而是重新衡量

Hinton 強調自己不是「doomer」，即不是那種認為 AI 必然毀滅人類的悲觀主義者。他的立場更像一個工程師的謹慎：技術已經造出來，問題不是要不要用，而是我們是否準備好承擔它失敗的後果。

「人類可能從未發展這項技術會過得更好」這句話，不應被簡化成「應該禁止 AI」。它更像一個思想實驗：如果沒有 AI，我們會失去什麼？又會保留什麼？至少會保留一個較慢、較分散、較容易理解出錯原因的社會。而現在，我們選擇了速度和規模，代價是系統性風險同步上升。

未來幾年的關鍵，不在於 AI 會不會繼續發展，而在於普通人能否在享受便利的同時，保留一點不依賴系統的能力：記住幾個重要電話號碼、保留少量現金、知道家中電箱和水的總掣在哪裏。這些看似瑣碎的準備，在金融或電力系統短暫停擺時，可能比任何 AI 應用都更實際。