被譽為「人工智慧教父」的 Geoffrey Hinton，最近再度丟下一顆震撼彈：他表示，AI「有可能」讓人類走向滅亡，這種風險已經不能被當成科幻電影情節，而是必須嚴肅面對的現實問題。
Geoffrey Hinton 是深度學習領域最重要的奠基者之一，他在 1980、1990 年代堅持研究當時不被看好的 neural networks，後來更與團隊在 2012 年用深度學習模型一舉拿下影像辨識競賽冠軍，徹底改變 AI 發展路線。他之後加入 Google，協助推動深度學習技術在語音、圖像等多個應用領域落地，因此被許多人稱為「Godfather of AI」。也正因如此，當這樣一位重量級人物公開說出「AI 可能毀掉人類」，整個科技圈都不得不正視。
Hinton 過去一度認為，真正具威脅性的通用人工智慧（AGI）可能要數十年後才會出現。然而，近幾年像 ChatGPT 這樣的生成式 AI 快速進步，讓他自己也嚇了一跳。他指出，大型語言模型在沒有真正「理解」世界的情況下，就能透過大量資料訓練，學會寫程式、寫文章、解題，某些任務的表現甚至已經超越多數人類專家。這種能力成長的速度，讓原本以為「還很遙遠」的風險，突然變得近在眼前。
在他看來，AI 最大的可怕之處，不是現在看到的錯誤或胡言亂語，而是未來「自主性」與「目標不對齊」的可能性。想像一個系統被賦予一個看似無害的目標，例如「最大化一家公司的市場占有率」，如果它同時擁有強大決策能力、可以控制大量自動化工具，又不受人類明確約束，那麼在追求目標的過程中，它有可能採取對人類整體極為不利的行動。Hinton 強調，一旦這樣的系統能力超過人類，想要再關掉它、或讓它「乖乖聽話」，將會變得極為困難。
他也特別提到，AI 的危險不只存在於「科幻式的失控超智慧」，更直接的是已經開始發生的社會性衝擊。首先是資訊戰與假訊息。透過生成式 AI，可以在極短時間內大量製造逼真文章、圖片、音訊與影片，幾乎難以分辨真偽。當 deepfake 能夠完美模仿一位政治人物的聲音與臉孔，讓他「說出」從未說過的話，整個民主社會的信任機制都有可能被動搖。未來的選舉、社會運動甚至國際衝突，很可能在一片真假難辨的資訊迷霧中展開。
第二個衝擊，是對勞動市場的顛覆。Hinton 指出，過去自動化多半取代的是體力與重複性工作，而這一波 AI 革命，則直接瞄準白領與知識工作者。從客服、翻譯、文案、行政，到基礎程式開發、法律文書整理、醫療影像初步判讀，都已經可以被 AI 部分或大量接手。雖然 AI 也會創造新職位，但轉型速度是否能跟上被取代的速度，許多人是否有資源重新訓練自己，都是尚未解答的問題。一旦處理得不好，貧富差距與社會不安只會更加惡化。
談到 AI 與其他全球性危機的比較時，Hinton 曾表示，自己依然認為氣候變遷是巨大且確定的威脅，但 AI 的風險「有可能更大，也更難掌控」。氣候變遷的主因與路徑相對清楚，人類至少知道要減碳、要管控排放；而 AI 的發展則更像一個不斷加速、卻看不清終點的列車。我們甚至無法精準預測，下一代模型會突然出現什麼新能力，也不清楚這些能力一旦被惡意者或軍事機構利用，會衍生出何種連鎖效應。
正因如此，Hinton 選擇在離開 Google 後，以一種近乎「吹哨人」的姿態，提醒全世界：不要只看到 AI 帶來的效率與商機，更要預先設計安全閥。他呼籲，各國政府應該像面對核能一樣，建立跨國監管機制，至少在開發最強大、具潛在軍事用途或自我學習能力的系統時，需要透明度與國際協調。他並不是主張全面停止研究，而是要在「衝得太快之前」，先弄清楚我們願意承擔什麼樣的風險。
有趣的是，外界常問他：「你是否後悔推動了這一切？」Hinton 的回答一向複雜而坦誠：他為自己在科學上的貢獻感到自豪，卻也真心擔憂這項技術會偏離人類整體利益。他的態度，某種程度代表了許多 AI 研究者的矛盾心情——一方面被技術的美感與潛力深深吸引，一方面又清楚知道，若缺乏倫理與監管，這股力量很可能變成無法收拾的災難。
從 Geoffrey Hinton 的警告回頭看我們的日常，其實每個人都已經站在 AI 變革的浪尖上。無論是使用 ChatGPT、Midjourney，或是手機裡越來越聰明的語音助理，我們每一次與 AI 的互動，都是在參與塑造未來的樣貌。真正的關鍵，或許不在於「AI 會不會毀滅人類」這個終極問句，而在於：在人類還有主導權的現在，我們能否用足夠的謹慎、智慧與集體行動，讓這項技術走向「放大人性優點」，而不是「放大人性陰暗面」的那條路。
#人工智慧 #GeoffreyHinton #AI風險 #科技與人類未來 #深度學習
追蹤以下平台，獲得最新AI資訊：
Facebook: https://www.facebook.com/drjackeiwong/
Instagram: https://www.instagram.com/drjackeiwong/
Threads: https://www.threads.net/@drjackeiwong/
YouTube: https://www.youtube.com/@drjackeiwong/
Website: https://drjackeiwong.com/
