憂心 AI 失控、對一生志業感到後悔...深度學習教父 Geoffrey Hinton 揮別 Google

• 2023/05/02 
 
• Chris 
 
• Google 、 人工智慧 、 AI 、 Geoffrey Hinton 、 Deep Learning 、 Concerns 、 Regrets 、 Misuse 、 Quitting

Geoffrey Hinton：「我常這樣安慰自己：如果我不做，其他人也會做；但實在很難看出如何防止壞人利用 AI 為惡。」
Photo Credit：Steve Jurvetson. BY Creative Commons Attribution 2.0 Generic
   評論
根據《紐約時報》報導，有深度學習教父之稱的 Geoffrey Hinton 日前已經正式從 Google 離職。身為深度學習教父的他，先前對一生志業 AI 擁有無比熱情，但此時的他卻對 AI 感到有些遺憾，甚至後悔，原因正是身為深度學習教父的他，本人深深害怕 AI 會引發濫用假資訊的新風潮，而在未來，他預測隨著 AI 擁有自己撰寫程式碼的能力將會取代大量人類工作。
Geoffrey Hinton 是在上個月遞出辭呈的。過去好幾十年，深度學習只是 AI 眾多分支中沒什麼人關注的學術領域，但就是他跟 Yann LeCun、Yoshua Bengio 等人將深度學習發揚光大（後來他們三人一起在 2018 獲得圖靈獎），成為眾多科技巨頭紛紛追逐的技術。他本人也是在 2013 年藉由創辦的 DNNresearch 被收購加入 Google。
但他卻對近期的 AI 熱潮感到擔憂，認為這波人工智慧軍備競賽將會創造超乎人類智慧的 AI。「我常這樣安慰自己：如果不是我做，其他人也會做；但實在很難看出如何防止壞人利用 AI 為惡。」Geoffrey Hinton 認為短期內生成式 AI 將會引發新一波的假資訊風潮，接下來則是逐步取代人類繁重的工作，乃至於許多職業都會被取代。同時，AI 本身也可能會被許多假資訊、偏頗資料訓練得越來越偏差，最終變得無法被人類有效監管。
Geoffrey Hinton 甚至認為核子武器還已被人類高度控管，但現在個人、企業乃至國家和可以輕鬆地秘密開發 AI 模型。「很多人認為 AI 可以變得比人類更聰明；但大多數人認為時間還早。我原本也這認為，覺得還是 30 到 50 年，甚至更久的事。但我現在不再樂觀了。」
不過他個人也澄清，他離開是為了可以在不顧慮 Google 的狀況下評論 AI 的危險性，但並不是為了批評 Google 本身；Google 對 AI 的態度是很負責的。
核稿編輯：Anny