AI於人是福是禍？

發展AI產業各國都不落人後。但AI於人是禍害的憂心卻也愈見高漲。圖為2020年10月在沙烏地阿拉伯首都利雅德舉行的全球AI 2020高峰會。（Fayez Nureldine / AFP）

文•吳惠林（中華經濟研究院特約研究員）

關於AI（人工智慧）的討論愈來愈熱，發展AI產業各國都不落人後，希望能一馬當先。不過，雖然不得不費心費力研究發展AI，但對AI於人是禍害的憂心卻也愈見高漲。

巴菲特害怕AI精靈

5月4日，美國傳奇投資人巴菲特在股東大會上，就對AI的潛在危害發出嚴厲警告，他將AI的潛力與核武器聯繫起來，他說：「當我們開發核武器時，我們讓一個精靈從瓶子裡跑了出來。那個精靈最近在做一些可怕的事情，而這個精靈的力量讓我非常害怕。我不知道如何將精靈放回瓶子，AI也有些類似。」他也提到利用AI進行詐騙的潛力，並警告說，AI詐騙可能成為一個大的「增長行業」。他指出，AI技術能夠複製逼真和誤導性的內容，試圖讓金錢流入壞人手中，詐騙者會利用AI語音複製和深度偽造技術來操縱視頻和圖像，冒充某個人的家人和朋友索要錢財或個人信息。

巴菲特舉例說，詐騙者複製某人女兒的圖像，並假借這種關係告訴此人，這是你的女兒，剛剛出了車禍，需要5萬美元的電匯。他進一步提到AI的深度偽造技術說，他看到過有人使用他的肖像，但「傳遞的信息絕不是來自我」。

幾乎在同時，奧地利外交部長查倫伯（Alexander Schallenberg）也在一場「自主武器系統會議」上，說「AI是我們這一代的奧本海默時刻。」指的是，當年美國物理學家奧本海默（J. Robert Oppenheimer）成功發明原子彈，為美國和同盟國帶來二戰勝利，被稱為「原子彈之父」。不過，奧本海默目睹原子彈給日本帶來的災難，以及對地球帶來不可磨滅的傷痕，讓他思考自己幫助發展原子彈的決定是否正確。

沙倫伯格表示，「人類正走在歷史的十字路口，自主武器將布滿整個世界的戰場上。目前無人機、AI相關的機器正布滿整個戰場，而我們也面臨著法律、道德和安全上的問題。」

他說，現在全球急迫地需要在AI領域上做出一致認同的國際規則和規範，以防止AI因錯誤和極端的偏見出現失控的行為，導致人類滅絕和大量死亡。人們需要確保（武器）是由人類來掌控，而非AI。

日本電腦工程師清原仁（Kiyoharajin）對於沙倫伯格的話表示贊同，但強調，「遵守道德才是保證人類不會走向自我毀滅的唯一途徑，若道德跟不上武器或科技的發展，就容易使人們迷失，從而忽略安全意識。」

「殺手機器人」是繼火藥、核武之後第三波「戰爭革命」

其實，早在2016年8月21日，美國、丹麥、加拿大和法國等26國人工智慧（AI）及機器人企業的專家和領袖，就發表連署公開信，警告「殺手機器人」等AI自主武器將繼火藥、核武之後，帶來第3波「戰爭革命」，要求聯合國全面禁止發展。而幾乎在同時，北韓又發射飛彈直搗關島，更進而試爆氫彈引爆6.3強震，這正呼應這封連署信所憂慮的「戰爭革命」。

我們知道，諾貝爾在19世紀發明火藥，結果被用來作為殺人武器，並且讓戰爭更為殘酷，死傷者更眾，毀滅性更高。諾貝爾被論定為憑發現新殺人方式以致富的「死亡販子」，他為了贖罪乃在遺囑設立「諾貝爾獎」，希望激勵物理、化學、醫學科學的改善、發現和發明，並激發文學的創作和對人類和平的努力，目的就在造福人群。

不過，人類的科學此後果真快速進展，科技也飛躍猛進，人的生活固然更為便利，但核能、原子彈的出現，卻也讓戰爭更殘酷，而「第二波戰爭革命」的核武競賽、核能的傷害歷歷在目。如今人工智慧的狂熱，其將帶來的風暴連這些高科技頂尖專家都提心吊膽，而毀滅和末世的恐慌又再升高，於是「科技發展」真是進步的表徵嗎？科技帶給人類是福或是禍？的疑惑又浮上世人心頭。

如今人工智慧的狂熱，其將帶來的風暴連這些高科技頂尖專家都提心吊膽。圖為2022年9月特斯拉公布的新版本Optimus機械人。（Tesla / AFP）

美國電動車大廠特斯拉（Tesla）執行長馬斯克（Elon Musk）近十年前就說，AI在太陽能、電動車和太空探索等方面的進展保持樂觀，但AI武器將是人類生存的最大威脅。他認為，雖然各界普遍了解該種武器毀滅力量強大，但少有人正視其威脅早已迫在眉睫，「數年內就可能達成實際部署和應用」。

回歸傳統找回倫理道德

進一步說，現代科技的進步提高物質享受，是否會腐化人心？尤其金錢遊戲出現以後，求利的慾望更加速人心的腐化。再加上電腦的威力，讓人際之間的來往、交流，已被資訊網路替代，人與人的直接交流愈見淡薄，「善的人性」也愈見消蝕。

在人心、道德沉淪下，科技愈進步，其禍害愈大，也凸顯現代人是不配使用高科技的，是會玩火自焚的，難怪連高科技專家都要出面呼籲禁止。只是，不往人心回升、尋回傳統的倫理道德上落力，是禁止不了的！所以，正如上文所引日本電腦工程師清原仁近日所強調的，「遵守道德才是保證人類不會走向自我毀滅的唯一途徑，若道德跟不上武器或科技的發展，就容易使人們迷失，從而忽略安全意識。」那麼，人類啊！就讓我們努力返本歸真，尋回傳統的倫理道德吧！◇