驚駭！機器人將殺死人類

有「愛因斯坦之後最傑出物理學家」之譽、《時間簡史》的作者霍金（Stephen Hawking）認為，完整的人工智能可能會終結人類。（AFP）

害怕人類的創造物反成人類的主人，甚至消滅人類，並不是什麼新鮮事，但從宇宙學者和微軟創辦人的口中說出來，這樣的恐懼就顯得更加有份量。著名物理學家霍金認為，完整的人工智能可能會終結人類。微軟創辦人蓋茲也說要當心人工智能。

文 _ 楊佳

人工智能令人擔心

最近幾年，各種各樣的機器人進入你我的視界。某天它們會不會取代我們的工作？或者它們會不會統治人類？這可不是老百姓的愚蠢擔心，有「愛因斯坦之後最傑出物理學家」之譽、《時間簡史》的作者霍金認為，完整的人工智能可能會終結人類。

電動車大廠特斯拉（Tesla Motors）創辦人馬斯克（Elon Musk）也認為人類應該擔心。馬斯克表示，人工智能的發展可能是人類面臨的最大威脅。就連微軟創辦人蓋茲（Bill Gates）也說要當心人工智能。

電動車大廠特斯拉（Tesla Motors）創辦人馬斯克（Elon Musk）表示，人工智能的 發展可能是人類面臨的最大威脅。（Getty Images）

首先看電腦目前的能耐以及它們未來可能擁有的能力。如今的「深度學習」系統已經可以學會處理部分任務，而且表現直逼人類，例如Facebook的DeepFace演算法，辨識人臉的正確率就高達97％；Xerox在篩選話務中心的員工時，是使用電腦而非員工來對申請者進行篩選。

而人工智能也已經強大到足以大幅改變人類的生活，例如智能手機上的語音辨識系統，就讓發展中國家的數百萬文盲得以使用互聯網。

但就算只是短期而言，人工智能也不會只帶來益處，國家擁有監控數十億對話的能力、可以從民眾中挑出任何人的聲音或長相，都會嚴重威脅自由。此外，正如原始的「電腦」取代了計算人員，人工智能也可能會讓許多白領階級失去工作。

再30年 電腦將具有整個人腦思維

谷歌工程總監庫茲韋爾（Ray Kurzweil）是著名未來學家兼人工智能開發者，他曾說，人工智能近年發展迅速，到2045年，將能夠把人類的整個大腦思維上傳到電腦，成為不朽的數據機。

谷歌工程總監庫茲韋爾說，人工智能將於2045年把人類的整個大腦思維上傳到電腦， 成為不朽的數據機。圖為蘋果iPhone搭載Siri系統，讓人可與計算機對話。（Getty Images）

庫茲韋爾以「奇點」理論聞名，其理論指，終有一日（預計2045年）計算機的智能將超越人類。而早在1990年，他就預言，計算機會在1998年前擊敗國際象棋冠軍，結果1997年國際商業機器（IBM）研發的超級計算機「深藍」（Deep Blue）贏了當時的棋王卡斯帕羅夫（Garry Kasparov）。

他曾舉例，比如蘋果iPhone搭載Siri系統讓人可與計算機對話；谷歌研發出自動駕駛汽車；谷歌推出的谷歌眼鏡可儲存用戶的個人經歷，並將其數據化。

機器人取代人類工作愈演愈烈

除電腦外，機器人的快速發展也嚴重威脅著人類。機器人能執行多重任務，例如：醫 療診斷、航海及翻譯等。（AFP）

除電腦外，機器人的快速發展也在嚴重威脅著人類，當前已有不少工作崗位被機器人取代。零售業巨頭亞馬遜「雇傭」了1萬5000個倉儲機器人從倉庫或集裝箱往外搬運東西；很多酒店使用機器人進行前臺服務和房間清潔。機場使用機器裝置進行泊車服務；MIT（麻省理工學院）的個人機器人研究團隊領導者布雷齊爾（Cynthia Breazeal）在眾籌網站Indiegogo發起的項目，在短短六天內就募集到100萬美金，此後又得到了風險投資資金2500萬美元投資。

早在2013年9月，牛津大學的兩位學者佛瑞（Carl Benedikt Frey）和奧斯本尼（Michael Osborne）發布了一篇研究報告，該報告預測在未來20年內，美國將有約50％的工作崗位被機器人取代。他們觀察了700種職業，發現最易受自動化影響的職業包括：信貸員、前臺接待、律師助理、店員、出租車司機和保安，就算是靠寫演算法為生的計算機程式員也未能倖免。根據佛瑞和奧斯本尼的計算，在今後的二十幾年內，50％的編程工作也會外包給機器人。

事實上，這種情況已經開始變成現實。一方面，程式員越來越依賴「自我糾錯」式代碼，這是一種可以自己發現錯誤並自動修正的代碼；另一方面，他們也正在創造那種可以學會工作的機器。這些機器自身還無法思考，卻非常擅長處理海量數據，而且速度奇快。

通過這些數據，機器人還能執行多重任務，例如醫療診斷、航海、翻譯，甚至更多。此外，在一些比較危險的環境（例如，核電站與塌方礦區）中，只要有需要，這些可以自我修復的機器人可以在無需人為干預的情況下執行任務，且最近的大部分反覆運算都已經是機器人自己設計的了。在未來，甚至機器人專家都會發現自己無事可做。

在凱恩斯1930年發表的論文《我們後代的經濟前景》中，他將這種情形稱之為「技術性失業」。當時，凱恩斯認為技術性失業是一種暫時情況，「一種適應不良導致的短暫過程，也是人類發現節省勞動力方法的速度、超過發現勞動力新用途的速度的結果。」

就在凱恩斯寫出這篇論文的同時，美國鐵路的機器化運動造成了近50萬工人失業。與此類似的情形還有轉盤電話淘汰了接線員；機器化收割、耕種與聯合農業取代了傳統農場工人。這一切和當年蒸汽拖拉機取代馬和牛幾乎是一模一樣。

機器的效率如此驚人，以致於時任美國總統羅斯福在1935年向國民發表演說時稱，（以當時的）經濟情況可能永遠無法重新讓那些被機器替代的工人再就業。而當時的《紐約時報》則抱持更樂觀的態度，指責總統正變成「烏鴉嘴」（calamity prophets）。

事實證明，凱恩斯的預見非常準確。1932年的失業率達到了24％，在隨後的十幾年中，這一比例僅下降不到5個百分點。這時一種輿論再次占據上風：20世紀的這次經濟重創，自動化是一個很重要的根源。

有財經評論認為，工作現在是回不來了，但只要經濟反彈自然會帶來就業，屆時那些令人神經緊張的「機器接管人類」的討論都會煙消雲散。

不過這種恐懼並沒有消失，只是潛伏起來了。《時代周刊》在1980年刊登了一篇名為〈機械革命〉的文章，向公眾展示了一個機器人正在用雙手扼殺人類勞動力的景象。

而這在3年後被一位來自MIT的經濟學家塞肯（Harley Shaiken）所證實：經濟復甦的進程受到越來越多的關注，1100萬民眾繼續處於失業狀態。在這種背景下，無處不在的技術變革所引起的焦點問題不再是在將來的10年中會有多少人被取代，而是會有多少人將繼續失去工作。

然而不幸的是，當時失業率達到了10％，而後在80年代末期降低了一半，再次使機器人問題退出公眾的視野。但緊接著在2008年金融危機期間，一項來自美聯社的調查又將這一問題拉回到公眾的視野。

一位研究勞動力市場的專家說，在大蕭條開始之後的5年，西方國家有無數的工作崗位消失，但這次的情況更加嚴峻，大多數工作不會再回來，且這個數字將達到百萬，這些崗位正在被技術所消除。數年之後，那些在電腦以及其他機器設備上運行的軟件將會變得更加複雜，這些軟件性能強大，並且可以更加有效率地完成那些以前只屬於人類的任務。

這就是將來（或者也可以說現在）要發生的事情：銀行、物流、外科手術和藥品保存這些崗位，都被機器占據。製造業對機械化和自動化傾心已久，隨著機械成本的持續下降，這種情況會愈演愈烈。

波士頓顧問集團的一項最新研究稱，機器人現在可以完成製造業工作的10％，而在2025年之前，這一比例將上升到25％。

機器人有一天能控制人類？

科學家們擔心，智能機器的研發至今尚無規範，如果繼續研發下去，人類將達到多數專家預測的奇點（singularity）。從這一奇點開始，智能機器操縱人類可能成為人類的災難。

科學家們擔心，智能機器的研發若達到奇點，智能機器有可能操縱人類。圖為日本新 款Pepper情感人型機器人，引發銷售熱潮。（AFP）

據美國財經科技網站（Business Insider）報導，物理學家、企業家和《人工智能革命》的作者蒙特（Louis Del Monte）透過電話，圍繞著人工智能、奇點和未來的不確定性，表達了他對智能機器未來勝過人類的智能的看法。

蒙特預測，平均到2040年會發生此種情況（智能機器勝過人腦），最遲是2045年。無論是哪個時間，確定將在30年內發生。

蒙特說，這不會是《終結者》的情況，也不是一場戰爭。「在後奇點世界的初期，有一種情況是，機器將尋求把人類變成生化人，這幾乎是現在發生的，若四肢出現故障，用人工更換四肢零件，我們將看到機器作為一個有用的工具。

目前，各個國家生產自動化業務在大幅提升，在中國依據工廠員工的生產總值（GDP），自動化增加了一倍。」

他說，「到本世紀結束時」，大部分的人類將成為半機器人（半人、半機器）。機器被操縱後，將取得突破的醫療技術，大多數的人類將有較多的閒暇時間。

值得留意的是，「此種機器將視人類為一個不可預測和危險的物種」。

蒙特相信機器被操縱後，最終將成為有自我意識和自我保護能力的機器。他們「看待人類可能如同人類看待害蟲一樣，並用一樣的方式對待人類。」人類是一個物種，「是不穩定的，製造戰爭，有武器引發兩次世界大戰，還製造計算機病毒。幾乎是沒有吸引力的室友。」

蒙特寫了一本名為《一個警告》的書，書中說人工智能正變得越來越能幹，而且我們迅速適應它，如同它現世的速度一樣快。他說，心臟起搏器的操作是「相當常規」，但是「它使用傳感器和人工智能調節你的心臟」。

在2009年的一項實驗表明，機器人可以發展到欺騙別人的能力。在瑞士洛桑的巴黎高等聯邦理工學院的智能系統實驗室中，實驗了由機器人設計尋找類似能源的有利資源，並避免危險的合作。令人震驚的是，機器人學會了欺騙對方，企圖為自己囤積有利的資源。

蒙特舉的例子告訴我們，機器人也學會了自我保護，「不管它們是不是自覺的」。

預言成真？
德工廠機器人殺死工人

不僅如此，機器人殺死人的事件亦有發生過。2015年7月，據英國《衛報》引述美聯社報導，德國大眾汽車製造商表示，一家德國大眾汽車公司生產工廠中的機器人殺死了一名合同工人。

一家德國大眾汽車公司生產工廠中的機器人曾殺死了一名合同工人。（AFP）

大眾公司發言人希爾維格（Heiko Hillwig）說，這位22歲的合同工是一個建立固定機器人團隊中的一員。當時這個機器人抓住這位合同工，用金屬板擠壓他致死。他說，當時機器人被放在安全籠中，這名不幸遇難的工作人員當時正好在籠子中對其進行調整。

希爾維格表示，初步結論表明，這次事故的罪魁禍首是人為錯誤，而不是機器人問題。這種機器人可以被編程在組裝過程中執行各種任務。機器人通常在工廠裡的一個封閉區域中工作，抓住汽車零部件和安裝零件。

2015年5月，在倫敦舉行的2015年Zeitgeist會議上，霍金再次發出警告：未來100年內，人工智能將比人類更聰明，機器人將控制人類。

霍金說，未來100年中，人類將面臨比人類更聰明的人工智能的挑戰。霍金此前也曾發出警告，他稱人工智能可能終結人類。

霍金曾與特斯拉CEO、億萬富翁馬斯克共同發表公開信，他們認為人工智能的發展應該受到控制。信中稱，如果智能機器無法保障安全，人類可能會陷入黑暗的未來。

馬斯克多次表達對機器人技術發展的關注，他認為這可能會嚴重威脅人類的未來。在他最新的評論中，他擔心「發生嚴重危險」的可能性會在5年之內出現。

他曾在麻省理工學院AeroAstro科技公司百年慶典研討會上說：「我認為我們應該非常提防機器人。如果要我猜，什麼是對我們生存最大的威脅，機器人可能就是。因此我們必須非常小心機器人。」◇