【名家專欄】 人工智能革命 專家的憂心

【名家專欄】人工智能革命 專家的憂心（大紀元製圖）

【新視角聽新聞】以下節目內容，取材自英文大紀元專欄作家Keegan Billings、Steve Ispas撰文、信宇編譯。

隨著人工智能（artificial intelligence，簡稱AI）的應用範圍不斷擴大，從牙刷到汽車，許多產品中都加入了人工智能，然而監管和監督卻與發展速度脫節，引發不少問題。

加州聖何塞州立大學（San Jose State University）工程學教授艾哈邁德‧巴納法（Ahmed Banafa）在EpochTV最近一期的《灣區創新者》（Bay Area Innovators）節目中尖銳地指出，公眾擔心的是……人工智能會創造出自己的人工智能。人類並不參與這個循環過程，這就令人感到恐懼，這也就是超級人工智能的開始。

巴納法是人工智能和網絡安全方面的專家，被全球領先的職業社交網站領英（LinkedIn）評為2024年人工智能領域的第一名。他說，與其它技術相比，人工智能革命發生得太快了，其速度和公司數量每六個月就翻一番。

巴納法認為，全球正處於生成式人工智能（generative AI）階段，即通過輸入數據對應用程序進行訓練，它可以通過使用其編程算法形成自己的觀點。總部位於加州三藩市（San Francisco）的人工智能研究實驗室「開放人工智能研究中心」（OpenAI）開發的人工智能對話服務平台「聊天生成預訓練轉換器」（Chat Generative Pre-trained Transformer，簡稱ChatGPT）就是一個典型例子。

巴納法說，ChatGPT 3.5是在5000億條數據的基礎上訓練出來的，ChatGPT 4則是在一萬億條數據的基礎上訓練出來的，而由谷歌（Google）公司開發的新型人工智能聊天機器人Gemini則是在5.5萬億條數據的基礎上訓練出來的，這些數據不斷訓練和教育算法，讓人工智能形成自己的觀點。

巴納法稱，生成式人工智能之後的下一個階段將是超級人工智能，在這個階段，人工智能將擁有自我意識，開始獨立思考。他認為這個階段還需要幾年時間。

巴納法特別提到谷歌展開的一項實驗，在這項實驗中，他們教了人工智能五種語言。後來他們發現，人工智能實際上已經學會了第六種語言，而這並不是計劃中的。他們發現，人工智能認為這門額外的語言很吸引人，於是自己學會這門語言。

巴納法表示，美國國防部展開大量人工智能的研究和應用，它正在嘗試用某些數據對人工智能進行編程，使其能夠自行找到敵人。

美國空軍曾提出的一個假設：一架負責摧毀目標的人工智能無人機被其人類操作員多次叫停。最後，無人機撞上了通信塔，因為人類阻礙無人機完成既定的任務。

大眾不希望人工智能發展到開始獨立思考的程度；這是超級人工智能的領域，那時人工智能就會將人類視為自己的障礙。

電影曾提供一些經驗教訓，特別是必須要在人工智能中嵌入「終止開關」程序，以防人工智能失控。

技術的進步也給壞人提供製造「深度偽造」（deepfake）的機會。深度偽造是人工智能生成的視像，它能模擬真人，並能像真人一樣交流。

巴納法提到在香港的一個案例中，一名銀行家以為自己在與公司同事進行視像會議，然而這卻是深度偽造的視像會議，不良份子說服他向他們轉移了相當於2500萬美元的資金。

巴納法曾多次致信白宮，表達他對人工智能的擔心。

巴納法無奈地表示，從他寄給白宮的所有信件中，得到一個明確的資訊，那就是美國政府永遠不會站在技術發展的車輪前面。

巴納法指出，美國希望成為人工智能世界的領頭羊，而且領先於許多國家，美國希望保持領先地位。但他認為，這種領先必須根據其對人類、社會和就業的影響來衡量。

巴納法最近一次與白宮溝通時，白宮科技政策辦公室（White House Office of Science and Technology Policy）向他發送一個人工智能權利法案藍圖的鏈接。該藍圖主要在支持自動化系統的建立、部署和治理過程中，制定保護公民權利和促進民主價值觀的政策和做法。

至於監管，他說國會議員不必了解人工智能，也不必深刻理解算法，而是要了解人工智能對社會、商業和技術的影響。

今年4月，聯邦政府宣佈成立人工智能安全保障委員會（Artificial Intelligence Safety and Security Board），由22名成員組成，並由國土安全部長（Secretary of Homeland Security）領導。該委員會由來自政府、私營部門、學術界和民權組織的領導人組成。

巴納法教授認為，這三個利益相關群體聯合起來非常重要。因為這將是人民的聲音，『人們關注隱私；人們關注安全；人們關注自己的安全。』

委員會成員目前包括OpenAI、輝達（NVIDIA）、超威半導體有限公司（AMD）、Alphabet公司、微軟（Microsoft）、思科（Cisco）、亞馬遜網絡服務（Amazon Web Services）、奧多比（Adobe）、IBM 和達美航空（Delta Air Lines）等公司的行政總裁們。委員會成員還包括馬里蘭州州長韋斯‧摩爾（Wes Moore）、公民與人權領袖會議（The Leadership Conference on Civil and Human Rights）主席，以及斯坦福大學以人為本人工智能研究所（Human-centered Artificial Intelligence Institute）聯合主任等社會各界領袖。

巴納法表示，委員會的工作將是向白宮提出監管和訴訟方面的專家意見和建議。

本次的新視角聽新聞就到這裏，請記得訂閱、點讚，本節目粵語版部份內容已加入大紀元的 Patreon，也請大家多多支持。(ID 53869)

責任編輯：Vion Lo

更多詳細內容，前往商城

雜誌購買網址：https://shop.epochweekly.com