網軍用AI造假介選 虛擬人涉倫理問題

網軍用AI造假介選 虛擬人涉倫理問題（大紀元製圖）

【新視角聽新聞】AI造假除了更多的被用於介入各國選舉之外，越來越多實例證明，AI在給人帶來方便的同時，也在起著很大的負面作用。幫助人們與虛擬的逝者溝通，更涉及人倫議題。

AI是今天科技發展最大的雙刃劍。越來越多實例證明，AI在給人帶來方便的同時，也在起著很大的負面作用。在台灣大選之際，更揭露出中共可能利用AI介選的卑劣行為。

歷次台灣大選，中共都使出渾身解數，除了武力威脅外，更利用滲透到台灣的各種管道散布虛假消息或輿情，企圖干擾大選。這次，更出現名為《蔡英文秘史》的電子書被在社交平台上大推。

在過去的一週裡，大量疑似機器人的帳號在Facebook、X、Youtube、Reddit、Telegram等平台上貼出一本名為《蔡英文秘史》的電子書，通過混淆史實和政治謠傳等虛假信息，攻擊蔡英文總統的家庭背景和私生活。

這本《蔡英文秘史》電子書，從用詞到行文方式都與中共的宣傳手法極其相似。比如，書中把「韓戰」寫成「朝鮮戰爭」。雖然蔡英文即將卸任，但攻擊蔡英文可以起到誘導選民疏遠民進黨的作用。

台灣國安人士透露，近日網上出現大量AI生成的偽造影音，用虛擬主播朗讀《蔡英文秘史》的內容，再透過數百組假帳號上傳Youtube，由多個Facebook粉專分享。台灣國安部門確認，這極有可能是中共國安所為。

國安人士表示，相關影音是用抖音母公司「字節跳動」的APP製作而成。總體講，這些都是常見的中共國安手法。

台灣網絡媒體「上報」日前發文介紹中共利用AI介選的手法。文章說，中共利用「深偽技術」（Deep fake）技術，如ChatGPT軟件及AI圖像合成軟件等，生產出「最大亂真性」的資訊體，企圖干擾台灣大選。例如，最近網上流傳的「習近平英文演講」與「拜登中文演講」的影片，就是這種AI合成技術製作的。

日本電子工程師李濟心對此表示：「世界必須提防中共，它擅長把能用的技術和東西進行武器化，去攻擊自由世界。中共利用AI快速生產大量假消息，並透過社交平台快速散播去搞訊息戰和認知戰，只要再加上軍事挑釁營造恐慌氣氛，就能影響台灣和美國的選民的選擇。」

除了介入選舉外，中共還利用AI、黑客、間諜等不正當手段，竊取西方的高科技技術、大數據和商業機密等重要機密。

中共國安部的間諜們正在利用AI和其它高科技技術，去識別美國使館區每個人的檔案，並分析他們的行為模式，希望藉此分析出這些人的弱點。

間諜們還利用AI處理從美國使館工作人員那裡獲得的汽車牌照、手機數據和聯絡人等重要訊息，以便旗下的中共間諜能與美國中情局（CIA）直接競爭，同時讓它們能在世界各地肆無忌憚地收集各國重要情報。

美國聯邦調查局（FBI）局長克里斯托弗雷（Christopher Wray）2023年10月曾點名中共通過黑客、商業間諜等方式竊取他國的AI技術、量子技術、機器人技術和生物技術等，用於實現自己的目標。

另外，OpenAI的CEO山姆奧特曼在2023年12月中發出了有關AI影響美國和世界選舉的警告。奧特曼表示，「我更關心的是若AI獲取人們在網上寫的推文、文章或生活習慣，那將會發生什麼事呢？未來AI將會為你發送量身定製的訊息，足以改變你對這個世界的看法。」

AI造假的影片、圖片或農場文，正在日益影響人們的價值觀和判斷力。如果技術再發展下去，就會出現英國犯罪懸疑劇《真相捕捉》中描繪的情境：人們只要動動手指輸入提示詞即可利用AI任意的捏造一些當事人沒有講過的話和影片，從而使整個世界陷入混亂。

幫助人們與逝者溝通，是AI把人類正常生活虛擬化的一個典型例子。

一位父親極度思念過世的兒子，收集了孩子的照片、影片和錄音，並花數千美元請一家AI公司幫他創造一個「虛擬的兒子」，這位父親的最終目標，是創造出一個行為舉止與他兒子一模一樣的「虛擬兒子」，讓他和妻子能與「虛擬兒子」在元宇宙交流。

另外，有越來越多的新創公司開始提供「悲傷科技」或「數位死靈術」服務。這些公司承諾永遠保留逝者的記憶，讓生者透過生成的影片和AI與去世的親人進行無縫的對答。

另外，目前已有公司使用相同或類似的技術開發出會自己說話的虛擬人，可透過全息圖像形式走動並與人互動。

但是，AI產生的虛擬人或虛擬世界涉及的倫理問題正在引起人們的關注。

在許多影視作品和文學作品中都有這樣的描述：人類最終遭到AI、機器人和仿生人的吞噬。因為這些虛擬人在與真人互動中，有的逐漸地將該記憶當成自己，或想要取代該記憶成為主人、出現反叛和殺死使用者的情形，甚至真人在與虛擬人互動中，逐漸污染了自己原有的記憶。這絕不是聳人聽聞，而是正在快速實現的事實。

英國巴斯大學（Bath）的死亡與社會研究中心研究員塔爾莫爾斯（Tal Morse）2023年3月初發表了自己對「數位死靈術」的觀察和研究。莫爾斯表示，雖然這些虛擬替身可以提供一定程度的安慰，但它們會對人類產生怎樣的心理改變和倫理道德上的影響，還有待觀察。

莫爾斯接著說，這裡有一些基本問題是，如果這些AI在模仿這些已故的人事，污染了生者對於這個人原有的記憶，那會怎麼樣？使用者又如何知道死者是否會真的同意他們被這樣複製和模仿呢？

獨立撰稿人諸葛明陽表示，「一個人把自己正常的情感投射到虛擬人身上，表面看，虛擬人幫其寄託了哀思，是好事。事實上則改變了人的正常認知，把假的當成真的，慢慢地會降低其社交能力，甚至寧願活在虛擬世界裡。當這一現象具有一定普遍性時，人類社會將不再是人類社會。」

以上節目內容，取材自大紀元專題部記者吳瑞昌報道。

本次的新視角聽新聞就到這裏，請記得訂閱、點讚，本節目部份內容已加入大紀元的Patreon，也請大家多多支持。（ID 51348）

責任編輯：T so

更多詳細內容，前往商城
雜誌購買網址：https://shop.epochweekly.com