人工智慧 2024民主威脅

AI誤導性資訊海嘯或擾亂美國大選。63%美國選民同意立法者將監管AI視作2024年首要任務。圖為2024年3月8日一個學校旅遊團參觀美國國會大廈。（Andrew Caballero-Reynolds / AFP）

隨著11月美國大選的臨近，生成式人工智慧的興起，可能製造大量假訊息來擾亂選舉。OpenAI最近宣布一些措施，但僅依靠公司來減輕AI對2024年選舉的危害還不夠，政策制定者需制定法律法規來應對這些現實世界的民主威脅。

編譯•李清怡

美國非營利組織憂思科學家聯盟（Union of Concerned Scientists）科學與民主中心項目主任瓊斯博士（Jennifer Jones）近日撰文，題為〈緊急警報：人工智慧——2024民主威脅〉。

隨著2024年11月美國大選的臨近，生成式人工智慧的興起，確實可能製造大量虛假資訊和剝奪選民的選舉權來擾亂2024年選舉。危險迫在眉睫，但我們卻沒有實質的法律來保護民主。相反，我們似乎期待商業公司自我監管。

假訊息是強大武器，因為所有人都容易相信和傳播虛假訊息。不良行為者經常帶頭散布虛假訊息，就是為了在我們的政府和選舉中傳播懷疑和不信任。

正如2021年諾貝爾和平獎得主瑪麗亞．雷薩（Maria Ressa）所說：「沒有事實，就不可能有真相。沒有真相，就沒有信任。沒有信任，我們就無法面對共同的現實，也不會有民主，也就不可能解決我們世界的生存問題：氣候、新冠病毒、真理之戰。」

隨著人工智慧工具日益唾手可得，專家們對深度造假和誤導性資訊海嘯的潛在影響感到恐懼。選民也對此表示擔憂，民意調查顯示近三分之二（63%）同意將監管人工智慧視作2024年立法者的首要任務。白宮於2023年發布了一項行政命令，應該說這是值得稱讚的第一步，但缺乏執行。

聯邦選舉委員會和國會都在考慮制定政策，限制競選廣告中出現深度造假，但目前還沒有相關的聯邦法規。事實上，新罕布什州總檢察長辦公室正在調查一個案例：可能有人使用人工智慧冒充拜登總統的機器人電話，在該州初選之前阻止選民去投票站。

新的人工智慧工具可以廉價、快速地生成並大規模傳播低級虛假訊息，例如社交媒體上由人工智慧驅動的假帳戶，這些帳戶加入當地社區小組，一開始看起來像普通用戶，但隨後開始放大政治宣傳。

人工智慧假帳戶可能會偽裝成真人，告訴您在虛假地址投票。一旦被數百萬人複製，這些所謂的「角色機器人」真的能影響選舉。過去的選舉表明，社交媒體和科技公司利用其平台傳播虛假政治訊息，且自我監管紀錄不佳。

隨著人工智慧的發展，只有少數公司主導這項技術，從而進一步將實力集中到一些不負責任的行業巨頭。毫不奇怪，美國智庫「以數據推動進步組織」（Data for Progress）的一項最新民意調查發現：高達85%的選民同意，應當要求開發人工智慧工具的公司在向公眾提供產品之前證明其產品無害。

政府應監管壟斷人工智慧的科技公司

OpenAI，即開發聊天機器人ChatGPT的公司，最近宣布了一些措施，但僅僅依靠公司來減輕人工智慧對2024年選舉的危害還不夠，政策制定者需要迅速採取行動，制定法律法規來應對這些現實世界的威脅。

政府應該監管壟斷人工智慧的大型科技公司。在過去的選舉中，大型社群媒體公司沒有被追究責任，後果很嚴重。臉書曾經有個座右銘：「快速行動，打破常規」。從2016年傳播俄羅斯虛假訊息到幫助促成2021年1月6日騷亂，他們確實做到了，而且幾乎將民主破壞殆盡。為了防止人工智慧科技巨頭操作出類似的結果，監管機構至少應該改進和執行反壟斷法及通過隱私權法。

各級政府的法律應規定：公眾在看到或聽到人工智慧生成的內容時需被告知。法律應要求揭露任何人（不僅僅是政客或候選人）的深度造假行為，以確保參與選舉系統的其他人，如選舉管理員，受到保護。法律應明確防止並減少任何故意誤導選民投票地點、時間和方式的企圖。

沒有人會指責我是反對使用新技術的人，但當談及民主時，我選擇真人而非機器人。

須警惕人工智慧精心策劃洗腦

1月13日台灣總統大選前夕，謊言在網路空間氾濫，中共是這些虛假事件傳播的幕後黑手。圖為2024年1月14日福建平潭一面以軍事為主題的宣傳牆。（Greg Baker / AFP）

日經（Nikkei）亞洲評論員秋田浩之（Hiroyuki Akita）發表評論指出，必須警惕中共和俄羅斯使用人工智慧精心策劃洗腦訊息，在假資訊武器庫中添加真實感，使人真假難辨。由於人工智慧快速發展，公眾情緒可能以從前難以想像的方式被操縱。這一科技使惡意行為者更容易扭曲選舉，從而使社會陷入混亂。

受這種威脅尤其嚴重的地方是台灣。隨著與北京的緊張關係加劇，台灣社群媒體和其他線上平台受到虛假訊息轟炸。1月13日台灣總統大選前夕，謊言和惡作劇在網路空間氾濫。

台灣非營利組織事實查核中心（簡稱TFC）指出，投票前幾個明顯的虛假事件四處傳播，製造恐懼，其中之一：中共航母接近台灣海域後，美國航母逃跑。這些假訊息旨在引發對戰爭的恐懼、對食品安全的焦慮以及公眾對美國的不信任。台灣許多人認為中共是這些虛假事件傳播的幕後黑手。

TFC 5月的一項調查顯示：82.8%的台灣受訪者表示，在過去的一年裡曾遇到過虛假信息，高於2022年上一次調查的75%。大約三分之一的人表示，「每天」或「頻繁地」收到虛假信息。

分析中共虛假訊息運作的台灣民主實驗室Doublethink Lab理事長沈伯洋（Puma Shen）表示，中共針對台灣的虛假訊息宣傳在總統選舉期間達到頂峰。如果散播太多假訊息，台灣輿論會發現，會反彈。中共也意識到這一點。

謊言和虛假謠言可以透過事實查核來識別，但精心策劃的祕密洗腦灌輸卻令人棘手。

俄羅斯對烏克蘭也發動了虛假訊息戰。圖為2024年2月24日烏克蘭頓內茨克一棟因砲擊而受損的住宅大樓。（Stringer / AFP）

俄羅斯對烏克蘭也發動了虛假訊息戰。除了像中共那樣散布大量假新聞外，俄羅斯還試圖利用公開資訊來擾亂政治。烏克蘭政府顧問、俄羅斯虛假資訊和宣傳專家齊布爾斯卡（Lyubov Tsybulska）警告說，隨著戰爭的持續，烏克蘭公眾的壓力和不滿與日俱增，為俄羅斯發動心理戰創造了機會。她說：「戰爭已經持續了很長時間，人們變得疲憊不堪。俄羅斯正在利用這些問題和弱點，將其突出放大，從而使我們的社會兩極分化。」

2024年，70多個國家將舉行選舉，涉及超過30億選民。這的確證明了民主的廣傳，但這些選票仍然容易受到虛假訊息的影響。各國不僅必須警惕謊言和惡作劇的公然傳播，還必須警惕利用公開資訊巧妙策劃的洗腦活動。◇