隨著AI技術的快速發展,生成式AI或通用型AI所伴隨的風險也越發明顯。2024年8月21日,美國聯邦通訊委員會(Federal Communications Commission, FCC)宣布與Lingo通訊公司達成和解。本案起因於2024年美國總統大選初選時,Lingo通訊公司利用AI對現任總統Joe Biden的聲音進行深偽(deepfake),企圖誤導新罕布夏州的選民不要投票,藉以干預初選結果。而FCC與Lingo通訊公司達成的和解條件究竟是什麼?是否有其他法律行動?臺灣又該如何自我警惕?本文以下將逐一進行說明。
FCC與Lingo通訊公司的和解條件
Lingo通訊公司為避免受到更強烈的執法措施,最終與FCC達成和解,除須Lingo通訊公司須支付1百萬美元的民事制裁(Civil Penalty)以外,更須嚴格遵守KYC(Know Your Customer)和KYUP(Know Your Upstream Provider)義務,包含:
如果電話號碼是由Lingo通訊公司提供,並由該公司的通訊網路發起通話時,Lingo通訊公司必須採行最高等級的 A 級認證,即必須驗證客戶身分以及驗證電話號碼與身分關聯性;
透過其他補強資料,確認每位客戶和上游供應商的身分和業務範圍;
當Lingo通訊公司負責傳輸通訊時,只能對「有能力應對自動化語音,請求溯源追蹤時也有能力處理」的上游供應商進行傳輸。
其他法律行動
在今年2月,FCC就已經與新罕布夏州檢察長辦公室協調,命Lingo通訊公司立即停止傳輸可疑通訊。事實上,這並非FCC第一次採取此種措施,在汽車保固詐騙電話、學生貸款詐騙電話以及掠奪性房屋抵押貸款電話中,也透過相同方式防止損害繼續擴大。
不僅如此,FCC也透過其他方式嘗試減緩AI科技所伴隨的濫用風險。像是要求廣播和電視中的政治廣告必須揭露使用AI技術的情形,或者自動化語音使用AI深偽技術前,必須取得客戶(也就是受話方)的事前同意。
而除了Lingo通訊公司以外,該公司的政治顧問—同時也是這次爭議的主使者—Steve Kramer,也受到來自不同政府機關的法律行動。新罕布夏州對Steve Kramer提出抑制選民罪以及候選人冒充罪等輕重不一的刑事指控,而FCC更主張應向其裁處600萬美元的罰鍰。
其實Steve Kramer類似的案件不只這一樁,新罕布夏州的婦女投票聯盟也曾因類似的手法,和Steve Kramer發生爭訟。今年7月時,美國司法部甚至向新罕布夏州立法院提出意見,表示若這些自動化語音對選民進行恐嚇、脅迫,則有違《投票權法》第11(b)條之虞。
小結
選舉的虛假訊息與資訊操縱自古以來一直都是相當棘手的問題,其實不僅美國,歐盟近年來的大選也不斷為此所困。然而,此一議題同時涉及選民自由意志所衍生的投票權、政治性言論的保障、乃至於民主國原則的實踐,光是如何定義虛假訊息都充滿爭議與風險。而AI技術雖然在科技發展立起無與倫比的里程碑,但在人性的驅使下,實在無法忽視AI技術所伴隨的系統性風險。
實際上,臺灣雖然有《公職人員選舉罷免法》(下稱「選罷法」)、《社會秩序維護法》(下稱「社維法」)甚至《中華民國刑法》等相關規定,得以對選舉過程中的虛假訊息或資訊操縱(例如選罷法第53、110條規定,不得於投票前10日內公布選舉民調;又或者是社維法第63條、刑法第310條對散布謠言甚至誹謗的處罰)加以規範。但在操縱手法與技術不斷更新變化的數位時代,上述極度限縮特定以及極度抽象不特定的兩種立法模式,是否足以支撐我國民主社會持續運作,而不受國際局勢及地緣政治過度干涉,仍舊是未知數。
FCC與Lingo通訊公司的案例若發生在我國,主管機關為何、有什麼應對措施、法源依據何在、是否構成刑事犯罪、時效上是否可行……都可能引發熱議,為我國的選舉、資訊與科技,敲響警鐘。在數位浪潮下,究竟如何應對新興風險,絕對是我國未來無可忽視的重要議題。
資料來源:
編輯:林煒鎔、黃皓羽
コメント