針對(duì)近期美國(guó)發(fā)生多起AI深度造假事件，當(dāng)?shù)貢r(shí)間2月1日，美國(guó)聯(lián)邦通信委員會(huì)(FCC)主席傑西卡·羅森沃塞爾(Jessica Rosenworcel)提議，將使用AI生成的語(yǔ)音撥打機(jī)器人電話(huà)(robocall)定為非法。
機(jī)器人電話(huà)(robocall)也被稱(chēng)為預(yù)錄電話(huà)，使用計(jì)算機(jī)控制的自動(dòng)撥號(hào)器來(lái)發(fā)出預(yù)先錄製好的信息，就像機(jī)器人一樣，一般以推銷(xiāo)或傳播某種信息為目的，頻繁騷擾手機(jī)用戶(hù)。
美國(guó)聯(lián)邦通信委員會(huì)表示，機(jī)器人電話(huà)中用人工智能生成的聲音「在過(guò)去幾年中不斷升級(jí)」，並且「有可能通過(guò)模仿名人、政治候選人和親密家庭成員的聲音來(lái)製造錯(cuò)誤信息迷惑消費(fèi)者」。
羅森沃塞爾表示，她提出的宣告式裁決(Declaratory Ruling)將「根據(jù)現(xiàn)行法律認(rèn)定這種新興技術(shù)是非法的，這將為我們?cè)谌珖?guó)各州總檢察長(zhǎng)辦公室的合作夥伴提供新的工具，他們可以利用這些工具打擊騙局，保護(hù)消費(fèi)者。」報(bào)道稱(chēng)，委員們將在未來(lái)幾周內(nèi)對(duì)該提案進(jìn)行表決。
此前，人工智能生成的虛假信息已多次干擾美國(guó)政治活動(dòng)。
當(dāng)?shù)貢r(shí)間1月21日，美國(guó)的一些選民們?cè)拥揭粋€(gè)類(lèi)似拜登聲音的電話(huà)，要求選民「把你的票留到11月選舉」，理由是1月23日投票的人沒(méi)法再參與屆時(shí)的總統(tǒng)選舉投票。電話(huà)還特意用了拜登的口頭禪「真是一派胡言」。據(jù)美聯(lián)社報(bào)道，電話(huà)說(shuō)法不實(shí)。
此外，在2023年2月舉行的芝加哥市長(zhǎng)選舉第一輪投票前夕，社交媒體上出現(xiàn)了一段關(guān)於候選人保羅·瓦拉斯的視頻，偽造瓦拉斯的聲音發(fā)表言論，聲稱(chēng)「警察隨隨便便就可以射殺嫌疑人」，並呼籲削減警察經(jīng)費(fèi)。在瓦拉斯向社交媒體平臺(tái)發(fā)出投訴之後，社交媒體刪除了這段視頻，但該視頻在下架前已經(jīng)被瀏覽了數(shù)千次。
語(yǔ)音克隆初創(chuàng)公司ElevenLabs證實(shí)，偽造的拜登語(yǔ)音是由該公司提供的工具生成。目前，ElevenLabs已暫停利用深度造假技術(shù)發(fā)布信息的賬戶(hù)。
據(jù)澎湃新聞報(bào)道，互聯(lián)網(wǎng)安全組織「網(wǎng)絡(luò)尖刀」的一位匿名技術(shù)專(zhuān)家表示，深度造假技術(shù)製作的內(nèi)容在視覺(jué)、聽(tīng)覺(jué)上非常逼真，很難單憑肉眼或傳統(tǒng)的技術(shù)手段辨別真?zhèn)?。攻擊者可以利用技術(shù)手段隱藏深度造假的痕跡和特徵，使其難以被檢測(cè)到?，F(xiàn)在互聯(lián)網(wǎng)上存在大量圖片和視頻數(shù)據(jù)，這些數(shù)據(jù)用於訓(xùn)練深度學(xué)習(xí)模型，從而也被深度造假技術(shù)利用，「可用的數(shù)據(jù)集越多，模型的質(zhì)量就越高，深度造假的結(jié)果離真人越近?！?/p>
那麼，在傳播過(guò)程中如何加強(qiáng)對(duì)此類(lèi)視頻的監(jiān)管呢?
中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心執(zhí)行主任劉曉春建議，語(yǔ)音克隆公司研發(fā)App時(shí)，對(duì)於跟名人有關(guān)、誤導(dǎo)性較強(qiáng)、傳播風(fēng)險(xiǎn)較大的視頻，可以在傳播過(guò)程中加強(qiáng)顯性標(biāo)識(shí)的設(shè)計(jì)，明確標(biāo)明這是一個(gè)合成內(nèi)容，提醒受眾。(綜合來(lái)源：新華社、央視新聞、澎湃新聞)
電話(huà)：（香港）852-2564 0768
（深圳）86-755-83518792 83517835 83518291
地址：香港九龍觀(guān)塘道332號(hào)香港商報(bào)大廈
