安基網 首頁 資訊 安全報 查看內容

雪缘园即时比分直播app:關于Deepfake的真相——足以騙倒任何人的強大工具

英超雪缘园 www.trual.com.cn 2020-1-1 17:42| 投稿: xiaotiger |來自: 互聯網


免責聲明:本站系公益性非盈利IT技術普及網,本文由投稿者轉載自互聯網的公開文章,文末均已注明出處,其內容和圖片版權歸原網站或作者所有,文中所述不代表本站觀點,若有無意侵權或轉載不當之處請從網站右下角聯系我們處理,謝謝合作!

摘要: 從本質層面來講,deepfake相當于人臉加聲音克隆AI技術的結合,計算機借此生成的視頻可創造出足以亂真的顯示效果。為了開發出高質量的deepfake偽造成果,開發人員需要不斷積累克隆目標的面部/聲音素材,包括與本人表現非常相似的其他模仿者素材,總視頻片段需求量往往高達數十小時。Deepfake的實際創建 ...

從本質層面來講,deepfake相當于人臉加聲音克隆AI技術的結合,計算機借此生成的視頻可創造出足以亂真的顯示效果。

為了開發出高質量的deepfake偽造成果,開發人員需要不斷積累克隆目標的面部/聲音素材,包括與本人表現非常相似的其他模仿者素材,總視頻片段需求量往往高達數十小時。

Deepfake的實際創建需要兩人的參與,一人(大多為知名人物)提供目標面部/聲音,另一人(普通人即可)則提供形體輪廓。

從技術到現實

從技術的角度來看,視覺deepfake需要利用機器學習工具進行設計。這類工具能夠將與兩人相關的全部面部表情圖像,解碼并拆分成由一系列關鍵屬性(例如位置)組成的矩陣,并將雙方同一目標的鼻子、眼睛與嘴巴映射起來。與此同時,機器學習一般認為皮膚紋理及胡子等細節屬于次要屬性,對于偽造效果的影響相對較小。

一般來說,以這樣的方式進行解構時,我們就能利用剝離出來的元素重新構建面部的原始圖像。此外,決定deepfake實際質量的一大核心要素,在于最終圖像的重建效果——重建效果越好,模仿者的面部活動與模仿目標的五官越是協調統一。

伊利諾伊理工大學斯圖爾特商學院副教授兼研究員Matthew Dixon對這一問題做出了詳盡說明。他在采訪當中指出,目前利用某些程序與技術重建面部與聲音已經不是難事:

“一旦對目標進行了數字克隆,就可以制作出其說出任何言語的偽造視頻,包括在社交媒體上發表惡意宣傳的影像。普通社交媒體用戶根本無法分辨該視頻是真是假?!?/p>

同樣的,在談到deepfake技術的積極作用時,Ethereum Express(一套跨平臺deepfake解決方案,期盼自有區塊鏈創新模型加權益證明共識協議)公司CEO Vald Miller在采訪中表示,圖像合成過程實際用到了GAN機器學習技術,即通過算法部署兩套神經網絡,通過彼此對抗強化偽造效果。

其中第一套神經網絡負責生成圖像樣本,第二套則嘗試將真實樣本與偽造樣本區分開來。GAN的工作原理基本等同于兩個人結對工作,第一人負責偽造,第二人則嘗試將復制品與原件區分開來。如果前者的偽造效果不好,后者能夠很快分辨出真偽,接下來前者再據此改進偽造手法、制造出更為逼真的結果。

關于deepfake視頻可能給大眾帶來的負面社會與政治影響,麻省理工學院資深區塊鏈/加密貨幣專家、FTI Consulting高級執行董事Steve McNew在采訪中指出:

“在線視頻正迅速成為最主流的信息來源。設想一下,如果社交媒體和新聞媒體瘋狂地,或者悄無聲息地篡改某些視頻片段,會帶來怎樣的影響。例如,偽造警方公布的攝像內容,或者讓處境艱難的政客或國家領導人發表極具煽動性的演講,都會令廣大民眾信以為真。Deepfake技術,確實很有可能被用于進行惡意宣傳及其他形式的欺詐活動?!?/p>

源于deepfake的惡意用例

由于deepfake技術能夠很好地篡改并模仿現實世界當中,真人目標的面部特征與性格特征,因此人們普遍擔心其被用于各類邪惡的目的。

此外,最近幾年來,互聯網上開始出現大量簡單的操作教程,教導人們如何創建以數字化方式篡改過的音頻/視頻數據。這一切,已經開始令各類人臉識別系統陷入癱瘓。

不僅如此,最近還出現了一系列令人感到不安的音頻/視頻篡改實例,促使人們對deepfake的危害做出深刻勸。例如,最近有一篇文章提到,自2014年誕生至今,deepfake技術已經能夠制作出非常精良的視頻。其中的人物不僅能夠表達某些情感,甚至還能體現某些種族性或者年齡性的特征。在這方面,生理生物識別技術供應商Aerendir公司CEO Martin Zizi在采訪中解釋道:

“AI技術并不是從錯誤當中學習,而是從簡單的統計結果當中學習。某些細節看似微小,但以統計數據為基礎的AI技術卻能利用規模極大的素材庫將其識別出來,并轉化為多維統計分析結果。這可真是成也統計學,敗也統計學?!?/p>

Zizi還補充道,人臉識別的一大特點,在于它實際上基于非常脆弱的神經網絡。從結構的角度來看,這些網絡就像是一座宏偉的大教堂——看似堅不可摧,但移除一塊基石,整棟建筑就有可能瞬間崩潰。為了進一步闡釋這個問題,Zizi表示:

“對于一張包含1200萬個像素的人臉圖像,只要從中刪除3到5個像素,識別率就可能下降為零!研究人員們已經意識到,針對神經網絡攻擊的對抗攻擊完全有能力找到圖像當中作為「基石」的這3到5個像素點?!?/p>

最近deepfake技術還在財務層面捅出一個大婁子。某位未公開姓名的英國能源公司CEO在騙子的誤導下,將22萬歐元(折合24.3萬美元)轉移到某個未知的銀行賬戶。他當時天真地認為電話那頭就是他的老板,該公司母集團的總CEO。但實際上,詐騙者偽造了音頻,利用deepfake成功攻陷了這位企業高管。

區塊鏈有望抵御deepfake沖擊

根據Witness Media Lab最近發布的長達72頁的報告,區塊鏈技術被視為一種有望抵御deepfake相關數字威脅的合法工具。

在這方面,人們可以利用區塊鏈制作數字簽名,用以直接或者間接確認接收到的視頻或者音頻文件是否真實可信。因此,特定視頻當中包含的數字簽名越多,其可靠程度也就越高。

Factom Protocol公司市場營銷總裁Greg Forst在評論此事時表示,談到deepfake問題,區塊鏈確實有潛力給全球技術社區帶來獨特的解決方案——或者至少在其中扮演重要角色。他指出:

“視頻內容一經創建,就會被保存在區塊鏈上,同時附有驗證簽名或者圖形,這無疑給deepfake的操作設下了障礙。但是,這也要求我們第一時間將視頻內容存放在區塊鏈上,同時嚴格強調內容的來源與創作者??梢韻爰?,這種從源頭上?;な薟⒃諉教宓敝型乒閾灤捅曜嫉淖齜?,還有很長的普及道路要走?!?/p>

McNew還認為,憑借著區塊鏈的整體不可變性,一旦特定數據區塊被網絡確認,內容就將無法變更。因此,如果讓視頻(或者照片)在傳播之前首先交由區塊鏈驗證程序處理,那么人們就能很輕松地識別出據此偽造的視頻(照片)。

最后,Miller也提出了類似的觀點。他認為區塊鏈技術與AI相結合,有助于解決deepfake帶來的一系列隱私與安全問題。他補充道:

“AI技術能夠完美解決數據的收集、分析、分類與傳輸工作,顯著提升內部流程的執行速度與質量。在另一方面,區塊鏈則負責「保證」AI的工作內容不受他人干預——包括?;な菁捌湫蛄脅皇艽鄹撓跋??!?/p>

區塊鏈技術也有自身局限性

就目前來講,區塊鏈技術當中仍存在一些小缺陷,這些缺陷導致其無法很快被用于監控互聯網上的deepfake活動。首先,對于初學者而言,該技術的總體可擴展性仍然嚴格受限,特別是考慮到處理數字化視頻/音頻素材時帶來的巨量計算及內存資源消耗。

區塊鏈在deepfake檢測領域的另一個實際應用難題在于,其可能嚴重影響眾包視頻內容的生產(例如YouTube上的各類原創視頻)。關于這個問題,Dixon指出:

“如果來自某貧窮國家的用戶必須先向硅谷科技企業提出申請才能上傳視頻,那么他們還有可能將信息傳遞給全世界嗎?我們能夠放心把決斷之力交給這些科技企業嗎?如果無法建立信任,那么自由也將不復存在?!?/p>

分布式賬本系統Bitlattice(利用多維網格結構解決區塊鏈技術的可伸縮性、安全性以及時序等技術問題)締造者兼公司創始人Hibryda也抱有類似的觀點。他認為:

“區塊鏈技術的最大缺點,在于無法確定媒體簽名是否真實可信。但這并不是區塊鏈或者說技術層面的內部問題——畢竟區塊鏈的作用僅僅是提供難以篡改的分類賬,如此而已。所以面對這類外部矛盾,并沒有很好的解決辦法。雖然以民眾為基礎的驗證流程有望解決問題,但人群同樣可以被操控,因此構建起一套能夠可靠、客觀地進行事實查證的系統,幾乎是項不可能完成的任務?!?/p>

但Forst在采訪中也提到,雖然大多數人覺得利用區塊鏈檢測deepfake活動似乎成本過高,但目前出現的幾種開源解決方案似乎有望帶來可行性。最后,Forst總結道:“區塊鏈最大的缺點,在于它只能在一定程度上解決deepfake問題,而無法徹底將其消滅?!?/p>


小編推薦:欲學習電腦技術、系統維護、網絡管理、編程開發和安全攻防等高端IT技術,請 點擊這里 注冊賬號,公開課頻道價值萬元IT培訓教程免費學,讓您少走彎路、事半功倍,好工作升職加薪!

本文出自:https://www.toutiao.com/a6776507110738887176/

免責聲明:本站系公益性非盈利IT技術普及網,本文由投稿者轉載自互聯網的公開文章,文末均已注明出處,其內容和圖片版權歸原網站或作者所有,文中所述不代表本站觀點,若有無意侵權或轉載不當之處請從網站右下角聯系我們處理,謝謝合作!

相關閱讀

最新評論

 最新
返回頂部
{ganrao} 吉林十一选五手机版走势图 河南快赢481 樱井莉亚下载 高清无码 18选7今日开奖结果 天津时时历史开奖记录比分 阿里巴巴股票行情数据 4月3日灰熊vs雷霆 彩票开奖辽宁十一选五 广西快乐双彩今晚中奖结果 黑龙江十一选五正好 成人之美女麻将小游戏 大輪姦东京热在线 快乐10分的玩法 北京赛车pk计划苹果版 3d六码绝杀 场外配资是否非法经营