AI換臉時代,當心換掉你的安全!
發布日期:2020-05-28    來源:中國高科技行業門戶-熱點聚焦    

主題詞AI.換臉.安全



從先前的P圖,到如今的換臉,人工智能飛速發展,在方便人們生活的同時,也增添了很多樂趣。AI換臉一時爽,但是歡樂背后帶來的往往是更深的警惕:技術的更新換代,最終也將釋放人性陰暗的一面。

 

AI換臉背后映射巨大的網絡安全問題

 

首先,AI 換臉面臨的一大風險,是對信息真實性的嚴峻挑戰。俗話說“耳聽為虛,眼見為實”,實時監控早已成為現實中記錄事件真相的重要手段,在監控攝像頭的保護下,我們活得越來越安全似乎已經變成共識。然而,隨著AI換臉技術的發展,監控視頻開始面臨被篡改影像的風險,在本來就假消息滿天飛的互聯網時代,這無疑將造成更嚴重的信任崩塌。或許未來某一天,任何人發布或者引用的資料,都有可能被大眾質疑其真實性,而比這更可怕的是,我們尚不自知自己是否正在被欺騙。

 

其次,AI換臉也會大大增加侵犯肖像權的可能性,讓任何一個人成為這項技術的攻擊目標只是時間問題。和靜態的ps修圖不同,AI 是動態的換臉,從這個角度來說,其存在本身就是對肖像權的一種威脅。國外已有類似案例:過去兩年,就有人通過這項技術,將好萊塢著名影星的臉疊加到其他演員身上,憑借“杜撰明星影片”而走紅。換臉儼然已變成一種赤裸裸的“技術不法行為”,雖然后來類似的換臉視頻遭到了封殺,但顯然,“潘多拉的魔盒”已經被打開,包括ZAO等軟件開始大行其道。

 

第三,隨著AI換臉技術的大規模流行,AI變聲也開始嶄露頭角。早些年谷歌就曾研究過AI變聲的相關技術,雖只停留在論文層面。但國內廠商卻是更為激進,不少研究輸入法的廠商已開始將該項技術應用到產品中并嘗試進行推廣。在輸入一段語音后,等待片刻即可生成特定音色和音調的語音,擬真程度可謂是相當出色。而與此同時,近年來借助AI語音構成的詐騙案也開始層出不窮,其中有就一項嫌煩利用人工智能模仿公司高層聲音騙走1000萬美元的案例。

 

第四,當今一些銀行基于人工智能,推出人臉識別的網絡支付轉賬系統來進行大額轉賬,目前這項技術看起來似乎很安全、很“完美”,但在AI變臉技術面前,或許也會成為最脆弱的安防技術。

 

AI換臉技術不能一刀切

 

當然,AI 換臉技術也不能一棍子打死。不可否認的是,AI技術發展到當下階段,在醫療、出行等各行各業也為用戶帶來更多希望和驚喜。例如《速度與激情 7》中的演員保羅 · 沃克在拍攝前意外去世,制作方利用替身+動態捕捉+CGI 動畫的方式,把保羅的臉換在替身演員身上。這類技術讓電影得以上映,也為藝術創作提供了更多的可能性、創造力及想象力。還有類似“AI復活張國榮”這種致敬作品在粉絲之間廣為流傳。甚至有人將自己逝去親人的面容,使用同類技術,換在視頻中,以此來緬懷先人。

 

AI應用是未來發展的大趨勢,為了保護數據安全就“粗暴一刀切”全部封殺并不現實。

 

保護信息安全需要共同努力

 

為了規范AI換臉,防止技術被不當利用,社會各方需要共同努力:

 

·監管部門需要加強立法和監管,以適應社會發展要求;

 

·互聯網平臺需要建立防治虛假信息的機制,承擔起監督和管理責任;

 

·企業和研究機構,不但需要在管理上完善各項保密制度,更需要通過開發有效的技術手段來識別虛假的AI信息以保護企業內部重要數據的安全;

 

·網絡音視頻信息服務使用者,應依法使用網絡音視頻信息服務,當自己的權利受到侵犯時應立即舉報,維護個人的合法權益;

 

·公眾應該及時了解技術發展的趨勢,增加自身防騙意識和能力,在面對網絡信息時,做到不信謠、不傳謠。

 

結語:水能載舟亦能覆舟,AI只是一項技術,它的存在不分善惡,但使用該技術的人是有立場的。或許AI換臉這類技術正在以我們難以預見的方式發展、演變,但永遠別忘了,它只是一個工具,背后操控它的,始終還是人心。



查看網絡原文>>>

版權所有@ 北京市電子科技情報研究所 京公網安備 11010102003025號

地址:北京市東城區北河沿大街79號  郵編:100009  Email:[email protected]

在線人數:361

當日訪問計數:33356

累計訪問計數:58297818

中银国际股票配资