接到“弟弟”的借錢電話后轉(zhuǎn)賬數(shù)萬元,被屏幕對面的“好友”騙走數(shù)百萬元,“多人視頻會議”中竟然只有自己是真人……近期,全國各地接連曝光多起電信詐騙案件,其共同特點是詐騙分子利用AI合成技術(shù)“換臉”“換聲”,這種深度偽造導(dǎo)致受害者“耳聽為虛”“眼見也非實”。
當(dāng)前,詐騙分子得以構(gòu)建復(fù)雜的虛擬場景,通過合成視頻、音頻增加詐騙的可信度,呈現(xiàn)出AI技術(shù)普及、應(yīng)用多元、身份偽造具體化以及作案模式精準(zhǔn)化等特點。
今年某地警方披露的一起案件令人瞠目結(jié)舌。一家跨國公司地方分部的職員受邀參加總部首席財務(wù)官發(fā)起的“多人視頻會議”,并按要求先后轉(zhuǎn)賬多次,將2億港元分15次轉(zhuǎn)到5個賬戶內(nèi)。實際上,那場會議中,除了他自己以外,其余與會人員全部是詐騙團(tuán)隊通過“AI換臉”和“AI換聲”偽造的。
近年來,通過AI實現(xiàn)的聲音和畫面深度偽造技術(shù)門檻不斷降低,過去諸如影視大片中才能出現(xiàn)的場景,如今只需要在互聯(lián)網(wǎng)上花費數(shù)元購買一個軟件就能一鍵生成。但如果用“放大鏡”仔細(xì)觀察一些AI詐騙案件,則會發(fā)現(xiàn)“變聲換臉”的AI技術(shù)應(yīng)用,往往只是電信詐騙的最后一環(huán)。
隱私信息泄露往往是前置條件。為了獲取某個人的聲音,不法分子甚至通過撥打騷擾電話進(jìn)行采集,而后僅通過通話錄音,就能偽造出對方的聲音。個人在社交平臺上展示的影像資料,也讓不法分子可以輕松獲取個人肖像信息。
盡管電信詐騙工具一直在變,但防范仍是不變的第一要務(wù),防范優(yōu)于打擊。詐騙得手,往往是利用了人性的弱點。詐騙者會利用受害者的恐懼心理、應(yīng)急狀態(tài),冒充領(lǐng)導(dǎo)、公檢法人員、親友等,讓被騙者亂了分寸。對普通人來說,應(yīng)當(dāng)樹立“耳聽和眼見不一定為實”的意識,提升破解“障眼法”的能力,一旦遇到“掏腰包”的關(guān)鍵環(huán)節(jié)就要高度警惕。
在增強個人防范能力的同時,技術(shù)防范也同樣重要。針對科技手法花樣翻新的AI電詐,需要用科技應(yīng)對科技,用“魔法打敗魔法”。
一方面,互聯(lián)網(wǎng)平臺等需要保障公民個人信息尤其是生物特征等敏感信息的安全。另一方面,可以推廣數(shù)字水印等鑒偽技術(shù),使其幫助檢測和揭露被AI篡改的內(nèi)容。對于重要應(yīng)用場景中的人臉識別技術(shù),應(yīng)修補漏洞,防范手機攝像頭權(quán)限被惡意利用,以技術(shù)反制不法行為,將群眾與電詐風(fēng)險進(jìn)行“無感”隔離。(董雪) |