AI火了，騙子也來了！

近日，兩起利用AI換臉實(shí)施詐騙的案例引發(fā)關(guān)注。繼包頭警方發(fā)布“福州市某科技公司法人代表郭先生10分鐘內(nèi)被人用AI換臉詐騙430萬元”后，5月25日，安徽警方也通過當(dāng)?shù)孛襟w披露了一起類似案件，詐騙分子使用了一段9秒鐘的智能AI換臉視頻，佯裝“熟人”，導(dǎo)致安慶經(jīng)開區(qū)的何先生被詐騙245萬。

短時(shí)間內(nèi)曝光的兩起AI換臉詐騙案，對(duì)今年以來持續(xù)火爆的AI技術(shù)發(fā)展無疑是一種警醒：未來令人“防不勝防”的AI換臉詐騙會(huì)否大規(guī)模爆發(fā)？又應(yīng)如何防范這類詐騙？

(資料圖片僅供參考)

5月25日，新京報(bào)貝殼財(cái)經(jīng)記者采訪反詐民警以及行業(yè)專家發(fā)現(xiàn)，目前使用AI換臉詐騙的案例并不多，同時(shí)在上述兩起詐騙案中受害者均是先入為主認(rèn)為發(fā)來視頻的是朋友的社交賬號(hào)才有了后續(xù)“AI換臉”的登場(chǎng)，因此源頭上應(yīng)先防止自己賬號(hào)被盜用、警惕他人社交賬號(hào)真?zhèn)巍４送?，AI技術(shù)的發(fā)展也確實(shí)降低了AI換臉的門檻，客觀上降低了AI換臉詐騙的成本。

兩起AI換臉詐騙有何共同點(diǎn)？針對(duì)性詐騙，賬號(hào)被盜是問題關(guān)鍵

可以發(fā)現(xiàn)，在上述詐騙案例中，詐騙分子對(duì)受害者和其好友的身份、日常話術(shù)均有深刻了解，才能完成詐騙。此外，在偽造好友身份這一環(huán)，通過AI偽造視頻只是增加可信性，但消息確實(shí)是從“好友”的微信號(hào)發(fā)來，才造成了受害者深信不疑。

電信專家付亮表示，在何先生的案例中，首先出現(xiàn)微信直接聯(lián)系，然后轉(zhuǎn)QQ號(hào)碼直連，轉(zhuǎn)賬也未通過微信或QQ（繞開了騰訊的安全判定），“假冒QQ好友的詐騙手法快30年了，都沒有用到AI，互聯(lián)網(wǎng)快速發(fā)展，更多防護(hù)意識(shí)較弱的人成為網(wǎng)民，快捷的電子轉(zhuǎn)賬也為騙子提供了便利。兩起案例中都是盜用賬號(hào)詐騙，AI換臉只是輔助?！?/p>

民間互聯(lián)網(wǎng)安全組織網(wǎng)絡(luò)尖刀創(chuàng)始人曲子龍告訴新京報(bào)貝殼財(cái)經(jīng)記者，此類AI換臉的詐騙手段都是定向針對(duì)性詐騙，而非傳統(tǒng)意義上“廣撒網(wǎng)，打打電話”的電信詐騙，往往干的也都是“大單”。源頭上需要防止賬號(hào)被盜用，不要輕易加陌生人，“也要防止其他人用小號(hào)加你，過一段時(shí)間改成你親友，然后再實(shí)施詐騙。”

AI換臉詐騙不會(huì)大規(guī)模出現(xiàn)，有哪些方法可以識(shí)別對(duì)方是AI換臉？

5月25日，某沿海城市反詐專班民警對(duì)新京報(bào)貝殼財(cái)經(jīng)記者表示，目前并未發(fā)現(xiàn)當(dāng)?shù)赜惺褂肁I冒充熟人作案的案例，主要是這種詐騙方式手段特殊，需要特定人群、還需要人臉數(shù)據(jù)等，要素比較多，因此不會(huì)大規(guī)模出現(xiàn)。

實(shí)際上，AI換臉技術(shù)早在2017年就已在網(wǎng)上流行，不論是使用女明星的臉替換成人影星的色情影片，還是為了娛樂使用自己的臉替換電影形象曾流行一時(shí)的App“ZAO”，使用的都是同一類技術(shù)。

如何識(shí)別對(duì)方是AI換臉？曲子龍表示，AI換臉目前在連續(xù)動(dòng)作的實(shí)時(shí)渲染方面還是會(huì)存在技術(shù)缺陷，比如在說話的時(shí)候嘴部動(dòng)作、眼部動(dòng)作，如果仔細(xì)看都會(huì)存在一定的“不和諧”情況，如丟幀、嘴巴時(shí)大時(shí)小等問題。

有專家提示稱，“AI假臉”的紋理特征存在破綻。例如，偽造后的視頻人物的眼睛或牙齒輪廓細(xì)節(jié)容易不一致；兩只眼睛瞳孔的顏色不一樣或瞳孔中心反射的細(xì)節(jié)不一樣；很多偽造視頻由于視頻分辨率低于原始視頻，偽造出來的視頻牙齒邊緣過于整齊等。

不過，一個(gè)現(xiàn)實(shí)問題是，隨著AI技術(shù)的進(jìn)步，AI換臉的門檻確實(shí)也越來越低?！耙郧癆I換臉還需要一兩百?gòu)垐D片，現(xiàn)在不同角度的照片，一般5到8張就可以生成很不錯(cuò)的模型了?！鼻育堈f。

曲子龍?zhí)寡裕癆I發(fā)展太快，想要防止臉被盜用太難了，尤其是一些公眾人物、明星、網(wǎng)紅，他們的照片很好獲取。像微博、抖音、朋友圈，或者干脆去偷拍你幾張高清照片，都能通過AI建模實(shí)現(xiàn)換臉?！?/p>

付亮對(duì)新京報(bào)貝殼財(cái)經(jīng)記者表示，對(duì)于此類詐騙手法，主要要防范騙子通過微信或 QQ 假冒熟人（親戚、朋友、客戶）詐騙。一方面，有資金往來，應(yīng)先電話確認(rèn)；此外，把錢打到陌生賬戶，要反復(fù)確認(rèn)；最后，一定切記，對(duì)面和你聊天的不一定是本人，可能是假冒的，甚至可能是機(jī)器人，不要輕易相信。

記者聯(lián)系郵箱：luoyidan@xjbnews.com