隨著AI換臉、換聲的視頻在網(wǎng)絡(luò)社交平臺(tái)上日漸流行，給人們帶來(lái)新體驗(yàn)的同時(shí)，也被不法分子所利用。近日，山東省濟(jì)南市商河縣公安局刑警大隊(duì)破獲了一起利用AI換臉技術(shù)詐騙的典型案件。

“今年5月份，黃某某(化名)在家刷短視頻時(shí)收到了一條私信，對(duì)方自稱(chēng)是黃某某的表哥，寒暄幾句取得黃某某初步信任后，對(duì)方又讓黃某某添加了其QQ號(hào)。”偵辦此案的商河縣公安局刑警大隊(duì)三中隊(duì)中隊(duì)長(zhǎng)張振華告訴話人間(報(bào)料郵箱：368064845@qq.com)記者，黃某某的表哥由于在體制內(nèi)工作，因此對(duì)方以自己身份不便為由，希望黃某某幫自己給一個(gè)需要資金周轉(zhuǎn)的朋友，轉(zhuǎn)一筆大額資金。

為了表示誠(chéng)意，“表哥”索要了黃某某的銀行卡號(hào)，并稱(chēng)先讓朋友給黃某某轉(zhuǎn)款后，再讓黃某某轉(zhuǎn)出。很快，黃某某就收到了對(duì)方發(fā)來(lái)的“轉(zhuǎn)賬憑證”，雖然看到了“轉(zhuǎn)賬憑證”，但黃某某并沒(méi)有收到這筆轉(zhuǎn)款，因此沒(méi)有立即幫“表哥”轉(zhuǎn)賬。

嫌疑人發(fā)送的轉(zhuǎn)賬憑證

“因?yàn)榻?jīng)過(guò)我們的反詐宣傳，對(duì)于冒充熟人詐騙的案例，黃某某比較了解，他有一定的警惕性。”張振華說(shuō)，大約過(guò)了20分鐘，“表哥”再次發(fā)消息給黃某某，并稱(chēng)大額轉(zhuǎn)款到賬會(huì)有延遲，目前急需這筆錢(qián)，黃某某能否先行墊付一下。

黃某某隨后與“表哥”進(jìn)行了視頻通話，黃某某見(jiàn)到視頻中的人和表哥一模一樣，不過(guò)對(duì)方聲音比較低，大約十幾秒后，對(duì)方稱(chēng)有會(huì)議便掛斷了視頻通話。

黃某某確信了對(duì)方身份后，于是向?qū)Ψ教峁┑你y行賬戶(hù)轉(zhuǎn)了30余萬(wàn)元。收到這筆錢(qián)后，對(duì)方還繼續(xù)催促黃某某轉(zhuǎn)出剩余的欠款。就在黃某某繼續(xù)籌集資金的過(guò)程中，黃某某發(fā)現(xiàn)起初添加自己的短視頻賬號(hào)已經(jīng)顯示被封禁，他急忙給表哥打去電話核實(shí)，才知道其表哥對(duì)此事毫不知情。意識(shí)到受騙的黃某某立即報(bào)警。

嫌疑人的詐騙話術(shù)

警方根據(jù)嫌疑人與黃某某網(wǎng)聊時(shí)的IP地址，判定該團(tuán)伙在境外實(shí)施詐騙，由國(guó)內(nèi)銷(xiāo)贓洗錢(qián)，是一起采用AI技術(shù)換臉、冒充受害者熟人進(jìn)行點(diǎn)對(duì)點(diǎn)網(wǎng)絡(luò)詐騙的案件。商河警方通過(guò)技術(shù)手段偵查，兩次前往廣東東莞，抓獲犯罪嫌疑人7人，目前此案已進(jìn)入法院審判階段。

張振華表示，在案件的偵破過(guò)程中，他們?cè)稍?xún)過(guò)不少技術(shù)人員，這種實(shí)時(shí)通話的視頻合成技術(shù)難度比較大，一般的小公司很難實(shí)現(xiàn)，但即便如此，這種詐騙手段仍然可以防范。

“因?yàn)榇祟?lèi)AI合成技術(shù)的視頻通話時(shí)間一般都相對(duì)較短，犯罪嫌疑人擔(dān)心通話時(shí)間過(guò)長(zhǎng)會(huì)露出破綻，人臉一旦變化位置或者外圍環(huán)境發(fā)生變化，都可能會(huì)使犯罪嫌疑人恢復(fù)原貌。”張振華告訴記者，對(duì)于普通群眾而言，一是要注意保護(hù)個(gè)人隱私信息，其次遇到熟人或親戚借錢(qián)時(shí)，要及時(shí)與對(duì)方進(jìn)行電話溝通，視頻通話時(shí)可以讓對(duì)方做出固定的手勢(shì)或?qū)γ娌窟M(jìn)行遮擋，查看是否有變化，以此判斷對(duì)方身份的真假。