9秒鐘被騙245萬元、10分鐘被騙430萬元......近期警方密集發(fā)布AI詐騙案例。安徽、上海、福建等地均受害者收到“親友”的視頻通話，以各種理由要求轉(zhuǎn)賬。然而，視頻通話竟是詐騙分子利用AI合成的視頻，受害者因視頻“確認(rèn)”對(duì)方身份被騙。

網(wǎng)絡(luò)上有人感嘆，生成式AI技術(shù)最先落地應(yīng)用的場(chǎng)景竟是電信詐騙。記者采訪熟悉電信詐騙案件的律師了解到，電信網(wǎng)絡(luò)詐騙基本上都具有非常完整的上下游犯罪鏈條，而在涉及AI詐騙的案件中，若存在AI侵權(quán)情況，技術(shù)平臺(tái)也有可能要承擔(dān)行政責(zé)任。律師建議，技術(shù)平臺(tái)可以在公安機(jī)關(guān)的指導(dǎo)下，成立反詐部門，共同防范這類AI詐騙的發(fā)生。

(資料圖片)

多地警方密集發(fā)布AI詐騙案情

近日，安徽警方發(fā)布了4月發(fā)生在安慶經(jīng)開區(qū)的一起AI詐騙案件。4月27日，何先生的微信“好友”突然向其發(fā)起視頻通話，電話接通后，何先生看到“好友”正在一間會(huì)議室內(nèi)，就在他準(zhǔn)備進(jìn)一步詢問時(shí)，“好友”直接掛斷了電話，并表示在會(huì)議中有重要事情交代，需要何先生添加QQ溝通。

隨后，“好友”在QQ上告訴何先生，目前有一個(gè)項(xiàng)目招標(biāo)需要周轉(zhuǎn)資金，希望何先生先行幫忙墊付。“因?yàn)榇蛄艘曨l電話又是熟人”，“我就沒多想，就轉(zhuǎn)賬了”，基于對(duì)“熟人”的信任，何先生沒有猶豫，立刻讓家人將245萬元轉(zhuǎn)到對(duì)方指定的賬號(hào)上，直到事后撥打?qū)Ψ诫娫挷诺弥或_。

經(jīng)安慶經(jīng)開公安分局全力追查，5月22日，民警將先行追回的132萬元被騙款返還給何先生。目前，該案件正在進(jìn)一步偵辦中。

5月24日，上海市公安局浦東分局孫橋派出所也發(fā)布一起及時(shí)得到攔截的AI詐騙案件。前不久，當(dāng)事人錢某上班期間，接到其嫂子視頻電話，視頻中稱其購(gòu)買的機(jī)票定金已付，還有49800元尾款尚未付清，讓錢某幫忙轉(zhuǎn)賬支付。

錢某轉(zhuǎn)賬前，民警接到其同事報(bào)警趕到現(xiàn)場(chǎng)。民警通過查看相關(guān)聊天記錄，結(jié)合日常詐騙分子常用話語進(jìn)行分析，覺得事情另有蹊蹺。經(jīng)詢問當(dāng)事人視頻時(shí)對(duì)方表情及神態(tài)不是很自然，且視頻時(shí)間較短，簡(jiǎn)單交流后便讓其進(jìn)行轉(zhuǎn)賬付款?，F(xiàn)場(chǎng)民警要求當(dāng)事人與其嫂子取得聯(lián)系，經(jīng)確認(rèn)其嫂子未與其視頻聊天，也未要求其幫忙購(gòu)買機(jī)票。

此前，在內(nèi)蒙古包頭警方發(fā)布的典型案例中，來自福建的當(dāng)事人郭先生損失慘重。郭先生是一家科技公司的法人代表。今年4月，他的好友突然通過微信視頻聯(lián)系他，稱自己的朋友在外地競(jìng)標(biāo)，需要430萬元保證金，想借用郭先生公司的賬戶走賬。郭先生在10分鐘內(nèi)，先后分兩筆把430萬元轉(zhuǎn)到了對(duì)方的銀行賬戶上。事后，郭先生撥打好友電話才得知被騙。

合力打擊“AI換臉”詐騙

詐騙分子之所以能夠進(jìn)行AI換臉、合成聲音，就在于他們掌握了一定的受騙人信息，比如受騙人的照片、視頻、語音等。上海德禾翰通律師事務(wù)所律師鄭晨接受記者采訪表示，目前個(gè)人信息泄露的風(fēng)險(xiǎn)較高，渠道也非常多樣化。舉例來說，目前很多門禁都是人臉識(shí)別，這些供應(yīng)商都存在信息泄露風(fēng)險(xiǎn)，而信息泄露的渠道往往難以溯源。

還有分析稱，受騙人對(duì)外公開的社交帳號(hào)如微博上，只要不是博主主動(dòng)設(shè)置自己發(fā)布的內(nèi)容僅在一定范圍內(nèi)可見，那么理論上任何人都是可以搜索查看，甚至還可以看到博主和好友的互動(dòng)。另外，受騙人的個(gè)人信息可能被有意泄露甚至售賣。

鄭晨分析說，不論是AI詐騙還是傳統(tǒng)的電信網(wǎng)絡(luò)詐騙，基本上都具有非常完整的上下游犯罪鏈條?！吧嫌纹脚_(tái)主要負(fù)責(zé)篩選群體、做技術(shù)維護(hù)、提供財(cái)務(wù)支持；中游負(fù)責(zé)具體實(shí)施詐騙行為，主要是訓(xùn)練話術(shù)，也就是普通人會(huì)接觸到的打電話、發(fā)短信的行為人；下游主要負(fù)責(zé)洗錢，將詐騙犯罪所得進(jìn)行轉(zhuǎn)化?！?/p>

值得注意的是，在生成式AI技術(shù)浪潮席卷全球的過程中，主流監(jiān)管框架認(rèn)為技術(shù)提供方、服務(wù)方應(yīng)承擔(dān)主要風(fēng)險(xiǎn)防范責(zé)任。鄭晨認(rèn)為，AI詐騙中利用AI技術(shù)實(shí)施的違法犯罪行為，技術(shù)平臺(tái)方在不具有主觀故意的情況下可以阻卻刑事責(zé)任。不過，在利用AI實(shí)施的侵權(quán)行為中，若平臺(tái)方存在過錯(cuò)，可能會(huì)因違反相關(guān)規(guī)定而承擔(dān)行政責(zé)任。

“我建議技術(shù)平臺(tái)可以在公安機(jī)關(guān)的指導(dǎo)下，成立反詐部門，共同防范這類AI詐騙的發(fā)生?！编嵆空f。

“AI詐騙是近期剛剛出現(xiàn)的詐騙新形式，雖然目前國(guó)內(nèi)還是以傳統(tǒng)電信網(wǎng)絡(luò)詐騙如以固定話術(shù)發(fā)短信、打電話和加微信等為主，但不排除AI詐騙今后在國(guó)內(nèi)也會(huì)逐漸增多。尤其是這種詐騙的成功率會(huì)有所提高，對(duì)于普通人來說防范難度更大?！编嵆刻嵝颜f。

近期多地警方也發(fā)布提示，針對(duì)花樣翻新的智能AI詐騙，公眾要提高防范意識(shí)，不輕易提供人臉、指紋等個(gè)人生物信息給他人，不過度公開或分享動(dòng)圖、視頻等；網(wǎng)絡(luò)轉(zhuǎn)賬前要通過電話等多種溝通渠道核驗(yàn)對(duì)方身份，一旦發(fā)現(xiàn)風(fēng)險(xiǎn)，及時(shí)報(bào)警求助。如果有人自稱“熟人”、“領(lǐng)導(dǎo)”通過社交軟件、短信以各種理由誘導(dǎo)你匯款，務(wù)必通過電話、見面等途徑核實(shí)確認(rèn)，不要未經(jīng)核實(shí)隨意轉(zhuǎn)賬匯款，不要輕易透露自己的身份證、銀行卡、驗(yàn)證碼等信息。如不慎被騙或遇可疑情形，請(qǐng)注意保護(hù)證據(jù)立即撥打96110報(bào)警。

關(guān)鍵詞：