今年以來，ChatGPT和GPT-4等技術的應用成為信息科技領域的熱點，引起公眾對AI技術的廣泛關注和熱情。昨日，中國互聯網協會發文稱，伴隨著深度合成技術的開放開源，深度合成產品和服務逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻進行詐騙、誹謗的違法行為屢見不鮮。北京青年報記者查詢發現，國內多地警方已經發布了相關案例。

利用“AI換臉”虛假視頻詐騙已發生多起

(資料圖片僅供參考)

據內蒙古包頭警方消息，近日，福建省一知名企業家被境外詐騙團伙騙走430萬元。在得知涉案的一張銀行卡在包頭市一銀行后，包頭警方立即介入，僅用10分鐘便將錢款及時控制住，為受害人止損336萬余元。

據當事人郭先生介紹，4月20日當天，騙子冒充他的至交好友，通過微信聯系到他，視頻中謊稱一個朋友在外地招標，需要430萬元，且需要公對公賬戶過賬，想要借用郭先生公司的賬戶走一下賬。“從頭至尾都沒有和我提借錢的事情，就說會先把錢給我打過來，再讓我給他朋友賬戶轉過去。因為在視頻中也確認了面孔和聲音，所以我放松了戒備。當時已經臨近中午，對方又說招標款12點前必須到賬，基于對好友的信任，還沒等錢到我的賬戶，我就先把這430萬元給對方打了過去。”郭先生說。

錢款打過去后，郭先生給好友發了一條微信，稱事情已經辦妥。到對方回過來是一個問號，一問才知道自己竟遇上了AI換臉的騙局。

多地警方密集提醒 涉及轉賬交易要格外留意

北京青年報記者注意到，針對AI換臉詐騙的案件，近期國內各地警方密集進行了提醒。

溫州警方表示，不法分子通常會先盜取QQ或微信號，從QQ相冊或微信朋友圈內找到號主照片、視頻、聲音等，大面積找好友聊天，看到有回復的，使用“AI換臉”技術與之進行視頻聊天，再找各種理由騙錢，受害人往往看到視頻聊天界面后，以為是好友本人，便相信轉賬。

武漢警方提醒，在涉及轉賬交易等行為時，個人要格外留意。

對自稱“領導”“朋友”的轉賬要求務必提高警惕

中國互聯網協會則表示，如果有人自稱“家人”“朋友”“老師”“領導”，通過社交軟件、短信、電子郵件等，以各種方式和理由誘導你轉賬匯款，務必第一時間提高警惕。在AI時代，文字、聲音、圖像和視頻都有可能是深度合成的。在轉賬匯款、資金往來這樣的典型場景，要通過回撥對方手機號等額外通信方式核實確認，不要僅憑單一溝通渠道，未經核實就直接轉賬匯款，無論對方是誰。

案例

AI除了換臉換聲扮好友還能合成不雅視頻敲詐

浙江溫州市公安局也通報過一起利用AI換臉技術進行詐騙的案件。在這起案件中，陳先生收到了身處國外的好友“阿誠”發來的私信，在添加了對方的新微信后，對方表示自己最近準備回國，但購買機票的過程中遇到了難題，回國的機票已付了8000元定金，受到國際漫游限制，聯系不上國內航空公司的經理，希望將剩余的錢轉給陳先生，請他幫忙聯系經理進行付款。

對于此人的身份，陳先生有所懷疑，但對方隨后打來視頻電話，視頻中“阿誠”和陳先生揮著手打招呼很是親切，沒過一會兒，對方就掛斷了視頻電話，稱國外網絡很卡。陳先生漸漸打消了心中的顧慮，并在“阿誠”一步步的“指導”下添加了“航空公司經理”的微信替“阿誠”支付了4.9萬元。經過警方核實，騙子用AI換臉技術，利用阿誠社交平臺上先前發布的視頻，截取了面部視頻畫面并進行了“換臉”，從而對陳先生進行了詐騙。

此外，江蘇常州警方也通報了一起類似案例。小劉的初中同學“小韓”通過QQ聯系小劉，準備借6000元錢， “小韓”先發來一條語音，聲音很像本人，后來又給小劉打了一通視頻電話。小劉轉完錢后越想越不對勁，覺得“小韓”表情僵硬，于是撥打小韓的電話，沒想到小韓的QQ賬號被盜了

北青報記者注意到，除了通過AI換臉，然后視頻通話的手段直接詐騙錢財，還有詐騙分子通過AI不雅視頻的方式進行詐騙，詐騙分子用AI技術合成詐騙對象的個人不雅照，然后以舉報、散播等手段威脅當事人，要求詐騙對象匯款。

在溫州警方通報的一起案件中，溫州的陳先生遭遇“AI換臉”敲詐，他收到一封“私家偵探”的敲詐信，同時附帶了他與一名女子的所謂的不雅視頻，信件中對方要求陳先生收件后速與其聯系，不要心存僥幸，并威脅將視頻散播到互聯網。因為知道這是一段合成視頻，但不知如何處理，陳先生向警方求助。目前此案件正在調查中。

本組文/本報記者 李鐵柱 (來源：北京青年報)

關鍵詞：