“10分鐘被AI換臉騙走430萬元”“AI侵權(quán)著名歌手”“AI一鍵脫衣造黃謠”......近期，一系列涉及人工智能（AI）的負面事件在互聯(lián)網(wǎng)上持續(xù)發(fā)酵，引發(fā)了群眾的恐慌情緒。在這樣的背景下，有些人開始呼吁全面禁止AI的使用。那么，AI真的這般不堪嗎？全面禁止AI，以上違法行為能悉數(shù)解決嗎？

繼此前“10分鐘被AI換臉騙走430萬元”事件引發(fā)關(guān)注之后，5月22日，又一起AI換臉詐騙發(fā)生。這次金額達到132萬，且整個詐騙過程時間更短，只有9秒鐘。與此同時，AI詐騙正在全國爆發(fā)的話題沖上熱搜第一，引發(fā)網(wǎng)友熱議。

(資料圖片)

5月22日，安徽安慶的何先生接到熟人視頻電話，讓他幫忙轉(zhuǎn)一筆賬。但9秒之后，對方以“在開會”為由，迅速掛斷了電話，還稱“微信和電話不能說，加一下QQ”。

男子被騙過程

“因為打了視頻電話，又是熟人，我就沒多想，就轉(zhuǎn)賬了”。事發(fā)時，何先生放松了警惕。發(fā)現(xiàn)被騙之后，何先生迅速報警，專案民警第一時間凍結(jié)相關(guān)賬戶，連夜趕赴北京市抓獲3名涉詐嫌疑人，追回何先生被騙的132萬元。

此前，央視曾報道一起金額高達430萬元的AI換臉詐騙，過程與此案基本相似，詐騙分子都運用到了AI換臉以及擬聲技術(shù)：4月20日，福建某科技公司法人代表郭先生突然接到“好友”微信視頻，對方稱自己的朋友在外地競標(biāo)，需要430萬元保證金，郭先生見視頻中的面孔和聲音確實是“好友”，于是放松了警惕，僅在10分鐘之內(nèi)就向?qū)Ψ睫D(zhuǎn)賬430萬元。在福建、包頭兩地警方、銀行的幫助下，其中300多萬元被攔截，目前仍有90多萬還在追查中。

乍一看，似乎都是AI的“鍋”。但細細想來，這無外乎是一個金額較大，但手法平平無奇的詐騙案件，因為騙子利用了“換臉視頻”而引發(fā)了輿論的恐慌情緒。

事實上，AI換臉并非毫無破綻。“AI假臉”的紋理特征存在破綻。例如，偽造后的視頻人物的眼睛或牙齒輪廓細節(jié)容易不一致；兩只眼睛瞳孔的顏色不一樣或瞳孔中心反射的細節(jié)不一樣；或是很多偽造視頻由于視頻分辨率低于原始視頻分辨率，偽造出來視頻的牙齒邊緣過于整齊等。

另外，“AI假臉”有可能不符合正常人的生理特征，比如，一個健康成年人一般間隔2-10秒眨一次眼，每次眨眼用時0.1-0.4秒，而在偽造視頻中，人的眨眼頻率可能不符合上述規(guī)律。通常，人嘴部的運動是最為頻繁且快速的，而AI軟件卻無法真實準確地渲染連續(xù)動作。

在視頻時，你可以要求對方用一根手指在面部來回晃動，或者用手掌擋住一部分的臉。因為犯罪分子在訓(xùn)練AI算法時多使用的為正面照，所以程序無法處理好突然在面前出現(xiàn)的物體，這時面部就會出現(xiàn)扭曲變形。

“孫燕姿”們不會失業(yè)

2000年，大街小巷都是孫燕姿。

2023年，大網(wǎng)小網(wǎng)都是“AI孫燕姿”......

近年來，隨著技術(shù)的不斷發(fā)展，越來越多的人工智能產(chǎn)品逐漸進入我們的生活。在ChatGPT問世，引發(fā)全網(wǎng)“下崗”擔(dān)憂的幾個月后，與其同屬AIGC技術(shù)的AI歌手正在成為樂壇新頂流。

今年4月中旬，AI歌手“AI孫燕姿”橫空出世。到目前，已翻唱60余首歌曲，其中包括粵語、日語、英語、俄語中歌迷們耳熟能詳?shù)母枨?月上旬，有音樂播放平臺已上架“AI孫燕姿”的翻唱合輯。還有平臺已經(jīng)開啟“AI孫燕姿”直播點歌，只需在評論區(qū)輸入#+歌曲名，即可聽到“AI孫燕姿”演唱的該版本的歌曲。據(jù)悉，“AI孫燕姿”翻唱的一些曲目在網(wǎng)上點擊量破百萬，其所駕馭曲風(fēng)范圍甚廣。有人開始擔(dān)心，AI歌手的出現(xiàn)是否意味著真實歌手將失去市場，像孫燕姿這樣的著名歌手，會因為AI歌手的出現(xiàn)而失業(yè)嗎？

從AI換臉、AI繪畫、AI寫論文到如今的AI翻唱，科技的力量讓人驚嘆，但我們也應(yīng)清楚地認識到，AI歌手的出現(xiàn)并不意味著真實歌手將失去市場。在數(shù)字化時代，音樂消費的主體依舊是人類，AI歌手技術(shù)上的局限性使得其無法完全替代真實歌手的表演和情感表達。所以，與其擔(dān)心AI讓孫燕姿成為失業(yè)第一人，我們更應(yīng)關(guān)注的是“AI孫燕姿”帶來的權(quán)益保護問題。也許，不是孫燕姿要因為AI而失業(yè)，而是AI中的侵權(quán)行為要首先該“下崗”才對。

據(jù)報道，美國歌手黎安·萊姆斯就公開表示“很樂意大家使用她的聲音”，但她要求分50%版稅。面對這一波勢不可擋的AI浪潮，我們應(yīng)清楚認識到，AI與音樂產(chǎn)業(yè)之間的關(guān)系是一種相互促進和共生的關(guān)系。AI歌手的出現(xiàn)并不意味著真實歌手將失去市場；相反，AI歌手可以為音樂產(chǎn)業(yè)注入新的元素和活力，推動音樂產(chǎn)業(yè)的數(shù)字化轉(zhuǎn)型和升級。在保護原創(chuàng)版權(quán)的基礎(chǔ)上，我們應(yīng)該鼓勵A(yù)I歌手的發(fā)展和創(chuàng)新，為音樂產(chǎn)業(yè)帶來更多的可能性。

前不久，某視頻平臺更新規(guī)范：在應(yīng)用生成人工智能技術(shù)時，發(fā)布者應(yīng)對人工智能生成內(nèi)容進行顯著標(biāo)識，幫助其他用戶區(qū)分虛擬與現(xiàn)實。同時禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識產(chǎn)權(quán)等。

今年4月，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》，提出——

?利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個人，要承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任；

?發(fā)現(xiàn)、知悉生成的文本、圖片、聲音、視頻等侵害他人肖像權(quán)、名譽權(quán)、個人隱私、商業(yè)秘密，或者不符合辦法要求時，應(yīng)當(dāng)采取措施，停止生成，防止危害持續(xù)。

這份征求意見稿已經(jīng)于5月10日結(jié)束公開征求意見。我們期待，隨著AI技術(shù)越來越深入我們的生活，相關(guān)配套管理也不斷完善，各平臺參與者的主體責(zé)任也更加明晰。在厘清權(quán)益保護的法律邊界基礎(chǔ)上，讓AI在合法的軌道上運行。

AI可以替代很多事情，但唯獨不能替代“背鍋”這件事。AI只是一個工具，它只是根據(jù)預(yù)設(shè)的算法進行計算和推斷，并不能自己主動產(chǎn)生行動。所以，如果出現(xiàn)了問題，應(yīng)該把責(zé)任歸咎于使用AI的人，而不是AI本身。就像一把刀子，如果用來切菜，那么它是有用的；但如果用來殺人，那么它就成為了兇器。同樣地，AI也有它的應(yīng)用范圍，關(guān)鍵在于我們?nèi)绾握_使用它。

當(dāng)出現(xiàn)問題時，我們不能把責(zé)任完全推給AI或者算法，而應(yīng)該對AI的使用進行審慎和監(jiān)管。例如，如果使用AI換臉技術(shù)進行詐騙，那么就應(yīng)該追究犯罪者的責(zé)任；如果使用AI制造黃謠，那么就應(yīng)該追究發(fā)布者的責(zé)任；如果使用AI侵權(quán)著名歌手，那么就應(yīng)該追究侵權(quán)者的責(zé)任。

為什么會出現(xiàn)以上問題？其實，問題的根源在于人的行為。因為利益驅(qū)動，有些人會不顧他人的權(quán)益和安全，只顧一己私欲而不擇手段地使用AI。這種行為本身就是錯誤的，而不是AI本身的問題。

因此，與其說全面禁止AI，倒不如說我們更需要采取措施加強對AI的監(jiān)管。首先，應(yīng)該建立起嚴格的AI使用規(guī)范，限制AI的使用范圍和目的。其次，應(yīng)該對AI的開發(fā)者和使用者進行教育和培訓(xùn)，讓他們了解AI的應(yīng)用范圍和限制。最后，應(yīng)該建立起健全的法律制度，對違法使用AI的行為進行懲罰。

AI不是元兇，別再讓AI背鍋。只有以正確地看待AI，全面客觀地認識到它的優(yōu)勢和局限性，并加強對其的監(jiān)管，才能讓AI真正為人類服務(wù)。

關(guān)鍵詞：