某社交平臺上“AI換臉服務(wù)”帖子下，回復(fù)清一色：“視頻，照片，隨便換”。某二手平臺上，用戶僅需提供5秒視頻和清晰五官照片，支付9.9元即可獲得定制化換臉視頻，2.9元的低價(jià)安裝包也讓粗糙的換臉工具觸手可及。

　　定制換一張臉成本有多高？答案是——只需要一杯奶茶錢。在各大平臺上，換臉服務(wù)比比皆是，只需要9塊9，就能迅速獲得一個(gè)真假難辨的換臉內(nèi)容。

　　隨著AI技術(shù)的迅速演進(jìn)，有關(guān)DeepFake（深度偽造）的討論也愈演愈烈。

　　相關(guān)受害人，從全球知名藝人泰勒·斯威夫特、跨國公司高管、韓國未成年人，再到今年春節(jié)因AI配音刷屏的雷軍。2024年國慶期間，未經(jīng)授權(quán)的雷軍AI語音包和換臉視頻在網(wǎng)絡(luò)上瘋傳，網(wǎng)友調(diào)侃：“十一放了七天假，八天被雷軍罵醒?！?

　　不久之前，“雷軍稱AI換臉擬聲成違法重災(zāi)區(qū)”話題也登上微博熱搜第二，相關(guān)討論量達(dá)到了1.4萬，足以見得DeepFake正成為困擾多數(shù)網(wǎng)友的一把利刃。

　　正如雷軍所言：“剛開始我覺得是網(wǎng)友喜聞樂見，拿我開涮我也能接受，但內(nèi)容比較低劣，多到不得了的時(shí)候，就防不勝防，而且網(wǎng)友們也在投訴”。

　　跨國工程公司Arup中國香港分公司的一位員工，有一天突然收到了一封會議郵件，邀請他參加一場由總部高管發(fā)起的重要會議。

　　起初他有些懷疑，但隨著他進(jìn)入會議，看到了一張張熟悉的高管面孔，警惕性也逐漸放了下去。包括該公司CFO在內(nèi)的多位高管不僅入會了，還都開著視頻和麥克風(fēng)，在發(fā)言中他們談?wù)摰搅艘黄鹈孛苁召彴讣?，討論過后這些高管還給中層布置了任務(wù)。

　　這位員工在會議中未進(jìn)行任何發(fā)言，但對此次會議的真實(shí)性已全然接受，散會后，郵件和即時(shí)通訊消息就來了。其中的一位領(lǐng)導(dǎo)要求這名員工將2億港元（約合1.8億元人民幣）分別轉(zhuǎn)入5個(gè)賬戶中。

　　這名員工就這么照做了，5天后，在與真正總部的溝通中，他發(fā)現(xiàn)，自己被騙了。

　　更為震驚的是，在這場神秘的會議中，這名員工其實(shí)是唯一的一名真人，其余所謂的高管，均由犯罪分子根據(jù)高管們在公開平臺的視頻信息通過技術(shù)生成，是一個(gè)個(gè)虛擬數(shù)字人，卻做到了真假難辨的地步。

　　這件事發(fā)生在一年前。一年時(shí)間，對AI行業(yè)而言，意味著技術(shù)的飛躍已是指數(shù)級攀升。

　　2025年1月，銀川某建材公司經(jīng)理張先生接到“領(lǐng)導(dǎo)”視頻電話，要求緊急轉(zhuǎn)賬。因AI換臉技術(shù)高度逼線萬元。《法制日報(bào)》日前報(bào)道，天津李先生被AI合成的“領(lǐng)導(dǎo)”視頻誘導(dǎo)轉(zhuǎn)賬95萬元，警方與銀行聯(lián)動(dòng)凍結(jié)83萬元。山西某犯罪分子甚至利用AI換臉通過人臉識別注冊虛假公司，虛開增值稅發(fā)票42余萬元。

　　鳳凰網(wǎng)科技在檢索各大平臺信息中發(fā)現(xiàn)，仍有不少人對換臉技術(shù)缺乏風(fēng)險(xiǎn)意識。某社交平臺上“AI換臉服務(wù)”帖子下，回復(fù)清一色：“視頻，照片，隨便換”。某二手平臺上，用戶僅需提供5秒視頻和清晰五官照片，支付9.9元即可獲得定制化換臉視頻，2.9元的低價(jià)安裝包也讓粗糙的換臉工具觸手可及，而DeepFaceLab等專業(yè)開源軟件搭配全網(wǎng)傳播的教程，更使得技術(shù)濫用呈現(xiàn)全民化趨勢。這種技術(shù)平權(quán)背后，暴露出法律監(jiān)管與犯罪手段之間的嚴(yán)重失衡。

　　法律規(guī)制與技術(shù)進(jìn)步之間的時(shí)差正在制造監(jiān)管線年審理的虞某案為例，犯罪嫌疑人利用AI換臉技術(shù)制作淫穢視頻非法牟利，被告賠償6萬元并公開道歉。

　　九游娛樂-平臺官網(wǎng)

　　鳳凰網(wǎng)科技在咨詢相關(guān)領(lǐng)域律師后發(fā)現(xiàn)，盡管現(xiàn)行法律與管理規(guī)定已明確禁止利用信息技術(shù)偽造肖像，且動(dòng)態(tài)影像也已經(jīng)受保護(hù)。但在責(zé)任邊界的某些方面以及賠償計(jì)算標(biāo)準(zhǔn)上缺乏量化細(xì)則。且目前由于立法還不完全，所受的懲罰與牟利并不成正比，這就讓犯罪之人有了更大動(dòng)機(jī)。

　　九游娛樂-平臺官網(wǎng)

　　同時(shí)，技術(shù)濫用已衍生出專業(yè)化犯罪鏈條，詐騙組織通過社交平臺精準(zhǔn)盜取目標(biāo)對象的生物特征數(shù)據(jù)，利用云端合成技術(shù)生成克隆聲像，實(shí)施“數(shù)字分身”詐騙。

　　現(xiàn)有技術(shù)仍存在可識別的生理破綻，例如微表情缺失，光影不匹配，皮膚過度平滑，聲音缺乏停頓，語速快等問題，這些技術(shù)局限為公眾提供了關(guān)鍵辨識窗口。

　　AI技術(shù)的普及讓內(nèi)容生產(chǎn)的門檻被極大地降低了，但也讓網(wǎng)絡(luò)世界開始充斥著濃濃的AI味兒。尤其是一些AI產(chǎn)品愈演愈烈的幻覺率，讓虛假信息隨之滋生，用戶稍不留意便會陷入真假難辨的困境。

　　目前，此類問題在短視頻平臺尤為突出，大量違背常識與道德底線的AI生成內(nèi)容正在污染互聯(lián)網(wǎng)，如“甄嬛吃漢堡”“寵物貓狗說人話”“AI雷軍”等，通過算法推薦迅速擴(kuò)散，擠占優(yōu)質(zhì)內(nèi)容的生存空間。

　　更令人擔(dān)憂的是，部分用戶對AI“一本正經(jīng)地胡說八道”盲目信任。如缺乏甄別能力的老年人群體，正在被各類“賽博乖孫”控制。有網(wǎng)友說自己的奶奶最近經(jīng)常對著手機(jī)屏幕“哎”，仔細(xì)一看才發(fā)現(xiàn)視頻中是手拿元寶，一口一個(gè)奶奶的AI生成乖孫。

　　如在生成環(huán)節(jié)，要在相關(guān)內(nèi)容的特定位置，添加直觀可見的顯式標(biāo)識，讓用戶一眼便能察覺內(nèi)容的AI生成屬性。在傳播環(huán)節(jié)，平臺的責(zé)任更加重大，要有能甄別并提示AI內(nèi)容的能力。抖音在2023年曾發(fā)布《關(guān)于人工智能生成內(nèi)容的平臺規(guī)范》，要求創(chuàng)作者主動(dòng)標(biāo)注AI生成內(nèi)容，違規(guī)者將面臨處罰。

　　另一內(nèi)容平臺的相關(guān)運(yùn)營也對鳳凰網(wǎng)科技表示，對于AI生成內(nèi)容，內(nèi)部一直持謹(jǐn)慎態(tài)度對待?！皬纳鷳B(tài)治理的角度，AI內(nèi)容的風(fēng)險(xiǎn)肯定是大的，但從用戶活躍的角度來說，在極大的降低生產(chǎn)門檻后，會讓一批新的賬號長出來”，也因此，平臺對AI類內(nèi)容一直持搖擺態(tài)度。

　　如近期微博上流傳“某男星連續(xù)七日豪賭輸光10.3億元流動(dòng)資產(chǎn)并抵押資產(chǎn)”的消息， 3月10日晚，微博CEO王高飛（賬號“來去之間”）就專門做出回應(yīng)，稱“AI分析完判斷該傳聞缺乏實(shí)質(zhì)性證據(jù)，且主要信息源為匿名賬號及營銷號，存在動(dòng)機(jī)和邏輯漏洞……”。隨后在3月11日，周杰倫經(jīng)紀(jì)公司杰威爾音樂官方微博也發(fā)布聲明正式辟謠。

　　AI換臉技術(shù)引發(fā)的社會震蕩正在重塑人類與技術(shù)共處的邊界。當(dāng)生物特征數(shù)據(jù)成為可被9.9元交易的商品時(shí)，其背后暗藏的系統(tǒng)性風(fēng)險(xiǎn)已超出個(gè)體防范范疇。多方觀點(diǎn)都認(rèn)為，其規(guī)范之路任重而道遠(yuǎn)。

　　數(shù)字文明的真正考驗(yàn)，在于能否在代碼世界重建人文價(jià)值的錨點(diǎn)。不是簡單地安裝一個(gè)技術(shù)補(bǔ)丁，而是需要將技術(shù)向善的原則轉(zhuǎn)化為法律條款、算法規(guī)則和公民意識。唯有如此，才能在日漸強(qiáng)大的數(shù)字世界里，守住人們的底線氪】

　　點(diǎn)擊查看更多懷舊游戲視頻