假張文宏深夜帶貨、假靳東迷倒一眾大媽、假雷軍辣評世間百態(tài)……最近一段時間，AI假名人輪番出沒，再度引發(fā)深度偽造被濫用的熱議。

AI詐騙并不新鮮。不過，正是因為如此，它更值得持續(xù)關(guān)注。畢竟，AI的技術(shù)演進(jìn)速度非?？?，如果監(jiān)管的步伐不能跟上，其所帶來的破壞力是難以想象的。以深度偽造（Deep Fake）為例，早期這項技術(shù)多少有一些門檻，如今不少開源或免費工具能以很低的成本批量生成內(nèi)容。另據(jù)《2024人工智能安全報告》，2023年基于AI的深度偽造欺詐增長了3000%，僅今年上半年，AI詐騙案案值已超過1.85億元。

“張文宏”深夜帶貨，就是很有代表性的治理難題。比如，利用AI技術(shù)合成的“張文宏”，和電視機(jī)上出現(xiàn)的張文宏，對一些老人來說并無二致，容易讓人信以為真，甚至在名人光環(huán)加持下不斷擴(kuò)散。盡管合成視頻并非毫無破綻，但如果沒有進(jìn)行過專業(yè)訓(xùn)練，也并非一眼就能識破，更不必說，AI能以假亂真到這種程度，已經(jīng)超出了他們的日常認(rèn)知。然而，據(jù)張文宏本人回應(yīng)，這樣的賣貨賬號已出現(xiàn)多個，而且一直在變，他多次向平臺投訴，但都收效甚微。

難道正主還奈何不了“李鬼”？不得不說，和其他形式的網(wǎng)絡(luò)侵權(quán)一樣，AI仿冒名人同樣具有隱蔽性強(qiáng)、危害大、取證難的特征。一方面，它不僅涉嫌侵犯肖像權(quán)、名譽(yù)權(quán)和隱私權(quán)，還可能構(gòu)成消費欺詐。另一方面，要證明侵權(quán)違法事實存在，形成完整的證據(jù)鏈，需經(jīng)過復(fù)雜的鑒定程序，這難免動搖一些人的維權(quán)決心。

這需要多方合力破解。從法律層面來看，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確指出，使用人臉生成、人臉替換、合成人聲等技術(shù)時，應(yīng)有顯著標(biāo)識，以免公眾混淆。據(jù)消費者權(quán)益保護(hù)法，經(jīng)營者提供商品或者服務(wù)有欺詐行為的，應(yīng)當(dāng)假一賠三。相關(guān)部門應(yīng)加大查處力度，形成有力震懾。除此之外，為了降低維權(quán)和治理成本，不妨嘗試建立統(tǒng)一的司法鑒定標(biāo)準(zhǔn)，進(jìn)一步明確AI換臉技術(shù)的使用規(guī)范和違法界限。

用技術(shù)打敗技術(shù)的思路，對平臺同樣適用。有專家表示，除非作品是在本平臺用AI方式完成，否則短視頻平臺目前無法判定它是不是AI合成。對此，平臺應(yīng)肩負(fù)起主體責(zé)任，加大技術(shù)研發(fā)投入，優(yōu)化管理流程，堵住相關(guān)漏洞，對濫用AI合成的賬號動一番真格。最近，對AI仿冒知名人士進(jìn)行不當(dāng)營銷、惡意博取流量的違規(guī)行為，某平臺發(fā)布公告，累計關(guān)閉賬號超200個，公開了四個典型案例，并針對相關(guān)情況開展專項治理。這些舉措亮明了態(tài)度，同時也為監(jiān)管部門順藤摸瓜、深度治理創(chuàng)造了條件。

從“魔改經(jīng)典”到“欺世盜臉”，AI再好用也不可濫用。這是技術(shù)時代的應(yīng)有共識，也是事關(guān)你我的共同課題。