充斥直播間帶貨的AI張文宏，氣得真人張文宏想報(bào)警。不少網(wǎng)友反映，疑似知名醫(yī)生張文宏在直播間售賣一種蛋白棒，家中老人信以為真、大量下單。就AI合成的帶貨視頻，張文宏本人回應(yīng)：除了向平臺(tái)方投訴，也曾考慮報(bào)案，但對(duì)方賬號(hào)不斷變化，只能寄希望于相關(guān)部門加強(qiáng)監(jiān)管。

在AI的操控下，偽造這樣一個(gè)能說會(huì)道的張文宏很簡(jiǎn)單。有業(yè)內(nèi)團(tuán)隊(duì)介紹，只要提供一段約1分鐘的當(dāng)事人相關(guān)視頻，就能做到面部特征抓取及音色模仿學(xué)習(xí)，生成相似度較高、質(zhì)量較好的模型。依靠換臉技術(shù)，素人主播搖身一變成了張文宏；借助張文宏醫(yī)生的知名度，原本不好賣的食品、保健品、垃圾產(chǎn)品頓時(shí)銷量大增。

消費(fèi)者因?yàn)樾艔埼暮赆t(yī)生而買，張文宏醫(yī)生的形象和公信力卻被“AI張”賣了。張文宏依法維權(quán)，漫長(zhǎng)的時(shí)間、巨大的精力，對(duì)忙著爭(zhēng)分奪秒治病救人的大夫而言簡(jiǎn)直不可能。此外，換臉名人帶貨還嚴(yán)重侵犯消費(fèi)者知情權(quán)，涉嫌虛假宣傳和詐騙。

在假?gòu)埼暮旮罹虏耸录l(fā)關(guān)注前，還有假靳東迷倒一眾大媽、假馬云推薦情商圖書、假雷軍辣評(píng)世間百態(tài)、假于東來一邊自夸一邊帶貨……有數(shù)據(jù)顯示，2023年基于AI的深度偽造欺詐增長(zhǎng)了3000％。究竟有多少人因不能鑒別真假，被實(shí)實(shí)在在地騙走了時(shí)間、精力、情感、金錢，恐怕已經(jīng)無從統(tǒng)計(jì)。換臉名人的網(wǎng)絡(luò)“蝗災(zāi)”泛濫至此，監(jiān)管的“殺蟲劑”可不能再舍不得噴灑了。

技術(shù)本身沒有好壞，是使用技術(shù)的人有好有壞。近年來，我國(guó)頒布實(shí)施《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī)，就是為了嚴(yán)格監(jiān)管AI的規(guī)范使用。然而，隨著AI技術(shù)發(fā)展及其應(yīng)用場(chǎng)景日益廣泛，變臉名人的賬號(hào)多而分散，虛假直播時(shí)間并不固定，運(yùn)營(yíng)者尋找著網(wǎng)絡(luò)平臺(tái)的隱蔽角落、打一槍換一個(gè)地方，無不給監(jiān)管帶來了難度。不法分子能用AI仿冒名人來騙人，難道各平臺(tái)就不能用AI來監(jiān)測(cè)防范？是不愿，還是不能？監(jiān)管部門要進(jìn)一步明確界定AI合成的責(zé)任歸屬，督促網(wǎng)絡(luò)平臺(tái)的落實(shí)管理義務(wù)，同時(shí)不斷提高技術(shù)識(shí)別能力、監(jiān)管打擊水平，實(shí)現(xiàn)對(duì)AI技術(shù)的指引。

據(jù)《北京晚報(bào)》

責(zé)任編輯：王旭偉