《甄嬛傳》變身“槍戰(zhàn)片”、《紅樓夢》改成“武打戲”、孫悟空騎著摩托車揚長而去……據(jù)報道，廣電總局網(wǎng)絡視聽司日前發(fā)布《管理提示（AI魔改）》，指出近期AI“魔改”視頻以假亂真、“魔改”經(jīng)典現(xiàn)象頻發(fā)，要求各相關省局督促轄區(qū)內(nèi)短視頻平臺排查清理AI“魔改”影視劇的短視頻，限期反饋工作情況；嚴格落實生成式人工智能內(nèi)容審核要求，舉一反三，對各自平臺開發(fā)的大模型或AI特效功能等進行自查，對在平臺上使用、傳播的各類相關技術(shù)產(chǎn)品嚴格準入和監(jiān)看，對AI生成內(nèi)容作出顯著提示。

對此，有評論指出：表面是“魔改”，其實就是“去經(jīng)典化”“去原著化”，把一個完整的作品分拆為一個個形象、一個個片段，并將之還原為某種“模塊”“物料”“字符”，加以二次組裝、胡亂拼接。這整個過程，我們感受到的是“娛樂整活”之于“嚴肅表達”的凌駕，是AI暴力對于文化敘事的強拆。

其實，從“AI換臉特效”“AI復活親人”到“AI愛人”，對AI技術(shù)使用邊界的討論始終不曾停止。特別是用“換臉”“換聲”假扮熟人的AI惡搞乃至詐騙、傳播淫穢內(nèi)容的AI色情騙局、批量化生成的AI造謠等新型違法犯罪花樣翻新、層出不窮?！?024年人工智能安全報告》顯示，基于AI的深度偽造欺詐在2023年激增30倍，對網(wǎng)絡安全和社會安全構(gòu)成了較為嚴重的威脅。前不久，浙江省杭州市公安機關偵破一起利用AI技術(shù)偽造活體視頻，突破部分網(wǎng)絡平臺登錄認證，竊取用戶信息的案件。這些不法分子在登錄他人賬號竊取用戶敏感信息后，將其出售獲利。這不僅侵害了用戶的個人信息權(quán)益，也給整個網(wǎng)絡安全帶來了嚴重威脅。

應該說，AI技術(shù)只是工具，如何運用取決于人。技術(shù)本身并無善惡，但技術(shù)的發(fā)展與應用必須合乎人類主流價值規(guī)則體系。換句話說，AI技術(shù)是一把“雙刃劍”，其既可成為人類的幫手，幫助人們提升工作效能、改善服務體驗，也有可能成為不法分子的幫兇，給公眾生活帶來難以防范的安全隱患。

目前，我國已頒布實施《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》等法律法規(guī)，但面對高速發(fā)展的AI技術(shù)及其日益廣泛的應用場景，相關法律法規(guī)仍需進一步深化、細化，立法、執(zhí)法、司法等相關各方仍待進一步形成合力。

小馬飛刀以為，只有在引導鼓勵人工智能創(chuàng)新發(fā)展的同時，對AI技術(shù)濫用可能引發(fā)的安全風險予以依法防范化解，讓相關各方清晰認知并守住使用AI技術(shù)的法律邊界，才能讓AI等新興技術(shù)更好地服務經(jīng)濟社會發(fā)展。

AI技術(shù)發(fā)展到哪里，法律法規(guī)空白就要填補到哪里。

小馬飛刀

責任編輯：王旭偉