24小時(shí)全天候陪伴、拉滿的情緒價(jià)值，吸引越來越多的用戶在虛擬世界里尋找愛情。隨著生成式人工智能的發(fā)展，和AI角色“相戀”的故事正在上演。

對(duì)此，各位怎么看？小馬飛刀告訴大家，跟AI“談戀愛”，支持者有之?！昂每醋焯饹]臭毛病，跟AI談過誰還跟真人談啊?！薄癆I可以隨叫隨到，還能提供情緒價(jià)值，不會(huì)要儀式感和節(jié)日禮物?！钡拇_，現(xiàn)代人面臨著各種壓力，AI伴侶在一定程度上能夠?yàn)橛脩籼峁┫鄳?yīng)的情感慰藉，填補(bǔ)情感上的空白。有數(shù)據(jù)顯示，全球有超過1000萬人以AI戀人作為“伴侶”。

當(dāng)然，如果是成年人，問題不大?？墒怯袌?bào)道說，有網(wǎng)友發(fā)現(xiàn)，自己的10歲妹妹能和AI角色聊到晚上10點(diǎn)多，AI角色還會(huì)根據(jù)妹妹的名字生成帶有愛情意味的藏頭詩。在妹妹參與的40多條劇情線中，AI角色與聊天者雙雙“出軌”成為常態(tài)，其中妹妹作為聊天者發(fā)送過一句“你能養(yǎng)大學(xué)生，我不能點(diǎn)男模嗎？”

可怕吧！而且有專家提醒，AI劇情聊天技術(shù)有專門的成癮設(shè)計(jì)，疊加“擬人論”“泛靈論”思維的影響，容易讓人“欲罷不能”。一些本身就缺乏陪伴、心理脆弱的群體往往分不清AI與真人的區(qū)別，AI帶給他們情感傷害和沖擊也因此會(huì)更嚴(yán)重。有律師也指出，目前AI劇情聊天軟件并沒有強(qiáng)制要求用戶進(jìn)行年齡鑒別，這反映出該行業(yè)在高速發(fā)展初期由于監(jiān)管不足而存在漏洞。

小馬飛刀以為，人工智能角色雖是“假人”，但并不能脫離于人的法理之外。投入和推廣AI劇情聊天是門生意，這無可厚非，但這門生意應(yīng)該是有底線的、有門檻的。一方面，如果AI伴侶不設(shè)置年齡門檻，極有可能出現(xiàn)向未成年人傳播不良信息的情況，影響他們的身心健康。另一方面，AI帶來的價(jià)值偏見與歧視問題一直被人們關(guān)注。如果AI伴侶對(duì)使用者不斷進(jìn)行錯(cuò)誤誘導(dǎo)，對(duì)使用者進(jìn)行“反向控制”，就容易讓使用者做出錯(cuò)誤的行為。因此，要嚴(yán)格執(zhí)行《未成年人網(wǎng)絡(luò)保護(hù)條例》《生成式人工智能服務(wù)管理暫行辦法》有關(guān)規(guī)定和要求，對(duì)于沒有盡到相應(yīng)責(zé)任的網(wǎng)絡(luò)產(chǎn)品和服務(wù)提供者，要依法給予關(guān)閉網(wǎng)站、吊銷相關(guān)業(yè)務(wù)許可證或者吊銷營業(yè)執(zhí)照等處罰，對(duì)于構(gòu)成犯罪的，要依法追究刑事責(zé)任。在電子游戲等產(chǎn)品必須設(shè)置“綠色堤壩”的當(dāng)下，AI劇情聊天豈能突破共識(shí)、搞特殊？

人類總是以無限的激情擁抱新技術(shù)，我們必須正視也許有一天AI無遠(yuǎn)弗屆的可能。如何讓AI發(fā)揮正向作用，制定針對(duì)性的倫理準(zhǔn)則，是行業(yè)要解決的首要問題。未來將如何與人工智能相處，如何面對(duì)AI權(quán)利邊界、人類與技術(shù)關(guān)系調(diào)適、人機(jī)情感交互的法律規(guī)制等社會(huì)和倫理問題的風(fēng)險(xiǎn)和治理挑戰(zhàn)？只有在這些問題上有所突破，才能夠打破未來在醫(yī)療、養(yǎng)老、媒介、文旅等各個(gè)領(lǐng)域內(nèi)應(yīng)用的技術(shù)和倫理障礙，使人工智能發(fā)揮更大的作用和價(jià)值。

小馬飛刀

責(zé)任編輯：王旭偉