真人“數(shù)字人”傻傻分不清

　　專家：細化技術(shù)標準讓“AI數(shù)字人”透明化合規(guī)化

　　□ 本報記者 　趙 麗

　　□ 本報實習(xí)生 宋昕怡

　　“生西紅柿和生黃瓜不能一起吃了！黃瓜中的分解酶會破壞維生素C，一起吃輕則影響西紅柿中維生素C的吸收，重則可能導(dǎo)致腹瀉、腸胃不適甚至食物中毒?！彪娫捘穷^，母親說得頭頭是道，電話這頭的趙女士卻聽得一頭霧水。

　　隨即，母親發(fā)來一則視頻。趙女士回憶說：“一位滿頭花白頭發(fā)、身著白大褂的‘醫(yī)生’在視頻里侃侃而談‘養(yǎng)生秘籍’，甚至宣稱‘清淡飲食就是只吃素食，完全不吃肉’。我媽把這個‘醫(yī)生’的話奉為圭臬。”但趙女士仔細查看后，在視頻右下角發(fā)現(xiàn)一串幾乎透明的標注——“此視頻由AI輔助生成”。

　　“后來，我媽戴著老花鏡，在我的指點下找了一會兒才看見那行字?！壁w女士無奈地說，“這也不能怪老人，現(xiàn)在AI生成的‘?dāng)?shù)字人’泛濫，還難辨真假，實在讓人防不勝防?！?/p>

　　有此困擾的并非只有趙女士一家?！斗ㄖ稳請蟆酚浾呓针S機采訪了數(shù)十名路人，至少有七成受訪者稱曾刷到過“AI數(shù)字人”視頻，并且“難以分清到底是真人還是‘?dāng)?shù)字人’”，而原因主要在于“找不到有效提示”。

　　很多人擔(dān)憂：真人“數(shù)字人”傻傻分不清楚，背后是肖像權(quán)侵權(quán)乃至敲詐、詐騙等違法犯罪的風(fēng)險隱患。

　　是否數(shù)字人難辨別

　　在重慶讀大學(xué)的鄭媛瀏覽某社交平臺時，刷到一則帖子——照片里的女生外形溫婉可人，穿搭清爽時尚，很奪人眼球。鄭媛點贊并關(guān)注了該賬號。

　　但不多時，鄭媛卻刷到另一名博主揭露用“AI生成人”起號的內(nèi)容，被打假的恰恰是她先前所關(guān)注的這個賬號?！拔易屑毞喠四莻€女生的賬號主頁，她并未標明使用AI技術(shù)，還在評論區(qū)親切地與其他用戶互動?！泵鎸@樣的局面，鄭媛說自己也“糊涂了”。她后來觀察了一個多星期，找到了該賬號圖片確為AI生成的證據(jù)——有網(wǎng)友在其他賬號上發(fā)現(xiàn)了妝容和衣著幾乎一樣的“數(shù)字人”，而人物介紹卻完全不同。

　　習(xí)慣在直播間購物的北京市民李菲說，自己經(jīng)常誤入“數(shù)字人”直播間，“數(shù)字人”主播侃侃而談介紹商品，手部動作還能隨著她說話的節(jié)奏不斷變動，聲音流暢而自然。

　　“要仔細看才能看到直播間左側(cè)一行‘現(xiàn)直播內(nèi)容為數(shù)字人直播，非真人直播’的小字提醒?！崩罘普f，自己現(xiàn)在習(xí)慣了進直播間“先找小字”，確認主播是否為真人，“但真的‘費眼睛’，不是在犄角旮旯，就是字體幾乎透明，不注意根本看不到”。

　　袁偉(化名)是某985高校計算機系研究生。他告訴記者：“現(xiàn)在一些AI大模型生成的圖，別說中老年人會誤以為真，很多沒怎么接觸過AI技術(shù)的年輕人都不見得能分辨真假?！?/p>

　　他隨即為記者演示，向某AI軟件輸入指令“幫我生成圖片：一個容貌姣好的女性，精細的皮膚紋理，室外自然光”，隨即生成的圖片與真人照片相差無幾，如果不是右下角自帶的水印，只讓人覺得是一張普通的美女照片?！叭绻f早期的AI軟件大多不能生成自然的手指和人體比例，現(xiàn)在技術(shù)進步得很快，生成的手指和人體比例已經(jīng)比較像樣了，更加大了分辨的難度。”

　　“這樣的AI生成圖片或視頻，如果不作標識提示，會讓很多人信以為真?！痹瑐フf。

　　大量賬號未作標識

　　記者在某社交平臺上注意到一名為“××AI打假人”的賬戶，其發(fā)帖稱自己將致力于“揪出純AI生成的內(nèi)容博主，幫小白識別真?zhèn)巍?，還表示“關(guān)注了很多AI生成非真實的帥哥美女”。

　　在其關(guān)注列表里有300多個賬號，記者隨機選取了其中20個賬號瀏覽發(fā)現(xiàn)，若沒有看到評論區(qū)“這是AI吧，手指的細節(jié)很詭異”“背景里的文字都是亂碼”等留言，記者第一反應(yīng)只以為他們是普通的顏值時尚類博主。

　　這20個粉絲量幾百到幾萬不等的賬號，僅有3個賬號在簡介中寫明“虛擬男友”“AI”“友情提示視頻由虛擬現(xiàn)實技術(shù)制作”，兩個賬號主頁的內(nèi)容經(jīng)平臺審核后被打上了“疑似包含AI創(chuàng)作信息，請謹慎甄別”的標簽。其余賬號在簡介、內(nèi)容中并未提及“AI”字眼，平臺的監(jiān)測機制也并未識別到，這些賬號甚至還在評論區(qū)熟稔地與其他用戶互動，讓自己看上去更有“真人感”。

　　在調(diào)查過程中，有超過一半的受訪者向記者表示AI生成的“數(shù)字人”和真人難以分辨，相關(guān)的提示也并不顯眼。

　　此外，記者發(fā)現(xiàn)，有人還會特意教人如何繞過平臺的“AI打標”。據(jù)了解，目前，各平臺已普遍升級AI內(nèi)容識別系統(tǒng)，要求對AI生成作品進行顯著標注。但在調(diào)查中，有分享經(jīng)驗的博主表示花費不到千元就可以購買所謂的AI工具中預(yù)配置的鏡像文件，稱用這些鏡像參數(shù)一鍵生成的虛擬人形象可以以假亂真，最大限度規(guī)避平臺的AI內(nèi)容強制標注機制。

　　細化標準加大懲處

　　記者梳理公開信息發(fā)現(xiàn)，實踐中，一些有心人士利用“數(shù)字人”形象行不法之事。

　　據(jù)報道，張文宏、雷軍等公眾人物形象曾被利用生成“AI數(shù)字人”，用來帶貨、惡搞。一些直播間內(nèi)，“AI數(shù)字人”向中老年人群體虛假宣傳保健品，誘導(dǎo)購買。更有甚者，一些不法分子利用“AI數(shù)字人”進行敲詐、詐騙等犯罪。例如，山西忻州公安機關(guān)工作發(fā)現(xiàn)，犯罪嫌疑人王某某利用AI技術(shù)，制作合成“數(shù)字人”新聞視頻引流，進而進行有償發(fā)帖、有償刪帖等敲詐勒索活動。2024年，江西一名65歲老人到銀行辦理業(yè)務(wù)，聲稱要貸款200萬元給男朋友“靳東”拍戲，后經(jīng)調(diào)查，老人手機里的“靳東”視頻是AI合成的。

　　重慶大學(xué)網(wǎng)絡(luò)與大數(shù)據(jù)研究院副院長羅勇認為，就價值取向而言，AI產(chǎn)業(yè)發(fā)展不能凌駕于網(wǎng)絡(luò)安全之上。對于利用AI技術(shù)生成的短視頻，網(wǎng)絡(luò)用戶特別是未成年人和老年人由于缺乏必要的鑒別能力，往往會信以為真，由此可能產(chǎn)生負面網(wǎng)絡(luò)輿情，甚至對網(wǎng)絡(luò)安全造成負面影響。

　　據(jù)受訪專家介紹，當(dāng)前我國已經(jīng)出臺了《生成式人工智能服務(wù)管理暫行辦法》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法規(guī)，對“AI數(shù)字人”和AI生成內(nèi)容的標識、數(shù)據(jù)來源等提出了具體要求。

　　今年3月，國家網(wǎng)信辦等四部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》(以下簡稱標識辦法)，通過標識提醒用戶辨別虛假信息，規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標識行為，為規(guī)范AI生成內(nèi)容劃定紅線。該辦法將于9月1日起施行。

　　中國政法大學(xué)教授鄭飛指出，相關(guān)規(guī)定一定程度存在落地難的問題。一是監(jiān)管和技術(shù)手段有限，難以徹底發(fā)現(xiàn)并糾正違規(guī)行為。例如，一些“AI起號”從業(yè)者通過預(yù)置“鏡像參數(shù)”生成極為逼真的虛擬人像，從而逃避平臺的強制標注要求。而監(jiān)管部門特別是基層執(zhí)法部門，通常面臨職責(zé)不清、執(zhí)法手段和執(zhí)法力量不足的問題；二是部分平臺在一定程度上“管不了”也“不想管”?！肮懿涣恕痹谟谄脚_管理能力與技術(shù)手段欠缺，尤其是一些小型平臺，缺乏足夠的審核人力和技術(shù)支持?！安幌牍堋眲t是背后利益驅(qū)動。未明顯標識“AI數(shù)字人”或合成內(nèi)容，會讓受眾誤以為是真人或真實事件，從而更容易引起人們的興趣和好奇心，吸引更多的流量和關(guān)注，進而帶來更多的商業(yè)利益。

　　“以網(wǎng)絡(luò)社交平臺為代表的網(wǎng)絡(luò)服務(wù)提供者在AI生成內(nèi)容的應(yīng)用場景中，應(yīng)當(dāng)進一步完善用戶使用AI協(xié)議規(guī)定，并強化對AI生成內(nèi)容的審核?！绷_勇說。

　　鄭飛建議，應(yīng)從明確標識要求和加大責(zé)任追究兩方面發(fā)力。標識辦法明確要求，一旦檢測到AI生成內(nèi)容，傳播平臺應(yīng)在發(fā)布內(nèi)容周邊添加顯著提示標識，并在文件元數(shù)據(jù)中加隱式標識，確保全流程可溯源。在未來落實過程中，可進一步細化技術(shù)標準，比如規(guī)定標識文字的最小高度、對比度、展示時長等，讓標識一目了然。另外，對于不按規(guī)定標注的行為，需要嚴厲處罰：除加大行政罰款、暫停業(yè)務(wù)或納入不良信用記錄等行政措施外，還要利用法律手段加大威懾。通過明確、顯著的標識標準和更嚴厲的責(zé)任追究，才能從根本上震懾違規(guī)不標注行為，實現(xiàn)“AI數(shù)字人”應(yīng)用的透明化、合規(guī)化。