近日，一段張文宏直播帶貨的視頻在網(wǎng)上引起廣泛關(guān)注，視頻中“張文宏”正在直播間出售一款蛋白棒。隨后，張文宏本人通過媒體公開表示，自己“被AI”了。

記者了解到，AI合成視頻近來有愈演愈烈之勢(shì)，通過AI合成技術(shù)假冒名人的事例時(shí)有發(fā)生，比如前不久的假靳東詐騙案、假小米CEO雷軍辣評(píng)、假黃百鳴代言等。應(yīng)用AI合成技術(shù)的法律邊界在哪？一旦被侵權(quán)，當(dāng)事人應(yīng)當(dāng)如何保護(hù)自己？相關(guān)監(jiān)管又該如何跟上？記者專門采訪了有關(guān)專家和一線司法人員。

AI合成技術(shù)應(yīng)用門檻降低

“如今眼見真的不一定為實(shí)。”一位AI合成技術(shù)從業(yè)人士告訴記者。最初，AI合成技術(shù)被應(yīng)用在生成圖片、音頻上，慢慢地，AI合成技術(shù)滲透到了短視頻制作以及直播領(lǐng)域；隨著人工智能技術(shù)的發(fā)展，AI合成技術(shù)應(yīng)用門檻一再降低，只需要一張照片、一段音頻，任何人都可以造出一個(gè)他想要模仿的樣子。

“AI合成人像可能會(huì)侵犯公民的肖像權(quán)、名譽(yù)權(quán)和隱私權(quán)，具體需要結(jié)合實(shí)際情形來認(rèn)定。”華東政法大學(xué)刑事法學(xué)院教授、博士生導(dǎo)師，華東政法大學(xué)經(jīng)濟(jì)犯罪與刑民一體化研究所所長(zhǎng)張勇向記者介紹道，認(rèn)定AI合成內(nèi)容是否構(gòu)成侵犯肖像權(quán)，關(guān)鍵在于是否經(jīng)過被合成者的授權(quán)。法律保護(hù)個(gè)人肖像權(quán)，他人未經(jīng)同意不得使用。若AI合成的他人肖像未經(jīng)當(dāng)事人同意，且該合成內(nèi)容被用于商業(yè)或公開場(chǎng)合傳播，可能構(gòu)成侵犯肖像權(quán)。同時(shí)，我國(guó)民法典明確將聲音權(quán)益作為特殊的人格權(quán)益予以保護(hù)。民法典第1023條規(guī)定，對(duì)自然人聲音的保護(hù)，參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定。

“如果AI合成的他人形象或聲音被用于虛假、惡意或誤導(dǎo)性的內(nèi)容，導(dǎo)致公眾對(duì)該人物產(chǎn)生負(fù)面評(píng)價(jià)或誤解，進(jìn)而影響其名譽(yù)，則可能構(gòu)成侵犯名譽(yù)權(quán)。”張勇說，模擬明星音樂風(fēng)格，制作“翻唱”作品，還可能導(dǎo)致侵犯著作權(quán)等民事糾紛。

除了可能引發(fā)民事侵權(quán)糾紛，AI合成人臉或聲音的技術(shù)，也可能被不法分子利用，成為犯罪的“幫兇”。浙江省杭州市蕭山區(qū)檢察院檢察官章蕾結(jié)合辦理的案件告訴記者：“‘AI換臉’等深度合成技術(shù)被廣泛應(yīng)用后，一些不法分子利用從互聯(lián)網(wǎng)等渠道收集到的他人人臉信息等敏感個(gè)人信息，制作成虛假的換臉視頻在網(wǎng)絡(luò)平臺(tái)進(jìn)行傳播售賣，不僅可能侵犯公民個(gè)人信息，威脅公共信息安全，而且極易引發(fā)電信網(wǎng)絡(luò)詐騙、敲詐勒索、虛假宣傳等多種關(guān)聯(lián)違法犯罪，給不特定群眾的人身財(cái)產(chǎn)安全帶來重大隱患。”

“被AI”后維權(quán)面臨取證難

就被AI冒名一事，張文宏在接受央視采訪時(shí)回應(yīng)道：“除了向平臺(tái)方投訴，也曾考慮向公安機(jī)關(guān)報(bào)案，但對(duì)方賬號(hào)不斷變化，只能寄希望于相關(guān)部門加強(qiáng)監(jiān)管。”記者了解到，實(shí)踐中，當(dāng)事人遭遇AI合成技術(shù)侵權(quán)時(shí)，維權(quán)路上遇到的最大障礙就是“取證難”。

“侵權(quán)方的匿名性、隱蔽性等特點(diǎn)，給受害方取證帶來不小挑戰(zhàn)，不僅關(guān)乎時(shí)間成本，甚至可能耗費(fèi)巨大的人力財(cái)力等資源。為此，部分受害方遇到該情況往往會(huì)迫于無奈，放棄以訴訟方式維權(quán)。”章蕾說。

即便對(duì)于司法辦案機(jī)關(guān)來說，證據(jù)也是個(gè)難啃的“硬骨頭”。章蕾介紹，在司法實(shí)踐中，AI合成類案件調(diào)查取證難度較大。一方面，辦案人員需要對(duì)信息處理者、處理方式、信息獲取、信息處理加工是否違法等進(jìn)行舉證，需要同時(shí)具備精通數(shù)據(jù)處理、算法、證據(jù)固定方式等方面的能力，從而證明侵權(quán)違法事實(shí)的存在；另一方面，利用AI合成技術(shù)從事違法犯罪行為往往通過網(wǎng)絡(luò)渠道進(jìn)行，而網(wǎng)絡(luò)犯罪具有高度隱蔽性，如果犯罪分子反偵查能力較強(qiáng)，那么犯罪鏈條將異常復(fù)雜、涉及面更廣，給案件偵破、證據(jù)收集固定帶來較大難度。

“同時(shí)，與AI合成技術(shù)快速發(fā)展不相匹配的是，目前鑒定AI合成作品的技術(shù)水平還不高，鑒定難度大，且沒有統(tǒng)一的鑒定標(biāo)準(zhǔn)。”北京市豐臺(tái)區(qū)檢察院二級(jí)檢察官助理王喬補(bǔ)充道。

盡管對(duì)AI合成內(nèi)容的取證存在困難，但司法機(jī)關(guān)并未就此止步，而是積極完善證據(jù)審核鏈條。據(jù)一位從事電子證據(jù)審查的業(yè)務(wù)專家透露，目前司法領(lǐng)域正在使用圖像真實(shí)性鑒定等方法對(duì)AI合成技術(shù)生成的視頻進(jìn)行鑒定，同時(shí)組合使用多種鑒偽算法識(shí)別AI合成內(nèi)容，鑒別相應(yīng)的內(nèi)容是否由AI生成，為破解AI合成技術(shù)侵權(quán)提供了技術(shù)支持?！?strong>　把AI合成技術(shù)關(guān)進(jìn)制度的籠子里

“AI合成技術(shù)并不能因?yàn)榭赡艽嬖谇謾?quán)風(fēng)險(xiǎn)就按下否定鍵，在允許其發(fā)展的前提下，明確技術(shù)應(yīng)用邊界顯得尤為重要。”張勇說。

記者了解到，2022年11月25日國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合公布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確，不得利用深度合成服務(wù)從事法律、行政法規(guī)禁止的活動(dòng)，要求深度合成服務(wù)提供者要落實(shí)信息安全主體責(zé)任。2023年7月，國(guó)家網(wǎng)信辦聯(lián)合多部門再次推出《生成式人工智能服務(wù)管理暫行辦法》，對(duì)生成式人工智能產(chǎn)業(yè)的法律邊界，作出了列舉式規(guī)定。2024年9月，國(guó)家網(wǎng)信辦公布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法(征求意見稿)》以及配套強(qiáng)制性國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法(征求意見稿)》，公開征求公眾意見……這表明，我國(guó)對(duì)人工智能生成合成行為的法律規(guī)制在不斷完善。

張勇建議，在織密制度籠子的同時(shí)，要加大普法宣傳力度，讓更多AI合成技術(shù)應(yīng)用者知道哪些方式可能觸犯法律，在應(yīng)用AI合成技術(shù)時(shí)要依法依規(guī)進(jìn)行。通過有針對(duì)性的宣傳教育，提醒公眾自覺保護(hù)人臉、指紋、聲音等個(gè)人信息，促使公眾更好防范人工智能技術(shù)不當(dāng)應(yīng)用帶來的潛在法律風(fēng)險(xiǎn)。

章蕾提醒，公眾要增強(qiáng)防范意識(shí)，不要輕信求助的語言或視頻。一旦遭遇AI侵權(quán)或不法分子利用AI合成技術(shù)詐騙時(shí)，對(duì)于觀看或者接收的視頻要做好截屏等信息留存，積極尋求家人或者社區(qū)的支持幫助，通過報(bào)警、向相關(guān)部門投訴、尋求法律援助等方式維護(hù)自己的合法權(quán)益。

“平臺(tái)方面要加強(qiáng)責(zé)任意識(shí)，對(duì)于上傳的AI合成內(nèi)容進(jìn)行嚴(yán)格審查，確保這些內(nèi)容不含虛假信息、誤導(dǎo)消費(fèi)者或侵犯他人權(quán)益。此外，當(dāng)侵權(quán)行為發(fā)生時(shí)，平臺(tái)方要立即下架問題內(nèi)容，及時(shí)阻斷問題內(nèi)容的進(jìn)一步傳播。對(duì)于傳播問題內(nèi)容的賬號(hào)，也應(yīng)采取封號(hào)等措施，及時(shí)固定侵權(quán)證據(jù)。”張勇說。

這一觀點(diǎn)也得到其他幾位受訪者的贊成。他們表示，平臺(tái)要充分利用自身的數(shù)據(jù)資源優(yōu)勢(shì)，為權(quán)益受到侵害的當(dāng)事人維權(quán)提供證據(jù)支持，配合司法機(jī)關(guān)依法懲治不法行為，這既是平臺(tái)的法律責(zé)任，也是平臺(tái)的社會(huì)責(zé)任。