AI“換裝”切莫損害軍人警察形象

  專家：明確AI生成特殊公職人員形象使用界限及法律后果

  “這輩子沒機(jī)會(huì)真入伍，先整個(gè)‘電子軍裝’過把癮”“AI一鍵讓我穿上了綠色的軍裝，圓了我兒時(shí)夢(mèng)”“體驗(yàn)一下穿上警服抓人的樣子，帥氣嗎”……近期，AI生成的“軍裝照”“警察抓人照”在短視頻平臺(tái)爆火，用戶上傳照片即可輕松“變身”。

  多位專家接受《法治日?qǐng)?bào)》記者采訪時(shí)指出，技術(shù)本無善惡，絕大多數(shù)網(wǎng)友借此表達(dá)對(duì)軍人、警察崇高職業(yè)的向往與敬仰之情，滿足了普通人體驗(yàn)榮譽(yù)感的精神需求，無可厚非。但部分網(wǎng)友AI“換裝”軍人、警察照片、制作視頻，使用不良姿態(tài)、配上煙酒，混淆軍種、配發(fā)虛假案情等，不當(dāng)消費(fèi)甚至褻瀆軍人、警察形象，觸碰法律紅線，更潛藏多重社會(huì)風(fēng)險(xiǎn)，亟待加強(qiáng)規(guī)范與治理。

  AI“換裝”亂象叢生

  記者發(fā)現(xiàn)，短視頻平臺(tái)上“AI軍裝照”制作教程流行，用戶只需上傳一張照片，即可一鍵生成軍裝照，有些照片還會(huì)配上坦克車、閱兵場(chǎng)等背景，看上去英姿颯爽。還有不少人發(fā)視頻教學(xué)：“網(wǎng)上很火的AI變身軍裝特效，很多人找不到制作入口，三秒教會(huì)你如何制作，學(xué)會(huì)快去試試。”

  類似的，“一鍵生成警察抓人”特效也廣受歡迎。有用戶設(shè)定如“因酒量差被帶走”“因打麻將賭博被抓”等戲謔或虛構(gòu)的案情，生成自己被抓捕的圖片或視頻。

  細(xì)觀這些AI生成的“軍人”“警察”形象，問題重重。有業(yè)內(nèi)人士舉例說，有的混淆軍種制式亂搭亂配，有的勛章軍銜是錯(cuò)誤的，不符合《中國(guó)人民解放軍內(nèi)務(wù)條令》等規(guī)定的著裝規(guī)范。

  記者也注意到，網(wǎng)友發(fā)布的一些AI生成的“軍人形象”，有的勾肩搭背、站姿懶散、坐姿浮夸，有的手中拿著煙酒，一副“混混形象”，與軍人應(yīng)有的嚴(yán)整軍容相去甚遠(yuǎn)。

  還有些用戶上傳的并非自己照片，而是他人或者明星的照片。對(duì)此，北京市盈科律師事務(wù)所高級(jí)合伙人王風(fēng)和告訴記者，AI生成的圖片或視頻中，若人物形象可被識(shí)別，且未經(jīng)本人同意，依據(jù)民法典規(guī)定，未經(jīng)肖像權(quán)人同意，不得制作、使用、公開肖像權(quán)人的肖像，但是法律另有規(guī)定的除外。這種行為已經(jīng)侵害了他人肖像權(quán)。

  法律風(fēng)險(xiǎn)不容忽視

  對(duì)于上述AI“換裝”亂象，多數(shù)網(wǎng)友認(rèn)為，這是對(duì)軍人、警察形象的不當(dāng)消費(fèi)和褻瀆，應(yīng)當(dāng)依法進(jìn)行整治，凈化網(wǎng)絡(luò)環(huán)境；也有少數(shù)網(wǎng)友認(rèn)為，只是鬧著玩，沒必要上綱上線。

  多位受訪專家認(rèn)為，上述AI“換裝”亂象，不僅損害了軍人、警察職業(yè)的莊重感，模糊了虛擬與現(xiàn)實(shí)的界限，會(huì)引發(fā)一系列社會(huì)危害，也涉嫌觸犯了法律紅線。

  中國(guó)傳媒大學(xué)文化產(chǎn)業(yè)管理學(xué)院法律系教授周麗娜說，“換裝”亂象的社會(huì)危害在于——

  導(dǎo)致公信力受損。虛假內(nèi)容的大肆傳播，將逐漸降低公眾對(duì)軍人、警察職業(yè)的信任程度，降低民眾對(duì)執(zhí)法行為的敬畏感，進(jìn)而產(chǎn)生干擾正常執(zhí)法工作的行為，影響法律的權(quán)威性與執(zhí)行效能；

  存在引發(fā)社會(huì)秩序混亂的潛在風(fēng)險(xiǎn)。“假執(zhí)法視頻”的傳播可能誤導(dǎo)公眾，引發(fā)不必要的恐慌，甚至可能誘發(fā)群體性事件，威脅社會(huì)穩(wěn)定，擾亂正常的社會(huì)秩序；

  產(chǎn)生技術(shù)濫用的示范效應(yīng)。降低偽造內(nèi)容的制作門檻，讓更多人能夠輕易制作并傳播虛假信息，這不僅會(huì)助長(zhǎng)灰色產(chǎn)業(yè)鏈的擴(kuò)張，還可能導(dǎo)致更多不法分子跟風(fēng)效仿，從而進(jìn)一步加劇信息環(huán)境的混亂。

  “軍人、警察等特殊群體，承擔(dān)著處理國(guó)家公共事務(wù)、維護(hù)公共安全與公共利益的職責(zé)，有明確的制式服裝著裝規(guī)范。在未獲得有關(guān)授權(quán)的情況下，若用AI生成某些能夠清晰表明其身份的圖片和視頻，或蓄意捏造、傳播與其職業(yè)形象不符的內(nèi)容，將面臨不同程度的法律風(fēng)險(xiǎn)。”周麗娜說。

  她進(jìn)一步分析道，依據(jù)國(guó)防法、軍人地位和權(quán)益保護(hù)法的相關(guān)規(guī)定，軍人應(yīng)當(dāng)受到全社會(huì)的尊崇；按照《互聯(lián)網(wǎng)軍事信息傳播管理辦法》，互聯(lián)網(wǎng)軍事信息服務(wù)提供者和用戶使用深度合成、生成式人工智能等新技術(shù)新應(yīng)用，不得損害人民軍隊(duì)形象。相關(guān)法律法規(guī)明確保護(hù)軍人榮譽(yù)，若利用“換裝”生成的內(nèi)容損害軍人形象，同樣會(huì)受到相應(yīng)的處罰。

  “生成警察抓人視頻并配上所謂警情通報(bào)，若內(nèi)容虛假，涉嫌違反《生成式人工智能服務(wù)管理暫行辦法》中關(guān)于不得生成虛假有害信息的規(guī)定。若有人借此進(jìn)行詐騙或勒索他人財(cái)物，可能構(gòu)成詐騙罪或敲詐勒索罪。警服、軍裝等有特定設(shè)計(jì)，受法律保護(hù)。若AI軟件在生成圖片和視頻時(shí)，未經(jīng)授權(quán)使用受版權(quán)保護(hù)的素材，如警服細(xì)節(jié)設(shè)計(jì)、特定字體的警情通報(bào)格式等，可能侵犯版權(quán)方權(quán)益。”王風(fēng)和說。

  平臺(tái)或擔(dān)連帶責(zé)任

  受訪專家認(rèn)為，除用戶外，對(duì)于類似圖片和視頻的制作和傳播，平臺(tái)和AI軟件公司都應(yīng)依法承擔(dān)相應(yīng)法律責(zé)任。

  在王風(fēng)和看來，根據(jù)《生成式人工智能服務(wù)管理暫行辦法》，平臺(tái)作為生成式人工智能服務(wù)提供者，若未對(duì)違法內(nèi)容采取停止生成、停止傳輸、消除等處置措施，未向有關(guān)主管部門報(bào)告，需承擔(dān)法律責(zé)任；平臺(tái)還需按照規(guī)定對(duì)生成內(nèi)容進(jìn)行標(biāo)識(shí)，若未標(biāo)識(shí)導(dǎo)致公眾混淆或誤解，也違反了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》。

  此外，若平臺(tái)明知用戶利用其服務(wù)實(shí)施違法違規(guī)行為，卻未依法依約采取警示、限制功能等處置措施，需承擔(dān)相應(yīng)連帶責(zé)任。

  “對(duì)于AI技術(shù)提供者或者開發(fā)者，需確保訓(xùn)練數(shù)據(jù)的合法性，若使用未經(jīng)授權(quán)的受版權(quán)保護(hù)作品（如他人照片、繪畫、視頻片段）作為訓(xùn)練素材，可能構(gòu)成對(duì)原權(quán)利人的著作權(quán)侵權(quán)，需承擔(dān)賠償責(zé)任。”王風(fēng)和說，AI技術(shù)提供者或開發(fā)者應(yīng)采取技術(shù)措施防范工具被用于違法活動(dòng)，如檢測(cè)技術(shù)、限制生成色情、暴力、虛假信息等違法內(nèi)容的功能。若未設(shè)置必要的安全限制，導(dǎo)致工具被用于詐騙、誹謗、危害國(guó)家安全等行為，可能因“提供幫助”承擔(dān)連帶責(zé)任。

  完善立法合規(guī)審查

  受訪專家指出，治理此類亂象需壓實(shí)各方責(zé)任，形成合力，在尊重法律與職業(yè)尊嚴(yán)的前提下，引導(dǎo)技術(shù)發(fā)揮積極價(jià)值。

  周麗娜建議，在制度層面進(jìn)一步健全法律法規(guī)。明確AI生成特殊公職人員形象的使用界限、責(zé)任劃分以及法律后果，特別是針對(duì)損害公職人員形象、濫用職業(yè)標(biāo)識(shí)等行為，細(xì)化法律條文，提升法律的針對(duì)性與可操作性。落實(shí)標(biāo)識(shí)制度，嚴(yán)格遵循《人工智能生成內(nèi)容標(biāo)識(shí)辦法》，確保AI生成的涉及公職人員形象的內(nèi)容均添加“AI生成”標(biāo)識(shí)，涵蓋顯式標(biāo)識(shí)和隱式元數(shù)據(jù)，便于公眾識(shí)別，減少誤解和虛假信息的傳播。

  從操作層面而言，作為產(chǎn)品研發(fā)者，應(yīng)精心做好產(chǎn)品設(shè)計(jì)，嚴(yán)格把控訓(xùn)練數(shù)據(jù)的入口以及AI生成的出口。要始終將合規(guī)性放在首要位置，不為流量和娛樂因素所干擾。相關(guān)主管部門在審核App時(shí)，對(duì)于涉及生成特殊公職人員形象的人工智能產(chǎn)品，需強(qiáng)化模型的合規(guī)性審查。同時(shí)，可以設(shè)置技術(shù)門檻，要求相關(guān)應(yīng)用程序具備一定的合規(guī)檢測(cè)功能后，方可上線運(yùn)營(yíng)。

  從平臺(tái)層面來說，平臺(tái)需切實(shí)履行主體責(zé)任，對(duì)AI“換裝”相關(guān)內(nèi)容設(shè)置顯著標(biāo)識(shí)，并建立審核機(jī)制。對(duì)于存在公職人員形象誤用、虛假包裝、侵犯他人權(quán)利等問題的內(nèi)容，應(yīng)及時(shí)下架封禁。進(jìn)一步提升技術(shù)審核能力，充分利用人工智能技術(shù)優(yōu)勢(shì)，開發(fā)更為精準(zhǔn)的內(nèi)容審核算法，通過圖像識(shí)別、語義分析等技術(shù)，對(duì)AI“換裝”生成的內(nèi)容進(jìn)行實(shí)時(shí)監(jiān)測(cè)，及時(shí)發(fā)現(xiàn)違法違規(guī)內(nèi)容。在用戶使用相關(guān)功能前，以彈窗等形式提示法律風(fēng)險(xiǎn)和使用規(guī)范。

  “還應(yīng)加強(qiáng)對(duì)公眾的法治教育和職業(yè)尊重教育，提高民眾對(duì)軍人、警察等職業(yè)形象重要性的認(rèn)識(shí)，以及對(duì)相關(guān)法律規(guī)定的了解，引導(dǎo)民眾自覺抵制和不傳播不當(dāng)內(nèi)容。同時(shí)向公眾普及AI內(nèi)容的識(shí)別方法，降低被騙、被誤導(dǎo)風(fēng)險(xiǎn)。”王風(fēng)和說。（記者 張守坤）