用戶只需上傳一張生活照，便可一鍵生成個人軍裝照、警察照……“新華視點”記者調查發現，一些AI工具推出“換裝”功能，引發不少軍警迷的追捧。但是，有不法分子利用“AI換裝”功能，偽造軍警身份招搖撞騙，亟待引起警惕。
AI生成制服照被濫用
記者以“AI換軍裝”為關鍵詞，在部分短視頻平臺搜索到多款相關應用。這些應用以“穿電子軍裝過把癮”“AI圓了我兒時夢”等為亮點吸引用戶。有網民稱，只需上傳一張生活照，即可“秒變軍人”，配上戰車、閱兵場等背景，感覺圓了自己的“從軍夢”。
當下一些流行的AI工具提供的AI生圖功能，也可以按使用者要求，實現AI變裝。然而，“AI換裝”被一些人不當或不法使用，可能引發負面效應。
相關專家在觀看部分AI換裝視頻后指出，不少換裝的軍人形象并不符合《中國人民解放軍內務條令》規定的著裝規范，有的混淆軍種制式，有的使用假勛章，有的拼湊不同國家軍服元素。
江蘇大學管理學院黨委書記、教授馬國建表示，個別網民用AI將不同國家、軍種制式的軍服混搭，有的甚至把手持煙酒、勾肩搭背的生活照合成軍裝或警服照片、視頻，與我軍警應有的形象不符，是對軍人和警察形象的不當消費。
個別網民借AI生成虛假人民警察證、部隊任命書。今年3月，安徽黃山市屯溪區網民江某利用AI技術合成身穿軍裝的照片，并在社交平臺發布“經軍委同意，任命我為黃山軍分區司令員”的虛假信息，意圖博取流量。該行為造成不良社會影響，江某被當地公安機關處以治安處罰。
有的不法分子借助“AI換裝”技術偽造身份，招搖撞騙。
今年4月，江蘇省江陰市人民法院對一起冒充軍人招搖撞騙案作出判決。網民路某并非現役軍人，卻盜用網絡上軍人訓練的照片發布在短視頻平臺上；收獲不少點贊后，他又用AI將自己的頭像合成到軍裝照上，并花錢偽造軍官證，搖身變成“少校軍官”。在騙取6名女性信任后，他以“車禍”“租車見領導”等借口詐騙3萬多元。法院以冒充軍人招搖撞騙罪判處其有期徒刑2年。
今年7月，江蘇常州的唐大媽遭遇一場精心設計的騙局：詐騙分子通過AI視頻與受害人接觸，視頻中，對方身著帶有公安標志的制服，以“涉案”為由恐嚇老人繳納高額“保證金”。好在警方及時預警并上門勸阻，避免了老人的財產損失。
平臺審核缺位 變造制服照“零門檻”
記者在某社交平臺上瀏覽到一些網友發布AI變裝視頻，通過視頻下方小程序鏈接進入后，按要求上傳三張本人面部清晰的照片；系統經過十幾分鐘的AI合成，便生成了軍裝變裝視頻。這期間，平臺和小程序并未要求上傳身份證明信息，也沒有給出不得將合成視頻用于違法違規領域的提示。
9月1日起施行的《人工智能生成合成內容標識辦法》要求AI合成內容必須明確標注，但記者在使用多款AI換裝應用后發現，用戶合成發布的視頻并未標注，容易讓人產生混淆。
AI變裝技術，降低了偽造身份的技術門檻。在某購物平臺上，記者以“AI+軍裝照”為關鍵詞，搜索到有商家公開出售佩戴軍銜的各軍種和警察服裝模板素材。店家表示，只需要花不到一元錢的價格就可拍下所有這些素材。
記者拍下后，店家很快發來一個網盤鏈接，內部有數十款供P圖的軍裝模板文件，用戶可根據需要的款式和級別，通過PS或AI等方式將自己的頭部肖像替換上去。記者嘗試將AI生成的軍裝照和肖像照用于多款社交平臺賬號，發現并無審核難度，均可正常替換。
北京市煒衡律師事務所律師汪高峰說，一些內容平臺和第三方軟件疏于審核，縱容虛假內容傳播，可能會降低公眾對軍人、警察職業的信任度和敬畏感。
江蘇省政府參事室特約研究員丁宏表示，AI降低了偽造身份的技術門檻，網絡上曾出現AI合成的警察抓人視頻并配上所謂警情通報，涉嫌傳播違法有害信息。這些內容可能誤導公眾，引發不必要恐慌，擾亂正常社會秩序。
國家網信辦不久前發布了一起執法典型案例：浙江某公司運營的App提供視頻換臉、圖片換臉、照片舞動配音等圖片處理功能，用戶可對上傳圖片、視頻中的人物進行換臉，但未按規定落實安全評估要求，相關深度合成內容也未作顯著標識，存在較大安全風險，違反《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等規定。網信部門責令平臺對該App予以下架處置。
加強審查審核 防止濫用“AI換裝”
《人工智能生成合成內容標識辦法》明確，服務提供者提供生成合成內容下載、復制、導出等功能時，應當確保文件中含有滿足要求的顯式標識；任何組織和個人不得惡意刪除、篡改、偽造、隱匿辦法規定的生成合成內容標識。
國家網信辦等十部門今年印發的《互聯網軍事信息傳播管理辦法》規定，互聯網軍事信息服務提供者和用戶使用深度合成、生成式人工智能等新技術新應用，不得損害人民軍隊形象。
汪高峰等法律人士建議，AI開發者在算法設計中應加強合規性審查，對警察和軍隊標識等敏感信息內容的使用，應在相關部門指導下，嚴格把關審核。平臺方應該嚴格落實《人工智能生成合成內容標識辦法》，對“AI換裝”類產品添加明顯標識，并建立審核機制，對違規內容及時下架封禁。
丁宏建議，加快相關立法進程，強化刑事司法銜接。相關部門盡快明確AI涉軍涉警等圖像的使用邊界、責任劃分及法律后果，特別是對刻意丑化軍人警察形象、借機實施招搖撞騙等行為，要依法依規嚴肅處理，形成法律震懾；對可能影響國家安全、造成社會危害的行為，追究AI工具開發者和內容平臺的連帶責任。
馬國建呼吁，提高公眾對軍人、警察等職業形象重要性的認識，普及相關知識，引導公眾自覺抵制、檢舉錯誤內容、違規應用。加強AI生成合成內容標識方法的宣傳推廣，降低公眾被欺騙、誤導的風險。
