網(wǎng)購時遇到商品問題，內(nèi)容隨手拍張照片申請售后，鑒定本是國家功現(xiàn)場直播高清在線觀看免費消費者維權的常規(guī)操作。可近期，反詐不少電商商家反映，中心有買家使用AI偽造出來的線新“問題圖”申請僅退款，不用退貨還能白拿商品，內(nèi)容這讓商家叫苦不迭。鑒定

對此，國家功部分網(wǎng)友推薦使用國家反詐中心App近期上線的反詐“AI內(nèi)容鑒定”功能，用戶可通過上傳圖片、中心視頻、線新音頻或文本來檢測AI生成痕跡，內(nèi)容現(xiàn)場直播高清在線觀看免費主要用于識別詐騙場景中的鑒定偽造內(nèi)容。

也有部分網(wǎng)友提出疑問，國家功用AI治理惡意AI能有效果嗎？是否能利用“AI內(nèi)容鑒定”功能進行維權？

買家以AI偽造枯黃果苗圖片

申請“僅退款”

河北辛集市的張先生是一名無花果樹種植戶，上個月他把店開到了某直播電商平臺，售賣無花果苗。然而僅賣出12單，他就收到了一份“僅退款”申請，對方的理由是收到的無花果苗已干枯死亡，隨申請附上的，是一張葉片全黃、毫無生機的果苗圖片。

張先生滿心疑惑，自己明明是帶盆發(fā)貨，兩天時間果苗怎么會完全枯死？“直播選的苗，他選了一棵特別健壯的。我是帶盆發(fā)貨的，發(fā)貨之前也會保證土壤濕潤。發(fā)貨到客戶收到就兩天時間，苗不可能干到顏色枯黃。缺水枯黃至少要5天到7天。”

憑借多年種植經(jīng)驗，張先生找出了圖片中的破綻。“如果真的失水，就是運輸途中有問題的話，它的葉子不會展開，應該是皺且下垂的。這個圖片枯萎死亡的狀態(tài)，完全是把正常植物的葉片改成枯黃的顏色，稍微有點經(jīng)驗的人都能看出來。”

張先生斷定，這就是AI造假。他隨即駁回了申請，并聯(lián)系買家退貨退款，但買家直接申請了平臺介入。盡管張先生據(jù)理力爭，平臺還是依據(jù)顧客發(fā)來的這張圖片，幾分鐘內(nèi)就批準了“僅退款”申請。最終，這筆45元的訂單讓張先生直接啟動退店流程，不再在該平臺賣苗。

記者調(diào)查發(fā)現(xiàn)，張先生的遭遇并非個例。在社交平臺上，不少商家現(xiàn)身說法，講述自己見過的AI偽造售后圖片。五只衣架在同一位置整齊斷裂、塑料手機殼斷裂邊緣出現(xiàn)毛刺、手串破碎后呈空心殼狀……記者梳理多位商家曬出的疑似AI造假圖發(fā)現(xiàn)，這些圖片雖然乍看逼真，但細看卻漏洞百出，存在邏輯硬傷。

國家反詐中心App上線鑒定功能

記者體驗AI鑒真工具使用效果

在AI生成圖像泛濫的當下，如何精準鑒別真?zhèn)我殉蔀槔@不開的現(xiàn)實問題。近期，國家反詐中心App正式上線“AI內(nèi)容鑒定”功能，引發(fā)網(wǎng)友關注。該功能支持圖像、視頻等內(nèi)容的AI識別檢測，與此同時，各互聯(lián)網(wǎng)平臺也在積極布局“AI鑒真工具”。

記者在網(wǎng)絡上隨機選取了十張商家宣稱的疑似AI生成“售后圖”，上傳國家反詐中心App及多個AI鑒真工具，結果無一例外，均被系統(tǒng)判定為“圖像含AI生成痕跡”。張先生提供的干枯無花果圖片也被系統(tǒng)認定“圖像含AI生成痕跡”。與之相對比，記者上傳一張自己隨手拍攝的照片，系統(tǒng)則提示“未檢測到合成痕跡”。

某網(wǎng)絡平臺安全內(nèi)容視覺算法負責人蘭鈞介紹，檢測方法由兩部分組成，一部分是小模型來學習AIGC模型生成內(nèi)容的模式，基于大量的內(nèi)容學習和訓練，然后進行判斷。另外會用大模型來關注內(nèi)容本身，看它內(nèi)容上有沒有物理上的瑕疵，比如文字有沒有亂碼；此外也會看它邏輯語義上是否會出現(xiàn)不符合邏輯的問題。最終小模型和大模型結合，一起來進行判斷。

“我們希望它不要出現(xiàn)誤識別。用戶或者商家可以嘗試外部的一些AI鑒真工具，來輔助進行判斷。對于目前這種AIGC的技術生成內(nèi)容還是比較有效的。”

業(yè)內(nèi)人士：應對AI造假

核心在于“以AI治AI”

業(yè)內(nèi)人士表示，應對AI造假，核心在于“以AI治AI”。目前較為成熟的鑒真工具幾乎能不誤傷真實內(nèi)容，又能較為精準識別AI造假內(nèi)容。

AI偽造圖片騙取退款的行為，本質(zhì)是民事欺詐，若不及時遏制，將威脅電子商務的正常秩序與健康發(fā)展。AI鑒真工具能大幅降低商家的辨別成本，既能震懾不法分子，也能作為商家與平臺交涉、維護自身權益的有力證據(jù)。

北京郵電大學互聯(lián)網(wǎng)治理與法律研究中心主任謝永江表示，現(xiàn)在從技術上已經(jīng)有相應的AI內(nèi)容鑒定工具了，平臺有義務引進這種技術手段來維護平臺上的交易秩序，維護商家和消費者的合法權益。（記者：譚瑱）