從北京市消費者協(xié)會獲悉，為應(yīng)對AI合成技術(shù)濫用風(fēng)險，規(guī)范電商直播行業(yè)秩序，北京消協(xié)聯(lián)合京東、美團、拼多多、唯品會、抖音、快手、小紅書、微信直播等8家電商平臺簽訂全國首份《促進AI技術(shù)規(guī)范應(yīng)用承諾書》，建立企業(yè)自律規(guī)范，劃定AI技術(shù)應(yīng)用“合規(guī)紅線”。

近年來，AI數(shù)字人直播、虛擬場景帶貨等新技術(shù)應(yīng)用普及，在提升消費體驗同時，部分商家的違規(guī)操作也引發(fā)消費者擔(dān)憂。北京消協(xié)歷時3個月專項調(diào)查，鎖定當(dāng)前AI合成技術(shù)應(yīng)用中存在的突出問題：

消費者知情權(quán)保障不足，“真假難辨”困擾普遍存在。據(jù)3162份有效回收問卷調(diào)查數(shù)據(jù)顯示，近九成的受訪者呼吁“AI生成內(nèi)容需顯著標(biāo)識”，超七成接受虛擬背景但強調(diào)需有顯著提示；超六成認(rèn)為AI數(shù)字人“缺乏真情實感”，近三成擔(dān)憂其“可能誤導(dǎo)消費決策”。

合成技術(shù)濫用滋生消費風(fēng)險，“虛假營銷”問題凸顯。針對電商平臺的AI數(shù)字人、AI場景直播帶貨行為，北京消協(xié)對10個AI數(shù)字人直播帶貨樣本開展體驗調(diào)查發(fā)現(xiàn)：5個樣本在直播界面標(biāo)注“AI生成”“擬真場景”等提示信息，5個樣本未對體驗人員的問題進行及時回應(yīng)或互動；6個樣本存在未提示私下交易風(fēng)險等問題。

此外，平臺審核機制也存在短板，風(fēng)險防控能力有待提升。調(diào)研發(fā)現(xiàn)，當(dāng)前部分電商平臺尚未建立健全AI內(nèi)容審核專項制度，對商家使用AI數(shù)字人、虛擬場景等技術(shù)缺乏有效管理規(guī)則和精準(zhǔn)識別技術(shù)。

針對上述問題，承諾書以“標(biāo)識透明、審核嚴(yán)格、責(zé)任可溯”為核心，提出堅守法律底線，明確合規(guī)邊界；強化標(biāo)識要求，保障知情權(quán)利等具體舉措。要求商家和內(nèi)容創(chuàng)作者在利用AI技術(shù)生成合成數(shù)字人主播、虛擬場景時，在顯著位置清晰標(biāo)注“AI生成”或“擬真場景”等提示內(nèi)容；鼓勵使用平臺提供的統(tǒng)一AI內(nèi)容標(biāo)識功能主動聲明，嚴(yán)禁利用AI合成換臉技術(shù)仿冒名人明星帶貨。

同時，將技術(shù)監(jiān)測與人工復(fù)核結(jié)合，阻斷違規(guī)傳播。在內(nèi)容審核與傳播環(huán)節(jié)對直播內(nèi)容、直播場景進行監(jiān)測，一旦發(fā)現(xiàn)沒有標(biāo)識的疑似AI數(shù)字人或AI虛擬場景問題，將及時采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識。經(jīng)平臺研判，確系存在違規(guī)行為的，將進一步采取屏蔽鏈接等措施。

8家平臺也承諾，堅決抵制惡意刪除、篡改、偽造或隱匿AI內(nèi)容標(biāo)識的行為，對違規(guī)賬號及內(nèi)容依法依規(guī)嚴(yán)肅處理，維護AI制度的嚴(yán)肅性。

來源：工人日報 楊召奎