|
“AI霸總”為帶貨、騙財圍獵中老年女性，老太關(guān)注三四十位AI霸總從早刷到晚，人大代表建議嚴厲打擊“姐姐，明天我就要走了，心里很舍不得你”“姐姐，你摸著良心說，我到底帥不帥”……類似的臺詞不斷從姜小星奶奶的手機中傳出，一度讓姜小星覺得“腦殼疼”。 這類“AI霸總”實質(zhì)上就是AI數(shù)字人。在視頻中，其通常身處富麗堂皇的會客廳、辦公室，展現(xiàn)出儒雅、深情款款的形象。這類視頻通過添加“帥氣大叔”“黃昏戀”等標簽，被精準推送給缺乏情感關(guān)照的中老年女性。這些“AI霸總”瞄準老年群體，背后藏著帶貨、詐騙等多重陷阱。日前，全國人大代表李秋建議，為推動銀發(fā)經(jīng)濟高質(zhì)量發(fā)展，應嚴打欺詐、誘導老年人下單等行為。
令姜小星苦惱的是，盡管已向奶奶多次解釋視頻的公共屬性，但每當奶奶刷到“AI霸總”視頻，她總會認為那些話術(shù)是“AI霸總”向自己釋放的專屬愛意。一個月前，奶奶還提到要去外地與一位“AI霸總”“奔現(xiàn)”，被家人及時勸止。 北京紅颯律師事務所主任律師黃啟瑞今年年初也接觸過有關(guān)“AI霸總”的咨詢案例。咨詢?nèi)说哪赣H從去年10月起開始接觸“AI霸總”視頻，后來與一位“AI霸總”私信交談甚久，進而被推銷保健品。 黃啟瑞對《中國新聞周刊》指出，這類視頻本質(zhì)是利用AI合成的霸總形象，給中老年女性提供情緒價值，然后激發(fā)這一群體非理性消費或投資行為，進而實現(xiàn)騙財、斂財。 胡可欣，公眾號：中國新聞網(wǎng)“霸總”圍獵中老年女性，人大代表急了 記者在短視頻平臺檢索發(fā)現(xiàn)，為積累私域流量，部分“AI霸總”賬號會建立專屬粉絲群。記者進入了4個百人以上的粉絲群，這些群聊消息更新頻率很快，“AI霸總”每天都會在粉絲群中分享直播鏈接，諸多中老年女性在其中踴躍互動。 記者點進一個名為“建國情感”的“AI霸總”直播間后發(fā)現(xiàn)，該直播正打著““AI霸總”給你送禮物”的名義，推銷一款售價為59.9元的“武財神招財令掛件”，商品銷量已達3.9萬件。
記者調(diào)查還發(fā)現(xiàn)，不少“AI霸總”背后由婚戀機構(gòu)運作。在某短視頻平臺，記者給幾位“AI霸總”點了關(guān)注后，私信即刻彈出對方發(fā)來的鏈接卡，聲稱“點擊即可獲得哥哥的聯(lián)系方式”。記者以中老年女性身份提出想獲得視頻中“AI霸總”的電話，對方回復：“姐姐，我們是大哥的紅娘，你要在我們這邊花980元辦會員，才能跟大哥聯(lián)系。” 為了進一步了解這類“AI霸總”視頻的生成、發(fā)布流程，日前，記者用生成式AI創(chuàng)作平臺先后制作了3個10秒的“AI霸總”視頻。在某平臺，記者上傳“AI霸總”角色圖片后，系統(tǒng)自動識別匹配了“成熟總裁”的音色。設(shè)定完說話內(nèi)容、動作描述，6小時后，記者得到了一個像模像樣的“AI霸總”視頻。另一App生成的“AI霸總”視頻，耗時短至2—3小時。
黃啟瑞指出，因相信“AI霸總”視頻遭遇財產(chǎn)損害，維權(quán)困難的原因在于當前生成式AI的技術(shù)門檻較低。一旦被騙，受害者因缺乏取證技術(shù)及工具，難以獨立完成證據(jù)收集，證據(jù)鏈無法形成閉環(huán)。這種情況下，如果委托律師維權(quán)，又要承受高昂的維權(quán)成本。 胡可欣，公眾號：中國新聞網(wǎng)“霸總”圍獵中老年女性，人大代表急了 依據(jù)國家網(wǎng)信辦2022年11月頒布的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》，深度合成服務提供者提供人臉生成、姿態(tài)操控等人物圖像、視頻生成編輯服務時，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標識。 胡可欣，公眾號：中國新聞網(wǎng)“霸總”圍獵中老年女性，人大代表急了 快思慢想研究院院長田豐告訴《中國新聞周刊》，當前，仍存在一些不法團隊通過對國外的開源工具進行修改，使生成的視頻產(chǎn)品缺乏AI標識。黃啟瑞認為，在這一問題上，短視頻平臺應加強對視頻內(nèi)容的監(jiān)測過濾。 田豐建議，AI視頻生成模型應建立負樣本庫�！跋Ｍ@類模型去預訓練一些負面樣本，使模型能第一時間識別詐騙、黑灰產(chǎn)等用途的不良素材和指令，直接從源頭上阻止不良視頻的生成。” （文中人物均為化名） 來源：中國新聞周刊 編輯：金文婕 審核：燕青 版權(quán)聲明：如有侵權(quán) 請聯(lián)系刪除 |
