??近期，多地(di)公安機關發(fa)布(bu)了(le)(le)多起利用AI工具實施造(zao)謠(yao)的(de)相關案件。6月20日，上海市(shi)公安局(ju)城市(shi)軌(gui)道(dao)和公交總隊官方微博@軌(gui)交幺幺零(ling)發(fa)布(bu)警(jing)情通(tong)報：兩名營銷人員為博取關注造(zao)謠(yao)地(di)鐵站發(fa)生(sheng)持刀傷人的(de)情況，被警(jing)方依法處以行政拘留。其中(zhong)一(yi)人，使用AI軟(ruan)件生(sheng)成(cheng)視(shi)頻(pin)技(ji)術，編造(zao)了(le)(le)地(di)鐵行兇(xiong)的(de)虛(xu)假視(shi)頻(pin)等不(bu)實信息發(fa)布(bu)到網上，造(zao)成(cheng)惡劣(lie)社會(hui)影響。

??記者采訪了(le)解(jie)到，便利的AI工具大(da)大(da)降低了(le)造謠(yao)的成本，提升了(le)謠(yao)言的數量(liang)級和傳播(bo)力。AI造謠(yao)呈現出門檻低、批量(liang)化、識別難(nan)等特點，亟待加強監(jian)管，斬斷背后(hou)利益鏈條。

??AI造謠頻發

??記(ji)者(zhe)梳(shu)理發現，近年來，AI造謠(yao)在全國多地頻發，傳播快(kuai)、門檻低、迷(mi)惑性強(qiang)。

??去年，在上海一(yi)(yi)女童走失事件中(zhong)，一(yi)(yi)團(tuan)伙(huo)以(yi)“標題黨”“震驚體”方式，惡(e)意編(bian)造炒作“女孩父(fu)親系繼父(fu)”“女孩被帶往溫州”等(deng)系列謠(yao)言(yan)。該團(tuan)伙(huo)利用AI工具等(deng)生(sheng)成謠(yao)言(yan)內(nei)容，通過114個賬號(hao)矩陣，在6天內(nei)發布(bu)268篇文(wen)章(zhang)，多篇文(wen)章(zhang)點擊量(liang)超過100萬次。

??AI造謠(yao)門檻很(hen)低。一名(ming)辦案(an)人員(yuan)透(tou)露，此(ci)前(qian)在調查一起謠(yao)言案(an)件(jian)時發現，謠(yao)言源頭來自中部某(mou)省份的一個(ge)村落。經調查，該村有大(da)量村民(min)利(li)用生成式(shi)AI撰寫網絡文章。

??“部分村民(min)通過口(kou)口(kou)相(xiang)傳獲(huo)知，把搜索到(dao)的網絡熱點信(xin)息粘貼進AI模型后，可(ke)以生成(cheng)新文章；在一些互聯網平臺(tai)上發(fa)布，即可(ke)通過流量賺錢。不(bu)少村民(min)都自發(fa)從事該活動。”辦案人員說。

??迷(mi)惑性強，也是AI造謠的一大特點。

??公(gong)安部網安局近期公(gong)布一起案例。2023年12月以來，一條“西安市(shi)鄠邑(yi)區(qu)地(di)下(xia)涌出熱(re)水(shui)”的信(xin)息頻繁在網絡上傳播，出現如(ru)“地(di)下(xia)出熱(re)水(shui)是(shi)因為發生了地(di)震(zhen)”“是(shi)因為地(di)下(xia)熱(re)管道破裂”等謠言。經(jing)查，相關謠言是(shi)通過AI洗稿方式生成的。

??記(ji)者發現，上述(shu)謠(yao)言采用類似(si)新聞(wen)的行(xing)文，其中夾(jia)雜著“據報道”“相關部門正對事故(gu)原因(yin)進行(xing)深(shen)入調查，并(bing)采取措施進行(xing)搶修”“提醒(xing)廣(guang)大市民在(zai)日常生活中要(yao)注意(yi)安全”等內容。普通(tong)人難辨真偽。

??清華大(da)學新(xin)聞(wen)與傳(chuan)(chuan)播(bo)學院(yuan)教授沈陽表示(shi)，AI的介入使得(de)信息的生(sheng)成(cheng)和(he)傳(chuan)(chuan)播(bo)速度大(da)大(da)加快，同(tong)時也增加了(le)判斷信息真實性、準確性的難度。AI工(gong)具從技術上(shang)降低了(le)不法團伙造謠(yao)(yao)(yao)、傳(chuan)(chuan)謠(yao)(yao)(yao)的門(men)檻，大(da)幅提升了(le)謠(yao)(yao)(yao)言的數量級和(he)傳(chuan)(chuan)播(bo)力，可能促(cu)使網絡謠(yao)(yao)(yao)言“定制化(hua)(hua)”生(sheng)成(cheng)、“精準化(hua)(hua)”傳(chuan)(chuan)播(bo)、“智能化(hua)(hua)”擴散。

??清華大學新聞與傳播學院新媒體(ti)研究(jiu)中心今年4月發布的(de)一(yi)份(fen)研究(jiu)報告顯示，近兩(liang)年的(de)AI謠言(yan)中，經濟與企業類謠言(yan)占比最高，達(da)43.71%；近一(yi)年來，經濟與企業類AI謠言(yan)量增速高達(da)99.91%，其中餐飲外賣、快遞配送等行(xing)業更是AI謠言(yan)重災區(qu)。

??流量牟利

??記者發現，多起AI造謠事件背(bei)后(hou)，造謠者的動機主要(yao)源于獲取互聯網內(nei)容(rong)平(ping)臺給予創作者的點擊(ji)量、閱讀(du)量獎勵，以及(ji)為電商平(ping)臺經營引流等。

??浙江省紹(shao)興市上(shang)虞區人民法(fa)院2023年宣(xuan)判的一起案件中，不法(fa)分子為吸粉引流，通過(guo)(guo)非法(fa)渠道購買(mai)AI視頻(pin)(pin)生成(cheng)軟(ruan)件，將(jiang)網上(shang)搜集的熱(re)(re)門話題(ti)，通過(guo)(guo)AI一鍵(jian)生成(cheng)視頻(pin)(pin)，并(bing)發至多個熱(re)(re)門視頻(pin)(pin)平臺上(shang)牟利(li)。

??經審查發(fa)現(xian)，截至案(an)發(fa)，不法(fa)分子發(fa)布(bu)的(de)《浙(zhe)(zhe)江工業園現(xian)場大(da)火濃煙(yan)滾(gun)滾(gun)，目(mu)擊者稱有爆(bao)炸(zha)聲！》等(deng)20余(yu)條虛(xu)假造謠視頻，涉及浙(zhe)(zhe)江、湖(hu)南、上(shang)海、四川(chuan)等(deng)多(duo)個省市(shi)，累(lei)計閱讀觀看量超過(guo)167萬次。

??記者調查發現(xian)，在自(zi)媒體平臺上(shang)發布內容、博取(qu)流(liu)量已經成為一門(men)生意。“圖(tu)文創作，AI自(zi)動寫文章，單號(hao)輕(qing)松(song)日產500+，可多(duo)號(hao)操作，小白(bai)輕(qing)松(song)上(shang)手”“無需洗稿，AI一天100篇原創”之類的文章在互聯網上(shang)廣(guang)為流(liu)傳。

??以(yi)一(yi)(yi)家(jia)大(da)型(xing)互聯網內(nei)容平臺(tai)為例，發(fa)布內(nei)容基礎千次(ci)的閱讀(du)(du)單價為0.12元(yuan)，但通過一(yi)(yi)系(xi)列系(xi)數相乘，可以(yi)讓(rang)千次(ci)閱讀(du)(du)收(shou)益(yi)提高10倍。這意味著如果(guo)一(yi)(yi)篇文(wen)章閱讀(du)(du)量達到100萬次(ci)，創作者即能收(shou)益(yi)超過1000元(yuan)。

??一(yi)(yi)些人使用AI造謠的(de)目(mu)的(de)是為電商平(ping)臺(tai)產品銷售引(yin)流。今年2月，上海公(gong)安機關(guan)發現(xian)(xian)，在一(yi)(yi)家電商平(ping)臺(tai)上出現(xian)(xian)了某藝(yi)人“命運(yun)多舛、含恨離世”等短視(shi)頻，引(yin)發大量點贊和轉發。

??經查，該視(shi)(shi)頻(pin)(pin)內容完全系偽造。視(shi)(shi)頻(pin)(pin)發布者(zhe)到案(an)后交代，他在某電商平臺上經營一家土(tu)特產(chan)網(wang)店(dian)。由于銷(xiao)量(liang)不(bu)佳，他便通過編造奪人眼球的虛假(jia)新聞給網(wang)店(dian)賬號吸(xi)引流量(liang)。他不(bu)會(hui)視(shi)(shi)頻(pin)(pin)剪輯，便利用AI技術生成文本和視(shi)(shi)頻(pin)(pin)。

??多管齊下強化治理

??今(jin)年4月，中央網信辦秘書局發(fa)(fa)布(bu)《關于(yu)開(kai)展“清朗(lang)·整治(zhi)‘自(zi)媒(mei)體(ti)’無底(di)線博(bo)流(liu)量”專項(xiang)行動的通(tong)知(zhi)》，要(yao)求加強信息來源標(biao)注(zhu)展示。使用AI等技(ji)術生成(cheng)信息的，必須明(ming)確標(biao)注(zhu)系技(ji)術生成(cheng)。發(fa)(fa)布(bu)含(han)有虛構、演繹等內容的，必須明(ming)確加注(zhu)虛構標(biao)簽。

??專家表(biao)示(shi)，隨著(zhu)AI使(shi)用(yong)門檻(jian)降低，AI造(zao)(zao)謠(yao)問(wen)題可能加劇；建議(yi)壓實互聯網內容(rong)平(ping)臺(tai)、AI內容(rong)生成平(ping)臺(tai)等主體責任(ren)，阻斷造(zao)(zao)謠(yao)背后的利益鏈條；加強法律研究(jiu)和適用(yong)，提高造(zao)(zao)謠(yao)者、傳謠(yao)者的違法成本。

??北京師范大(da)學新聞(wen)傳播學院教(jiao)授(shou)喻國明建議，AI內(nei)容生成平(ping)臺(tai)要(yao)進一步(bu)完(wan)善對生成內(nei)容和內(nei)容來源的(de)標(biao)識(shi)機制，例如(ru)附加不(bu)可刪(shan)除的(de)數字(zi)水(shui)印和文本(ben)說明。互聯網內(nei)容平(ping)臺(tai)可接入(ru)AI內(nei)容生成平(ping)臺(tai)的(de)大(da)模型系(xi)統，實時進行數據識(shi)別比(bi)對。

??中國社會(hui)科學(xue)院大(da)學(xue)互聯(lian)網法治研(yan)究中心(xin)主(zhu)任劉(liu)曉春建議(yi)，互聯(lian)網內(nei)容平(ping)臺應加(jia)強對(dui)AI造(zao)謠行為的(de)智能識別(bie)機制研(yan)究，進一步優化(hua)涉及AI內(nei)容的(de)流量分發(fa)和(he)收益(yi)分成機制，壓縮別(bie)有用心(xin)者批量生產謠言的(de)牟(mou)利空間。

??喻(yu)國明認(ren)為，在辟(pi)謠(yao)(yao)(yao)方(fang)面，可利用AI辟(pi)謠(yao)(yao)(yao)應對(dui)AI造謠(yao)(yao)(yao)，“針對(dui)被確(que)認(ren)為謠(yao)(yao)(yao)言(yan)的內(nei)容(rong)，互(hu)聯網內(nei)容(rong)平臺可利用AI技(ji)術向(xiang)曾經瀏覽過相關內(nei)容(rong)的用戶智能推送辟(pi)謠(yao)(yao)(yao)內(nei)容(rong)或進行風(feng)險提示，降(jiang)低謠(yao)(yao)(yao)言(yan)破壞力。”

??沈陽等業內專(zhuan)家表示，界定AI謠言產(chan)生是否存(cun)在主觀(guan)惡意、認定被造(zao)謠方(fang)損失等存(cun)在一定困難，對AI造(zao)謠等行為(wei)(wei)在刑事處罰上容(rong)易出現法律適用難題，導致(zhi)打擊效(xiao)果(guo)難以落地。“我們研(yan)究(jiu)發現，在86起涉AI造(zao)謠相關案(an)件(jian)中，懲(cheng)處類型為(wei)(wei)刑事處罰的(de)占比僅為(wei)(wei)15.66%。”沈陽說(shuo)。

??北(bei)京孟真律(lv)師事務所律(lv)師舒勝來認(ren)為，面(mian)對AI謠(yao)言(yan)等技術和(he)犯罪形式(shi)的(de)快(kuai)速迭代，法(fa)律(lv)法(fa)規研究也(ye)要與時俱進。要進一(yi)步明確AI造(zao)謠(yao)犯罪的(de)認(ren)定標準，加(jia)強行刑銜(xian)接(jie)，對AI造(zao)謠(yao)者“精準懲處”，做(zuo)到(dao)罰當其(qi)罪、罰當其(qi)過，為廣大網民營造(zao)風清氣正(zheng)的(de)網絡空間(jian)。 （記(ji)者 蘭天鳴）