近日,公安部公布近期打擊整治網(wǎng)絡(luò)謠言10起典型案例,其中4起涉及使用人工智能工具生成和傳播謠言。這些涉“AI造謠”案件中,“廣州限制外賣配送”謠言案尤為典型。
2023年12月19日,有網(wǎng)民在今日頭條平臺發(fā)布“廣州即將成為全國首個限制外賣配送的城市”,迅速引發(fā)關(guān)注形成網(wǎng)絡(luò)熱搜。經(jīng)查,四川德陽網(wǎng)民楊某組織招攬廣東江門網(wǎng)民葉某英等多名兼職人員,使用人工智能工具批量生成不實文章引流牟利。最終,涉案6人被采取刑事強制措施。其余3起案件中,涉案人均被處以行政處罰。這些案件顯示,伴隨AI技術(shù)的迅猛發(fā)展,“AI造謠”的情況日益增多,對此進行治理已經(jīng)刻不容緩。
在自媒體時代,一些自媒體從業(yè)人員為了攫取利潤盲目追逐流量,當流量誘惑達到一定程度時,他們不惜冒各種風(fēng)險甚至違法犯罪,其中最普遍的一種就是網(wǎng)絡(luò)造假傳謠。而AI技術(shù)在近兩年發(fā)展很快,大大降低了使用門檻,同時因為其更“善解人意”“以假亂真”,很快被派上了用場。
技術(shù)是中性的,本身并不能分辨善惡。一種新技術(shù)出現(xiàn)既可以為善,也可以助惡。一旦某種技術(shù)可能用于為惡,最終就會有人這么做,這也符合“墨菲定律”。當無底線追逐流量的自媒體盯上新興的AI技術(shù),結(jié)果便是為追逐流量造假變得更容易,造假效果更強,造成的損失也更大。
“廣州限制外賣配送”就屬于此種情況。當造謠者為吸引眼球編造謠言,幾乎無需成本,使用人工智能工具就可以批量生成不實文章引流牟利,這種幾乎沒有成本的謠言造成的后果,可能對一個巨大體量的行業(yè)造成沖擊,讓這個行業(yè)上下游所涉及的人都會受到直接或間接的影響。
當前,作為一種新型謠言傳播方式與犯罪手段,“AI造謠”擾亂了輿論秩序,也危害經(jīng)濟和社會平穩(wěn)運行。不過,現(xiàn)階段治理“AI造謠”也存在不少司法層面和社會治理層面的難點、堵點,其中較為突出的是“AI造謠”的“定性難”“入罪難”問題。相較于之前的網(wǎng)絡(luò)謠言違法行為,“AI造謠”成本低、門檻低、傳播廣、獲利小、破壞大,對正常經(jīng)濟和社會秩序有較強的危害性,但目前“多為行政處罰、刑事處罰較少”的治理力度,客觀上難以形成有力震懾,進而縱容相關(guān)“黑灰產(chǎn)”野蠻擴張。
針對這一局面,相關(guān)部門已經(jīng)有所回應(yīng)。2023年9月,最高人民法院、最高人民檢察院、公安部聯(lián)合發(fā)布的《關(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導(dǎo)意見》指出,對實施網(wǎng)絡(luò)暴力違法犯罪者利用“深度合成”等生成式人工智能技術(shù)發(fā)布違法信息,將依法從重處罰。此次廣東警方對“廣州限制外賣配送”謠言案中涉案人采取刑事強制措施,也體現(xiàn)了對“AI造謠”的堅決整治態(tài)度,或?qū)⒊蔀榇驌糁卫怼癆I造謠”的樣板案例。 (本文來源:經(jīng)濟日報 作者:賈安平)