作者：小巖

編輯：彩云

隨著科技的不斷發(fā)展，AI的應(yīng)用范圍越來越廣。這種全新技術(shù)正在深刻改變著我們的生活，讓很多事情變得越來越簡單，甚至只要進(jìn)行“傻瓜式操作”就能完成。

不過，任何事情都有雙面性。一方面，AI讓很多人的工作效率得到了大幅度提升，成為了自己的得力助手。

譬如寫文章寫報(bào)道這件事就是如此。相較于以往寫一篇深度報(bào)道，需要作者費(fèi)盡心思地采寫，拍攝，如今想完成一篇文章，一張圖片只需要輸入幾個(gè)關(guān)鍵詞，在此之后就坐等AI快速生成即可。成本低夠低，效率夠高。

另一方面，它的存在也讓某些人找到了弄虛作假的捷徑。在這個(gè)信息碎片化的時(shí)代，很多人為了博眼球，蹭流量，會(huì)蓄意編造傳播聳人聽聞，此時(shí)的AI就成為了他們的“作案工具”。

“蹭熱點(diǎn)”,利用AI合成謠言……上海警方查處造謠傳謠人員530余人。

4月16日，上海市公安局在新聞發(fā)布會(huì)中明確表示，諸如“某著名女星命運(yùn)多舛，含恨離世”“上海浦東海灘女童走失事件女孩父親系繼父”等一系列前段時(shí)間在網(wǎng)絡(luò)上盛傳的消息都是謠言。

自去年12月開始，公安部部署打擊整治網(wǎng)絡(luò)謠言專項(xiàng)行動(dòng)以來，上海警方針對(duì)網(wǎng)上惡意炒作，造謠生事等網(wǎng)絡(luò)違法亂象開展全力集中整治。截至目前，累計(jì)查處網(wǎng)絡(luò)謠言384起，依法查處造謠傳謠人員530余人，清理網(wǎng)上謠言信息53000余條，依法關(guān)停違法違規(guī)賬號(hào)5000余個(gè)。

在偵辦案件的過程中，警方發(fā)現(xiàn)，利用AI技術(shù)炮制“爆點(diǎn)”的不法行為是最近興起的新型手段。

譬如上海青浦警方在打擊網(wǎng)絡(luò)謠言專項(xiàng)行動(dòng)中，查處了一起虛構(gòu)事實(shí)擾亂公共秩序的案件。該案中，男子為提升曝光度，博取流量，輸入關(guān)鍵字用AI杜撰關(guān)于青浦區(qū)發(fā)生命案的文章，并在網(wǎng)上下載網(wǎng)圖后移花接木，發(fā)布在網(wǎng)上吸引網(wǎng)友關(guān)注，之后被依法行政拘留。

同類型的網(wǎng)絡(luò)謠言案件還有很多。像“某著名女星命運(yùn)多舛，含恨離世”“利用AI軟件合成故意縱火虛假視頻”“利用AI軟件編造社會(huì)知名人士重病離世”等，都屬于利用AI造謠的案件類型。

就連去年備受大家關(guān)注的“上海浦東海灘女童走失事件”也遭遇了AI造謠。一造謠團(tuán)伙就以“標(biāo)題黨”“震驚體”方式惡意編造炒作了一系列謠言，諸如“女孩父親系繼父”“女孩被帶往溫州”等。這些謠言團(tuán)伙通過批量注冊(cè)網(wǎng)絡(luò)賬號(hào)的方式，對(duì)謠言進(jìn)行進(jìn)一步的轉(zhuǎn)發(fā)炒作，閱讀量超百萬。僅通過炒作這一事件，該團(tuán)伙就非法獲利4萬余元。警方進(jìn)一步調(diào)查后發(fā)現(xiàn)，該團(tuán)伙還圍繞各類全國性社會(huì)熱點(diǎn)，在各大平臺(tái)高頻發(fā)帖，轉(zhuǎn)載虛假負(fù)面信息，牟取不法利益。目前，團(tuán)伙中12名成員已被依法移送起訴，涉案相關(guān)網(wǎng)絡(luò)賬號(hào)已被全部封禁。

毫無疑問，這些謠言會(huì)給當(dāng)事人極其家人造成難以磨滅的困擾和傷害。

警方也將加強(qiáng)對(duì)網(wǎng)絡(luò)新技術(shù)新業(yè)態(tài)的研究，與互聯(lián)網(wǎng)企業(yè)建立7×24小時(shí)溝通聯(lián)系機(jī)制，全面強(qiáng)化企業(yè)巡查處置能力，積極查擺網(wǎng)絡(luò)安全責(zé)任制度問題隱患。與此同時(shí)，警方還會(huì)指導(dǎo)建立辟謠專區(qū)，賬號(hào)及謠言舉報(bào)入口，盡量將謠言所帶來的傷害控制到最低。

更有甚者編造虛假的官方通報(bào)——聳人聽聞，觸碰紅線。

編造假新聞的行為已經(jīng)十分離譜，卻不想有些人還更過分，居然連重大的社會(huì)事件，官方通報(bào)都敢編造。

2024年1月23日，廣西壯族自治區(qū)東興市的駱某某（男，32歲）為博取流量吸引粉絲，將其他地區(qū)的抗洪救災(zāi)視頻，利用AI軟件自動(dòng)編輯功能，嫁接新疆烏什縣發(fā)生地震的虛假視頻信息。一時(shí)之間，視頻被大量播放，還引發(fā)了許多不明真相網(wǎng)民評(píng)論和轉(zhuǎn)發(fā)，嚴(yán)重干擾社會(huì)秩序。目前，東興市公安機(jī)關(guān)已依法對(duì)駱某某進(jìn)行處罰。

無獨(dú)有偶。同樣在廣西壯族自治區(qū)，賀州市的網(wǎng)警發(fā)現(xiàn)有人冒用賀州市平桂區(qū)人民政府辦公室的名義，在網(wǎng)上發(fā)布一條"關(guān)于賀州市第五高級(jí)中學(xué)小賣部經(jīng)營權(quán)調(diào)查情況的通報(bào)"。經(jīng)調(diào)查，網(wǎng)警發(fā)現(xiàn)通報(bào)內(nèi)容與政府發(fā)布通報(bào)的實(shí)際情況嚴(yán)重不符。這條虛假通報(bào)的發(fā)布人是山東青島人于某某，它在網(wǎng)上看到關(guān)于賀州市第五高級(jí)中學(xué)小賣部經(jīng)營權(quán)調(diào)查情況的通報(bào)后，為了蹭熱度為自己賬號(hào)漲粉，就使用 AI 工具將該報(bào)道重新生成了一篇內(nèi)容，與政府發(fā)布通報(bào)實(shí)際情況嚴(yán)重不相符的文章，并發(fā)布到網(wǎng)上。目前，公安機(jī)關(guān)已依法對(duì)其處以行政處罰。

官方下場表態(tài)：人工智能生成謠言成本低，治理須“下猛藥”。

利用AI技術(shù)蹭熱度，造謠，乃至偽造官方通報(bào)，重大社會(huì)事件的行為無疑是非常惡劣的。

相較于傳統(tǒng)的，由造謠者人工編造散播的謠言，使用AI工具來造謠的危害顯然更大。一方面，利用AI技術(shù)，造謠者只需要進(jìn)行簡單的描述，虛假文字信息，圖片，視頻就會(huì)立馬生成。相較于傳統(tǒng)造謠，AI造謠的成本更低。另一方面，最新的生成式AI技術(shù)足夠厲害，已經(jīng)接近“以假亂真”的效果。人工智能還能根據(jù)傳播渠道的特征，實(shí)施個(gè)性化的謠言生成，迷惑性更強(qiáng)，傳播范圍更廣，所產(chǎn)生的危害也會(huì)更大。更令人細(xì)思極恐的是，一些不法分子心懷鬼胎，會(huì)借助AI批量生產(chǎn)謠言并大量投放，擴(kuò)散范圍廣，并面向特定受眾精準(zhǔn)投放。這種行為所造成的危害將不堪設(shè)想。

也正因此，官方也直接下場，直接定下了“要嚴(yán)厲打擊AI造謠等不法行為”的調(diào)子。人民網(wǎng)就表示：欲去“沉疴”還需“猛藥”。

人民網(wǎng)表示，由AI代勞完成謠言十分簡單，但為了核實(shí)這些的信息真假，相關(guān)機(jī)構(gòu)和個(gè)人往往要投入大量人力物力，消耗大量社會(huì)成本。一些謠言不僅給受害方造成巨大的精神傷害，也會(huì)產(chǎn)生不容低估的經(jīng)濟(jì)損失。

所以，可以從司法治理層面考慮，將“AI造謠”作為新型犯罪手段，積極探索其入罪的依據(jù)，加大懲處力度。

網(wǎng)絡(luò)本就不是不法之地，利用AI技術(shù)在網(wǎng)絡(luò)上大肆傳播虛假信息就更是錯(cuò)上加錯(cuò)。如今有了官方發(fā)聲，下場直接定性，我們有理由相信，AI亂象一定會(huì)被控制在監(jiān)管之下。

審核編輯 黃宇