每經(jīng)記者 楊昕怡    每經(jīng)編輯 董興生    

AI技術(shù)飛速發(fā)展給每個領(lǐng)域帶來的，既是一次來自新時代的重塑，也是一場前所未有的挑戰(zhàn)。

“在AI技術(shù)的加持下，我們發(fā)現(xiàn)網(wǎng)絡(luò)謠言的發(fā)展呈現(xiàn)出了一些新的特征。”在2月24日舉辦的今日頭條“平臺治理開放日”活動上，清華大學(xué)新聞與傳播學(xué)院副教授陸洪磊表示，AI謠言在跨平臺影響力、傳播速度以及逼真性上都比傳統(tǒng)謠言更具破壞性。

作為國內(nèi)一大內(nèi)容平臺，面對“進(jìn)化”中的虛假信息和低質(zhì)內(nèi)容，今日頭條的攔截措施也在與時俱進(jìn)。

“人工審核的投入會越來越少，因為頭條上的發(fā)文量級巨大，純靠人去審核是不可能的，所以目前占比90%以上的審核通過機(jī)器來做。”今日頭條安全運(yùn)營負(fù)責(zé)人閆夢茹在接受《每日經(jīng)濟(jì)新聞》記者采訪時表示，“但機(jī)器審核的準(zhǔn)確率還不是100%，沒有人工準(zhǔn)確，需要人不斷去校準(zhǔn)機(jī)器、給它投喂更準(zhǔn)確的樣本去訓(xùn)練它。”

圖片來源：每經(jīng)記者 楊昕怡 攝

“除了謠言這一‘老課題’，低質(zhì)AI（內(nèi)容）的治理是我們的一個新命題。”今日頭條生態(tài)治理運(yùn)營負(fù)責(zé)人韓雨桐表示，“在過去一年中，我們對于低質(zhì)AI發(fā)文治理工作投入了大量的精力，包括但不限于不斷升級、迭代AI低質(zhì)模型的識別能力，收嚴(yán)低質(zhì)AI內(nèi)容治理標(biāo)準(zhǔn)等。”

記者在活動現(xiàn)場了解到，2024年，今日頭條對超93萬條低質(zhì)AI內(nèi)容進(jìn)行了識別和管控；對近3萬個利用AI批量發(fā)布虛假低質(zhì)內(nèi)容或惡意抄襲、洗稿他人的賬號進(jìn)行了處罰；站內(nèi)用戶對AI相關(guān)的負(fù)向反饋聲量，從年初的每天近28條降低至目前的每天1到2條。

“90%以上的審核通過機(jī)器”，今日頭條“用魔法打敗魔法”

AI時代的信息爆炸中，虛假信息和低質(zhì)內(nèi)容的泛濫為內(nèi)容平臺治理設(shè)下了重重難關(guān)。

首先在低質(zhì)量的同質(zhì)化內(nèi)容治理上，閆夢茹指出，近年來AI技術(shù)快速發(fā)展，大模型能力迭代快、效果好。雖然提高了創(chuàng)作者的寫作效率，但也降低了低質(zhì)內(nèi)容的洗稿成本。并且，現(xiàn)在市面上出現(xiàn)了很多專業(yè)化洗稿工具，可以支持綁定賬號批量提供AI文章，還可以招聘兼職人員批量復(fù)制發(fā)文。

她表示，相比其他平臺，今日頭條在時政、歷史等領(lǐng)域內(nèi)容的用戶更多，“所以我們的治理難度也會更大”。

對于同質(zhì)化內(nèi)容的發(fā)現(xiàn)和識別方式，閆夢茹介紹，今日頭條內(nèi)部有巡查團(tuán)隊，實時巡查站內(nèi)高風(fēng)險的同質(zhì)化內(nèi)容。其次，內(nèi)部會通過模型識別和人工評估相結(jié)合的方式，對同質(zhì)化內(nèi)容進(jìn)行二次與綜合判定和評估，以確保準(zhǔn)確性。

“在堅持AI低質(zhì)內(nèi)容治理層面，目前常用的手段其實就是在拿AI去對抗AI。”陸洪磊提出了三點(diǎn)治理建議，分別是迭代、加強(qiáng)機(jī)器識別能力，加強(qiáng)人工審核能力以及上線“AI創(chuàng)作標(biāo)簽”來幫助用戶鑒別AI內(nèi)容，保持理性思考。

對此，閆夢茹表示，目前今日頭條在人工審核的投入會越來越少，“占比90%以上的審核通過機(jī)器來做”。“但機(jī)器審核有弊端，準(zhǔn)確率還不是100%，沒有人工準(zhǔn)確，需要人不斷去校準(zhǔn)機(jī)器、給它投喂更準(zhǔn)確的樣本去訓(xùn)練它。”

她向記者表示，內(nèi)部在內(nèi)容治理上運(yùn)用了多個不同類別的模型。“比如在處理虛假內(nèi)容問題上，可能有大大小小幾十個模型，每個效果都不太一樣，最好的（模型）在‘實錘’謠言上的準(zhǔn)確率有100%。”

同時，韓雨桐介紹，對于虛假謠言，今日頭條早已建立起三大核心治理能力，包括謠言庫、權(quán)威信源庫以及專業(yè)審核團(tuán)隊。

她還指出，今日頭條于2024年在發(fā)文下方增加權(quán)威媒體報道來源標(biāo)簽，在保障資訊真實性的基礎(chǔ)上，為用戶提供了更多客觀視角。

記者了解到，2024年，今日頭條累計攔截不實信息超500萬條，封禁造謠、傳謠等違規(guī)賬號4.77萬個；平臺去年全年還攔截和處置涉嫌詐騙內(nèi)容超200萬條，禁封涉嫌詐騙賬號17.85萬個，配合警方抓捕87人。

“認(rèn)知戰(zhàn)爭”面前，內(nèi)容平臺如何獲得主動權(quán)？

“我們正面臨一場前所未有的認(rèn)知戰(zhàn)爭。”在陸洪磊看來，過去的謠言是一種隱蔽的、分散的公眾情緒，而網(wǎng)絡(luò)時代的謠言往往具備新聞性、說服性、非官方性和強(qiáng)傳播性。“新的AI謠言將越來越逼近真話，專業(yè)媒體人可能都要進(jìn)行實時核查才能判斷這個消息是不是真的，它的破壞性將成倍增加。”

例如，今年1月西藏日喀則市定日縣突發(fā)6.8級地震后，一張廢墟中被埋兒童的照片在社交平臺熱傳，引發(fā)公眾關(guān)切。而后經(jīng)查證，該圖實為2024年11月某創(chuàng)作者標(biāo)注的AI生成作品，被部分自媒體盜用并打上地震相關(guān)標(biāo)簽博取流量。

另外，清華大學(xué)新聞與傳播學(xué)院新媒體研究中心在2024年4月發(fā)布的一份研究報告顯示，近一年來，經(jīng)濟(jì)與企業(yè)類AI謠言量增速達(dá)99.91%。

在開放日現(xiàn)場，北京師范大學(xué)法學(xué)院院長、教授梁迎修表示，對于AI虛假謠言，網(wǎng)絡(luò)平臺要積極承擔(dān)社會責(zé)任，重視內(nèi)容整治，同時政府機(jī)構(gòu)、媒體、公眾等更應(yīng)加強(qiáng)協(xié)同，網(wǎng)絡(luò)謠言治理需要多方綜合施策。

“一方面我們要去打擊、消滅假的信息，另一方面也希望用平臺的力量去主動傳播真實的信息。”今日頭條內(nèi)容策劃負(fù)責(zé)人劉姍姍在開放日現(xiàn)場談及了《頭條講真的》項目的創(chuàng)辦初衷。

記者了解到，自2023年以來，今日頭條推出了《頭條講真的》項目。該項目以“傳播真實信息”為理念，把“硬核科普”作為主要傳播方向，平臺聯(lián)合醫(yī)學(xué)、財經(jīng)、法律等領(lǐng)域?qū)I(yè)創(chuàng)作者，為用戶進(jìn)行辟謠、反詐宣傳。截至2024年，《頭條講真的》發(fā)布科普、辟謠等主題視頻在全網(wǎng)話題討論量已超36億。

“在合作創(chuàng)作者的選擇上，我們肯定會選擇在今日頭條上有賬號、比較活躍、平臺數(shù)據(jù)也比較好的創(chuàng)作者。另外，跟作者溝通過程中，我們也會不斷傳達(dá)平臺對于治理的決心，讓創(chuàng)作者能夠在創(chuàng)作過程中融入更多今日頭條的信息內(nèi)容，以及今日頭條如何做科普辟謠等。”劉姍姍向記者表示，“從調(diào)研的數(shù)據(jù)中發(fā)現(xiàn)，通過一系列合作，用戶會看到今日頭條官方‘下場了’，和科普創(chuàng)作者一起進(jìn)行內(nèi)容輸出，用戶能明顯認(rèn)知到這個內(nèi)容是今日頭條作為一個主體參與其中的。”