新華網評丨AI技術不應用來造謠生事
近期,浙江公安機關打掉一個MCN機構“網絡水軍”團伙。據調查,該團伙利用AI軟件,拼接網絡中誤導性素材,剪輯成“原創”視頻,并在多個平臺發布,牟取非法流量返利。
這種利用AI工具實施造謠的案件并不鮮見。隨著人工智能技術飛速發展,AI生成內容比例逐步攀升,但其中也充斥著一些虛假信息,有的足可“以假亂真”,迷惑性極強。
利用AI造謠具有門檻低、批量化、識別難的特點。檢索互聯網,可見“偽原創工具”“AI洗稿”等網站和小程序,既可創作文案、幫寫稿件,又能生成圖片、合成視頻。有媒體報道,曾經發布“西安爆炸”虛假新聞的賬號所屬機構,最高峰一天能生成4000至7000篇假新聞,讓人觸目驚心。
AI如果被別有用心之人用以造謠、傳播虛假信息,短時間內就可能快速傳播,誤導公眾、影響輿論,嚴重時甚至擾亂社會秩序。
對AI造謠違法行為,必須重拳治理,要“狠打”也要“嚴防”。(文案:田中全、張陽)