都市快報訊 重慶爆炸？西安爆炸？據近日《重慶晨報》的消息，南昌、重慶、鄭州等地公安部門接連查處網民用AI編造“爆炸新聞”的案件，不法分子利用AI合成技術編造謠言，嚴重擾亂了社會秩序。在謠言散布前，有沒有辦法快速識別出這些AI制造的假新聞？mk4新江南網|江南區(qū)域知名綜合門戶網

西湖大學“文本智能實驗室”日前在接受記者采訪時介紹，近日實驗室公布了一項最新研究成果，通過他們研發(fā)的開源大模型，大眾可以一鍵識別出哪些文章出自AI之手。該研究項目的負責人鮑光勝說，針對GPT3.5生成的文章，識別率可以達到96%，對GPT4生成的文章的識別率達到90%。mk4新江南網|江南區(qū)域知名綜合門戶網

據鮑光勝介紹，出于對AI安全性和可信賴方面的擔憂，這類研究在歐美國家已有很多，但在國內還不多。文本智能實驗室的研究從去年初到現在已持續(xù)一年多時間，這次公布的研究成果發(fā)布在2024年國際表征學習大會（ICLR 2024）上。mk4新江南網|江南區(qū)域知名綜合門戶網

區(qū)別大型模型生成的文本與人寫的文本之間的關鍵點是什么？“文本智能實驗室”通過對新聞、小說、論壇問答和技術問答等進行研究后認為，兩者的差異性體現在詞匯使用、句子結構、語法復雜度、語義連貫性等方面。他們提取覆蓋這些特征的統計量，分析它們在兩種不同文本上的分布并設定閾值。當某個文本的特征值超過閾值，模型就會將其判斷為AI生成的。mk4新江南網|江南區(qū)域知名綜合門戶網

用AI識別AI，不僅可以識別出AI生成的假新聞，對學術論文的甄別也是一個很大的應用場景。去年以來，國內外眾多高校和學術期刊宣布，對在論文寫作過程中的各種AI使用加以限制。一旦發(fā)現論文主要內容是利用AI工具生成的，將以學術不端行為處理。而有學生在寫畢業(yè)論文時也發(fā)現，他們利用AI大模型檢索得到的文獻資料，雖然標注了出處，但之后核實卻發(fā)現這些內容并不存在。mk4新江南網|江南區(qū)域知名綜合門戶網

ChatGPT誕生以來，人工智能加速發(fā)展。AI生成文本、視頻、音頻不僅快速，也越來越像人做的。在上述公安部門查處的案件中，不法分子通過AI軟件，只需說出“爆炸”等關鍵詞，軟件便會自動在網絡上抓取相關信息，生成文本，并配上貌似和事件具有相關性的虛假圖片，形成看起來信息量很大、實際上子虛烏有的內容。而一鍵識別AI身份工具的出現，或能很大程度上抑制假新聞、假論文的泛濫。mk4新江南網|江南區(qū)域知名綜合門戶網

在這場“矛與盾的競速”中，“矛”正越來越利，“盾”不會亦不能失位。mk4新江南網|江南區(qū)域知名綜合門戶網

mk4新江南網|江南區(qū)域知名綜合門戶網