瑞典布羅斯大學(xué)學(xué)院研究人員在一項最新研究中警告稱(chēng)：無(wú)論是從社會(huì )知識層面，還是從公眾對科學(xué)的信任度來(lái)看，人工智能（AI）生成的研究都已構成一種威脅。他們最近在文獻索引數據庫——谷歌學(xué)術(shù)平臺中發(fā)現了上百篇疑似由AI生成的文章。相關(guān)研究報告13日發(fā)表在哈佛肯尼迪學(xué)院《錯誤信息評論》期刊上。
研究人員認為，由AI生成的“垃圾科學(xué)”侵蝕學(xué)術(shù)平臺，意味著(zhù)惡意行為者能以更低成本制造和傳播虛假科學(xué)，對社會(huì )和科研界來(lái)說(shuō)都是一種危險情況。
該研究發(fā)現，AI生成的研究帶來(lái)的主要擔憂(yōu)之一，是證據篡改風(fēng)險增加，即虛假研究可能被用于戰略操縱。此次發(fā)現，這些有問(wèn)題的文章已經(jīng)傳播到網(wǎng)絡(luò )研究基礎設施的多個(gè)組成部分，滲透進(jìn)了各種檔案庫、社交媒體平臺以及其他相關(guān)網(wǎng)絡(luò )渠道。由于傳播速度很快，且在谷歌學(xué)術(shù)平臺處于公開(kāi)狀態(tài)，即使文章被撤回，也有可能已經(jīng)傳播開(kāi)來(lái)，造成潛在影響。
此外，AI生成的研究也給已經(jīng)壓力重重的同行評審系統帶來(lái)問(wèn)題。AI生成的研究在搜索引擎數據庫中傳播，對參與在線(xiàn)研究的人員的信息素養提出了更高要求，否則，人們很有可能基于錯誤的信息作出決策。這既是科學(xué)不端行為的問(wèn)題，也是媒體和信息素養的問(wèn)題。
研究人員強調，谷歌學(xué)術(shù)平臺并不等同于專(zhuān)業(yè)的學(xué)術(shù)數據庫。盡管它使用便捷、搜索迅速，但缺少必要的質(zhì)量保證流程。這一缺陷在普通的谷歌搜索結果中已顯現出問(wèn)題，而當涉及科學(xué)知識的普及與傳播時(shí)，這一問(wèn)題則變得更為嚴峻和復雜。 （記者張佳欣）
