微動態(tài)丨審稿人或難識別AI撰寫的論文摘要
(相關(guān)資料圖)
原標(biāo)題:審稿人或難識別AI撰寫的論文摘要據(jù)近日發(fā)表在預(yù)印本服務(wù)器bioRxiv上的一項研究,人工智能(AI)聊天機(jī)器人ChatGPT已可寫出令人信服的假研究論文摘要,甚至連審稿科學(xué)家也無法發(fā)現(xiàn)。
聊天機(jī)器人ChatGPT會根據(jù)用戶提示創(chuàng)建逼真文本,它通過消化大量現(xiàn)有的人類生成文本來學(xué)習(xí)執(zhí)行任務(wù)。美國的軟件公司OpenAI于去年11月發(fā)布了該工具,并供用戶免費(fèi)使用。
自發(fā)布以來,研究人員一直在努力解決相關(guān)倫理道德問題,因為它大部分輸出可能很難與人類撰寫的文本區(qū)分開來。近日美國西北大學(xué)的一個研究小組使用ChatGPT生成人工研究論文摘要,以測試科學(xué)家是否可辨別它們。
研究人員要求機(jī)器人基于發(fā)表在《美國醫(yī)學(xué)會雜志》《新英格蘭醫(yī)學(xué)雜志》《英國醫(yī)學(xué)雜志》《柳葉刀》和《自然·醫(yī)學(xué)》上的50篇研究編寫摘要。然后,他們通過抄襲檢測器和AI輸出檢測器將這些摘要與原始摘要進(jìn)行比較,并要求一組醫(yī)學(xué)研究人員找出編造的摘要。
結(jié)果,ChatGPT生成的摘要通過了抄襲檢查器,原創(chuàng)性得分中位數(shù)為100%,表明沒有檢測到抄襲。人工智能輸出檢測器發(fā)現(xiàn)了66%的生成摘要,但人工審稿人只正確識別了68%的生成摘要和86%的真實(shí)摘要,他們錯誤地將生成摘要中的32%識別為真實(shí),將14%的真實(shí)摘要識別為編造。
研究人員稱,ChatGPT寫出了能騙過人類的科學(xué)摘要,如果科學(xué)家無法確定研究是否屬實(shí),或會產(chǎn)生“可怕的后果”。
研究人員表示,在虛假信息會危及人們生命安全的醫(yī)學(xué)等領(lǐng)域,期刊需要采取更嚴(yán)格的方法來驗證信息的準(zhǔn)確性。而這些問題的解決方案,不應(yīng)集中在機(jī)器人本身,“而是導(dǎo)致這種行為的不正當(dāng)激勵措施,例如通過論文數(shù)量進(jìn)行招聘和晉升審查,而不考慮其質(zhì)量或影響”。(記者張夢然)
【總編輯圈點(diǎn)】
大火的ChatGPT,不止是聊天工具,它在教育領(lǐng)域的滲透已經(jīng)引起了廣泛關(guān)注和討論,當(dāng)然,隨之而來的還有憂慮。如果你使用過ChatGPT,也會驚訝于它撰寫報告的能力。給它一個主題,它就能在幾秒內(nèi)生成大綱,也能在幾秒內(nèi)進(jìn)行細(xì)化,而且看起來非常是那么回事。這次,科研人員發(fā)現(xiàn)它撰寫的論文甚至能騙過審稿人。這又是一個人如何使用新技術(shù)的經(jīng)典倫理問題。工具本身無罪,但應(yīng)用邊界應(yīng)該清晰,使用者也要對自己的行為負(fù)起責(zé)任。
(責(zé)編:趙竹青、陳鍵)關(guān)注公眾號:人民網(wǎng)財經(jīng)關(guān)鍵詞:
相關(guān)閱讀
-
微動態(tài)丨審稿人或難識別AI撰寫的論文摘要
據(jù)近日發(fā)表在預(yù)印本服務(wù)器bioRxiv上的一項研究,人工智能(AI)聊天... -
【環(huán)球速看料】韋布望遠(yuǎn)鏡證實(shí)發(fā)現(xiàn)首顆...
據(jù)美國國家航空航天局(NASA)網(wǎng)站報道,美國科學(xué)家首次借助韋布空... -
簡溪是誰演的(簡溪的信)
1、給我親愛的老婆 這是我最后一次這樣叫你了。2、其實(shí)從那天我... -
天天熱點(diǎn)!智通A股龍虎榜統(tǒng)計|1月16日
智通A股龍虎榜統(tǒng)計|1月16日 -
當(dāng)前動態(tài):7個月引產(chǎn)的全過程(7個月引產(chǎn))
1、其實(shí)女性在懷孕的第7個月時胎兒已經(jīng)存活,引出來的可能是活的寶... -
天天速訊:EV晨報 | 理想車主夜間駕車...
驚悚!理想車主夜間駕車中控顯示有人追,李想草率回應(yīng);極狐新阿爾... -
熱消息:其實(shí)你比秦始皇還快活,試問還...
你知道嗎?其實(shí)你比秦始皇過得還要更加幸??旎?,為什么要這么說呢... -
維珍媒體將千兆寬帶擴(kuò)展到西米德蘭茲郡
維珍媒體計劃到2021年底向1500萬家庭推出千兆服務(wù)。維珍媒體(Virgin... -
時訊:道達(dá)投資手記:A股牛市來了?內(nèi)資...
道達(dá)投資手記:A股牛市來了?內(nèi)資機(jī)構(gòu)補(bǔ)救行為 -
【環(huán)球快播報】又有A股被證監(jiān)會立案
又有A股被證監(jiān)會立案 -
消息!北上資金連續(xù)九日凈買入 單日逾1...
北上資金連續(xù)九日凈買入單日逾158億元創(chuàng)近兩月新高 -
環(huán)球觀速訊丨多因素助滬指放量站上年線...
多因素助滬指放量站上年線歷史數(shù)據(jù)顯示春節(jié)后A股上漲概率大 -
當(dāng)前速訊:A股銀行板塊走出“跨年”行情...
A股銀行板塊走出“跨年”行情2023年延續(xù)回暖態(tài)勢可期 -
特斯拉首席設(shè)計師談Cybertruck和Roadster 2
近日,特斯拉首席設(shè)計師FranzvonHolzhausen在接受采訪時,談到了Cyb... -
2022年新能源重卡同比大增142.34%,皮卡...
近日,新能源重卡銷量曝光。據(jù)數(shù)據(jù)顯示,2022年1-12月新能源重卡共... -
環(huán)球資訊:凱迪拉克銳歌長測:美式豪華...
如果用一句話總結(jié),我會說「我很愿意開著它到處跑」。這樣說的原因... -
從理想到考拉,在垂直切分場景中創(chuàng)造價值
用戶依然是洞察的入口,但場景卻變成了洞察的落腳點(diǎn)。也就是說,我... -
新款飛行家內(nèi)飾諜照曝光 或?qū)⒃?023年亮相
近日,我們從海外媒體獲取到了一組新款林肯飛行家的內(nèi)飾諜照。新車... -
世界新消息丨“八成大學(xué)生想生兩娃”上...
1月15日,中國人民大學(xué)社會與人口學(xué)院教授李婷在接受媒體采訪時稱,... -
熱文:您可以將Spotify設(shè)置為Galaxy S20的鬧鐘
如果您真的愛一個特定的音樂藝術(shù)家,并且真的想喚醒他們的聲音(至少...