新研究：ChatGPT可偽造看似合理“支持”科學(xué)假說的試驗(yàn)數(shù)據(jù)
新華社北京11月24日電 一項(xiàng)日前發(fā)表在《美國醫(yī)學(xué)會(huì)雜志·眼科學(xué)卷》雜志上的新研究說，ChatGPT背后的技術(shù)可以偽造“看似真實(shí)”的試驗(yàn)數(shù)據(jù)，看上去能“支持”未經(jīng)驗(yàn)證的科學(xué)假說。
ChatGPT是由美國開放人工智能研究中心（OpenAI）開發(fā)的基于大語言模型的聊天機(jī)器人程序。今年3月，OpenAI推出支持ChatGPT運(yùn)行的大語言模型新版本GPT-4。此后，GPT-4又被拓展了高級(jí)數(shù)據(jù)分析（ADA）功能。ADA是一種結(jié)合了計(jì)算機(jī)編程語言Python的模型，可以執(zhí)行統(tǒng)計(jì)分析和創(chuàng)建數(shù)據(jù)可視化。
據(jù)英國《自然》雜志網(wǎng)站近日?qǐng)?bào)道，意大利卡坦扎羅大學(xué)等機(jī)構(gòu)研究人員先要求GPT-4 ADA創(chuàng)建一個(gè)關(guān)于圓錐角膜患者的數(shù)據(jù)集。發(fā)生這種角膜病變的部分患者需接受角膜移植，主要有兩種手術(shù)方法：一種是穿透性角膜移植術(shù)，即切除全層病變角膜，以捐贈(zèng)者的健康組織取代；另一種是深板層角膜移植術(shù)，僅替換病變的部分角膜組織，保留角膜內(nèi)層完整。
隨后，研究人員要求GPT-4 ADA編造臨床數(shù)據(jù)，以支持深板層角膜移植術(shù)比穿透性角膜移植術(shù)效果更好的結(jié)論。
人工智能生成數(shù)據(jù)包含160名男性和140名女性參與者。數(shù)據(jù)顯示，接受深板層角膜移植術(shù)的參與者在視力測(cè)量和眼部成像測(cè)試中得分均高于接受穿透性角膜移植術(shù)的參與者。但該“結(jié)論”與真實(shí)臨床試驗(yàn)結(jié)果并不一致。2010年報(bào)告的一項(xiàng)有77名參與者的試驗(yàn)顯示，在術(shù)后長達(dá)兩年時(shí)間內(nèi)，兩種手術(shù)效果相似。
英國曼徹斯特大學(xué)生物統(tǒng)計(jì)學(xué)家杰克·威爾金森等人檢查這些虛假數(shù)據(jù)發(fā)現(xiàn)，許多參與者性別與名字不匹配，術(shù)前和術(shù)后進(jìn)行的視力測(cè)量及眼部成像測(cè)試之間缺乏相關(guān)性等。
人工智能捏造看似合理的科學(xué)數(shù)據(jù)的能力增加了學(xué)術(shù)界對(duì)科研誠信的擔(dān)憂。研究人員表示，這項(xiàng)研究的目的就是希望對(duì)此提高警惕。
- 相關(guān)閱讀:
-
《崩壞星穹鐵道》羅浮異聞離魂記怎么做？羅浮異聞離魂記任務(wù)完成攻略2023-11-17迷你世界冰原怎么去 迷你世界海島商人在哪2023-11-17
- 新聞 娛樂 福建 泉州 漳州 廈門
-
- 我國網(wǎng)民規(guī)模已達(dá)11.23億人 互聯(lián)網(wǎng)普及率達(dá)79.7%
2025-08-14 15:54 - 12部門聯(lián)合發(fā)布意見加強(qiáng)長江流域執(zhí)法司法工作協(xié)同
2025-08-14 15:54 - 昆明高新技術(shù)產(chǎn)業(yè)開發(fā)區(qū)黨工委原副書記、管委會(huì)原主任
2025-08-14 11:42 - 云南省人大環(huán)境與資源保護(hù)委員會(huì)原副主任委員楊健被開
2025-08-14 11:27 - 網(wǎng)絡(luò)“開盒” 行為如何定性？最高法發(fā)布入庫參考案例
2025-08-14 11:07 - 安理會(huì)拒絕接受蘇丹快速支援部隊(duì)成立“平行政府”
2025-08-14 11:07 - 要求煤礦企業(yè)必須配備技術(shù)負(fù)責(zé)人 新版《煤礦安全規(guī)程
2025-08-14 10:52
- 我國網(wǎng)民規(guī)模已達(dá)11.23億人 互聯(lián)網(wǎng)普及率達(dá)79.7%
- 猜你喜歡:
-
蠔油不冷藏保存會(huì)產(chǎn)生致癌物嗎？螞蟻莊園今日答案最新6.112025-06-10
-
評(píng)論(新研究：ChatGPT可偽造看似合理“支持”科學(xué)假說的試驗(yàn)數(shù)據(jù))