新研究：ChatGPT可偽造看似合理“支持”科學(xué)假說的試驗數(shù)據(jù)
新華社北京11月24日電 一項日前發(fā)表在《美國醫(yī)學(xué)會雜志·眼科學(xué)卷》雜志上的新研究說，ChatGPT背后的技術(shù)可以偽造“看似真實”的試驗數(shù)據(jù)，看上去能“支持”未經(jīng)驗證的科學(xué)假說。
ChatGPT是由美國開放人工智能研究中心（OpenAI）開發(fā)的基于大語言模型的聊天機器人程序。今年3月，OpenAI推出支持ChatGPT運行的大語言模型新版本GPT-4。此后，GPT-4又被拓展了高級數(shù)據(jù)分析（ADA）功能。ADA是一種結(jié)合了計算機編程語言Python的模型，可以執(zhí)行統(tǒng)計分析和創(chuàng)建數(shù)據(jù)可視化。
據(jù)英國《自然》雜志網(wǎng)站近日報道，意大利卡坦扎羅大學(xué)等機構(gòu)研究人員先要求GPT-4 ADA創(chuàng)建一個關(guān)于圓錐角膜患者的數(shù)據(jù)集。發(fā)生這種角膜病變的部分患者需接受角膜移植，主要有兩種手術(shù)方法：一種是穿透性角膜移植術(shù)，即切除全層病變角膜，以捐贈者的健康組織取代；另一種是深板層角膜移植術(shù)，僅替換病變的部分角膜組織，保留角膜內(nèi)層完整。
隨后，研究人員要求GPT-4 ADA編造臨床數(shù)據(jù)，以支持深板層角膜移植術(shù)比穿透性角膜移植術(shù)效果更好的結(jié)論。
人工智能生成數(shù)據(jù)包含160名男性和140名女性參與者。數(shù)據(jù)顯示，接受深板層角膜移植術(shù)的參與者在視力測量和眼部成像測試中得分均高于接受穿透性角膜移植術(shù)的參與者。但該“結(jié)論”與真實臨床試驗結(jié)果并不一致。2010年報告的一項有77名參與者的試驗顯示，在術(shù)后長達兩年時間內(nèi)，兩種手術(shù)效果相似。
英國曼徹斯特大學(xué)生物統(tǒng)計學(xué)家杰克·威爾金森等人檢查這些虛假數(shù)據(jù)發(fā)現(xiàn)，許多參與者性別與名字不匹配，術(shù)前和術(shù)后進行的視力測量及眼部成像測試之間缺乏相關(guān)性等。
人工智能捏造看似合理的科學(xué)數(shù)據(jù)的能力增加了學(xué)術(shù)界對科研誠信的擔憂。研究人員表示，這項研究的目的就是希望對此提高警惕。
- 相關(guān)閱讀:
-
《崩壞星穹鐵道》羅浮異聞離魂記怎么做？羅浮異聞離魂記任務(wù)完成攻略2023-11-17OpenAI員工逼宮董事會讓奧特曼回歸 700多名員工簽署聯(lián)名信2023-11-21迷你世界冰原怎么去 迷你世界海島商人在哪2023-11-17
- 新聞 娛樂 福建 泉州 漳州 廈門
-
- 浙江省紀委監(jiān)委公開通報5起違反中央八項規(guī)定精神問題
2025-04-30 15:17 - 女兒女婿鬧離婚 岳母提前立遺囑 防財產(chǎn)“外流”
2025-04-30 12:26 - 國臺辦發(fā)言人：宋濤近期連續(xù)會見臺灣重要人士釋放了這
2025-04-30 12:25 - 陜西通報6起違反中央八項規(guī)定精神問題
2025-04-30 11:40 - 農(nóng)業(yè)農(nóng)村部、公安部、中國海警局聯(lián)合部署2025年海洋伏
2025-04-30 11:22 - 事關(guān)住宅、婚姻登記、售后服務(wù)等 5月起這些新規(guī)將施行
2025-04-30 11:18 - 廣東省地質(zhì)局原一級巡視員莫純鑾嚴重違紀違法被開除黨
2025-04-30 11:11
- 浙江省紀委監(jiān)委公開通報5起違反中央八項規(guī)定精神問題
- 猜你喜歡:
-
以下哪個名稱是“驚蟄”的古稱？螞蟻莊園課堂答案最新3月5日2025-03-04榮耀手環(huán)10發(fā)布：支持心臟健康守護 提供兩種款式2025-04-23我國古典小說《西游記》中白龍馬的身份原本是誰？螞蟻莊園課堂答案最新3月14日2025-03-13
-
評論(新研究：ChatGPT可偽造看似合理“支持”科學(xué)假說的試驗數(shù)據(jù))