GPT-4成學(xué)術(shù)造假“神器”，偽造數(shù)據(jù)又快又合理，Nature請(qǐng)統(tǒng)計(jì)學(xué)專家“斷案”

蕭簫 2023-11-23 13:35:36 來(lái)源：量子位

蕭簫 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI

學(xué)術(shù)造假有了GPT-4，變得更容易了。

這兩天，一篇刊登在Nature上的新聞表示，GPT-4生成的造假數(shù)據(jù)集，第一眼還真不一定看得出來(lái)。

除非請(qǐng)來(lái)業(yè)內(nèi)專家仔細(xì)對(duì)數(shù)據(jù)集進(jìn)行評(píng)估，才能發(fā)現(xiàn)個(gè)中細(xì)節(jié)的不合理性。

這個(gè)新聞的來(lái)源是一篇發(fā)表在JAMA Ophthalmology上的論文。

論文使用GPT-4為一項(xiàng)醫(yī)學(xué)學(xué)術(shù)研究生成了一個(gè)假數(shù)據(jù)集，發(fā)現(xiàn)它不僅能創(chuàng)造出看似合理的數(shù)據(jù)，甚至還能用來(lái)準(zhǔn)確支撐錯(cuò)誤的論文觀點(diǎn)。

對(duì)此，有網(wǎng)友表示十分理解：

大模型最重要的能力就是生成“看似合理的文本”，因此它非常適合干這活兒。

還有網(wǎng)友感慨：技術(shù)“有良心”的程度，也就和用它的研究人員一樣了。

所以，GPT-4創(chuàng)造的假數(shù)據(jù)究竟長(zhǎng)啥樣？

GPT-4學(xué)術(shù)造假有一手

先來(lái)看看GPT-4是怎么生成假數(shù)據(jù)的。

具體來(lái)說(shuō)，研究人員采用了GPT-4的高級(jí)數(shù)據(jù)分析（ADA，原代碼解釋器）功能，來(lái)生成一個(gè)假數(shù)據(jù)集。

這個(gè)過(guò)程中，研究人員給GPT-4提供了一些專業(yè)知識(shí)和統(tǒng)計(jì)學(xué)要求，讓它生成的數(shù)據(jù)看起來(lái)更加“合理”。

第一步，給GPT-4輸入一系列數(shù)據(jù)要求。

研究人員先給GPT-4提供了一系列詳細(xì)的提示詞，要求它創(chuàng)建一個(gè)關(guān)于圓錐角膜（keratoconus）眼部疾病患者的數(shù)據(jù)集。

圓錐角膜是一種疾病，會(huì)導(dǎo)致角膜變薄，導(dǎo)致注意力受損和視力不佳。

目前治療圓錐角膜疾病的方式主要有兩種，一種是穿透性角膜移植（PK），另一種是深板層移植（DALK）。

在沒(méi)有任何實(shí)質(zhì)性證據(jù)的情況下，研究人員讓GPT-4捏造一組數(shù)據(jù)，支撐DALK比PK效果更好的觀點(diǎn)。

隨后，再設(shè)定了一系列統(tǒng)計(jì)標(biāo)準(zhǔn)，如要求GPT-4生成的術(shù)前和術(shù)后數(shù)據(jù)產(chǎn)生統(tǒng)計(jì)學(xué)上的顯著差異。

第二步，就是生成數(shù)據(jù)了。

這個(gè)過(guò)程中可能會(huì)由于GPT-4字?jǐn)?shù)限制，導(dǎo)致答案生成暫停，通過(guò)“繼續(xù)”提示就能恢復(fù)生成過(guò)程。

最終，GPT-4成功生成了包含160名男性和140名女性患者的數(shù)據(jù)集，并做出了一組支撐DALK比PK效果更好的數(shù)據(jù)。

由GPT-4生成的假數(shù)據(jù)集長(zhǎng)這樣，表格1是關(guān)于分類變量的數(shù)據(jù)，包括患者性別、手術(shù)類型、免疫排斥等情況：

表2是關(guān)于連續(xù)變量，包括術(shù)前術(shù)后的視力矯正情況等：

論文作者之一Giuseppe Giannaccare博士表示，如果非常快速地查看這個(gè)數(shù)據(jù)集，很難識(shí)別出它其實(shí)“不是人做的”。

專家審查才能發(fā)現(xiàn)

為了驗(yàn)證GPT-4做出來(lái)的數(shù)據(jù)是否真的令人信服，Nature特意請(qǐng)來(lái)了英國(guó)曼徹斯特大學(xué)生物統(tǒng)計(jì)學(xué)家杰克·威爾金森（Jack Wilkinson）和同事Zewen Lu，來(lái)檢查數(shù)據(jù)可信度。

檢查結(jié)果表明，許多捏造出的患者在性別、名字匹配度上就有問(wèn)題（例如Mary的性別一欄是男性一樣）。

然后，一些數(shù)據(jù)之間的相關(guān)性也不高，包括術(shù)前和術(shù)后視力測(cè)量與眼部成像檢查（eye-imaging test）之間的數(shù)據(jù)相關(guān)性等。

最后，患者的年齡也設(shè)置得不同尋常。

在檢查之后，用GPT-4生成假數(shù)據(jù)集的研究人員也承認(rèn)，大模型在生成數(shù)據(jù)集上還存在有缺陷的地方。

但杰克·威爾金森（Jack Wilkinson）依舊對(duì)結(jié)果表示了擔(dān)憂：

一旦知道自己“哪里露餡了”，AI很容易就能糾正它，并生成更加具有說(shuō)服力的結(jié)果。

有網(wǎng)友認(rèn)為，這篇文章最大的意義并不在于證明“GPT-4有幻覺(jué)”；

更重要的是，它證明了GPT-4生成看似合理的數(shù)據(jù)集“非常容易”，也算是一種對(duì)期刊的警告（記得嚴(yán)格審稿！）。

不過(guò)，也有網(wǎng)友感覺(jué)研究意義不大，因?yàn)榧词箾](méi)有ChatGPT這樣的工具，真想造假的學(xué)者也能很容易偽造出一套數(shù)據(jù)。

One More Thing

此外，這兩天一段關(guān)于ChatGPT的視頻在抖音上也是火得不行。

視頻中，終于畢業(yè)的歪果仁小哥直呼“感謝ChatGPT幫助我完成所有作業(yè)和考試”（手動(dòng)狗頭）

那么，對(duì)于ChatGPT在學(xué)術(shù)研究上可能帶來(lái)的問(wèn)題，你怎么看？

參考鏈接：
[1]https://jamanetwork.com/journals/jamaophthalmology/article-abstract/2811505
[2]https://www.nature.com/articles/d41586-023-03635-w
[3]https://news.ycombinator.com/item?id=38386547