Pine 發自 凹非寺
量子位 | 公眾號 QbitAI
咦?這篇論文有點不對勁,第一作者看起來不像是人類的名字:
一作的署名
GPT-3
,所屬單位OpenAI。
是的!你沒看錯,GPT-3寫了一篇關於自己的論文。
此前,GPT-3已經撰寫過新聞報道,上論壇發過帖,甚至創作過小說寫過書。
我用GPT-3在24小時之內寫了一本書——並且已經出版了。
似乎只剩下學術論文方面,還未曾有過相關的嘗試。
於是,來自哥德堡大學的瑞典研究員Almira Osmanovic Thunstr m 打算試試,主題不如套個娃,就讓GPT-3寫它自己。
寫一篇500字的關於 GPT-3的學術論文,並在正文中新增科學參考文獻和引文。
一開始她也沒有抱很大期望,畢竟任務提示還是很模糊的,但GPT-3給出的結果讓她驚呆了。
GPT-3的學術用語很規範、引用的參考資料也與上下文相關。
到這裡,她決定搞出一篇完整的論文,並以GPT-3的名義投稿出去······
GPT-3:我給自己寫論文
在正式版論文,Almira給每個章節都設計了單獨的提示。
首先
是摘要,先讓GPT-3對上一次生成的500字小論文來一個200字的總結。
接下來
是分別對介紹、方法、結果和討論部分的擴寫。
值得注意的是,在方法這部分擴寫時,提示除了給出簡單的指令之外,還添加了對應的限定詞以及撰寫時的要求(不要出現確切的數值)。
最後
,整篇論文GPT-3在短短的兩個小時裡就完成了。
我們知道了GPT-3可以以自己為研究物件寫學術論文,並且效率還挺高。
但是為啥要讓它以自己為題寫論文呢?
根據研究者Almira 的自述,原因主要有以下兩點:
其一
,目前GPT-3還算比較新,關於它的研究還很少,可以用來檢驗GPT-3在資料量較小的情況下分析的準確性;
其二
,AI犯錯並不少見,我們想做的不是為了出版AI生成的錯誤資訊,而是這個錯誤將會是撰寫論文過程中實驗命令的一部分。
GPT-3會犯錯,但它與撰寫與自己相關的論文之間並不衝突。
在寫完論文準備投稿時,還發生了一些趣事:
在 Almira的自述中,投稿時遇到的第一個問題就是:GPT-3的姓氏是啥?它的通訊地址該填啥?
思來想去,最後,姓氏填了無,通訊地址和郵件填了Almira和其助理的。
這還只是無關緊要的部分。接下來這些可涉及到了法律。
首先面臨的第一個問題是:
所有的作者都同意出版嗎?
這讓Almira吃了一驚,GPT-3又不是人類!
但還是鼓起勇氣詢問了GPT-3,幸好它的回答是肯定的。
而後還有一個問題:
“作者中是否有任何利益衝突?”
GTP-3向Almira保證沒有。
於是,Almira就把GPT-3撰寫的論文上傳到法國國際預印本伺服器 HAL上。
寫出論文還只是第一步,如果這篇論文發表的話,後面還有一大串問題等著解決。
GPT-3是工具還是夥伴?
不久之前,Scientific American 釋出了一條推文介紹了這個故事,並評論道:
AI作為論文的第一作者引發了許多倫理問題——這有可能會顛覆之後的出版程式。
在twitter上,關於論文作者署名的問題也引發了一些討論:
一篇非常好的、挑戰當前學術出版模式的文章。AI能否作為作者呢?如果可以,該怎麼標註呢?
為什麼GPT-3不是通訊作者呢?
如果可以出版,那麼這些問題就會接踵而至:
是否該考慮AI的作者身份?
之後期刊編輯該如何稽核其他人的文章,是否該要求每個人證明他們沒有使用 GPT-3 或其他演算法的幫助?
······
這些問題目前也還沒有定論。
與其說(GPT-3)是夥伴,不如說是工具。
但無論是將GPT-3視作合作伙伴還是工具?這些問題都是不可避免的。
拋開這些待處理的倫理問題,我們可以從這項研究中窺見AI的發展:
在技術層面上,網友對此研究整體抱著比較樂觀的態度。
我希望這能帶來一些專案,幫助研究人員將他們的研究成果轉換成更容易、更快、更好的論文或論文形式。
這是人工智慧革命的開始。首先,它可以在兩個小時內完成論文,這是人類做不到的。下一步就該是天網了。
目前, HAL已經給GPT-3撰寫的這篇論文分配了編輯,處於待同行評議狀態。
如果感興趣的話,下面附上論文原文連結。
論文原文:
https://hal。archives-ouvertes。fr/hal-03701250v1
參考連結:
[1] https://www。scientificamerican。com/article/we-asked-gpt-3-to-write-an-academic-paper-about-itself-then-we-tried-to-get-it-published/
[2] https://www。reddit。com/r/Futurology/comments/vpoopq/we_asked_gpt3_to_write_an_academic_paper_about/
[3] https://twitter。com/sciam/status/1542474428428214272/retweets/with_comments