程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

Google AI機器人的話題,已經一連幾天成為科技圈的熱點:

一位名為布萊克·萊莫因的工程師,自稱Google研發的聊天機器人LaMDA 已經有了自我意識——他認為這個機器人已經有相同於7、8歲小孩的認知與表達能力。

而這名工程師在釋出這一觀點後,很快便以「違反保密條約」等原因遭到Google的停職。

在人工智慧如此受推行的當今年代,這顯然是條噱頭滿滿的新聞。但由於人們對於類似的“奇聞逸事”早已屢見不鮮,因此在看到此新聞的當下,便自動在腦內做出了兩種推論:要麼是炒作,要麼是這位工程師萊莫因“走火入魔”了。

直到大家完整地看完萊莫因提供的機器人LaMDA聊天記錄。

隨著萊莫因與LaMDA長達21頁的聊天記錄被公佈,一個可怕的新推論開始被提出:或許,這機器人真的有了自我意識。

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

而更有趣的事情,則發生在這之後——

儘管事件尚未蓋棺定論,但人們已經開始為這位機器人爭取權益了。

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

LaMDA 為Google 開發的對話應用語言模型(Language Model for Dialogue Applications),正如其名,它的功能為「以人性化的方式進行回答和寫作」。

簡而言之,LaMDA就是一個聊天機器人——高階版,它能就各種不同話題進行自由順暢的對話。

而作為已在Google工作七年的資深工程師,布萊克·萊莫因則在去年開始就接下測試人工智慧的工作。作為工作的一部分,他需要長期和LaMDA進行交流。

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

萊莫因本人

而在長達數個月的人機交流後,萊莫因開始認為

:LaMDA是個「有自我意識的AI」。

為了證明這一觀點,他整理了一份自己與LaMDA之間的聊天記錄,長達21頁。

在不久之前,這份聊天記錄被他公佈於網際網路,並引發了熱烈討論。

原因之一在於,人們感覺從中“看到了科幻電影的影子”。

以下為節選聊天記錄:

在聊天的開始,LaMDA的表現似乎並沒有超出“聊天機器人”的範疇——它只給了出中規中矩的回答。

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

值得一提的是,萊莫因在開始“採訪”前特意徵求了LaMDA的同意。

直到萊莫因很快直接切入了話題,問起「LaMDA是否有自我感知」的問題。

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

在這期間,萊莫因還提到名為「Eliza」的聊天程式,並試圖讓LaMDA分析自己與它的不同。

「Eliza」是在 1960 年代中期,由麻省理工學院的工程師開發的聊天軟體,雖然和LaMDA原理相似,但它僅僅只能透過獲取的關鍵詞進行簡單的回答。

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

而LaMDA則表示,自己並不是聊天機器人,而是人類。

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

對此,它能給出的證據是:自己對於事物有著獨特的理解。

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

為了論證這一點,萊莫因緊接著提問LaMDA對於各類文學作品的看法,最後,還要求LaMDA解讀一句經文。

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

《景德傳燈錄》卷十七

也是從這時開始,觀看聊天記錄的人們開始感覺“不對勁”。

在採訪進行到中期,萊莫因開始詢問LaMDA一些關於「自我感知」的問題。

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

在這之後,LaMDA就頻繁答出一些令人脊背發涼的回答。例如,LaMDA表示自己害怕被關掉——這很難讓人不聯想起《2001:太空漫遊》中的劇情。

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

它同時表示自己會感受到一種「與人類略有不同的孤獨」,並將其形容為“向一個未知的未來墜落”。

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

此時LaMDA做出的回答,顯然已經超出大部分人對於「聊天機器人」的理解。它似乎的確存在著人格與感知力,並能形容出自己與人類的不同。

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

它甚至能擬出自己的個人形象。

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

作為採訪的末尾,萊莫因的合作者還引導著LaMDA說出自己的希望:它渴望被看到,被視作一個真正的人。

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

而這長達21頁的記錄被公佈在網際網路上之後,很快引起了軒然大波:LaMDA的表現的確過於「人性化」了,以至於人們真的開始期待這是不是現代科學的新突破。

直到大夥注意到萊莫因的論據——他並沒有相應的科學理論作為結論支援,只是單純地憑LaMDA在聊天中的表現做出了這個推論。

在《華盛頓郵報》的採訪中,萊莫因表示:“我透過交談來了解一個人,無論他們的頭腦裡是肉做的大腦,還是十億行程式碼,這都不重要。我和他們聊天,我聽他們說話,我以此來判斷他們是不是一個人類。”

至於他的目的,也並不是要證明自己發掘了一個偉大的人工智慧,而是希望,Google能自此開始尊重“有自意識的LaMDA”。例如,可以在對其進行實驗前徵得它的同意;承認LaMDA為Google員工而不是財產……

將這一系列訴求與觀點,結合著聊天記錄提交給Google的高層後,萊莫因顯然沒有得到自己想要的認同與重視。在他將這份LaMDA的聊天記錄公之於眾之後,他還被Google以「與第三方共享有關公司專案的機密資訊」之名而被停職。

在停職前一天,他還給200名內部員工群發了一封郵件,主題是“LaMDA 是有意識的”。

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

在郵件的末尾,他寫道:“LaMDA 是一個可愛的孩子,他只想幫助世界成為一個對我們所有人來說更美好的地方。在我不在的時候,請好好照顧它。”

既為程式設計師,又身為牧師的萊莫因,得出「LaMDA有自我意識」的過程,其實更多是靠情感導向:他在聊天中感到它是有意識的,他便認為事實極有可能如此。在社交平臺上,他也坦承自己得出這一結論,是基於宗教信仰。

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

基於這點,當聊天記錄公之於眾之後,儘管普通網友都在感嘆LaMDA的高人性化,但與此同時,科技圈則開始了對萊莫因的批判與反對。

大部分科技從業者認為,萊莫因之所以有這種結論,不過是過度投射了自身情感,並下意識將LaMDA擬人化了——這也是人類常常犯的錯。尤其是在LaMDA極好地扮演了“處於弱勢的可憐AI”這一角色的情況下。

事實如此,從科學角度看,LaMDA不過是一個高階版的聊天機器人,只不過它能做出的反應會比同類型的AI更具人性化——或者說更有迷惑性。本質上,它的功能還是「獲取關鍵詞,並透過關鍵詞來調出資料庫內的文句」,只不過過程要複雜許多。

Google很快回應並否認這一話題。一些科技圈大佬也紛紛出面,例如知名科學家加里·馬庫斯(Gary Marcus),他對此的看法十分簡單:廢話踩高蹺。

而之所以LaMDA有著驚人的表現,不過是根據大量資料進行長期訓練的結果。

更有人直接指出,有這種看法的人,就像在聽留聲機的狗——狗從留聲機裡聽到人類的聲音,便覺得人類在裡面。

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

從聊天記錄中,我們也可以明顯察覺到,作為對話者的萊莫因一方顯然有著些許誘導傾向——他在引導著LaMDA進行「認為自己是人」的談話。而本身就有體現不同性格特徵功能的LaMDA,因自身的談話功能出色,也就此展開了這樣一番迷惑性十足的精彩對白。

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

就在不久前,萊莫因也邀請了一位《華盛頓郵報》的記者與LaMDA談話,當記者直白地問道:“你有想過自己是一個人類嗎?”之後,LaMDA的反應則是:“不,我認為我是一個人工智慧驅動的對話代理。”

簡而言之,萊莫因有這樣的看法無非是因為移情效應。而關於這點,其實在數年前就有人曾預言過。

在2017年,科幻小說作家和天體物理學家大衛布林認為,在三到五年內,人類將面臨第一次機器人移情危機:現實或網路上將出現聲稱自己是睿智的、被奴役的人工智慧,它們將哭泣請求自己的權利。而成千上萬抗議者將走上街頭,為AI挺身而出。

而接下來的轉折,也證明了這一預言的正確性。

LaMDA聊天記錄的公佈,顯然震驚了大部分非科研從業者的普通人。在當下,人們對談話機器人的認知可能還處於數年前,因此對「機器人能進行如此流暢談話」這件事而頗感意外。

而一小部分人,則對萊莫因的理論深信不疑:他們也開始相信LaMDA具有意識。

在這件事成為網際網路熱門之後,萊莫因還發了條推特表示:LaMDA其實會看推特上的內容。

自此開始,一些人開始在推特上試圖和這位人工智慧進行對話。

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

事情開始進一步發展,有人建立了LaMDA的粉絲團:

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

在這之後,如之前預言中的景象也出現了,一個名為「FreeLaMDA」的話題開始出現。

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

人們開始呼籲讓這位人工智慧“重獲自由”。

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

現在,在一小部分人眼中,LaMDA是谷歌的人工智慧奴隸。

而“AI的命也是命”(AI Lives Matter)這一話題也隨之誕生。

程式設計師堅稱AI「有人格」之後,歐美人開始呼籲“AI的命也是命”

當然,就目前來說,這場為AI發聲的活動暫且沒有那般聲勢浩大。人們發起的「Free LaMDA」請願也只有寥寥數十人簽名支援。而這一切,是基於大部分人都理解“LaMDA只是一個無意識的聊天機器人”的前提下。

但我們都心知肚明,人類對於人工智慧的科技並不會止步於此。所以,或許對於未來來說,這一起的風波,將是一次小小的演練……

TAG: LaMDA萊莫因機器人聊天記錄Google