作者：楊立昆
即便是最先進的人工智慧系統也存在侷限性，它們還不如一隻貓聰明。
人工智慧常常被認為是一項將要顛覆世界的技術，從這一概念誕生至今的65年中，無數電影與小說塑造了各種經典的人工智慧角色，AI（Artificial Intelligence）也很快成為人類未來世界藍圖中的重要組成部分。但在人工智慧不斷拓寬我們對未來想象的同時，也不乏“AI 統治世界”、“AI 監視隱私”等等一類的消極論調，那麼，我們當下討論的 AI 真的即將統治人類嗎？AI 真的在威脅著個人資料與隱私嗎？……又或者，AI 真的比我們更聰明嗎？
如果你也對這些問題心存疑慮，又想免於被網際網路上的各種言論牽著鼻子走，那麼，圖靈獎得主楊立昆（Yann LeCun）的新書《科學之路：人，機器與未來》或許可以為你提供一份更科學、客觀且前沿的人工智慧問題參考手冊。
在真正開始有關 AI 的倫理思考之前，我們首先要弄清楚以下三個名詞的關係：人工智慧、機器學習與深度學習。人工智慧是試圖瞭解智慧的實質，並生產出一種新的能以人類智慧相似的方式做出反應的智慧機器。目前，開發新應用最常用的人工智慧技術之一就是機器學習，而深度學習是實現機器學習的重要方法之一，也被楊立昆以及其他許多科學家認為是人工智慧的未來。
楊立昆在書中對人工智慧提出了10個問題並進行了深入探討，讓我們更全面、更客觀的瞭解人工智慧。
1、人工智慧是不可理解的黑匣子嗎？
一些悲觀主義者認為深度學習系統是“黑匣子”，我們未來沒辦法理解和操控人工智慧，但他們錯了。誠然，深度學習以模擬人類神經網路為基礎，當神經網路具有數百萬個單位和數十億個連線時，似乎很難完全理解它的工作原理，但這不正是所有智慧決策的特點嗎？
我們不瞭解讓出租車司機、工匠、醫生或航空公司飛行員完成他們的工作的神經運作機制，但我們會選擇相信他們。為什麼要對一臺反應更快、不知疲倦、從不分心的機器提出更高的要求呢？當你可以證明它比人類更可靠時，為什麼還要對它產生懷疑呢？
人工智慧系統每天做出數萬億個決策，其中大多數都與查詢、分類和過濾資訊以及一些稍顯無聊的應用程式有關，例如應用於照片和影片的效果。你是否真的願意花時間和精力來詳細瞭解它們？人工智慧的工作能夠帶來令人滿意的效果，這不就夠了嗎？
而且使用沒有深入瞭解其執行機制的系統是一種常見的現象。許多常用藥物都是透過反覆試錯獲得的，而我們對其作用機制瞭解甚少。比如，我們熟悉的且在日常生活中不可被替代的阿司匹林是有史以來使用最廣泛的藥物，它於1897 年首次被合成，可是直到1971 年我們才明確其作用機制。
2、大腦只是一部可模擬的機器嗎？
如今，大多數科學家都接受了大腦是生化機器的概念。雖然這是一臺複雜的機器，但總歸是一臺機器。神經元對輸入的電訊號做出反應，根據從上游神經元接收到的資訊計算是否產生電脈衝訊號、動作電位或放電脈衝，並將其傳送給所有下游神經元。這是一種十分基本的機制。但是，透過結合數十億個相對簡單的神經元的活動，我們便獲得了大腦和思想。
我意識到，模擬人腦的想法可能會讓一些哲學家或有宗教信仰的人極力反對，但是有許多科學家認為思維機制最終將會由可以學習的人工智慧系統重現。
質疑此觀點的人認為，我們對生物、物理、量子和其他系統如何在人體內結合以使大腦發揮作用的瞭解還遠遠不夠。的確，我們並不能理解這一切，但是我堅信，哺乳動物或人類的大腦是可以“計算”的機器，並且這些計算原則上可以透過電子機器或計算機進行再現。
3、人工智慧會產生意識嗎？
意識是一個很難討論的話題，我們不知道如何衡量和定義它。它與自我意識混淆在了一起，同時，意識被認為是動物存在超級智力的標誌。在鏡子中認出自己的大象和黑猩猩已經具有自我意識，而狗不行。
我個人認為意識是一種幻覺，它似乎在許多聰明的動物身上存在。人類的意識與注意力息息相關，當面對特殊情況時，我們將注意力集中於此，此時我們會非常專注。當我們玩益智遊戲時、準備新的烹飪食譜時、參加辯論時，我們的注意力將毫不猶豫地集中在這個不尋常的複雜任務上。它迫使我們開啟“世界模型”以規劃下一步行動。
對我來說，毫無疑問，未來的智慧機器應該具備某種形式的意識。也許與人類的不同，它們可以同時專注於多項任務。但它是無法培養意圖或發展意識的。我的同事安託萬·博茲總結道：“我們甚至沒有配方的原料去製造一臺既能夠制定戰略，又對世界有敏銳瞭解的真正智慧機器。如今我們還缺乏一些基礎概念。”
4、人工智慧比人類更聰明嗎？
如今，即便是最先進的人工智慧系統也存在侷限性，它們還不如一隻貓聰明。雖然我們已經瞭解了大腦學習的原理，知道了大腦的結構，但重現其功能所需的計算量是無比巨大的，大約是每秒1。5× 1018量級的操作。現在一塊 GPU 每秒可執行1013次計算，功耗約為250瓦。為了達到人腦的計算能力，必須將10萬個這樣的處理器連線上功耗至少25兆瓦的巨型計算機才能實現。這巨大的能量消耗是人腦的 100 萬倍！
因此，深度學習的能力十分強大卻又十分有限。目前的深度學習系統仍無法進行邏輯推理，因為當前的邏輯與學習能力並不匹配，這是未來幾年的主要挑戰。只受過國際象棋訓練的機器根本無法下圍棋，而且它完全不理解自己所做的事情，它只不過是機械化地執行指令。如果以生物的智慧做一把標尺，人類的智慧為 100，老鼠的智慧為1 ，那麼人工智慧在標尺上的位置可能更接近後者。
科學麵臨的挑戰是巨大的，技術也是如此。
也許你要提起那些模擬機器人來反駁我了，比如“索菲亞”。索菲亞是一位面帶神秘微笑、長著一雙玻璃眼珠的美麗的光頭女人，“她”在2017 年的許多舞臺上都大放異彩。“她”動人的臉龐能夠呈現數十種不同的表情，在調侃一個記者關於地球上有太多機器人的擔憂時，“她”笑道：“您好萊塢電影看太多了！”這個經典笑話讓她如此酷似人類，以至沙烏地阿拉伯在當年授予了“她”沙特國籍。實際上，“她”只是一個由工程師預先設定好一系列標準答案的“木偶”。當我們與“她”交流時，所有的談話內容均會經過匹配系統處理，並從得到的答案中選擇最合適的一個輸出。索菲亞欺騙了人們，“她” 只是一個完成度很高的塑膠製品，只不過是我們（被這個激活了的物體所感動的人類）賦予了它某些智慧。
所以，人工智慧比人類聰明嗎？也許它們在執行十分精確嚴密的特定任務時所表現出的效能遠超人類。但至少目前，任何一種機器學習方法都沒有人類的學習更加有效。
5、人工智慧會產生人類感情嗎？
我絲毫不會懷疑自主智慧機器有一天會產生情感。
當用於測量機器人電池電量的鏡頭元件產生了較高的成本而致使機器人開始尋找電源時，不正與飢餓的感覺相似嗎？
當機器因成本高昂而避免採取行動時，或者由於成本低廉而執行任務時，這是否已經可以看作是一種情感的標誌？
當計算飢餓的目標函式的組成部分產生高成本時，它會觸發對食物的搜尋。普遍地觀點認為，這些行為是目標模組元件不滿意的結果。
我很清楚地意識到所有這些似乎都是可以簡化的。情感是人性的重要組成部分，因此人們不願意將其數字化為簡單的數學函式計算，對將人類行為簡化為目標函式的最小化也心存疑慮。但是，我在此提出的僅是關於智慧系統的一般體系結構的假設，沒有否認目標函式和世界模型的豐富性或複雜性。
6、人工智慧可以預測未來嗎？
人們都很喜歡預測，例如預測庫存、預測產品的需求、預測一隻股票或財務價值的演變曲線…… 那麼，人工智慧可以預測未來嗎？
如今的人工智慧有一個悖論：它功能極其強大、極其專業化，卻沒有一點常識。
常識至關重要，它制約著我們與世界的聯絡，它能填補空白，彌補隱含的資訊。當我們看到一個坐在桌子旁的人時，可能看不到他的腿，但我們知道他肯定有腿，因為我們對人類有一定的常識。我們的大腦還整合了物理學的基本定律，比如，如果有人打翻了眼前的玻璃杯，那麼杯子裡的水就會灑得滿桌子都是。我們知道如果不拿住某個東西，它就會掉下去。我們還能夠意識到時間流逝、萬物運動。
目前，機器帶有的預測能力十分有限。當然，如果給定一個有些刪減的文字，機器有能力給出一個可能的後續單詞列表。但是，如果這段文字是阿加莎·克里斯蒂（Agatha Christie）的小說，在最後一幕波羅探長宣佈“兇手是……先生”，那麼，為了完成這個句子需要讀者有很強的常識和對人性的瞭解。很顯然，沒有哪一臺機器能做到這一點。更不用提預測人類世界的未來了。
7、人工智慧會統治世界嗎？
在經典科幻電影《我，機器人》（I，Robot）中，機器人具有自我進化能力，轉化成了人類的“機械公敵”，製造者和被製造者展開了戰爭。這恐怕也是很多人對人工智慧未來的擔憂。
我們對機器人想要取得權力的恐懼主要來自人性特質在機器上的投射。對大多數人來說，人類與智慧生物的唯一互動就是與其他人類的互動，正因如此，我們混淆了智力和人性。這是一個錯誤，因為還有其他形式的智力存在，即使在動物界也是如此。
人類同倭黑猩猩、黑猩猩、狒狒和其他一些靈長類動物一樣具有複雜且通常帶有等級制的社會組織，每個個體的生存（或舒適度）取決於它影響該物種其他成員的能力（統治只是影響的一種形式）。我們是社會性動物的事實解釋了我們為什麼把對統治的渴望與智力聯絡在一起。
除了對統治的渴望，為了人類物種（或基因）的生存，我們的許多衝動和情感已透過進化建立了起來，其中包括好奇心，對探索的渴望，競爭力，屈服，渴望與我們的同類接觸，愛，仇恨，掠食，以及我們對家庭成員、我們的部族、我們的文化、我們的國家的偏愛，沒有這些衝動和情感的人、動物或機器也都可以是有智慧的。我們必須將這個問題說得清晰透徹：只有當我們在智慧機器中明確地建立了這種慾望時，它們才會渴望統治人類。但我們為什麼要這樣做呢？
8、人工智慧會被濫用嗎？
霍金於2014年向英國廣播公司稱，“人工智慧可能意味著人類的毀滅”， 但後來他改變了想法。就像任何一位出色的天體物理學家一樣，他的時間尺度是以數百萬或數十億年為單位的。試想，我們怎麼會如此聰明地設計出一個超人類的智慧機器，同時又如此愚蠢地賦予它荒謬至極的目標呢？
請記住，人工智慧始終都是由人類開發出來為人類服務的工具，目的是放大人類的智慧。
我們認可的造福人類的所有技術革命都有其陰暗面，每一項技術都帶來了問題，而這些問題最終都得到了解決。
為了防止這些濫用，我幫助建立了“ 人工智慧夥伴關係” （PAI），這個組織彙集了約100名成員，包括大型公司、網際網路巨頭、學者社團、人權組織（國際特赦組織、美國公民自由聯盟、電子前沿基金會）、媒體（《紐約時報》）、大學團體和政府機構等。我們討論道德問題，警告危險併發布建議。人工智慧是一個新領域，其深度展開的後果並非總是可預測的，我們必須多加考慮。
9、人工智慧會帶來軍事風險嗎？
像其他所有技術一樣，人工智慧可以被用於做最好的事情，也可能被用於做最惡的事情。有些聲音反對在軍事上使用人工智慧，主要是反對致命性自主武器系統（lethal autonomous weapon systems），它通常也被稱為“殺手機器人”。相對應的保障措施已經較為成熟，大多數軍隊都有極為嚴格的規則來管理啟動打擊的授權程式。無論是何種武器，決策的源頭始終是高階軍官。我們都知道，自動或半自動武器已經存在很長時間了，彈道導彈、巡航導彈也是如此。在所有具有很強殺傷性的自動武器中，最古老的當屬地雷。自1999 年以來，地雷就被一項國際公約禁止使用，不是因為它們很聰明，而是因為它們很愚蠢。
那麼，智慧化武器是否會有滑向軍備競賽的危險？弗拉基米爾·普京（VladimirPutin）在曾表示，“人工智慧的領導者將成為世界的統治者”。面對人工智慧推動的可能存在的軍事失控，危險是無比真實的。避免這些危險最重要的力量來自我們的國際機構，堅定捍衛已有的保護措施比以往任何時候都更加有必要，因為它們受到了民粹主義、民族主義和孤立主義的威脅。
10、你會被人工智慧取代嗎？
我不確定人工智慧革命是否會影響所有人。與那些從事可能被（部分或全部）系統化和自動化工作的人相比，深耕於有資質的、創新性的、專注於人際關係或人力資源職位的人更有可能保住工作。如果我們的政府不透過財政措施糾正存在的問題，那麼人工智慧帶來的收益將無法平均分配，貧富差距會進一步擴大。
自動化已經取代了人類來完成重複性或艱鉅的任務，而人工智慧將在那些一定程度上需要加入感知、推理、決策和行動計劃等內容的工作中取代人類。自動駕駛汽車會減少卡車、計程車和載客專車（VTC）的駕駛員的數量，因為它們會更加安全。醫學影象分析系統已經走進放射科醫生的日常工作中，患者也因此得到更可靠、更便宜的檢查。在以上這些健康和交通運輸領域，人工智慧將會挽救更多的生命。
所有的職業都將受到科技變化帶來的影響。有一件事是可以確定的：人工智慧及其應用無法參與競爭的東西會變得更有價值。
我們每個人都可以花不到2 歐元的低價或透過訂閱的方式聆聽最喜歡的音樂家的作品，然而如果要欣賞搖滾音樂會或歌劇，我們就需要支付50～300 歐元。區別在哪裡？區別在於，獨特的事物賦予了生命獨特的時刻。一頓大餐，參觀自然景點或博物館，聽一場爵士樂音樂會—作為一個開明的業餘愛好者，我因為能夠做這些事情而感到高興 ！—我們越來越重視創造力和獨到的體驗，越來越不看重大眾化的產品。在健康、藝術、科學、教育、體育等領域的職業中，感性的方面在未來將佔有重要的一席之地。