選自One Zero
作者：Alberto Romero
機器之心編譯
機器之心編輯部
在GPT-3開源已經成為一個梗之後，OpenAI聯合微軟推出了Codex，又引來更大的爭議。
當金錢砸來時，你是否還能堅持初心？
OpenAI 成立於 2015 年，是一家非營利性研究機構，它的願景是構建出安全、對人類有益的通用人工智慧（AGI），由伊隆 · 馬斯克、Sam Altman 等人宣佈出資 10 億美元成立。
然而到了 2019 年，OpenAI 轉變成了一家名為 OpenAI LP 的營利性公司，由名為 OpenAI Inc 的母公司控制。此時的 OpenAI 是一種「利潤上限」結構，將投資回報限制在原始金額的 100 倍。如果你投資 1000 萬美元，最多你會得到 10 億美元。看起來回報率不錯。
改變幾個月後，微軟宣佈注資 10 億美元。正如我們在 GPT-3 和 Codex 上看到的那樣，OpenAI 與微軟的合作伙伴關係意味著允許後者將部分技術商業化。
在科技領域中，OpenAI 是引領人類走向美好未來的最大希望之一，如今卻被成本和算力的需求打回了現實。我們還能相信它將會帶領我們找到真正的人工智慧嗎？
AI Lab，盈利優先
首先，OpenAI 是一個人工智慧研究實驗室，它的雄心和自身所擁有的資源相比天差地別。在 GPT-3 論文橫空出世之後，外界的一個流行圍觀方式就是幫他們算成本，據估計 OpenAI 訓練 GPT-3 耗費了 1200 萬美元——僅僅是訓練。如果沒有要求後期更大回報的金主，這家公司如何可以寫一篇論文就花這麼多錢？所以當 OpenAI 需要投資的時候，他們和擁有云服務的微軟形成了合作。至於代價，就是一種未公開的，將其系統商業化的晦澀許可。
MIT Technology Review 記者 Karen Hao 的一篇調查文章披露了 OpenAI 口是心非的地方，為什麼一家以確保所有人擁有更美好未來為願景的公司突然決定為「stay relevant」吸收大量私有資金？從非盈利到盈利的轉變引發了公眾甚至公司內部的強烈批評。
艾倫人工智慧研究所負責人 Oren Etzioni 表達了懷疑的態度：「我不同意非盈利組織無法具備競爭力的觀點…… 如果規模更大、資金更充裕就能做得更好，那麼今天 IBM 仍將是世界第一。」
曾為 Vice News 撰稿的 Caroline Haskins 則不相信 OpenAI 仍會忠於它的使命：「人類從未因為依靠風投機構而變得更好。」
從技術角度來看，OpenAI 當前的研究方向是更大的神經網路，這就需要更大的算力和巨量資料。只有比肩科技巨頭的投入才能在這條道路上走下去。但正如 Etzioni 所說的，這並不是在 AI 領域裡實現最先進成果的唯一途徑，有時你需要創造性地思考新的想法，而不能只想著大力出奇跡。
OpenAI 是如何把路走窄的
GPT-2、GPT-3「危險」語言生成器
在 2019 年初，已是一家盈利公司的 OpenAI 推出了 GPT-2，這是一種強大的語言生成模型，能夠生成接近人類的自然語言文字。研究人員認為 GPT-2 在當時是一個巨大的飛躍，但太危險所以不能開源出來。工程師們擔心 GPT-2 會被用來生成假新聞、垃圾資訊和誤導資訊。但在不久之後，OpenAI 又認為不存在明顯被濫用的證據，因而將其開源出來。
羅格斯大學教授 Britt Paris 表示：「這看起來就像是 OpenAI 在利用圍繞人工智慧的恐慌。」有不少人把 GPT-2 的報道視為一種宣傳策略，他們認為該系統其實並不像 OpenAI 聲稱的那樣強大。從營銷的角度來看這確實可以吸引注意力，但 OpenAI 否認了這些指控。
如果 GPT-2 沒有 OpenAI 宣稱的那麼強大，那為什麼要讓它看起來比實際更危險呢？如果它真的效能強大，為什麼僅僅因為「沒有發現被濫用的有力證據」而完全開源？無論如何，OpenAI 似乎都沒有遵循自己的道德標準。
2020 年 6 月，GPT-3 的論文被傳上了 arXiv，隨後以 API 的形式向外界提供。OpenAI 似乎認為這個比 GPT-2 大 100 倍，更強大的新系統足夠安全，可以與世界分享。他們設定條款逐個審查每個訪問請求，但他們仍然無法控制系統最終用於什麼目的。
他們甚至承認 GPT-3 若落入壞人之手可能發生一些問題，從誤導性資訊、垃圾郵件、網路釣魚、濫用法律、政府內容，到學術欺詐、社會工程，再到性別、種族和宗教偏見。
他們認識到了這些問題，但仍然決定讓使用者付費測試。為什麼要透過 API 釋出它而不是開源模型？OpenAI 回答說，這是為他們正在進行的人工智慧研究、安全和政策努力提供資金。
所以總結一下就是：負責保護我們免受有害 AI 傷害的公司決定讓人們使用一個能夠製造虛假資訊和危險偏見的系統，這樣他們就可以負擔昂貴的維護費用。看起來這並不是什麼「對所有人有益的價值」。
因此，社交網路上出現 GPT-3 有害的討論就是順理成章的了。Facebook 人工智慧負責人 Jerome Pesenti 寫了一條推文，他舉了一個例子
在一項利用 GPT-3 獨特性的嘗試中，加州大學伯克利分校的學生 Liam Porr 讓系統寫了一篇關於生產力的文章，並將其分享了出來（但沒說是 AI 生成的）。這篇文章騙過了很多人，甚至登上了 Hacker News 的榜首。試想，如果像他這樣沒有惡意的學生都能夠用 AI 寫的文章騙過所有人，一群懷有惡意的人會用它做什麼？比如傳播假新聞？
Liam Porr 的文章。連結 https：//adolos。substack。com/p/feeling-unproductive-maybe-you-should
「在檢測 GPT-3 175B 生成的長文章時，人類的平均準確率僅略高於 52%。這表明，對於 500 字左右的新聞，GPT-3 能夠持續生成以假亂真的作品。」
Codex、Copilot 侵權風波
前段時間，GitHub、微軟和 OpenAI 釋出了 Copilot，這是一個由 Codex 提供支援的 AI 系統，可以自動生成程式碼。然而，Copilot 的出現遭到了強烈的批評，因為它是盲目使用來自公共 GitHub 庫的開原始碼進行訓練的。
有位網友指出了一些問題
AI 生成的程式碼究竟屬於我還是屬於 GitHub？
生成的程式碼適用於哪種許可證？
如果生成的程式碼成為侵權的理由，誰該為此受罰？
在推特上，一位開發者分享了一個 Copilot 剽竊一整塊有版權的程式碼的例子：
Copilot 原樣複製了《雷神之錘》裡的經典程式碼，連吐槽註釋也沒落下。
有網友在底下回帖說，「我們有 Copilot 直接複製 GPL 整塊程式碼的證據，這說明在商業環境中，Copilot 是一個非常危險的工具。」
再深入一點，即使 Copilot 沒有逐詞複製程式碼，這裡也有一個道德問題：GitHub 或 OpenAI 這些公司藉助數千名開發者寫出的開原始碼訓練這些系統，然後再向同一批開發者售賣這些系統，這合適嗎？
對此，程式設計師兼遊戲設計師 Evelyn Woods 表示，「感覺這像在嘲笑開源。」
我們應該把希望寄託於 OpenAI 嗎？
OpenAI 現在的真實願景到底是什麼？他們是不是與微軟緊密相連，以至於忘記了自己「為人類進步」而奮鬥的初衷？還是說他們真的以為自己擁有最好的工具和頭腦來踐行這條路線，即使將靈魂出賣給一個大型科技公司也在所不惜？我們是否真的願意讓 OpenAI 按照它的願景來構建未來？還是說我們希望我們的願景更加多樣化，並將其與經濟利益分離？
OpenAI 正帶領大家走向更加複雜的人工智慧，但還有很多和大公司沒有金錢關係的機構在做相同的事情。他們可能不喜歡舒服地躺在錢堆裡，因此我們有理由更加關注他們所做的工作。
最終，大型科技公司的首要任務不是滿足所謂的科學好奇心，探索通用人工智慧，也不是構建最安全、最負責、最道德的 AI，而是賺錢。他們會不惜一切做到這一點，即使這意味要走上一條模糊的道路，而我們大多數人都會避開這一道路。
OpenAI 的聯合創始人馬斯克甚至也認同這些批評：
馬斯克：我覺得 OpenAI 應該再開放一點。
OpenAI 的人不應該忘記，他們不能為了達到目的不擇手段。這些手段可能會損害更高的目的。
我們想要 AGI 嗎？從科學的角度來看，答案不可能是否定的。人們對於科學的好奇心是沒有極限的，然而，我們應該時刻評估潛在的危險。核聚變是非凡的，但核彈不是。
我們想不惜一切代價實現 AGI 嗎？從道德的角度來看，答案不可能是肯定的。這些快速發展的技術將對我們所有人產生影響，所以我們應該注意到這個問題。
或早或晚，那些只關注眼前利益的人終將為後果承擔重要責任。
參考內容：
https：//www。reddit。com/r/MachineLearning/comments/pizllt/d_how_openai_sold_its_soul_for_1_billion_the/
https：//onezero。medium。com/openai-sold-its-soul-for-1-billion-cf35ff9e8cd4
與吳恩達共話ML未來發展，2021亞馬遜雲科技中國峰會可「玩」可「學」
2021亞馬遜雲科技中國峰會「第二站」將於
9月9日-9月14日全程在線上舉辦
。對於AI開發者來說，9月14日舉辦的「人工智慧和機器學習峰會」最值得關注。
當天上午，亞馬遜雲科技人工智慧與機器學習副總裁Swami Sivasubramanian 博士與 AI 領域著名學者、Landing AI 創始人吳恩達（Andrew Ng ）博士展開一場「爐邊談話」。
不僅如此，「人工智慧和機器學習峰會」還設定了四大分論壇，分別為「機器學習科學」、「機器學習的影響」、「無需依賴專業知識的機器學習實踐」和「機器學習如何落地」，從技術原理、實際場景中的應用落地以及對行業領域的影響等多個方面詳細闡述了機器學習的發展。