NOAH:對生成式AI近期前景的預測：不會取代人類 它是“大腦的自行車”

原作者：Noah Smith 和 roon

本文由 Noah 和 roon 共同撰寫。roon 是一家著名人工智能公司的研究員，他也在 Twitter 上發表幽默的推文。因為這是一篇聯合文章，所以我們有時會用第三人稱來指代我們中的一個。

當你和他人談論人工智能的潛力時，幾乎每個人都會提出同樣的問題：害怕被取代。對于大多數人來說，這表現為一種可怕的確定性，即人工智能最終會淘汰掉人們的技能。而對那些真正從事人工智能工作的人來說，它通常表現為一種內疚感 -- 對創造出使他們的同伴失去工作的機器感到內疚，對想象中的未來只有他們被有償雇用感到內疚。

最近幾個月，隨著生成式人工智能的投資和創新的爆炸性增長，這些不安的感覺更加強烈。機器學習中相對較新的創新，即擴散模型（diffusion models），使文本到圖像的生成變得成熟。像 Midjourney 和 Stable Diffusion 這樣的人工智能藝術應用浪潮已經引起了巨大的轟動，Stability AI 已經籌集了 1.01 億美元。與此同時，使用人工智能生成書面內容的公司 Jasper 籌集了 1.25 億美元。在一個大部分科技行業似乎都陷入低谷的時代，人工智能正在經歷一個黃金時代。而這讓很多人感到擔憂。

直截了當地說，我們認為這種恐懼和內疚，可能大多是沒有必要的。當然，沒有人真的知道答案，但我們認為人工智能更有可能補充和增強人們的能力，而不是使人們陷入貧困或將他們排擠到福利名單上。這并不意味著我們是盲目的樂觀主義者；我們意識到這種樂觀的觀點很難讓人接受，即使我們的愿景實現了，也肯定會有一些人吃虧。我們迄今所看到的生成式人工智能的工作方式表明，它將在很大程度上像過去創新浪潮中提高生產率、節省勞動力的工具一樣。

如果人工智能造成普通民眾的大規模失業，這將是歷史上第一次有技術做到這一點。工業機械、計算機控制的機床、軟件應用和工業機器人都引起了關于人類被淘汰的恐慌，而這種情況從未發生；幾乎所有想要工作的人都仍然工作著。正如 Noah 所寫的，最近的一波證據顯示，采用工業機器人和一般的自動化技術與公司和行業層面的就業增加有關。

七國集團將在峰會期間討論生成式人工智能并制定治理計劃:金色財經報道，周三的一份公報草案顯示，七國集團（G7）數字部長將在本月晚些時候的一次會議上呼吁加快對生成式人工智能系統（如ChatGPT）的研究，因為此類工具的迅速擴散引起了人們對其對社會潛在影響的擔憂。根據該草案，從4月29日起，在群馬縣高崎市舉行的為期兩天的會談中，部長們旨在制定一項關于人工智能治理的行動計劃。由于日本政府還考慮在5月于廣島舉行的七國集團峰會上討論生成式人工智能，預計該議題也將在領導人的聯合聲明中被提及。[2023/4/20 14:14:59]

當然，這并不是說它不可能發生 -- 有時技術會做出全新的、前所未有的事情，就像工業革命突然讓人類第一次擺脫馬爾薩斯式的貧困。但重要的是要意識到為什么過去的創新沒有導致當時人們所擔心的那種大規模淘汰。

原因是，這些技術沒有完全取代人，而只是取代了他們所做的一些工作。如果像 Noah 的祖先一樣，你在 17 世紀是一名金屬工人，你的工作有很大一部分是使用手工工具將金屬敲打成特定形狀。兩個世紀后，在機器工具出現后，金屬工人將大部分時間用于指揮機器進行敲打工作。這是一種不同的工作，但你可以用機器敲打更多的金屬。

經濟學家早就意識到，重要的是不要在工作層面上看勞動力市場，而是在工作中的任務層面上看。在他們 2018 年的優秀著作《Prediction Machines》中，Ajay Agrawal、Joshua Gans 和 Avi Goldfarb 談到了預測性人工智能的前景 -- 那種能自動完成谷歌搜索的人工智能。他們提出的可能性是，這種技術將只是讓白領們更有效地完成他們的工作，類似于機器工具對藍領們的作用。

Daron Acemoglu 和 Pascual Restrepo 有一個相關的數學模型（更技術性的版本），他們把工作分解成具體的任務。他們發現，像人工智能或機器人這樣的新生產技術可以產生幾種不同的效果。它們可以使工人在現有的任務中更具生產力。它們可以將人類勞動轉移到不同的任務上。它們還可以為人們創造新的任務。工人是受到傷害還是得到幫助，取決于這些影響中哪一個占主導地位。

Circle過去24小時銷毀27億枚USDC，Coinbase至少贖回17.8億枚USDC:3月11日消息，據派盾 PeckShieldAlert 數據顯示，Circle 過去 24 小時銷毀了 27 億枚 USDC，Coinbase（至少 17.8 億枚）和 Jump Crypto（大約 9600 萬枚）過去 24 小時至少贖回了 18.7 億枚 USDC。[2023/3/11 12:55:59]

換句話說，正如 Noah 說的那樣，“反烏托邦是機器人取代你一半的工作。烏托邦是機器人取代你一半的任務。”

其實，你不需要一個花哨的數學模型來理解比較優勢的基本原則。想象一下，一個風險資本家（假設他叫 "Marc"）是一個幾乎快到非人的打字員。但他還是會雇一個秘書為他起草信件，因為即使這個秘書的打字速度比他慢，Marc 也可以利用他的時間做一些起草信件以外的事情，產生更多價值。因此，他最終付錢給別人，讓他們做一些他實際上更擅長的事情。

再從人工智能的角度來考慮這個問題。有些人認為，以前的創新浪潮沒有使人類被淘汰的原因是，有些事情人類仍然比機器做得更好 -- 比如說寫作。然而，人工智能是不同的，因為人工智能研究的圣杯是一種叫做 "通用智能" 的東西 -- 一種機器思維，它能像最好的人類一樣完成所有的任務，甚至比人類更好。不過，正如我們在 Marc 和秘書的例子中看到的那樣，你可以把每件事都做得更好，并不意味著你最終什么都做了！在任務而不是工作的層面上應用比較優勢的理念，我們可以看到，總有一些事情是人類可以做的，即使人工智能會把這些事情做得更好。就像 Marc 一天中的時間有限一樣，人工智能的資源也是有限的 -- 正 roon 說的，每次你使用任何最先進的人工智能應用程序時，你都在 "點燃一堆 GPU"。這些資源限制解釋了為什么想要工作的人類會找到工作；人工智能企業將不斷擴大，吞噬更多的物理資源，直到人類工人本身，以及他們為補充人工智能所做的工作，成為稀缺資源。

去中心化社交協議Nostr賬戶總量突破100萬:金色財經報道，據 Nostr.Band 數據顯示，去中心化社交協議 Nostr 賬戶數已突破 100 萬，其中在主頁設置個人簡介的賬戶數接近 57 萬。歷史數據顯示，2 月 1 日 Nostr 協議第三方客戶端 Damus 發布后賬戶數為 558,188 個，這意味著自 Damus 發布至今 Nostr 協議賬戶數已增長近一倍。[2023/2/11 12:00:49]

比較優勢原則認為，未來工作的薪酬是高于還是低于今天的工作，在一定程度上取決于人工智能的技能集是與人類非常相似，還是互補和不同。如果人工智能只是以不同于人類的方式做事，那么這種互補性將使人類更有價值，并將提高工資。

雖然我們不能談論未來的人工智能，但我們相信目前的生成式人工智能浪潮做的事情與人類非常不同。人工智能藝術往往以微妙的方式與人類制造的藝術不同 -- 它的小細節往往以一種復合的恐怖谷方式出現，而最終的結果是可能看起來很可怕。任何坐過特斯拉的人都知道，人工智能進行側方停車的方式與人類不同。而對于所有關于大型語言模型通過各種形式的圖靈測試的炒作，很明顯，他們的技能組合與人類的不完全相同。

由于這些差異，我們認為生成式人工智能所做的工作基本上將是 "自動完成一切"。

迄今為止，影響最深遠的生成式人工智能應用是一個被恰當地稱為 GitHub Copilot 的工具。最近，"大型語言模型" 或 "LLMs" 因其在一般知識和簡單推理任務方面的廣泛優勢而備受關注。在訓練時，它們研究從互聯網上刮來的大量文本，并獲得與源材料本身一樣廣泛的智能。通過對互聯網上所有公開可用的計算機代碼進行的 LLM 訓練，Copilot 能夠根據程序員已經寫好的內容為其推薦下幾行代碼。

這從根本上改變了軟件工程師的工作性質。以前，軟件工程師必須記住、搜索或推斷他們程序的所有低級功能，而現在他們可以*用普通語言*描述他們希望他們的程序片段做什么，如果它在語言模型的能力范圍內，就可以從無到有地合成它！

Cosmos流動性質押協議Stride已上線主網:9月6日消息，Cosmos流動性質押協議Stride已上線主網，允許用戶存入ATOM以鑄造stATOM，旨在為Cosmos社區提供盡可能好的流動性質押服務。在接下來的24小時內，該協議將在OsmosisZone開啟STRD/OSMO、stATOM/ATOM、stATOM池的STRD挖礦獎勵。

此外，Stride表示ATOM質押者的空投預計在9月底可領取STRD空投，由于缺少ICA實施，OSMO和JUNO的質押者需要等待2-5周才能領取STRD空投。[2022/9/6 13:11:29]

正如上面的例子，工程師可以簡單地要求一段代碼來完成一個小任務，在很多情況下，成功地從機器智能調用它。這對學習一種新的編程語言或用有限的經驗編寫不熟悉的程序有很深遠的影響。實際上，沒有軟件工程師會再單打獨斗：從編寫第一份計算機代碼的學生到行業專家，每個人都會在他們的工具中內置一個知識超群但又特立獨行的配對程序員。

在過去的幾個月里，軟件價值鏈的某一層已經被資本大大加強。工程師夢想著一個大項目 -- 他們在高層次上推理手頭的商業任務，并將其分解成更小的子問題 -- 但最低層次的實施，記憶或學習數以千計的編程語言和框架及其語言的行為，已經變得更加容易。如果你有一個想法，比如 "我想把這個數據集變成一個散點圖"，人工智能更有能力記住正確的方法來做到這個。它并不總是完全正確，但它幾乎總是能做出足夠好的第一次嘗試，而人類可以去解決細微的推理錯誤，或根據自己的喜好進行修改。這就是互補性：人類擅長推理業務邏輯，但他們的大腦并不是為了記住巨大的實現細節環境。因此，Copilot 不僅會提高單個程序員的生產力，而且會普遍創造更多的程序員。

另一個最受歡迎的生成式 AI 應用是藝術應用 Midjourney。誕生于論壇文化的 Discord，Midjourney 采用文字描述，并將其轉化為令人折服的數字藝術。首先，你輸入一個提示，MJ 產生四個低分辨率圖像樣本的選擇。然后，你選擇你最喜歡的一個，MJ 就會去為它注入更多的資源，創造出一副高分辨率的數字藝術作品。這些模型的大規模連貫性和對構圖的理解水平令人震驚。但如果你仔細觀察，你會發現有幾個細節會有偏差 --Midjourney 往往會把人物的手搞砸。他們可能有過多或過少的手指。窗格玻璃可能不對齊。此外，Midjourney 并不是在做 "Guernica"（畢加索的油畫）的夢 -- 文本提示的敘事抽象有一個限度，之后它就會失去控制，開始胡言亂語。這就需要藝術家將創作動機、靈感提煉成機器可以理解的更簡單的想法，并在此基礎上進行迭代。目前，提示是一門不精確的科學，人類必須找到正確的方式將意圖傳達給人工智能 -- 而這個問題與委托給其他人類的困難并無二致！最后，藝術家必須修復人工智能可能搞砸的任何細節。

Harmony團隊在鏈上對Horizo??n Bridge攻擊者發出談判請求，未得到回復:6月24日消息，Etherscan頁面顯示，在今日6:28和10:40進行的交易記錄中，Harmony團隊兩次向Horizo??n Bridge攻擊者發出請求：“Harmony團隊對溝通和談判感興趣。 請聯系官方郵箱開始對話。 通信可以是匿名的。 ”但目前黑客并未對此進行回復。

此外，Harmony團隊今日11:37發推文稱，Harmony正在處理，將繼續與FBI和多家網絡安全公司一起進行調查。

此前消息，以太坊與Harmony間跨鏈橋Horizo??n遭遇攻擊，損失約1億美元。[2022/6/24 1:28:48]

這只是兩個例子，但它們似乎指出了新一批生成式 AI 應用如何運作的一般規律。生成式 AI 在知識工作的價值鏈的某些部分相當出色，但思維方式與人類相當不同。Anthropic 是一家專注于了解人工智能如何運作的公司，該公司發現，與人工智能或人類單獨工作相比，人類與人工智能專家助手并肩工作，執行各種任務會產生更好的表現。

這種思路的一個可能的危險是，人工智能的迭代速度很快：每 12 個月都會帶來技術上的進步，而這些進步在不久之前似乎還很陌生。這些模型的能力和它們的能力范圍將擴大。雖然我們不能排除未來人工智能技術可能會主導人類所做的一切，讓我們處于相對優勢而不是絕對優勢，但最新的生成式 AI 看起來更像是賦予人類超能力的東西。

在考慮技術和未來的工作時，每個人都想知道一件事，那就是他們在未來究竟會以什么為生。經濟學家只是揮揮手說："哦，我們會找到一些事情讓人們去做"，這是不夠的。但是，盡管我們不能確定未來的工作會是什么樣子，但我們可以想象，在 "一切自動完成" 的時代，今天的許多創造性工作會發生怎樣的變化。

以專欄作家為例 -- 這個例子對 Noah 顯然很重要。非小說寫作的大部分任務涉及到想出新的方法來遣詞造句，而不是弄清楚一個句子的內容應該是什么。基于人工智能的文字處理器將使寫作的這一枯燥部分自動化 -- 你只需輸入你想說的話，而人工智能將以一種使其聽起來可理解、新鮮和不重復的方式來措辭。當然，人工智能可能會犯錯，或者使用的措辭不太符合人類作家喜歡的風格，但這只是意味著人類作家會回去編輯人工智能寫的東西。

事實上，Noah 想象，在某些時候，他的工作流程會是以下這樣的：首先，他將思考他想說什么，然后打出一個要點清單。然后，AI 文字處理器將把這些要點變成一個句子或段落，以 Noah 的傳統寫作風格寫成。然后，Noah 將回去編輯人工智能寫的東西 -- 改變措辭，在適當的地方添加句子或短語或鏈接，等等。一個迭代的、合作的寫作循環，其中人工智能合作者掌握的認知堆棧的不同部分與 Noah 本人不一樣，與本文的合作寫作方式并沒什么兩樣。

許多藝術家可能會有一個類似的工作流程。假設你想畫一幅太空冒險家在火星上騎著一只大兔子的畫。你會寫下（或說出）一個提示，然后 AI 會創造出一堆備選圖片 -- 也許是適應你自己的藝術風格，或像 Frank Frazetta 這樣的著名藝術家的風格。然后，你選擇其中的一個備選方案，并開始工作。也許你會繼續提示人工智能改變該圖片或對其進行改編。當你最終有了接近你想要的東西時，你就會進去手動改變細節 -- 包括清理手、頭發或其他被人工智能搞亂的小“邊緣情況”。

工業設計也會以類似的方式發揮作用。看看你周圍房間里的任何平凡、無聊的物體 -- 一盞燈，或一個電視柜，或一個咖啡壺。一些人類必須想出這樣的設計。有了生成式 AI，設計師就不必再去翻閱一頁又一頁的例子來進行推敲。他們只需提供一個 prompt--"55 英寸的電視柜和兩個柜子"-- 然后看到一個備選設計的菜單。他們會從這些設計中挑選一個，對其進行改進，并添加他們想要的任何其他修飾。

我們可以想象很多工作的流程將遵循類似的模式 -- 建筑、平面設計或室內設計。律師可能會用這種方式撰寫法律摘要，而行政助理會用這種技術來起草備忘錄和電子郵件。營銷人員會有一個活動的想法，大量生成副本，并提供最后的潤色。顧問們會根據一個簡短的設想，用連貫的敘述產生整個 PPT，然后提供細節。金融分析師會要求提供一種金融模型，并有自動填充數據源的 Excel 模板。

所有這些愿景的共同點是我們稱之為 "三明治" 的工作流程。這是一個三步走的過程。首先，人類有一個創造性的沖動，并給人工智能一個提示。然后人工智能生成一個選項菜單。接著人類選擇一個選項，對其進行編輯，并添加他們喜歡的任何修飾。

這種三明治的工作流程與人們習慣的工作方式非常不同。人們很自然地擔心，提示和編輯在本質上不如自己產生想法來得有創意和有趣，這將使工作更加死板和機械。也許這其中有些是不可避免的，就像手工制造讓位于大規模生產一樣。人工智能給社會帶來的財富增加，應該讓我們有更多的休閑時間來滿足我們的創造性愛好。

但是，即使人們在工作中不那么具有工匠精神，也不意味著人類將不得不放棄個人創造力的實踐；我們只是為了好玩而不是為了錢。CAD 軟件和機器工具并沒有剝奪木工或金屬加工的樂趣 -- 它們只是意味著喜歡這些創造性追求的人不能把他們的愛好和他們的工作結合起來。但這只是資本主義 -- 我們生產的東西總是由市場決定的，而我們真正有表現力的手工創作總是在我們自己的時間里完成的，只有少數幸運的人能夠將這兩者結合起來。

不過，我們預測，最終很多人會改變他們對個人創造力的看法。就像一些現代雕塑家使用機器工具，一些現代藝術家使用 3D 渲染軟件一樣，我們認為未來的一些創作者將學會把生成式 AI 看作是另一種工具，即通過解放人類思考創造的不同方面來增強創造力的東西。

以上就是我們對生成式 AI 的近期前景的預測 -- 不是取代人類，而是賦予人類超能力。也就是“大腦的自行車”。對工人和公司來說，適應這些新的超能力將是一個漫長而艱難的試錯過程，但正如機器工具、機器人和文字處理器的出現一樣，我們認為最終的結果對大多數人類工人來說將比目前的情況更好。

DeFi之道

個人專欄

閱讀更多

金色早8點

金色財經

去中心化金融社區

CertiK中文社區

虎嗅科技

區塊律動BlockBeats

念青

深潮TechFlow

Odaily星球日報

騰訊研究院

Tags：人工智能STRNOAHNOA人工智能就業前景Astro PepeNOAHARKNoah Coin

Bitcoin