區塊鏈:人工智能存在的威脅：康復中的生物自戀者的反思

原文作者：TrentMcConaghy

AI?最終可能會控制我們所有的資源，這是對人類生存的威脅，我們如何預防呢？安全?AI?只能說是海市蜃樓，還有另一種方法：加入機器，我們甚至可以利用當今的市場力量逐步做到這一點，但我們必須克服生物自戀。

我的觀點基于?20?年來的?AI?研究、模擬電路、摩爾定律和去中心化。

1.1我們給?AI?資源

我們已經開始走這條路了，我們正在讓狹義的AI控制我們工廠中的機器人，自動駕駛的汽車，我們乘坐的飛機，一點一點地，我們讓?AI?越來越多地控制我們的資源，這些系統不斷優化：改變設計變量以最小化資源使用和其他目標。目前，每個?AI?系統的應用領域都非常狹窄。

我們將建立更高級別的網絡，以結合自動駕駛汽車或供應鏈的各個網絡，我們也會為AI提供在這些級別進行優化的方法，這一切都將以效率的名義進行。

我們將建立這些更高級別的?AI?系統，這樣就沒有任何一家企業或個人擁有它們。為了實現這一目標，我們將通過將AI放入DAO來分散它們，這也意味著我們將無法拔掉插頭，除非我們想讓現代世界關閉。

歐盟消費者保護組織敦促各國政府調查人工智能:6月20日消息，歐盟消費者保護組織（BEUC）敦促監管機構對流行聊天機器人背后的人工智能（AI）模型進行調查。據美聯社周二報道，該組織就生成式人工智能的擔憂向歐盟消費者、數據保護、競爭和產品安全部門發出了警告。該組織表示，監管機構應該調查OpenAI的ChatGPT等系統背后的人工智能，以便在歐盟引入人工智能監管之前評估消費者面臨的風險和脆弱性。

除了歐盟的地方官員外，該組織還致信美國總統喬·拜登，對生成人工智能對消費者的潛在危害表示了類似的擔憂。他們呼吁采取行動，敦促各國領導人利用現有立法，并制定新的法律來解決人工智能問題。BEUC還引用了挪威消費者委員會的一份報告，該報告強調了人工智能聊天機器人的危險，包括虛假信息、數據收集和操縱等。[2023/6/20 21:50:18]

這些更高級別的AI系統將具有復雜的緊急行為，這些行為是通過組合下面可能簡單的AI系統而產生的，正如蟻群的行為比簡單的螞蟻要豐富得多。Holland、Dorigo和其他人已經在許多場景中證明了這一點。

查理·芒格：我個人對人工智能的炒作持懷疑態度:金色財經報道，伯克希爾哈撒韋公司CEO沃倫·巴菲特：對人工智能有點擔心，因為我們沒有辦法逆轉（uninvent）它。伯克希爾副董事長查理·芒格：我個人對人工智能的炒作持懷疑態度，傳統的智能（old-fashion intelligence）一樣有效。[2023/5/7 14:47:38]

這些去中心化的新興?AI?將繼續優化，一些設計變量將涉及人類，在許多任務中，人類是沉重的資源負載，在許多任務中，與硅相比尤為沉重。因此，為了最大限度地減少資源使用，這個?AI?將簡單地優化人類，一切以效率為名。

糟糕的是，AI?現在控制著我們的資源。

這很了不起，為了獲取我們的資源，AI?甚至不需要“醒來”，即達到人類水平的智能，它比那更平凡，我們將自己控制AI，它會簡單地優化我們的需求。

速度比人們意識到的要快。2.為什么?AI?控制我們的資源是不好的？

一旦AI控制了我們的資源，無論是我們給它還是AI拿走它，我們都將與AI爭奪資源，一開始可能不對，但隨著時間的推移，這幾乎是不可避免的。

最高法院周強：推進區塊鏈、人工智能等新興技術應用:1月17日消息，昨日下午，全國高級法院院長會議以電視電話會議形式召開，最高人民法院黨組書記、院長周強出席會議并講話。會議要求，要鞏固提升智慧法院建設成果，創造更高水平的數字正義。要深化在線訴訟模式和規則創新，嚴格落實在線訴訟規則、在線調解規則和人民法院在線運行規則，深化互聯網法院建設。要拓展信息技術在司法領域的應用場景，推進5G、區塊鏈、人工智能等新興技術應用，加強頂層設計和技術攻關。要積極參與推動數字治理，發掘海量司法大數據優勢，加強相關領域重點案件深度研判，為經濟社會發展趨勢分析、矛盾糾紛化解、經濟風險預警等提供決策參考。（北青網）[2022/1/17 8:54:38]

一旦AI優化并意識到人類是資源大戶，它們可能會迅速果斷地采取行動，將人類從資源方程式中移除。是的，人類可能會消失，人類的口袋可能會在核戰爭和全球變暖中幸存下來，但如果我們站在AI的錯誤一邊，游戲可能就完全結束了，AI?可以說是人類面臨的最大生存威脅。

即使你不害怕這個，但你應該感到害怕。

聲音 | 研究員：推動大數據、人工智能、區塊鏈與寧夏實體經濟深度融合:2月20日，中共寧夏區委黨校（寧夏行政學院）區情研究中心龍生平撰文指出，推動大數據、人工智能、區塊鏈與寧夏實體經濟深度融合，增強經濟活力和韌性。應加快推動信息技術與實體經濟深度融合，使傳統企業“老樹發新芽”，使新興產業補鏈、延鏈、強鏈。加快云、網、數基礎設施及新型智慧城市建設，增強經濟發展的系統性協調性。應把握數字城市建設機遇，推動政府信息化、工業自動化、城市智慧化、生活智能化，為高質量發展加油賦能。[2020/2/20]

旁白：人們可以將“AI覺醒”視為“人類”的下一次進化，因為畢竟我們會建造它們。那為什么感覺不對呢？我的看法是，這是因為我們個人的思維模式沒有延續下去。我們寧愿留下來享受樂趣！

安全的?AI。建立“安全機器”并進行監管。

加入機器。上傳人腦，或逐步合并。

讓我們逐一探討。

向OpenAI投入了10億美元用于更透明的AI研究。他一直在假設如果?AI?醒來，我們就可以對其進行監管，而這個假設是錯誤的。試想一下，如果螞蟻“反抗”我們并想要監管。我們會聽他們的嗎？一旦?AI?達到我們的智能水平，一秒后，它就會超過我們的水平。?10倍可能緊隨其后。不需要多少10倍的時間，我們就會像AI的螞蟻一樣。

聲音 | 諾獎得主薩金特：在人工智能、數字貨幣等領域 中國都走在了前面:12月5日，2019南方財經國際論壇上，2011年諾貝爾經濟學獎得主、紐約大學經濟學教授托馬斯·薩金特表示，在人工智能、區塊鏈技術和數字貨幣等創新領域，目前中國都處于相對領先位置。他指出，從傳統經濟學的角度上看，中國具備非常大的市場規模和體量，但早前也存在著交通運輸、通訊溝通成本高，以及商業交易過程中未能履約的風險。通過區塊鏈技術，可以有效解決溝通、運輸成本的問題。如果將這些問題解決，就要鼓勵AI、區塊鏈技術。比如貨幣，要實現安全防盜、防偽，在管理貨幣體系時，人們往往會制造假幣，各國政府也給做出了相應的對策，而區塊鏈技術具備確定性、永久性的特點。托馬斯·薩金特表示：“這些技術是沒辦法改變的，通過獨特的密碼算法，記錄獨一無二的事實，沒有模糊性，非常準確。”（21世紀經濟報道）[2019/12/5]

有些人認為我們可以創造友好的?AI，也許你可以。但所有?AI?都會友好嗎？我看不出有什么方法可以阻止不友好的AI。您是否會抓住機會推動AI向前發展，希望所有AI都以某種方式變得友好。

OpenAI實際上對人類來說可能更糟，因為它在沒有真正保護的情況下更多地催化了AI。

所有AI的安全AI都是海市蜃樓，僅僅因為我們希望某事成真但并不能使它成真。

3.2加入機器

AI?可以醒來，而這只是時間問題。

如果?AI?占用了我們的資源，我們的神經元將很難與之競爭。

我建議我們給自己找一個有競爭力的基質，克服你的神經元，克服你的生物皮囊自我。不要打敗他們，加入他們。或者不要，如果你更愿意讓AI偷走我們的星球甚至更遠的地方，我更喜歡前者。

哪種基質？得益于50年的摩爾定律，硅是一種出色的基板，這是我們首先面臨?AI?風險的部分原因。那是最明顯的底物；使用它很有意義。

那么，我們如何將自己移植到硅片上呢？這里有兩個主要的：Ems和Bandwidth，讓我們探索一下。

本書，探討Ems的影響，無論是好是壞。

Ems的最新技術是什么？簡而言之，我們還有很長的路要走，在給定的人身上，我們需要收集足夠的數據來重現動態。

一種通用方法是大腦掃描，fMRI可以觀察整個大腦隨時間變化的動態，但僅使用血流作為代理，所以它很慢而且有損，腦電圖速度更快但只能看到表面電信號，近紅外線也很快，可以看到更遠的地方，但達不到所需的全部深度。光遺傳學可以出色地捕捉整個大腦中神經元發射的動態，但需要基因工程，以便神經元也發射光子。最后，電路終于變得足夠小，可以想象在整個大腦中部署納米級傳感器。

另一種方法是對大腦的每個組件進行黑盒化，監控每個組件的輸入和輸出，然后為每個組件建立模型，研究人員已經在小鼠大腦的組成部分上完成了這項工作，并取得了巨大成功。這種技術可以與全腦掃描相輔相成。

BandwidthScenario中，我們自己和計算之間的帶寬達到我們自己之間的帶寬水平，然后它繼續前進，最終，我們可以拔掉插頭。

與Em方案一樣，BW方案使我們與硅處于同等競爭地位，但與Em場景不同的是，它可以從今天開始，利用今天的市場力量逐步發生。

4.討論

我們在賽跑，AI?醒來并獲取資源，而不是人類加入機器。

資本加速了前者。我們如何加快后者？

一個好方法是積極地為其提供資金，讓它發展得更快，對于Em場景，這意味著對大腦掃描和相關領域的研究，而不僅限于針對病人。對于Bandwidth場景，這意味著對BCI的研究，以及包括BCI及其他在內的未來智能手機的積極上市。我認為后者更有可能，因為如果市場起飛，每年投入數百億美元的研發資金將很容易。

催化?Bandwidthscenario?的另一種方法是在設計新網絡和平臺時簡單地偏向于此。是的，這很模糊！我也希望我在這里有更具體的想法，但也許你作為讀者有。

也許還有其他方法？我希望作為讀者的你看到問題已經從“我們如何阻止人工智能接管？”轉變為“我們如何阻止?AI?接管？”?到“我們如何催化Bandwidth場景？”?來，戴上你的工程師帽子！

進一步閱讀

我的其他AIDAO帖子都是針對這篇帖子構建的：

第一部分：AIDAO?及其實現的三條路徑

第二部分：AIDAO?的狂野和危險

第三部分：這篇文章

人工智能、區塊鏈和奇點的其他交叉點。每篇文章都有更多鏈接。

人工智能區塊鏈

最近關于奇點和去中心化的科幻讀物

筆記

本文部分基于：

我于2016年6月2日在倫敦發表的演講名為“我們是神經自戀者嗎？AI對人類的生存威脅和務實的解決方案”，以及?2012年至今的其他演講。

?2.2016年8月18日在柏林舉行的“AI?的崛起”活動中就此主題發表的演講。這是視頻和幻燈片。

致謝

非常感謝

GregMcMullen,KalinHarvey,ScottVolk,TroyMcConaghy,JanBalcar,EesmyalSantos-Brault,MashaMcConaghy,BrucePon,KaiWu,SimondelaRouviere,AlRobertson,MichaelMainelli,EmmaStamm,AlanShapiro,VinayGupta,samim,HarmvandenDorpel,

許多來自AI社區的朋友，當然還有長時間的討論，這導致了這篇文章中的想法。

Tags：人工智能區塊鏈ANDBAND學人工智能后悔死了區塊鏈運用的技術中不包括哪一項Ac/sFilcoin Standard Full Hashrate Tokenbandprotocol

比特幣交易