人工智能:馬斯克等千人聯名簽署公開信：《暫停巨型人工智能實驗》全文

馬斯克等千人聯名簽署公開信《暫停巨型人工智能實驗》。具體網頁見：https://futureoflife.org/open-letter/pause-giant-ai-experiments/

具有與人類相媲美的智能的人工智能系統，可能對社會和人類產生深遠的風險，這已經得到了大量研究的證實，并得到了頂級AI實驗室的支持。正如廣泛認可的阿西洛馬人工智能原則所述，先進的人工智能可能會給地球生命歷史帶來深刻的變革，因此應該用相應的關注和資源進行規劃和管理。遺憾的是，即使在近幾個月里，AI實驗室在開發和部署越來越強大的數字智能方面陷入了失控的競賽，而這些數字智能甚至連它們的創造者都無法理解、預測或可靠地控制，這種規劃和管理的水平也沒有得到實現。

Perella Weinberg正在尋求出售AI初創公司Anthropic的股份，FTX持有高達5億美元的股票:金色財經報道，Semafor報道，負責處理加密貨幣交易所 FTX 破產事宜的投資銀行 Perella Weinberg 正在尋求出售人工智能 (AI) 初創公司 Anthropic 的股份，其價值可能達到“數億美元”?。FTX 去年 11 月破產時，可能擁有 Anthropic 價值高達 5 億美元的股票，該公司在最近幾個月籌集了 7.5 億美元。

報道援引知情人士的話稱，Anthropic 股票被認為是 FTX 最大的資產之一，目前不確定FTX 是否會出售全部持股，還是因預期 AI 估值將繼續上漲而保留部分股份。[2023/6/6 21:19:38]

當代AI系統現已在通用任務方面具有與人類競爭的能力，我們必須問自己：我們是否應該讓機器充斥著我們的信息渠道，傳播宣傳和虛假信息？我們是否應該將所有工作自動化，包括那些有成就感的工作？我們是否應該開發可能最終超越、取代我們的非人類智能？我們是否應該冒著失去對文明的控制的風險？這些決策不能交由未經選舉的科技領袖來做。只有在我們確信AI系統的影響將是積極的，風險將是可控的情況下，才能開發強大的AI系統。這種信心必須有充分的理由，并隨著系統潛在影響的增大而增加。OpenAI最近關于通用人工智能的聲明指出：“在某些時候，可能需要在開始訓練未來系統之前獲得獨立審查，而且各個最先進的系統訓練嘗試，應該就限制用于創建新模型的計算增長速度達成一致意見。”我們同意。那個時候就是現在。

Argo Blockchain股票已被英國FCA要求暫時停牌:12月10日消息，英國金融行為監管局（FCA）已要求比特幣礦企 Argo Blockchain 股票暫時停牌，上周已因 11 月份收入下降而暫停交易。[2022/12/10 21:34:36]

因此，我們呼吁所有AI實驗室立即暫停至少6個月的時間，停止訓練比GPT-4更強大的AI系統。這種暫停應該是公開的、可驗證的，并包括所有關鍵參與者。如果這樣的暫停無法迅速實施，政府應該介入并實行禁令。

知情人士：a16z加密基金今年上半年已蒸發約40%:10月26日消息，知情人士表示，a16z加密基金在今年上半年蒸發了約40%的價值，其中今年前六個月在Coinbase的剩余股份中就損失了29億美元，目前其正在進行調整，今年第三季度宣布了9筆加密初創公司投資，低于去年第四季度26筆的高點。（華爾街日報）[2022/10/26 11:44:55]

AI實驗室和獨立專家應利用這段暫停時間共同制定并實施一套先進的、共享的AI設計和開發的安全協議，這些協議應由獨立的外部專家嚴格審計和監督。這些協議應確保遵守它們的系統在排除合理懷疑之后是安全的。這并不意味著暫停AI發展，而只是從危險的競賽中退一步，避免發展出具有突現能力的更大、更不可預測的黑箱模型。

AI研究和發展應該重新關注如何使當今強大的、處于技術前沿的系統更加精確、安全、可解釋、透明、穩健、一致、值得信賴和忠誠。

與此同時，AI開發者必須與政策制定者合作，大力加快AI治理系統的發展。這些至少應包括：致力于AI的新的、有能力的監管機構；對高能力AI系統和大量計算能力的監督和追蹤；源頭和水印系統，以幫助區分真實與合成以及追蹤模型泄漏；強大的審計和認證生態系統；對AI造成的損害承擔責任；技術AI安全研究的充足公共資金支持；以及應對AI帶來的嚴重經濟和顛覆的有充足資源的機構。

人類可以與AI共享繁榮的未來。在成功創造出強大的AI系統后，我們現在可以享受一個“AI夏天”，在這個時期，我們可以收獲碩果，為所有人帶來明確的利益，讓社會有機會適應。社會已經在其他可能對社會產生災難性影響的技術上按下了暫停鍵。我們在這里也可以做到。讓我們享受一個漫長的AI夏天，而不是毫無準備地跳入秋天。

Tags：人工智能FTXANTPIC人工智能幣種Grayscale Bitcoin Trust tokenized stock FTXANTX幣bitopic

歐易okex官網