TER:科學家警告稱，遏制算法不會停止超級智能人工智能

一組計算機科學家使用理論計算來證明算法無法控制超級智能AI。

他們的研究解決了牛津哲學家尼克·博斯特羅姆所說的控制問題：我們如何確保超智能機器為我們的利益服務？

研究人員構想了一種理論上的遏制算法，該算法可以通過模擬AI的行為并在程序的動作變得有害時停止程序來解決該問題。

百度杰出科學家肖偉：區塊鏈技術可以將數字藝術品的版權和所有權區分開來:金色財經報道，百度杰出科學家兼區塊鏈總經理肖偉接受北京電視臺采訪時表示，區塊鏈作為新興技術，是數字藝術品版權保護的重要手段。互聯網時代，數字藝術品極易被復制和傳播，版權保護困難。而利用區塊鏈的可溯源、不可篡改的特性，可以將作品所有者和作品信息版權信息記錄在區塊鏈上，保證數據不可篡改，從藝術品創作源頭解決版權保護難題。此外，區塊鏈可以幫助數字藝術品擴大價值。數字藝術品是藝術市場的重要門類，創作數字藝術的藝術家很多，數字藝術品的愛好者也越來越多。很多人愿意購買、收藏和使用數字藝術品，相關的版權交易和IP授權可以通過區塊鏈進行有效支持。區塊鏈技術可以將數字藝術品的版權和所有權區分開來，使得數字藝術品有了交易和流通手段，進一步挖掘數字藝術品的經濟價值，幫助好的作品變現。（北京電視臺）[2022/5/1 2:43:02]

但是，他們的分析發現，建立一種可以控制這種機器的算法從根本上來說是不可能的，人類與機器中心主任IyadRahwan說：

現場 | 卡內基梅隆大學著名科學家Peter Chen：智能合約需要在四個方面做出改進:據CoinTime現場報道，美西時間9月13日，在圣何塞舉辦的Blockworld 2018區塊鏈開發者及技術峰會上，卡內基梅隆大學著名科學家Peter Chen指出，相比傳統合約，智能合約具有執行自動、時間快，無需第三方，無需實體簽名，無需紙質文本，成本較低等特點，因此更加安全，成本更低廉。但從另一個角度來講，其不可篡改性也將會影響其性能；沒有守門人導致有可能出現與其他程序出現不良交互現象；沒有實現與現實世界法律互動；也因證明“程序正確”的難題以及可能發生的不良影響帶來的安全問題。智能合約有以下方面得到改進，如：解決復雜問題、在某些場景下引入守門人、確定誰以及怎樣做最后決定，提高之行合約的性能。Peter Chen也指出，不要過度吹噓智能合約，真正的“智能”來自社區。[2018/9/14]

如果將問題分解為理論計算機科學的基本規則，就會發現，命令AI不破壞世界的算法可能會無意中止其自身的運行。如果發生這種情況，您將不知道遏制算法是否仍在分析威脅，或者它是否已停止遏制有害的AI。實際上，這使遏制算法無法使用。

計算機科學家開發新的編程語言，讓智能合約開發更方便:計算機科學家Mark Miller、Dean Tribble、Brian Warner和Bill Tulloh已經成立了一家新創業公司，以開發一種基于javascript的安全、區塊鏈無關的編程語言。該公司已經獲得了種子輪融資，投資方包括Naval Ravikant、Polychain Capital和Zcash公司。這種編程語言將允許程序員以一種更直觀、更安全的方式進行編碼，同時允許進行目前智能合約測試中所難以進行的正式驗證過程。通過基于流行的編程語言javascript來創建，該公司的創始人認為，該語言將向更廣泛的開發者開放智能合約開發。[2018/5/22]

研究發現，由于計算的基本局限性，沒有一種算法可以計算出AI是否會危害世界：

假設超級智能將包含一個程序，該程序包含通用圖靈機在輸入時可能會像世界狀況一樣復雜地執行的所有程序，那么嚴格的圍堵要求對該程序進行仿真，這在理論上是不可能的。

到目前為止，這種類型的AI仍僅限于幻想領域。但是研究人員指出，這項技術正在朝著科幻小說作家所設想的超級智能系統的類型邁進。

研究的合著者，馬克斯·普朗克人類發展研究所的曼努埃爾·塞布里安說：“已經有機器獨立執行某些重要任務，而程序員卻沒有完全了解他們是如何學習的。”

“因此提出了一個問題，在某個時候這是否可能變得不可控制并且對人類構成危險。”

Tags：數字藝術區塊鏈PETTER數字藝術字體在線生成器玩區塊鏈的都是什么人PETT幣Terraform DAO

Pol幣