在信息時代裸奔,我們總會被數據挾持、出賣。因為你的數據不屬于你。
時下,是應該聊聊數據和隱私的時候了。
2019年末,我曾把零知識證明、多方計算、可信執行環境等隱私計算技術的代表項目匯聚到一起做了一期極為深度的討論。
那時,在區塊鏈產業分布里已經有了隱私賽道,有少數項目在研究、拓展、嘗試,只是對于隱私、隱私計算以及數據等維度并沒有那么清晰的判斷。
把時間線放的更長一些,從2018年至今,我們其實看到了隱私項目向隱私計算的迭代,這一現象代表了一些技術的發展和應用的趨向性。
在對這些項目分析解構,對市場需求進行考證后,筆者認為此時該提出一個有效的觀點。
即:當今的區塊鏈隱私計算項目里,誰想拿下隱私計算第一槍,要率先建立隱私計算的“分布式數據湖”。
原因很簡單:數據存儲在數據庫里并不能直接產生價值,只有經過數據訓練才有價值,也就是數據要有為深度學習、聯邦學習服務的能力,而數據湖是這個路徑里的必然選項,基于去中心化模型里,會出現新的“分布式數據湖”。
本文里,我會為這個名詞開個腦洞,在符合邏輯推演的范圍內為大家闡述一個框架。但這種模型目前并未有非常成熟的案例,如有偏頗,歡迎各位指證。
先談一談什么叫數據湖
金色晚報 | 9月1日晚間重要動態一覽:12:00-21:00關鍵詞:渣打銀行、Kusama、Cream Finance
1.美國證交會主席:加密貨幣平臺需要監管才能生存;
2.渣打銀行加入全球數字金融聯盟;
3.海南:進一步擴大跨境金融區塊鏈服務平臺試點范圍;
4.Kusama開啟第6次平行鏈拍賣,將持續到9月8日;
5.Cream Finance稱閃電貸攻擊共導致3400萬美元的AMP和ETH被盜,會分配協議費用的20%用于償還;
6.Uniswap V3已上線Arbitrum主網;
7.Tether聯合創始人:NFT可以消除假貨;
8.Web3及加密通信協議XMTP完成2000萬美元A輪融資,a16z領投,Coinbase Ventures等參投。[2021/9/1 22:52:54]
數據湖的概念,來自大數據和機器學習業務。
我們日常一定聽過數據庫,數據庫的形式可大可小,是非常獨立的數據存儲單位,每個數據存儲位置都是一個數據庫,當數據庫之間被打通,形成一個大數據交互結構,就可以理解為數據湖的形象。
筆者在亞馬遜的AWSLakeFormation服務定義里查到了數據湖的名詞定義:
數據湖是一個安全的集中式輔助存儲庫,它以數據原始形式和可用于分析的形式存儲所有數據。利用數據湖,可以分解數據孤島并組合不同類型進行分析,獲得分析結果指導更好的業務決策。
與時共創第二屆年度金色盛典“年度最具影響力公鏈”榜單發布:12月26日,與時共創第二屆年度金色盛典在三亞舉行。現場發布“年度最具影響力公鏈”榜單:Conflux、以太經典ETC、IOST、Cocos-BCX、Polkadot、STD、波場TRON、Nervos CKB、ELASTOS、Cypherium。[2020/12/26 16:34:58]
所以我們可以理解為,當若干個原始存儲的數據庫連接起來,就是數據湖。但這個數據湖怎么工作呢?
這一段描述可以粗略看到一些工作需求。
“設置和管理數據湖包括加載來自不同來源的數據、監控這些數據流、設置分區、打開加密和管理密鑰、定義轉換作業并監控其操作、將數據重新組織成列格式、配置訪問控制設置、刪除冗余數據重復數據、匹配鏈接記錄、授予對數據集的訪問權限以及隨時間推移審核訪問權限。”
所以數據湖的主要功能是數據的交互,而處理其關鍵問題是加密和數據集的訪問權限。在我們所期待的去中心化數據湖里,似乎也是如此。
再談一談我們期待的去中心化數據結構
去中心化的數據結構,是去中心化的隱私計算的基礎,很簡單,就是數據是分散在生產者處,存在于我們的手機、電腦其他終端設備里。
當然,手機數據大多是有緩存的,有些數據是短時存儲,我們所看到的那些互聯網App收取用戶的數據,都是其所需要的數據,而這些數據有些實時產生,在緩存里,有些存儲在本地存儲里。我們雖然在本地可以操作查看,但平臺也可以隨時拿走數據,因為所有權并非在用戶這里。
金色晨訊 | 8月24日隔夜重要動態一覽:21:00-7:00關鍵詞:數字人民幣、烏克蘭、量子計算機
1.亞利桑那州立大學:區塊鏈可幫助大學提供更好更安全的在線教育
2.美國食品藥品監督管理局確認批準對新冠肺炎“恢復期血漿療法”的緊急使用授權
3.量子物理學家:加密貨幣持有者應密切關注量子計算最新動態
4.國際新經濟研究院鄭磊:券商行業數字化轉型契機是數字資產交易等非傳統業務
5.烏克蘭央行官員:CBDC需要私營部門參與才具有競爭力
6.央行相關人士:目前數字人民幣試點應用場景為小額零售[2020/8/24]
在去中心化的數據結構里,數據在本地存儲,還需要把所有數據加密,并且你所使用的App無法獲取你的數據,除非你主動向App提供交互,或者允許授權。
這個場景里,我們期待的是:平臺在沒有授權時是拿不走我們的數據的。但這僅代表的是成型的存儲數據。而我們有很多的數據,是需要經過中心化服務器處理的。
例如加入一個社交媒體,我們的用戶名,手機號,郵箱等等數據都是容易暴露的,理想狀態下,他人對我們選擇不公開的數據不可見,而關鍵的是,平臺也要對數據不可見,或者不可用。
這需要平臺具備一些基本的功能,而平臺的功能,一定是其背后開發功能中的體現,這就有關于我們知道的區塊鏈項目了,例如賬戶ID具備隱私功能,信息訪問權限的設定。
金色相對論 | 彭上坤:現在的監管其實是把暗網隔離了:在今日舉行的金色相對論中,針對“Filecoin會不會遇到監管問題?然后影響Filecoin的落地應用”的問題,嘉楠區塊鏈 技術負責人彭上坤表示,監管確實是一個潛在的隱患,我們現在的監管其實是把暗網隔離了,filecoin如果帶來一個完全自由的互聯網,等于打開暗網的盒子。但是也有方法途徑可以來做好預防:比如建立審查或驗證機制,通過獎懲措施,引導大家存儲合法的數據,從Filcoin的源頭上做好監控,然后發現問題后,就可以追溯到數據提供的源頭。[2020/5/20]
我們看到保護隱私的區塊鏈項目,都會在這方面努力。
不過區塊鏈和加密貨幣有一些天然隱私特性,例如區塊鏈的歸屬權、加密貨幣的無需許可以及地址的匿名性。
只是當數據真的形成一定的體量之后,大部分的業務都與生活息息相關,所以匿名性之后會有kyc,kyc后,數據的隱私和隱私計算,無可厚非的成為最重要組成部分。
區塊鏈世界里,誰能建立數據湖?
互聯網大數據技術早已和云計算融合多年,在傳統云計算里,AI需求的數據湖對數據的控制已經變得很簡單,進展到了SaaS級別。
例如上文的AWSLakeFormation其創建過程很簡單,只需定義數據源,制定要應用的數據訪問和安全策略就行。LakeFormation模塊會幫助使用方從數據庫和對象存儲中收集并按目錄分類數據,將數據移動到新的數據湖里,使用機器學習算法清理和分類數據,并保護對敏感數據的訪問權限。
金色相對論 | 蜂窩聯合創始人林念龍:幣價下跌和算力暴漲 會徹底傷害“追漲殺跌”的投資者:在本期金色相對論之“礦業危·機”中,針對金色財經內容合伙人佟揚“礦機迭代對現有礦圈帶來的影響是什么?”的提問,蜂窩COO&聯合創始人,糖果資本合伙人林念龍表示:“大算力機器的出現,讓礦工產生了恐慌,但是今年下半年和明年上半年的出貨量,對比現在的全網算力,不算大,有喘息的機會。從技術上來講,這次革新是非常難的,非常考驗廠家的研發功底。我認為未來廠商的核心競爭力排序:1.技術 2.資本 3.品牌運營。從投資角度來講,目前礦工比較觀望。這次幣價下跌和算力暴漲,會徹底傷害“追漲殺跌”的投資者,下個牛市多半也回不來了。能扛住的,基本都是已經回本的老礦工和一些有信仰且資金實力和風險承受能力強的礦工。”[2018/11/19]
而對外表象是,使用方建立應用的用戶可以訪問那些描述了可用數據集及其適當用法的集中數據目錄。然后,用戶可以通過所選的分析和機器學習服務,利用這些數據集。
簡而言之,這個邏輯把分布在各處的數據,最終在數據服務上體現了價值,這是去中心化世界里,很多項目想要實現的,如果只是簡單的把數據控制在用戶手里,那用戶仍只是體驗了平臺的服務,而并非將數據可以變現,雖然說數據token化就可能有交易價值,但這種交易價值暴力程度遠不及在人工智能里實現的產業價值。
例如,如果微信去中心化了,我們在微信的行為數據就再也不會直接拿走被利用到廣點通里,你的朋友圈里不會出現“你剛剛和其他人說過的”你想買的物品,也不會被粗暴的推薦某些產品。
區塊鏈項目想實現這樣的愿景,但發展之路可能略有曲折。因為這樣的應用很難實現。
我們看到的區塊鏈項目,除了Defi、Nft這些應用層項目,其他都是基礎設施,而以區塊鏈的基礎設施,性能很難完成互聯網平臺的業務需求。
當隨著區塊鏈以及加密貨幣不斷擴展,網絡中的用戶增加,每個地址的關聯數據也開始增加,所有用戶的數據集中呈現了龐大的規模。這些存在本地的數據,就也組成了龐大的數據集群。
在這基礎之上,能實現數據湖的,并不多。因為實現數據湖,需要單獨的算力、存儲、算法等等。在區塊鏈項目的設計里,這個部分可能需要單獨的一層網絡,或某一個參與網絡建設的角色。
大部分區塊鏈項目并不能建立這樣的功能,因為大部分區塊鏈項目的網絡只有能力維持Defi項目的運行,而缺乏足夠的存儲和計算能力。
除存儲和算力外,在這基礎設施里,需要有去中心化的數據結構,例如以DID為單位的用戶數據,需要有算力和存儲的經濟模型,還需要有安全的代碼和便于開發應用的中間件。
這些都讓隱私計算的項目屈指可數。
當然我們這樣判定的前提,是我們所指的隱私計算,是關于數據的隱私處理。而并非簡單通過合約執行的匿名、混幣、交易隱私等等。
在交易處理分層的概念已經在加密貨幣項目設計里得到共識后,我們期待的是區塊鏈負責數據的權益證明,而其他層控制的算力和存儲,完成隱私計算。
定義一個可實時的框架
在文章的最后,我們用數據湖的最終命題,去推論出一個加密貨幣隱私項目的設計框架。通過這個框架,可以部分對比如今市面上的隱私計算項目。
首先,區塊鏈為加密貨幣項目提供共識層的總帳本。在這個總帳本里,是所有公開留存的數據證明。
接下來,是如何將項目設計為具備隱私計算能力。
從初代的隱私項目看,主要是增加了匿名性和交易隱私,例如具備混幣合約的隱私幣,其可以將合約當作一種dapp服務,讓代幣進入合約之后的操作無法查詢。這樣的設計,主要是在鏈上部署合約,可能會使用密碼學算法或者零知識證明等標志性技術,以保證交易過程在不可見的情況下正確執行。
而如果是有硬件要求的隱私計算設計,那在前文我們所提到的區塊鏈網絡,其網絡節點搭建,就需要特殊的設備,或者在區塊鏈共識層外,再次搭建一個由特殊設備組成的計算網絡。
例如通過集合具備TEE計算區的硬件設備連接成網,就可以利用TEE保護區塊鏈上的交易執行、合約執行等,TEE是對計算進行的物理保護,有一些獨特的通信方式,讓可信計算區和其他需求點交互。
而如果區塊鏈網絡具備MPC等對計算要求較高的技術部署,就需要搭建區塊鏈網絡的節點設備經過特殊定制,或者在區塊鏈共識層外,建立一個layer2計算、存儲層,將算力和存儲都共享出去,提供數據隱私計算需要的資源。
有趣的是,因為MPC很多情況下還是依靠加密算法,為了更周密的隱私部署,MPC和TEE會在非區塊鏈的可信案例里組合應用比較多,而MPC在區塊鏈項目里,與零知識證明、加密算法融合應用比較多。
當我們確認了有足夠的算力和存儲資源。
一旦需要數據湖,如AWS數據湖模塊一樣,需要建立數據湖,并且定向收集需求點位的數據,匯集后,對數據所有權進行分類,在數據湖里,除了數據所有權外,進行機器學習訓練的訓練方,數據執行方等都需要明確對數據湖的權限,例如訓練方可能具備管理訓練算法的權限,而其對部分數據是可用不可見。
數據最終的價值表現,與數據在訓練等過程中的作用也需要在數據湖的作用中進行評估。而這些輔助的計算都是基本功能,數據在數據湖的進進出出都會在區塊鏈上留下公開的痕跡,以保證所有權的公平。
最后,當技術上完善之后,就是數據變現后的權益分配,需要對數據貢獻進行定義,可能需要通證化的量化工作來實現公平的分配。
以上的參與者,理想狀態下,是很多方。而將這個模型放小,可能只會關于如今具備數據交叉訓練需求的幾方。
因為大部分數據的處理難度也是顯而易見的,例如數據的清洗、篩選、脫敏等等。
但如果這種模型已經成為標配,必然會有一個標配的經濟模型支持,例如這些資源的消耗需要需求者買單。而數據的訓練結果,可能將塑造下一個驚艷的產品。
如果我們只是因為自由選擇區塊鏈網絡,那你也許會因為產品體驗的不自由而離開,但如果你希望可以通過數據塑造價值,那必然要等待你的數據可以因為隱私計算變得有價值,并且這個價值可以回歸于你自己。
那個時候用戶才不會因為數據成為待宰羔羊,因為你可以對不認可的授權者say?no,拿好你的個人數據庫。
PS:文章篇幅有限,接下來筆者會繼續完成一些補充文章,例如數據湖中的數據倉,例如權益分配的詳細方案。敬請關注《金色深核》欄目的后續文章。
一個DeFi"特洛伊木馬"近期成功找到了滲透進股市的捷徑多年來,華爾街的機構玩家一直在試圖將股票市場轉移到區塊鏈上,但并沒有取得實質性發展.
1900/1/1 0:00:00注:本文出自《HowtoDeFi:Advanced》第Ⅳ部分第16章。作者包括LuciusFang,BenjaminHor,ErinaAzmi以及KhorWinWin.
1900/1/1 0:00:00即使你是加密貨幣的早期參與者,你可能也沒有聽說過比特幣有這么多的重大升級。原因很簡單。比特幣是目前世界上時間最長、最頂級的加密貨幣,其特點是擁有當今最具彈性的計算機網絡,正常運行時間接近99.9.
1900/1/1 0:00:00又一個DeFi知名應用開始將機構客戶納入發展規劃中。7月5日,去中心化借貸應用Aave被透露將在7月推出面向機構用戶的產品AavePro.
1900/1/1 0:00:00摘要:隨著人們開始自我組織,形成了各式各樣的DAO,我們可以預見,未來世界將發生寒武紀生命大爆發似的巨變,就像互聯網對通信方式產生的變革影響一樣.
1900/1/1 0:00:00來源:a16z??作者:ChrisDixonWeb3作為一種愿景,似乎是所有區塊鏈行業項目的營銷點,但多人說自己的項目將通往Web3,但很少有人能說清什么是Web3.
1900/1/1 0:00:00