前言
上一篇我們講述了人工智能,機器學習與聯邦學習的關系。
這篇我們將繼續探索聯邦學習方法的分類。聯邦學習方法被分為橫向聯邦學習、縱向聯邦學習和遷移聯邦學習三類,適用于解決不同的實際問題。
橫向聯邦學習
在兩個數據集的用戶特征重疊較多而用戶重疊較少的情況下,把數據集按照用戶維度切分,并取出雙方用戶特征相同而用戶不完全相同的那部分數據進行訓練。這種方法叫做橫向聯邦學習。
▲?應用場景
橫向聯邦學習的本質是樣本的聯合,適用于參與者間業態相同但觸達客戶不同,即特征重疊多,用戶重疊少時的場景,比如不同地區的銀行間,他們的業務相似,但用戶不同。
IMF今日發布的加密貨幣科普視頻實為兩年前舊聞,且存在諸多疏漏:國際貨幣基金組織IMF今日在推特上發布了一條關于加密貨幣的科普視頻,這段時長兩分鐘的視頻最初發布于2018年6月。該視頻稱加密貨幣是“貨幣進化的下一步”,但沒有特別提到DLT、區塊鏈,甚至是代幣名稱等術語。BTC、XRP和ETH只出現在說明加密交易的圖形中。盡管這段視頻到目前為止已經獲得了超過13.7萬的點擊量和2900個贊,但來自加密社區的許多反應都是批評的,他們指出了信息中的漏洞和似乎具有誤導性的措辭。
Reddit用戶nanooverbtc稱:“他們犯了很多錯誤,比如把私鑰稱為密碼。”該視頻也沒有討論挖礦或加密貨幣供應。Kraken策略師Pierre Rochard等知名人士表示:“可證明的稀缺性是比特幣有趣的原因,你忘了提這一點。”(Cointelegraph)[2020/8/24]
比如,有兩家不同地區銀行?—?上海與杭州兩地的兩家銀行,它們的用戶群體分別來自上海與杭州的居住人口,用戶的交集相對較小。由于銀行間的業務相似,記錄的用戶特征大概率是相同的。因此,橫向聯邦學習可以被考慮用來構建聯合模型。
動態 | 人民日報官方微博科普區塊鏈 強調區塊鏈不等于比特幣:人民日報官方微博今早發表9圖科普區塊鏈。其中涉及區塊鏈的特點有:1、安全;2、不可篡改;3、可訪問;4、無第三方。區塊鏈對未來的影響:1、不需繁瑣個人證明;2、看病避免反復檢查;3、旅行消費更加便捷;4、交易無需第三方。同時強調,區塊鏈不等于比特幣。比特幣只是區塊鏈技術的一種應用,區塊鏈還有醫療衛生、食品安全、版權保護等諸多應用領域。[2019/10/28]
于2017年,Google提出了一個針對安卓手機模型更新的數據聯合建模方案:在單個用戶使用安卓手機時,不斷在本地更新模型參數并將參數上傳到安卓云上,從而使特征維度相同的各數據擁有方建立聯合模型的一種聯邦學習方案。
▲?學習過程
動態 | 區塊鏈技術入選科普雜志《科學美國人》2019十大突破性技術榜單:據新浪網今日新聞報道,美國科普雜志《科學美國人》公布 2019 十大突破性技術榜單。區塊鏈技術因在保障食品安全中的作用而上榜。 入選榜單具體原因:區塊鏈技術的發展應用將顯著改善食品污染源數據追蹤的困境。利用區塊鏈云端系統,食品制造商可以依次在計算機儲存各類過程的信息。[2019/9/29]
Step1.參與方各自從協調方上下載最新模型;
Step2.每個參與方利用本地數據訓練模型,加密梯度上傳給協調方,協調方聚合各用戶的梯度以更新模型參數;
Step3.協調方返回更新后的模型給各參與方;
Step4.各參與方更新各自模型。
縱向聯邦學習
在兩個數據集的用戶重疊較多而用戶特征重疊較少的情況下,把數據集按照特征維度切分,并取出雙方用戶相同而用戶特征不完全相同的那部分數據進行訓練。這種方法叫做縱向聯邦學習。
聲音 | ETC Labs主管:科普教育是未來幾年公鏈面臨的巨大挑戰:ETCLabs主管Darin Kotalik認為,科普教育是未來幾年公鏈面臨的巨大挑戰,人們必須要對區塊鏈有基本的認識,分清楚公鏈和私鏈的區別。[2019/8/25]
▲?適用場景
縱向聯邦學習的本質是特征的聯合,適用于用戶重疊多,特征重疊少的場景,比如同一地區的商超和銀行,他們觸達的用戶都為該地區的居民,但業務不同。
比如,有兩個不同機構,一家是某地的銀行,另一家是同一個地方的電商。它們的用戶群體很有可能包含該地的大部分居民,用戶的交集可能較大。由于銀行記錄的都是用戶的收支行為與信用評級,而電商則保有用戶的瀏覽與購買歷史,因此它們的用戶特征交集較小。縱向聯邦學習就是將這些不同特征在加密的狀態下加以聚合,以增強模型能力的聯邦學習。
▲?學習過程
介紹一種簡單通用的縱向聯邦學習的建模學習過程,加密方式也以半同態加密的PallierEncryption為主。
訓練前:
先采用加密文本對齊的技術手段,在系統內篩選出不同企業之間的共同用戶。
訓練時:
Step1.協調方C向企業A與B發送公鑰,用來加密所需傳輸的數據;
Step2.A和B分別計算和自己相關特征的中間結果,并加密完后進行交互,用來求解各自的梯度結果和損失結果;
Step3.A和B分別計算各自加密后的梯度并添加掩碼后發送給C,同時B計算加密后的損失先發送給C;
Step4.C解密梯度和損失后回傳給A和B,A、B去除掩碼并更新模型。
遷移聯邦學習
在兩個數據集的用戶與用戶特征重疊都較少的情況下,不對數據進行切分,而可以利用遷移學習來克服數據或標簽不足的情況。這種方法叫做聯邦遷移學習。
▲?適用場景
當參與者間特征和樣本重疊都很少時可以考慮使用聯邦遷移學習,如不同地區的銀行和商超間的聯合。主要適用于以深度神經網絡為基模型的場景。
遷移學習的核心是,找到源領域和目標領域之間的相似性。舉一個楊強教授經常舉的例子來說明:我們都知道在中國大陸開車時,駕駛員坐在左邊,靠馬路右側行駛。這是基本的規則。然而,如果在英國、香港等地區開車,駕駛員是坐在右邊,需要靠馬路左側行駛。那么,如果我們從中國大陸到了香港,應該如何快速地適應他們的開車方式呢?訣竅就是找到這里的不變量:不論在哪個地區,駕駛員都是緊靠馬路中間。這就是我們這個開車問題中的不變量。找到相似性?(不變量),是進行遷移學習的核心。
比如有兩個不同機構,一家是位于中國的銀行,另一家是位于美國的電商。由于受到地域限制,這兩家機構的用戶群體交集很小。同時,由于機構類型的不同,二者的數據特征也只有小部分重合。在這種情況下,要想進行有效的聯邦學習,就必須引入遷移學習,來解決單邊數據規模小和標簽樣本少的問題,從而提升模型的效果。
▲?學習過程
聯邦遷移學習的步驟與縱向聯邦學習相似,只是中間傳遞結果不同。
以上是常見的幾種聯邦學習類型,聯邦學習這件“小事”能用在什么場景中,帶來怎樣的價值,會在下一篇文章中詳細介紹。也歡迎各位與我們一起對以上三種類型的聯邦學習進行更深一步的討論,添加小助手加入技術交流群。
作者簡介
嚴楊
來自數據網格實驗室BitXMesh團隊?PirvAIの修道者
根據glassnode的數據,截至7月5日,ETH2.0上的質押量約為609.03萬枚,約占總流通量的5.22%。然而,近期ETH質押數量增速有所放緩.
1900/1/1 0:00:00“加快數字化發展,打造數字經濟新優勢,協同推進數字產業化和產業數字化轉型,加快數字社會建設步伐,提高數字政府建設水平,營造良好數字生態……”這是2021年政府工作報告中明確提出的內容.
1900/1/1 0:00:00據Cointelegraph消息,加密貨幣公司VoyagerDigital對其平臺上的3671名高頻交易者進行了第二季度零售投資調查.
1900/1/1 0:00:00本手冊是第一本中文的NFT用戶指南,主要內容包括:NFT領域的專有名詞、用戶的操作指南、以及NFT的項目。本手冊會隨著NFT生態發展持續更新。希望本手冊能夠為新用戶進入NFT領域提供幫助.
1900/1/1 0:00:00撰文:FloodCapital編譯:PerryWang1/這篇連環推文想講一下宏觀周期和加密貨幣利率的問題。加密貨幣利率由市場設定并自我修正,支持反脆弱的數字經濟.
1900/1/1 0:00:00Kusama Kusama的第一次插槽拍賣在本周的6月15日下午7點正式開始!請注意,Polkadot-JS會自動將crowdloan的獲勝者在auction中顯示為“出價”.
1900/1/1 0:00:00