CALI:數據科學家不得不知的5種概率分布

作者|ByLucianoStrika來源|CDA數據分析研究院5ProbabilityDistributionsEveryDataScientistShouldKnow

概率分布就像3D眼鏡。它們允許熟練的數據科學家識別其他完全隨機變量的模式。在某種程度上，大多數其他數據科學或機器學習技能都基于對數據概率分布的某些假設。這使得概率知識成為統計學家構建工具箱的基礎。如果您正在尋找如何成為數據科學家的第一步。不用多說，讓我們切入正題。

什么是概率分布？

在概率論和統計學中，隨機變量是一個隨機值的東西，比如“我看到的下一個人的身高”。給定一個隨機變量X，我們想要一種描述它的值的方法。更重要的是，我們想要描述該變量獲取特定值x的可能性。

例如，如果X是“我的女朋友有多少只貓”，那么這個數字可能是1的非零概率。有人可能會認為這個值甚至可能是5或10的非零概率。然而，沒有辦法一個人會有負數的貓。因此，我們想要一種明確的數學方法來表達變量X可以采用的每個可能值x，以及事件的可能性。

數據：當前一枚比特幣能換1.5斤黃金:據行情顯示，比特幣價格飆升，一度突破47000美元(約合30萬人民幣)，按照上海金交所實時數據，金價報380元/克，一枚比特幣大約能換1.5斤黃金。[2021/2/9 19:17:59]

為了做到這一點，我們定義函數P，使得P是變量X具有值x的概率。對于間隔而不是離散值，我們也可以要求P或P。這將很快變得更加重要。P是變量的密度函數，它表征變量的分布。

隨著時間的推移，科學家們開始意識到自然界中的許多事物，現實生活往往表現相似，變量共享一個分布，或具有相同的密度函數。

有趣的是，對于P是一個實際的密度函數，有些事情必須適用。

對于任何值x,P<=1。是再確定不過的事情了。

對于任何值x，P>=0。也沒有什么疑義。

和最后一個：所述之和的P的所有可能的值X為1。

最后一個意味著“X在宇宙中取任何價值的概率,必須加起來為1。Billions項目組離散與連續隨機變量分布最后，隨機變量可以被認為屬于兩組：離散和連續隨機變量。

離散隨機變量

離散變量具有一組離散的可能值，每個值都具有非零概率。例如，如果我們說，當翻轉硬幣時X=“1表示花色，0表示數字”然后P=P=0.5。但是請注意，離散集合不必是有限的。被用于建模的一些事件的概率的幾率p之后發生k的概率。它具有以下密度公式。P(X=k)=p(1-p)^k0<=p<=1其中k可以采用具有正概率的任何非負值。注意所有可能值的概率之和如何仍然加起來為1。

Messari數據：77%注冊的ENS .eth域名將在8月1日釋放:加密貨幣數據分析平臺Messari發推稱，77%注冊的ENS .eth域名將在2020年8月1日釋放。[2020/7/29]

連續隨機變量

如果你說X=“從我頭上隨機拔毛的長度”X可以采用哪些可能的值？我們可能都認為負值在這里沒有任何意義。但是，如果你說它只是1毫米，而不是1.1853759......或類似的東西，我會懷疑你的測量技巧，或你的測量錯誤報告。連續隨機變量可以在給定間隔中取任何值。因此，如果我們為其所有可能值分配了非零概率，則它們的總和不會加起來為1。

為了解決這個問題，如果X是連續的，我們為所有k設置P=0，而是為X賦予一個非零的機會獲取某個間隔的值。為了表示在值a和b之間放置X的概率，我們說P。而不是僅僅在一個密度函數替換值，得到P為X連續變量，你會集成X的密度函數a到b。

哇，你已經完成了整個理論部分！現在您已經知道了概率分布是什么，讓我們了解一些最常見的分布！

伯努利概率分布

數據顯示：深京杭區塊鏈人才年薪逾30萬:據《2020年中國區塊鏈人才發展報告》顯示，2019年區塊鏈從業者年薪在20—40萬元區間占比最高，約為43.3%，其中年薪在20—30萬元從業者數量最多，占比為24.53%。另外，區塊鏈從業者年薪在50—100萬元區間占比約為15.15%。2019年深圳、北京、杭州三個城市的薪資位居全國三甲，平均年薪分別為32.63萬元、31.68萬元、31.41萬元。（互鏈脈搏）[2020/3/19]

具有伯努利分布的隨機變量是最簡單的。它代表一個二進制事件：“這件事發生”VS“這種情況沒有發生”，并采取了值p作為其唯一的參數，它代表的概率是會發生的事件。具有參數p的伯努利分布的隨機變量B將具有以下密度函數：

P=p，P=

這里B=1表示事件發生，B=0表示事件沒發生。注意兩個概率如何加起來為1，因此B的不可能會是其他值。

統一概率分布

有兩種均勻隨機變量：離散變量和連續變量。

離散均勻分布將采取(有限的)值的集合s，為每個值分配1/n的概率，其中n是S中元素的數量。這樣，如果我的變量Y在{1,2,3}中是均勻的，則每個值出現的概率為33％。

聲音 | 扎克伯格：Calibra不會與Facebook共享用戶賬戶信息或財務數據:Facebook CEO扎克伯格將于周三在美國眾議院金融服務委員會針對Libra作證。扎克伯格在其準備的證詞中提及，“我們將Calibra設為受監管的子公司，將Facebook社交數據和Calibra財務數據明確分離。除非是為了防止欺詐或犯罪活動，或者當用戶明確選擇共享數據，亦或當我們有法律義務這么做時（才會共享），否則Calibra不會與Facebook共享用戶賬戶信息或財務數據。”（jp.cointelegraph）[2019/10/23]

在骰子中可以找到離散均勻隨機變量的典型情況，其中典型的骰子具有一組值{1,2,3,4,5,6}。連續均勻分布，只取兩個值a和b作為參數，并為它們之間的間隔中的每個值分配相同的密度。這意味著Y在一個區間(從c到d)取值的概率與相對于整個區間的大小成比例。因此，如果Y在a和b之間均勻分布，那么這樣，如果Y是1和2之間的均勻隨機變量，P=1且P=0.5

Python的random包的random方法在0和1之間采樣均勻分布的連續變量。有趣的是，可以證明，在給定均勻隨機值生成器和一些微積分的情況下，可以對任何其他分布進行采樣。

正態概率分布

聲音 | 國務院食品安全辦有關負責人：重點運用大數據、云計算、區塊鏈等技術建立重點食品追溯協作平臺:6月14日，國家市場監督管理總局發布《國務院食品安全辦有關負責人就2019年食品安全重點工作安排答記者問》。被問及“《重點工作安排》在創新監管方式方面有什么新的舉措？”時，國務院食品安全辦有關負責人表示，《重點工作安排》提出，要加強科技支撐和信息化建設，實施“食品安全關鍵技術研發”重點專項，推進“互聯網+食品”監管，重點運用大數據、云計算、物聯網、人工智能、區塊鏈技術，建立重點食品追溯協作平臺，發揮“智慧監管”作用，提高食品安全風險管理能力。[2019/6/14]

通常分布的變量在自然界中很常見，它們實際上是標注規格。這實際上就是這個名字的來源。如果你把所有的同事都圍起來并測量他們的身高，或者對測量體重并用結果繪制直方圖，則可能會接近正態分布。當我向您展示探索性數據分析示例時，我實際上看到了這種效果。

還可以證明，如果您采用任意隨機變量的樣本并對這些度量進行平均，并多次重復該過程，則該平均值也將具有正態分布。這個事實非常重要，它被稱為統計學的基本定理。通常分布的變量：

是對稱的，以均值為中心。

可以在真實空間中獲取所有值，但僅在5％的時間內偏離規范的兩個sigmas。

幾乎無處不在。

大多數情況下，如果你測量任何經驗數據并且它是對稱的，假設它是正常的將有點工作。

例如，滾動K骰子并將結果相加將分配非常正常。

對數正態概率分布

對數正態概率分布是正常概率分布的不常見的姐妹。如果變量Y=log遵循正態分布，則稱變量X是對數正態分布的。當在直方圖中繪制時，對數正態概率分布是不對稱的，并且如果它們的標準偏差更大則變得更加如此。我認為對數正態分布值得一提，因為大多數基于貨幣的變量都是這樣的。

如果你看一下與錢有關的任何變量的概率分布，比如

在某個銀行的最新轉賬上發送的金額。

華爾街最新交易量。

一組公司在特定季度的季度收益。

它們通常沒有正態的概率分布，但會更接近對數正態隨機變量。

指數概率分布

指數概率分布也隨處可見。它們與稱為泊松過程的概率概念密切相關。直接從維基百科竊取，泊松過程是“事件以恒定的平均速率連續且獨立地發生的過程”。所有這些意味著，如果：

你有很多活動。

它們以一定的速率發生。

僅僅因為一個發生了另一個發生的機會不改變。

然后你有一個泊松過程。

一些例子可能是來到服務器的請求，在超市中發生的交易，或在某個湖中捕魚的鳥類。想象一下頻率為λ的泊松過程。指數隨機變量模擬事件發生后下一個事件發生所需的時間。有趣的是，在泊松過程中，事件可以在任何時間間隔內發生在0到無窮大之間的任何地方。

這意味著無論您等待多久，事件都不會發生非零事件。這也意味著它可能在很短的時間內發生很多次。在課堂上，我們常常開玩笑的是巴士到達泊松過程。我認為將WhatsApp消息發送給某些人時的響應時間也符合標準。但是，λ參數調節事件的頻率。它將使事件實際發生的預期時間以某個值為中心。這意味著如果我們知道出租車每隔15分鐘通過我們的街區，即使理論上我們可以永遠等待它，我們也很可能不會等待30分鐘。

數據科學中的指數概率分布

這是指數分布隨機變量的密度函數：

假設您有一個來自變量的樣本，并希望查看它是否可以使用指數分布變量建模。最佳λ參數可以很容易地估計為采樣值平均值的倒數。指數變量非常適合用非常罕見但巨大的異常值對任何概率分布進行建模。這是因為它們可以取任何非負值但以較小值為中心，隨著值的增加頻率降低。在特別是異常繁重的樣本中，您可能希望將λ估計為中位數而不是平均值，因為中位數對異常值更為穩健。

結論

總而言之，作為數據科學家，我認為學習基礎知識對我們很重要。概率和統計可能不像深度學習或無監督機器學習那樣華麗，但它們是數據科學的基石。特別是機器學習。根據我的經驗，提供具有功能的機器學習模型，而不知道他們遵循哪種分布，這是一個糟糕的選擇。記住無處不在的指數和正態概率分布以及它們較小的對應物，對數正態分布也是很好的。在訓練機器學習模型時，了解它們的屬性，用途和外觀會改變游戲規則。在進行任何類型的數據分析時，記住它們通常也很好。

進入···解鎖更多精彩內容和專業資訊！

Tags：區塊鏈LIBLIBRACALI區塊鏈運用的技術不包括libra幣怎么獲得LibraFaceCALI幣

Ethereum