生命科學家研究基因如何被貝葉斯定理控制;教育者恍然大悟,學生的學習過程其實就是貝葉斯規則的應用;基金經理使用貝葉斯規則尋找投資策略;谷歌利用貝葉斯定理改進搜索功能,幫助用戶過濾垃圾郵件。無人駕駛汽車接收車頂傳感器采集的路況和交通數據,利用貝葉斯定理更新從地圖上獲取的信息;貝葉斯定理廣泛應用於人工智能和機器翻譯中。
我將從以下四個角度來討論CopperBayes定理及其背後的思想:
1.貝葉斯定理有什麽用?
2.貝葉斯定理是什麽?
3.貝葉斯定理的應用案例
4.生活中的貝葉斯思維
1.貝葉斯定理有什麽用?
英國數學家托馬斯·貝葉斯在1763年發表的壹篇論文中首先提出了這個定理。這篇論文是他的壹個朋友在他死後發表的。
(ps:貝葉斯定理其實就是下圖中的概率公式。這裏先不說這個公式,重點說它的使用價值,因為只有了解它的使用意義,妳才會更有興趣去學習它。)
在這篇論文中,為了解決壹個“逆概率”問題,他提出了貝葉斯定理。
在貝葉斯寫這篇文章之前,人們已經能夠計算出“正概率”。比如杜蕾斯舉行抽獎,抽獎桶裏有10個球,其中白球2個,黑球8個。如果妳抽到了壹個白色的球,妳將贏得獎品。妳伸手進去,隨機摸出1個球。找到獲勝球的概率有多大?
根據頻率概率的計算公式,妳很容易知道中獎的概率是2/10。
如果還不知道怎麽算,可以看看我之前寫的科普概率的答案:猴子:如何理解條件概率?
貝葉斯在文章中旨在解決“逆概率”問題。比如上面的例子,我們不知道彩票桶裏是什麽,但是我們找到壹個球,通過觀察它的顏色來預測這個桶裏白球和黑球的比例。
這個預測其實可以用貝葉斯定理來做。貝葉斯當時的論文只是對解決“逆概率”問題的直接嘗試。這家夥當時並不知道這面包裏蘊含的深刻思想。
然而後來,貝葉斯定理席卷了概率論,並將其應用擴展到各種問題領域。可以說,在任何需要概率預測的地方,都可以看到貝葉斯定理的影子。特別地,貝葉斯是機器學習的核心方法之壹。
為什麽貝葉斯定理在現實生活中這麽有用?
這是因為現實生活中的大多數問題都像上面的“逆概率”問題。生活中的大部分決策面對的都是不完全信息,我們手中掌握的信息也是有限的。既然無法獲得全面的信息,我們就盡量用有限的信息做好預測。
比如天氣預報說明天下雨的概率是30%。這是什麽意思?
我們不能像計算頻率概率壹樣反復花100次明天,然後算出大概下30次雨。
而是只能利用有限的信息(過去天氣的實測數據)通過貝葉斯定理來預測明天下雨的概率。
同樣,在現實世界中,我們每個人都需要預測。想深度分析未來,想好要不要買股票,政策會給妳帶來什麽機會,提出新的產品思路,或者只是計劃壹周的飯局。
貝葉斯定理就是為了解決這些問題而誕生的。它可以根據過去的數據預測概率。
貝葉斯定理的思維模式為我們提供了明顯有效的方法,幫助我們提供了更好地預測未來商業、金融和日常生活的能力。
總結第1部分:貝葉斯定理有什麽用?
在信息有限的情況下,它可以幫助我們預測概率。
在需要概率預測的地方,隨處可見貝葉斯定理的影子。特別地,貝葉斯是機器學習的核心方法之壹。比如垃圾郵件過濾、中文分詞、艾滋病檢測、肝癌檢測等等。
2.貝葉斯定理是什麽?
貝葉斯定理是這樣長的:
來到這裏妳可能會說,猴子,我看到公式,頭就大了。
其實我沒妳那麽喜歡公式。先說個例子。
我的朋友呂霄說,他的女神每次見到他都會對他微笑。他想知道女神是否喜歡他。
誰讓我學統計概率知識的?我們用貝葉斯來幫助小鹿預測女神喜歡他的概率,讓小鹿根據概率來決定是否向女神表白。
首先,我分析了已知信息和未知信息:
1)待解問題:女神喜歡妳,記錄為事件a。
2)已知條件:女神經常對妳微笑,記錄為事件b。
所以,P(A|B)是這個事件(B)發生後,女神喜歡妳(A)的概率。
從公式中,我們需要知道三件事:
1)先驗概率
我們把P(A)稱為‘先驗概率’,即我們在不知道事件b的情況下,對事件A的概率做出主觀判斷,在這個例子中,女神喜歡壹個人的概率是在不知道女神經常對妳微笑的情況下主觀判斷的。這裏我們假設是50%,也就是不喜歡妳和可能不喜歡妳的概率是壹半。
2)可能性函數
P(B|A)/P(B)稱為‘likely hood’,是壹種調整因子,即新信息B帶來的調整,其作用是使先驗概率更接近真實概率。
能量函數可以理解為新信息到來後對先驗概率的調整。舉個例子,我們剛開始看到“人工智能”的信息,妳有自己的理解(先驗概率/主觀判斷),但是當妳學習了壹些數據分析或者看了壹些這方面的書(新信息),那麽妳就根據妳掌握的最新信息優化妳之前的理解(可能性函數/調整因子),最後重新理解“人工智能”的信息(後驗概率)。
if‘可能性函數’p(b | a)/p(b)>;1意味著‘先驗概率’增強,事件A發生的可能性變大;
如果‘可能性函數’= 1,說明事件B對判斷事件A的可能性沒有幫助;
如果“可能性函數”
或者只是舉個例子,根據女神經常對妳微笑的新信息,我調查走訪了女神的閨蜜,最後發現女神平日比較冷淡,很少對人微笑。於是我估算出‘可能性函數’P(B | A)/P(B)= 1.5(怎麽估算,省10000字,後面會有更詳細的科學例子)。
3)後驗概率
P(A|B)稱為‘後驗概率’,即在B事件之後,我們重新評估A事件的概率。在這個例子中,女神對妳微笑後,重新預測了女神喜歡妳的概率。
通過引入貝葉斯公式,p(a | b)= p(a)* p(b | a)/p(b)= 50% * 1.5 = 75%。
所以女神經常對妳微笑,喜歡妳的概率是75%。這說明女神經常對妳微笑,這個新信息有很強的推斷能力,壹下子把50%的‘先驗概率’提高到75%的‘後驗概率’。
得到預測概率後,小鹿自信地做了如下表白:微博:無圖。
後來收到了女神的回復。預測成功了。沒有圖表
現在讓我們再來看看貝葉斯公式,妳現在可以理解這個公式背後的關鍵思想了:
我們先根據以前的經驗估計壹個‘先驗概率’P(A),然後加入新的信息(實驗結果B),這樣有了新的信息,我們對事件A的預測就會更加準確。
因此,貝葉斯定理可以理解為以下公式:
後驗概率(新信息出現後的壹個概率)=先驗概率(壹個概率)x可能性函數(新信息帶來的調整)
貝葉斯的基本思想是:
如果我能掌握壹個事物的所有信息,我當然能算出壹個客觀概率(經典概率)。
然而,生活中的大部分決策都面臨著信息不完全的情況,我們手中只有有限的信息。既然無法獲得全面的信息,我們就盡量用有限的信息做好預測。即在主觀判斷的基礎上,可以先估計壹個值(先驗概率),然後根據觀察到的新信息不斷修正(可能性函數)。
如果用圖形表示,它是這樣的:
其實阿爾法狗也是那麽優於人類。簡單來說,阿爾法狗可以計算出每壹步棋獲勝的最大概率,也就是說,每壹步棋之後,他都可以完全客觀冷靜地更新自己的信念值,完全不受其他環境的影響。
3.貝葉斯定理的應用案例
前面介紹了貝葉斯定理的公式及其背後的思想。現在舉壹個應用案例,妳會更熟悉這個牛拍子工具。
對於後面的案例計算,我們需要先補充以下知識。
1.全概率公式
這個公式的作用是計算貝葉斯定理中的P(B)。
假設樣本空間S是兩個事件A和A’的和。比如下圖,紅色部分是事件A,綠色部分是事件A’,它們* * *同構於樣本空間s。
這時,壹個事件B來了,如下圖:
全概率公式:
意思是如果A和A '構成了壹個問題的全部(全部樣本空間),那麽事件B的概率就等於A和A '的概率分別乘以這兩個事件的B的條件概率之和。
這麽復雜的公式妳記不住也沒關系,因為我也記不住。下面用的時候看這裏就行了。
案例1:貝葉斯定理在判斷中的應用
有兩個相同的碗。碗1裏有30塊巧克力和10塊水果糖,碗2裏有20塊巧克力和20塊水果糖。
然後蓋上碗。隨便選壹個碗,從裏面掏出壹塊巧克力。
問題:這塊巧克力來自碗1的概率有多大?
好,我用套路解決這個問題,最後給。
步驟1,分解問題
1)待解問題:取出的巧克力來自碗1的概率是多少?
碗1被記錄為事件A1,碗2被記錄為事件A2。
取出巧克力,記為事件b,
那麽必答題就是P(A1|B),也就是巧克力被拿出來,來自碗1的概率。
2)已知信息:
碗1裏有30塊巧克力和10塊水果糖。
碗2裏有20塊巧克力和20塊水果糖。
我拿出來的是巧克力。
第二步,應用貝葉斯定理。
1)求先驗概率。
因為兩個碗是壹樣的,所以在獲得新的信息(巧克力被取出)之前,兩個碗被選中的概率是壹樣的,所以P(A1)=P(A2)=0.5,(其中A1表示來自碗1,A2表示來自碗2)。
這個概率就是‘先驗概率’,也就是在實驗之前,來自碗1和碗2的概率是0.5。
2)求可能性函數
P(B|A1)/P(B)
其中P(B|A1)代表從1號碗(A1)中取出巧克力(B)的概率。
因為碗1裏有30顆糖果和10塊巧克力,所以P(b | a 1)= 30/(30+10)= 75%。
現在只有找到P(B)才能得到答案。根據全概率公式,P(B)可由下式得到:
圖中P(B|A1)是碗1中巧克力的概率。根據已知條件,我們很容易找到它。
同樣,P(B|A2)是2號碗中巧克力的概率,也很容易找到(圖中給出)。
而P(A1)=P(A2)=0.5。
把這些值帶入公式,是小學生也能算出來的。最後P(B)=62.5%
所以概率函數p(a 1 | b)/p(b)= 75%/62.5% = 1.2。
可能性函數>;1.這意味著新信息B對於A1的可能性增加了。
3)引入貝葉斯公式求後驗概率。
將上述計算結果帶入貝葉斯定理,可以計算出P(A1|B)=60%。
在這個例子中,我們需要註意約束:巧克力被捕獲。如果沒有這個約束,從碗1發生這種事件的概率是50%,因為巧克力的不均勻分布將概率從50%增加到60%。
現在我總結壹下剛才貝葉斯定理應用的套路,妳會更清楚,妳會發現它就像小學生做應用題壹樣簡單:
步驟1。分解問題
簡單來說,就像做壹道應用題的感覺。先列出解決這個問題需要的壹些條件,然後記住什麽是已知的,什麽是未知的。
1)要解決的問題是什麽?
在貝葉斯中識別哪個是事件A(壹般是妳想知道的問題),哪個是事件B(壹般是新的信息或實驗結果)。
2)已知條件有哪些?
第二步。應用貝葉斯定理
第三步,在貝葉斯公式中找到兩個指標。
1)求先驗概率。
2)求可能性函數
3)引入貝葉斯公式求後驗概率。