贝叶斯模型的理解(1)

article/2025/10/8 13:10:03

一直以来,都在听说贝叶斯概率模型,这里记录一下自己对贝叶斯概率模型的一些理解。
贝叶斯模型的建立主要有3个概念:1.先验概率。2.最大似然函数。3.后验概率

这3个概念怎么建立联系呢,以投硬币这个简单的例子来理解最好。
例子:
首先为抛硬币制定一个规则:押一块钱,抛10次硬币,出现正面的次数小于等于6次就额外赢得一块钱,否则就是输掉押的一块钱。

1.先验概率:
根据概率论知识:抛硬币实验服从二项分布B(N,p),N是进行的实验的次数,p是发生某种结果的概率,在这里p就是出现正面的概率。
于是在抛硬币实验中,最重要的先验信息就是:抛一次硬币,出现正面和反面的概率,是0.5,或者硬币做了手脚,p不等于0.5。这个概率p就是预先知道的一些模型参数。反正我们是提前知道的,做了手脚还是没做手脚。

2.最大似然函数:在给定的样本数据下,找一个概率分布函数或者概率密度函数(似然函数),使得这些已发生的事件(得到的样本数据),出现的概率是最大的。
在抛硬币的例子中,如果有信息:有个人抛了10次硬币,其中出现了9次正面,一次反面。
那么现在就是要建立一个概率密度函数来解释这个现象。
下面根据先验信息,建立下面的似然函数:
这里写图片描述

y表示正面向上。
我们的目标是:在现有的观测结果——抛了10次硬币,其中出现了9次正面,一次反面:

让P(Y=y|r,N)取最大值。那么 r 究竟等于多少,才能使得P(Y=y|r,N)最大呢?也即 r 究竟取多少,才能使得抛了10次硬币,其中出现了9次正面,一次反面 发生的概率是最大的?
下面式子取得最大值,就能解释“抛了10次硬币,其中出现了9次正面”这个现象。
这里写图片描述
为了更方便地计算最大值,对上面的概率分布取对数log,用L表示,得到下式:
这里写图片描述
L称为似然函数。最大化P(Y=y|r,N) 与 最大化 LogP(Y=y|r,N) 等价。取对数是为了计算上的方便

将 L 对 r 求偏导数,并且令偏导数等于0,其中N=10,y=9。解得 r = 0.9

就是说,r=0.9,才能解释观测到的现象。

这里,大家一定对r是什么感到好奇,其实,r就是抛一次硬币,正面向上的概率p。这里,我们提前已经知道了硬币做了手脚,p不等于0.5,而根据最大释然的概率密度函数的出的p确实不是0.5,符合先验信息。

下面对先验信息,和似然函数做个总结:
在上面我们解释了两个重要的概念:一个是先验信息,另一个是似然函数。所谓先验信息,就是在进行一次试验之前,我们所掌握的一些信息。比如抛硬币试验,我们掌握的先验信息是:

硬币出现正面的概率和出现反面的概率相等,都为0.5

又或者是:

出现正面的概率和出现反面的概率不相等,出现正面的概率要大于出现反面的概率

似然函数则是指,我们现在拥有了一些样本数据,或者说是进行了一些实验,观测到了一些数据。在观测到的这些数据之后,如果基于这些观测到的数据,为这些数据寻找一个合适的模型,确定出该模型中的各个参数的值。比如上面的10次抛硬币试验,9次正面,1次反面,我们采用的模型是二项分布,模型中的参数 r 等于0.9 最为合适。

下一届介绍后验概率的应用。


http://chatgpt.dhexx.cn/article/CQ2Vohox.shtml

相关文章

贝叶斯估计原理及流程

知乎上有个专题叫:你对贝叶斯统计有怎样的理解?本篇尽量通俗点理解下贝叶斯统计~_~ 还是沿用经典案例: 一种癌症,得了这个癌症的人被检测出为阳性的几率为90%,未得这种癌症的人被检测出阴性的几率为90%,而人…

极大似然估计和贝叶斯估计

转载于http://blog.sciencenet.cn/blog-520608-703219.html 极大似然估计和贝叶斯估计分别代表了频率派和贝叶斯派的观点。频率派认为,参数是客观存在的,只是未知而矣。因此,频率派最关心极大似然函数,只要参数求出来了&#xff0…

贝叶斯方法的m-估计

为什么要有m-估计? 当我们通过在全部事件的基础上观察某事件出现的比例来估计概率时,例如:Pnc/n.,其中nc为该类别中的样本数量,n为总样本数量。若n5,当P0.6时,则nc为3。多数情况下该比例是对概率…

参数估计—最大似然估计与贝叶斯估计

文章目录 一 参数估计二 最大似然估计2.1 参数分量2.2 基本原理2.3 高斯情况2.3.1 协方差矩阵 Σ \Sigma Σ已知,而均值 μ \mu μ未知2.3.2 协方差矩阵 Σ \Sigma Σ和均值 μ \mu μ都未知 三 贝叶斯估计3.1 基本原理3.2 高斯情况下的贝叶斯估计3.2.1 单变量情况第…

朴素贝叶斯算法与贝叶斯估计

在看贝叶斯算法的相关内容时,你一定被突如其来的数学概念搞得头昏脑涨。比如极大似然估计(Maximum likelihood estimation ),极大后验概率估计(Maximum a posteriori estimation),先验概率(Prior probability),后验概率(Posterior…

几个贝叶斯估计的例题

几个贝叶斯估计的例题 以下例题来自《机器学习导论》,书中证明不是很全也没有推导过程,所以我补全了解答。 贝叶斯估计 Dirichlet分布 已知方差的正态分布 正态分布 此时不再是共轭后验先验分布了,会得到一个t分布,由于涉及的特殊…

贝叶斯估计实验(matlab)

1、实验内容 由于生活中很多参数如测量误差、产品质量指标等几乎都服从或近似服从正态分布,所以可以用对单变量正态分布中的贝叶斯估计进行分析并编写相应的Matlab程序,分析样本大小对贝叶斯估计误差的影响,进而验证贝叶斯估计的有效性。 2…

参数估计:贝叶斯思想和贝叶斯参数估计

http://blog.csdn.net/pipisorry/article/details/51471222 贝叶斯与频率派思想 频率派思想 长久以来,人们对一件事情发生或不发生,只有固定的0和1,即要么发生,要么不发生,从来不会去考虑某件事情发生的概率有多大&a…

贝叶斯估计及其python实现

文章目录 1.贝叶斯估计的思想2.正态总体参数贝叶斯估计的推导3.代码实现3.1.抽取样本3.2.估计参数 4.总结参考文献 1.贝叶斯估计的思想 在统计学中有两大学派:频率学派和贝叶斯学派。针对参数估计的方法也分成两派。其中以极大似然估计为代表的频率学派和以贝叶斯估…

贝叶斯估计和极大似然估计到底有何区别

前言:原创不易,转载请告知并注明出处!微信搜索【机器学习与自然语言处理】公众号,定期发布知识图谱,自然语言处理、机器学习等知识,添加微信号【17865190919】进讨论群,加好友时备注来自CSDN。 …

【数学基础】参数估计之贝叶斯估计

从统计推断讲起 统计推断是根据样本信息对总体分布或总体的特征数进行推断,事实上,这经典学派对统计推断的规定,这里的统计推断使用到两种信息:总体信息和样本信息;而贝叶斯学派认为,除了上述两种信息以外…

贝叶斯估计与贝叶斯学习的区别

概述: 贝叶斯估计:贝叶斯估计是把待估计的参数看作具有先验分布密度p()的随机变量,其取值与样本D有关,用训练样本D估计出最优的,记为。 贝叶斯学习 :把贝叶斯估计的原理用于直接从数据对概率密度函数进行…

vue3页面刷新

整理工作中用到的页面刷新方式&#xff1a; 1.provide/inject 2.router.go(0) 3.provide,inject 一、使用provide和inject 控制<router-view>的显示隐藏 默认<router-view v-if"isRouterAlive" /> isRouterAlive是true&#xff0c;在需要刷新的时候把这…

js 页面刷新

刷新为新的页面 获得当前页面的url,即浏览器显示的地址: window.location.href; 按下enter,页面刷新为百度 刷新为当前页面 1,history.go(0)2,location.reload() 3,location=location 4,location.assign(location) 5,document.execcommand(‘refresh‘) 6,window.na…

Web页面自刷新

简单介绍两种&#xff1a; 第一种Ajax Ajax Asynchronous JavaScript and XML&#xff08;异步的 JavaScript 和 XML&#xff09;&#xff0c;ajax就是基于浏览器提供的XMLHttpRequest对象来实现的 什么叫异步&#xff1f; 异步&#xff0c;不同的意思&#xff0c;这里也就…

页面刷新技术-------AJAX

一、前提步骤&#xff08;先把静态网页写出来&#xff09; 1、首先先要配置文件 2、然后去后端建立服务器&#xff0c;把该下载的模块下载好 var httprequire("http") var fsrequire("fs") var urlrequire("url") var querystringrequire(&quo…

页面刷新和vue页面刷新

history.go(0) location.reload() locationlocation location.assign(location) document.execCommand(Refresh) window.navigate(location) location.replace(location) document.URLlocation.href这几个都可以刷新&#xff1a; window.location.reload();刷新 window.locatio…

vue关于页面刷新的几个方式

在写项目的时候会遇到需要刷新页面重新获取数据&#xff0c;浅浅总结了一下几种方案。 1.this.$router.go(0) 强制刷新页面&#xff0c;会出现一瞬间的白屏&#xff0c;用户体验感不好。 2.location.reload() 也是强制刷新页面&#xff0c;和第一种方法一样&#xff0c;会造成…

HTML页面刷新及其应用例子

HTML页面刷新及其应用例子 刷新一般指重新载入当前页面。本文先给出html页面刷新重载方法汇总&#xff0c;再给出示例。 html页面刷新重载方法汇总 一、javascript页面刷新重载的方法&#xff1a; <a href"javascript:location.reload();">点击重新载入页面…

vue页面刷新

vue页面刷新 首先我们都知道vue属于单页面应用&#xff0c;默认境况下是不会触发刷新页面操作的&#xff0c;所以这个时候就需要我们通过事件来触发reload()来达到刷新操作 接下来我就为大家介绍三种刷新页面的方法 1. wiindow.location.reload([bForceGet])该方法强迫浏览…