总体方差与样本方差分母的小小区别,n还是n-1?

article/2025/9/20 18:03:53

总体方差与样本方差分母的小小区别,n还是n-1?

  • 引入
    • 方差概念
    • 方差计算
      • 无偏估计
  • 样本方差公式
      • 相关参考链接
  • 样本方差的自由度是n-1

引入

方差概念

方差是在概率论和统计方差衡量随机变量或一组数据时离散程度的度量,用来度量随机变量和其数学期望(即均值)之间的偏离程度。

方差计算

定义:
D X = E ( X − E X ) 2 = E X 2 − ( E X ) 2 D X=E(X-E X)^{2}=E X^{2}-(E X)^{2} DX=E(XEX)2=EX2(EX)2
离散型和连续型的随机变量计算公式分别为:
D ( X ) = { ∑ k = 1 ∞ [ x k − E ( X ) ] 2 p k , ∫ − ∞ ∞ [ x k − E ( X ) ] 2 f ( x ) d x \boldsymbol{D}(\boldsymbol{X})=\left\{\begin{array}{c} {\sum_{k=1}^{\infty}\left[\boldsymbol{x}_{k}-\boldsymbol{E}(\boldsymbol{X})\right]^{2} p_{k},} \\ {\int_{-\infty}^{\infty}\left[\boldsymbol{x}_{k}-\boldsymbol{E}(\boldsymbol{X})\right]^{2} f(\boldsymbol{x}) d \boldsymbol{x}} \end{array}\right. D(X)={k=1[xkE(X)]2pk,[xkE(X)]2f(x)dx
当给出具体数据进行分析时我们常用到如下两个公式
总体方差:
σ 2 = ∑ i = 1 N ( x i − μ ) 2 N \sigma^{2}=\frac{\sum_{i=1}^{N}\left(x_{i}-\mu\right)^{2}}{N} σ2=Ni=1N(xiμ)2
样本方差:
S 2 = 1 n − 1 ∑ i = 1 n ( x i − X ˉ ) 2 S^{2}=\frac{1}{n-1} \sum_{i=1}^{n}\left(x_{i}-\bar{X}\right)^{2} S2=n11i=1n(xiXˉ)2

那么为什么总体方差和样本方差的分母不同呢?

首先应该明确
1、在用样本方差公式进行计算时,我们并不知道x的分布情况,也不知道 μ \mu μ X ˉ \bar{X} Xˉ是所给样本的平均值,其值并不一定等于 μ \mu μ
2、总体方差是确定的,是综合所有数据后得到的方差,同理, μ \mu μ也是由所有数据得到的确数。而 X ˉ \bar{X} Xˉ S 2 S^{2} S2是根据部分数据 μ \mu μ σ 2 \sigma^{2} σ2进行估计。
3、总体方差
也叫做有偏估计,其实就是我们从初高中就学到的那个标准定义的方差,除数是N。如果实现已知期望值,比如测水的沸点,那么测量10次,测量值和期望值之间是独立的(期望值不依测量值而改变,随你怎么折腾,温度计坏了也好,看反了也好,总之,期望值应该是100度),那么E『(X-期望)^2』,就有10个自由度。事实上,它等于(X-期望)的方差,减去(X-期望)的平方。” 所以叫做有偏估计,测量结果偏于那个”已知的期望值“。
样本方差
无偏估计、无偏方差(unbiased variance)。对于一组随机变量,从中随机抽取N个样本,这组样本的方差就是Xi^2平方和除以N-1。这可以推导出来的。如果现在往水里撒把盐,水的沸点未知了,那我该怎么办? 我只能以样本的平均值,来代替原先那个期望100度。 同样的过程,但原先的(X-期望),被(X-均值)所代替。 设想一下(Xi-均值)的方差,它不在等于Xi的方差, 而是有一个协方差,因为均值中,有一项Xi/n是和Xi相关的,这就是那个"偏"的由来
样本方差与总体方差的区别

我们先讨论一个样本时:
(此段引自 link.)
对于样本方差来说,假如从总体中只取一个样本,即n=1,那么样本方差公式的分子分母都为0——方差完全不确定。这很好理解,因为样本方差是用来估 计总体中个体之间的变化大小,只拿到一个个体,当然完全看不出变化大小。反之,如果公式的分母不是n-1而是n,计算出的方差就是0——这是不合理的,因 为不能只看到一个个体就断定总体的个体之间变化大小为0。

对于总体方差来说,假如总体中只有一个个体,即N=1,那么方差,即个体的变化,当然是0。如果分母是N-1,总体方差为0/0,即不确定,却是不合理的——总体方差不存在不确定的情况。

以上可帮助理解两式的正确性,关于样本方差的理论推导如下:
首先回顾一下无偏估计

无偏估计

无偏估计是用样本统计量来估计总体参数时的一种无偏推断。估计量的数学期望等于被估计参数的真实值,则称此此估计量为被估计参数的无偏估计,即具有无偏性,是一种用于评价估计量优良性的准则。无偏估计的意义是:在多次重复下,它们的平均数接近所估计的参数真值。
估计总体平均值μ时,若以样本平均值ξ’为估计量,则可算得ξ’的数学期望E(ξ’)=μ,这说明ξ’是总体平均值μ的无偏估计。

介绍无偏估计的意义就是,我们计算的样本方差,希望它是总体方差的一个无偏估计

样本方差公式

假如样本方差公式为如下形式
S 2 = 1 n ∑ i = 1 n ( x i − X ˉ ) 2 S^{2}=\frac{1}{n} \sum_{i=1}^{n}\left(x_{i}-\bar{X}\right)^{2} S2=n1i=1n(xiXˉ)2
此时我们可以判断一下它是否为总体方差的一个无偏估计,即判断 E ( S 2 ) E\left(S^{2}\right) E(S2)是否为 σ 2 \sigma^{2} σ2

E [ S 2 ] = E [ 1 n ∑ i = 1 n ( X i − X ˉ ) 2 ] = E [ 1 n ∑ i = 1 n ( ( X i − μ ) − ( X ˉ − μ ) ) 2 ] = E [ 1 n ∑ i = 1 n ( ( X i − μ ) 2 − 2 ( X ˉ − μ ) ( X i − μ ) + ( X ˉ − μ ) 2 ) ] = E [ 1 n ∑ i = 1 n ( X i − μ ) 2 − 2 n ( X ˉ − μ ) ∑ i = 1 n ( X i − μ ) + 1 n ( X ˉ − μ ) 2 ∑ i = 1 n 1 ] = E [ 1 n ∑ i = 1 n ( X i − μ ) 2 − 2 n ( X ˉ − μ ) ∑ i = 1 n ( X i − μ ) + ( X ˉ − μ ) 2 ] = E [ 1 n ∑ i = 1 n ( X i − μ ) 2 − 2 n ( X ˉ − μ ) ∑ i = 1 n ( X i − μ ) + ( X ˉ − μ ) 2 ] \begin{aligned} \mathrm{E}\left[S^{2}\right] &=\mathrm{E}\left[\frac{1}{n} \sum_{i=1}^{n}\left(X_{i}-\bar{X}\right)^{2}\right]=\mathrm{E}\left[\frac{1}{n} \sum_{i=1}^{n}\left(\left(X_{i}-\mu\right)-(\bar{X}-\mu)\right)^{2}\right] \\ &=\mathrm{E}\left[\frac{1}{n} \sum_{i=1}^{n}\left(\left(X_{i}-\mu\right)^{2}-2(\bar{X}-\mu)\left(X_{i}-\mu\right)+(\bar{X}-\mu)^{2}\right)\right] \\ &=\mathrm{E}\left[\frac{1}{n} \sum_{i=1}^{n}\left(X_{i}-\mu\right)^{2}-\frac{2}{n}(\bar{X}-\mu) \sum_{i=1}^{n}\left(X_{i}-\mu\right)+\frac{1}{n}(\bar{X}-\mu)^{2} \sum_{i=1}^{n} 1\right] \\ &=\mathrm{E}\left[\frac{1}{n} \sum_{i=1}^{n}\left(X_{i}-\mu\right)^{2}-\frac{2}{n}(\bar{X}-\mu) \sum_{i=1}^{n}\left(X_{i}-\mu\right)+(\bar{X}-\mu)^{2}\right] \\ &=\mathrm{E}\left[\frac{1}{n} \sum_{i=1}^{n}\left(X_{i}-\mu\right)^{2}-\frac{2}{n}(\bar{X}-\mu) \sum_{i=1}^{n}\left(X_{i}-\mu\right)+(\bar{X}-\mu)^{2}\right] \end{aligned} E[S2]=E[n1i=1n(XiXˉ)2]=E[n1i=1n((Xiμ)(Xˉμ))2]=E[n1i=1n((Xiμ)22(Xˉμ)(Xiμ)+(Xˉμ)2)]=E[n1i=1n(Xiμ)2n2(Xˉμ)i=1n(Xiμ)+n1(Xˉμ)2i=1n1]=E[n1i=1n(Xiμ)2n2(Xˉμ)i=1n(Xiμ)+(Xˉμ)2]=E[n1i=1n(Xiμ)2n2(Xˉμ)i=1n(Xiμ)+(Xˉμ)2]

其中 ∑ i = 1 n ( X i − μ ) \sum_{i=1}^{n}\left(X_{i}-\mu\right) i=1n(Xiμ)= ∑ i = 1 n X i \sum_{i=1}^{n} X_{i} i=1nXi ∑ i = 1 n μ \sum_{i=1}^{n} \mu i=1nμ= ∑ i = 1 n X i \sum_{i=1}^{n} X_{i} i=1nXi–n μ \mu μ=n X ˉ \bar{X} Xˉ–n μ \mu μ
E [ S 2 ] = E [ 1 n ∑ i = 1 n ( X i − μ ) 2 − 2 n ( X ˉ − μ ) ∑ i = 1 n ( X i − μ ) + ( X ˉ − μ ) 2 ] = E [ 1 n ∑ i = 1 n ( X i − μ ) 2 − 2 n ( X ˉ − μ ) ⋅ n ⋅ ( X ˉ − μ ) + ( X ˉ − μ ) 2 ] = E [ 1 n ∑ i = 1 n ( X i − μ ) 2 − 2 ( X ˉ − μ ) 2 + ( X ˉ − μ ) 2 ] = E [ 1 n ∑ i = 1 n ( X i − μ ) 2 ] − E [ ( X ˉ − μ ) 2 ] = σ 2 − E [ ( X ˉ − μ ) 2 ] \begin{aligned} \mathrm{E}\left[S^{2}\right] &=\mathrm{E}\left[\frac{1}{n} \sum_{i=1}^{n}\left(X_{i}-\mu\right)^{2}-\frac{2}{n}(\bar{X}-\mu) \sum_{i=1}^{n}\left(X_{i}-\mu\right)+(\bar{X}-\mu)^{2}\right] \\ &=\mathrm{E}\left[\frac{1}{n} \sum_{i=1}^{n}\left(X_{i}-\mu\right)^{2}-\frac{2}{n}(\bar{X}-\mu) \cdot n \cdot(\bar{X}-\mu)+(\bar{X}-\mu)^{2}\right] \\ &=\mathrm{E}\left[\frac{1}{n} \sum_{i=1}^{n}\left(X_{i}-\mu\right)^{2}-2(\bar{X}-\mu)^{2}+(\bar{X}-\mu)^{2}\right] \\ &=\mathrm{E}\left[\frac{1}{n} \sum_{i=1}^{n}\left(X_{i}-\mu\right)^{2}\right]-\mathrm{E}\left[(\bar{X}-\mu)^{2}\right] \\ &=\sigma^{2}-\mathrm{E}\left[(\bar{X}-\mu)^{2}\right] \end{aligned} E[S2]=E[n1i=1n(Xiμ)2n2(Xˉμ)i=1n(Xiμ)+(Xˉμ)2]=E[n1i=1n(Xiμ)2n2(Xˉμ)n(Xˉμ)+(Xˉμ)2]=E[n1i=1n(Xiμ)22(Xˉμ)2+(Xˉμ)2]=E[n1i=1n(Xiμ)2]E[(Xˉμ)2]=σ2E[(Xˉμ)2]
其中
E [ ( X ˉ − μ ) 2 ] = 1 n σ 2 \mathrm{E}\left[(\bar{X}-\mu)^{2}\right]=\frac{1}{n} \sigma^{2} E[(Xˉμ)2]=n1σ2
故:
E [ 1 n ∑ i = 1 n ( X i − X ˉ ) 2 ] = σ 2 − 1 n σ 2 = n − 1 n σ 2 E\left[\frac{1}{n} \sum_{i=1}^{n}\left(X_{i}-\bar{X}\right)^{2}\right]=\sigma^{2}-\frac{1}{n} \sigma^{2}=\frac{n-1}{n} \sigma^{2} E[n1i=1n(XiXˉ)2]=σ2n1σ2=nn1σ2
但我们要得到总体方差的一个无偏估计
n n − 1 E [ 1 n ∑ i = 1 n ( X i − X ˉ ) 2 ] = E [ 1 n − 1 ∑ i = 1 n ( X i − X ˉ ) 2 ] = σ 2 \frac{n}{n-1} E\left[\frac{1}{n} \sum_{i=1}^{n}\left(X_{i}-\bar{X}\right)^{2}\right]=E\left[\frac{1}{n-1} \sum_{i=1}^{n}\left(X_{i}-\bar{X}\right)^{2}\right]=\sigma^{2} n1nE[n1i=1n(XiXˉ)2]=E[n11i=1n(XiXˉ)2]=σ2
所以样本方差的分母为n–1而不是n。

相关参考链接

link1为什么样本方差(sample variance)的分母是 n-1?.
其中还包含用 S 2 = 1 n ∑ i = 1 n ( X i − μ ) 2 S^{2}=\frac{1}{n} \sum_{i=1}^{n}\left(X_{i}-\mu\right)^{2} S2=n1i=1n(Xiμ)2来近似 σ 2 \sigma^{2} σ2等详细步骤。
在这里插入图片描述
link2彻底理解样本方差为何除以n-1.

样本方差的自由度是n-1

参看自由度(为什么样本方差自由度是n-1)

其中讨论了离差平方和 S S = ∑ ( x i − x ˉ ) 2 S S=\sum\left(x_{i}-\bar{x}\right)^{2} SS=(xixˉ)2
总体方差 D ( x ) = S S n D(x)=\frac{S S}{n} D(x)=nSS,样本方差 D ( x ) = S S n − 1 D(x)=\frac{S S}{n-1} D(x)=n1SS

生动举例解释为什么样本方差自由度为n-1


http://chatgpt.dhexx.cn/article/RvnmRYFy.shtml

相关文章

样本方差的与方差

之前做模型拟合的时候需要计算样本的方差和均值,Matlab的std函数算出来就是不对经,一看才知道matlab的给定的标准差计算公式是: For a random variable vector A made up of N scalar observations, the standard deviation is defined as where μ is the mean of A: The s…

总体样本方差的无偏估计样本方差为什么除以n-1

总体样本方差的无偏估计样本方差为什么除以n-1 本文链接: https://blog.csdn.net/qq_16587307/article/details/81328773 我们先从最基本的一些概念入手。 如下图,脑子里要浮现出总体样本,还有一系列随机选取的样本。只要是样本,…

有偏样本方差、无偏样本方差

1.有偏样本方差、无偏样本方差 笔记来源:Why Dividing By N Underestimates the Variance 1.1 为什么样本方差总是小于总体方差? 由于总体量太大,我们要耗费大量人力物力财力才可以或者永远无法了解总体情况,所以我们只能用样本…

C# 及excel中【总体方差】、【样本方差】的计算公式

一、数学公式 二、C#中的数学包 using MathNet.Numerics.Statistics; 三、【总体方差】和【样本方差】的计算 using System; using System.Linq;var myList new List<float> {1,3,4,5,6,7};display("要计算的数据"); display(myList);var pv myList.Popula…

用Python计算样本方差,总体方差,比较

1.样本方差 #样本方差&#xff0c;考虑自由度def f_sigma(x):# 通过Python定义一个计算变量波动率的函数# x&#xff1a;代表变量的样本值&#xff0c;可以用列表的数据结构输入n len(x)u_mean sum(x)/n #计算变量样本值的均值z [] #生成一个空列表for t in range(n):z.…

总体方差与样本方差

今天在计算一类数据的协方差时遇到个问题。数据如下&#xff1a; x1(0,0,0)’ x2(1,0,0)’ x3(1,0,1)’ x4(1,1,0)’ 这本是一件很容易的事&#xff0c;但我手算后用Matlab的cov函数验算了一下&#xff0c;发现结果竟然不一样&#xff0c;于是按照协方差公式&#xff0c;一…

统计学---之样本方差与总体方差的区别

前段日子重新整理了一下这个问题的解答&#xff0c;跟大家分享一下&#xff0c;如果有什么错误的话希望大家能够提出来&#xff0c;我会及时改正的&#xff0c;话不多说进入正题&#xff1a; 首先&#xff0c;我们来看一下样本方差的计算公式&#xff1a; 刚开始接触这个公式的…

为什么样本方差里面要除以(n-1)而不是n?

前段日子重新整理了一下这个问题的解答&#xff0c;跟大家分享一下&#xff0c;如果有什么错误的话希望大家能够提出来&#xff0c;我会及时改正的&#xff0c;话不多说进入正题&#xff1a; 首先&#xff0c;我们来看一下样本方差的计算公式&#xff1a; 刚开始接触这个公式的…

ECS_FDS小议贝塞尔校正(Bessel‘s Correction)

在学习概率论与数理统计的相关知识时&#xff0c;大家肯定会听到”贝塞尔校正&#xff08;Bessels Correction&#xff09;“这个名词&#xff0c;这是德国天文学家&#xff0c;数学家Friedrich Bessel在进行天体测量学研究时提出的一个方法。可能大家看到一个以人名命名的概念…

样本方差与总体方差

样本方差与总体方差 一、方差&#xff08;variance)&#xff1a;衡量随机变量或一组数据时离散程度的度量。 概率论中方差用来度量随机变量和其数学期望&#xff08;即均值&#xff09;之间的偏离程度。 统计中的方差&#xff08;样本方差&am…

完整的Axios封装-单独API管理层、参数序列化、取消重复请求、Loading、状态码...

前言 Axios 相信对Vue熟悉的铁汁对它不会感到陌生了&#xff08;当然不熟悉Vue你也可以认识它&#xff09;&#xff0c;这简直就是前端近年来的一大杀器&#xff0c;自从Vue2开始之后&#xff0c;官方推荐使用axios来进行网络请求&#xff0c;后面基本大部分Vue项目都能瞧见它…

Ajax介绍和Axios基本使用

Ajax介绍 Ajax本身就是Asynchronous JavaScript And XML的缩写&#xff0c;直译为&#xff1a;异步的JavaScript和XML。 在实际应用中Ajax指的是&#xff1a;不刷新浏览器窗口&#xff0c;不做页面跳转&#xff0c;局部更新页面内容的技术。 『同步』和『异步』是一对相对的…

Axios使用详解

文章目录 一、Promise的使用1. 基本语法2. Promise三种状态3. Promise链式调用1. 基本写法2. 使用静态方法3. 直接返回 4. Promise.all5. Promise.race 二、Axios使用1. 安装并引入2. 发送请求3. config配置4. 响应结构5. 并发请求6. 全局配置6. 创建实例7. 实例方法8. 拦截器请…

Uncaught (in promise) Error: Network Error at e.exports (axios.js:8:6410) at d.onerror (axio

axios报错&#xff1a; 原因&#xff1a; 后端没有给跨域权限&#xff0c;后端需要设置允许跨域的响应头&#xff0c;即可解决。 解决&#xff1a; node端设置响应头&#xff0c;解决跨域问题 。

axios封装

不要过度封装&#xff01;封装一个最简单的Axios&#xff01; - 掘金 (juejin.cn) 1 初始化 axios 实例 通过 create 方法我们得到了一个 axios 的实例&#xff0c;该实例上有很多方法&#xff0c;比如拦截器等等。我们创建实例的时候可以配置一些基础设置&#xff0c;比如基础…

axios学习

文章目录 前言一、axios的理解和使用axios的特点axios的安装方式axios的基本配置 二、axios的基本使用1.axios四种常用请求方式2.四种方式的基本使用基本架构代码示例&#xff1a;1. GET请求2. POST请求3. PUT请求4. DELETE请求 3.axios的别名方式请求使用 前言 axios是一个基…

vue封装axios

(4条消息) Vue——axios的二次封装_前端杂货铺的博客-CSDN博客 1.下载axios依赖包 npm install axios2.在src目录下新建utils文件夹&#xff0c;在utils文件夹下新建request.js文件 3.request.js import axios from axios import { Message, MessageBox } from element-ui …

axios

SegmentFault 头条问答专栏讲堂职位活动 消息注册 登录 home javascriptphppythonjavamysqliosandroidnode.jshtml5linuxccss3gitgolangrubyvimdockermongodb 文 axios 中文文档 翻译 axiosjavascript farmerz 2月24日发布 2 推荐 45 收藏&#xff0c;3.2k 浏览 axios 版…

Axios介绍

Axios是专注于网络数据请求的库&#xff0c;相比于XMLHttpRequest对象。axios简单易用&#xff0c;相比于jQuery&#xff0c;axios更加轻量化&#xff0c;只专注于网络数据请求 引入外部js文件 <script src"https://unpkg.com/axios/dist/axios.min.js"><…

VUE的axios的详细介绍和用法

Vue中发送网络请求有非常多的方式, 那么, 在开发中, 我们该如何选择呢? 选择一: 传统的Ajax是基于XMLHttpRequest(XHR) 为什么不用它呢? 非常好解释, 配置和调用方式等非常混乱.编码起来看起来就非常蛋疼. 所以真实开发中很少直接使用, 而是使用jQuery-Ajax 选择二: 在前…