21._连续型_贝塔Beta分布

贝塔分布是统计人员常用的一种数据建模方式，和其它建模不同，他是对概率进行建模。比如盒子里有8个白球2个黑球，前面讨论都是对取得白球数量进行建模，而贝塔分布是对取得白球的概率进行建模

贝塔分布

设 a,b>0a, b>0 ．如果随机变量 XX 服从下列的密度函数，则我们称呼随机变量服从参数为 aa 和 bb 的贝塔分布。

贝塔Beta分布的密度函数如下，我们记作 X∼B(a,b)X \sim B(a, b) ．

ft,a,b={Γ(a+b)Γ(a)Γ(b)ta−1(1−t)b−1 若 0⩽t⩽10 其他. \boxed{ f_{t,a, b}= \begin{cases}\frac{\Gamma(a+b)}{\Gamma(a) \Gamma(b)} t^{a-1}(1-t)^{b-1} & \text { 若 } 0 \leqslant t \leqslant 1 \\ 0 & \text { 其他. }\end{cases} }

Beta分布的密度函数图像如下

图片{width=400px}

Beta 应用分布

Beta分布是一个概率的概率分布。它是一种通用的概率分布，可用于对不同场景中的概率进行建模：

  • 广告的点击率的分布；

  • 网站上购买的客户的转化率；

  • 读者为您的博客点赞的可能性；

  • 特朗普赢得一次竞选的可能性；

  • 乳腺癌女性的 5 年生存机会；

由于 Beta 分布对概率进行建模，因此定义域的边界介于 00 和 11 之间。

解析贝塔分布

为了掌握 Beta 分布的底层逻辑，我们首先检查一下它的概率密度函数（PDF）：

f(x;α,β)=xα−1(1−x)β−1B(α,β)f(x ; \alpha, \beta)=\frac{x^{\alpha-1}(1-x)^{\beta-1}}{B(\alpha, \beta)}

其中：

B(α,β)=Γ(α)Γ(β)Γ(α+β)B(\alpha, \beta)=\frac{\Gamma(\alpha) \Gamma(\beta)}{\Gamma(\alpha+\beta)}

Γ\Gamma 是 gamma函数

有什么直觉？ 让我们先暂时忽略系数 1B(α,β) \frac{1}{B(\alpha, \beta)} ，只看分子 xα−1∗(1−x)β−1x^{\alpha-1} *(1-x)^{\beta-1} ，因为 1B(α,β) \frac{1}{B(\alpha, \beta)} 只是使该函数积分为 1 的规格化常数。

上面这句话是什么意思呢？因为密度函数的积分是分布函数，其值必须为1，为了最终积分结果为1，我们会人为增加一些“系数”平衡方程，比如正态分布里含有分母 2π\sqrt{2 \pi} ，因此不要被Beta分布的复杂公式吓到。

仔细看Beta分母的分子项：xx 的幂乘以 1−x1-x 的幂看起来很熟悉。 我们以前看过，似曾相识的感觉，是！二项式分布

P(y=k)=(mk)pk∗(1−p)m−kP_{(y=k)}=\binom{m}{k} p^k *(1-p)^{m-k}

我们从二项式分布的视角来看贝塔时，就容易理解了。

图片

二项式分布和 beta 分布之间的区别在于，前者对成功次数 xx 进行建模，而后者对成功概率pp进行建模。换句话说，概率是二项式的一个参数；在Beta中，概率是一个随机变量。

理解上面这句话后，再看Beta分布的参数tt，其中要求 0⩽t⩽10 \leqslant t \leqslant 1 ，这是因为密度的取值范围就是0到1.

理解贝塔分布里的 α,β\alpha, \beta

从二项式分布联想到，你能想到 α−1\alpha-1 作为成功的次数和 β−1\beta-1 作为失败的次数，就像二项式分布中的 nn 和 n−xn-x 。

xα−1∗(1−x)β−1P(y=x)=(nx)px∗(1−p)n−x\begin{gathered} x^{\alpha-1} *(1-x)^{\beta-1} \\ P_{(y=x)}=\binom{n}{x} p^x *(1-p)^{n-x} \end{gathered}

α\alpha－代表成功的次数，类似于二项分布中的 nn 项。 β\beta－代表失败的次数，类似于二项分布中的 n−xn-x 项。

您可以按照自己的想法选择 α\alpha 和 β\beta 参数。例如，如果您认为成功的概率非常高（如 90%90 \% ），则可以将 α\alpha 设为 90 ，将 β\beta 设为 10 。反之，如果您认为失败的概率较高，则应将 β\beta 设为 90,α90, \alpha 设为 10 。

您可以按照自己的想法选择 α\alpha 和 β\beta 参数。例如，如果您认为成功的概率非常高（如 90%90 \% ），则可以将 α\alpha 设为 90 ，将 β\beta 设为 10 。反之，如果您认为失败的概率较高，则应将 β\beta 设为 90,α90, \alpha 设为 10 。

图片

随着 α\alpha 的增加（成功事件增多），概率分布的大部分将向右移动。另一方面，β\beta 的增加会使分布向左移动（更多失败事件）。

同样，如果我们同时确定 α\alpha 和 β\beta 都增加，则分布将变窄。

例子：概率的概率

假设某人同意与你约会的可能性服从 Beta 分布，α=2,β=8\alpha=2, \beta=8 。 使用 Beta 分布，您的成功率大于 50%50 \% 的概率是多少？用数学术语来说，我们想找到 P(X>0.5)P(X>0.5) 。

P(X>0.5)=1−CDF(0.5)=0.01953P(X>0.5)=1-C D F(0.5)=0.01953

计算 P(X>0.5)=1−CDF(0.5)P(X>0.5)=1-C D F(0.5) ，我们得到的概率是 0.01953 。不幸的是，这意味着成功率大于 50%50 \% 的可能性很低。 图片

我们为什么使用Beta分布？

说到概率分布建模，有很多选项可供选择。你可能会问，为什么我们要使用 Beta 分布，而不是其他任意的概率分布呢？

如果我们只想创建一个概率分布来模拟概率，我们可以使用区间 (0,1)(0,1) 上的任意分布。创建一个分布应该很容易。只需使用任何在 0 到 1 之间不会无穷大且保持正值的函数，在这个区间（ 0到 1）上进行积分，然后简单地用积分的结果除以该函数。这样就得到了一个概率分布，可以用来建立概率模型。这很有道理，听起来也很简单，但为什么我们坚持使用贝塔分布而不是任意概率分布呢？

Beta分布有何特别之处？

Beta分布是贝叶斯推断中伯努利，二项式，负二项式和几何分布（似乎是涉及成功与失败的分布）的共轭先验，在计算能力不足的情况下，共轭函数对于贝叶斯派来说简直就是救命稻草，而且如此的简单和优雅，像是被上帝亲过一样。

在贝叶斯推理中使用共轭先验（如贝塔分布）具有很大的优势。主要优势之一是使用共轭先验计算后验非常简单。它让我们避免了贝叶斯推断中通常涉及的庞大计算量的数值计算。使用共轭先验时，后验分布与先验分布属于同一族，这大大简化了计算。

如果您不知道共轭先验或贝叶斯推断是什么？ 请先理解： 1．作为数据／ML科学家，您的模型永远都不完整。随着输入更多数据，您必须更新模型，这就是我们使用贝叶斯推理的原因。

2．贝叶斯推断中的计算可能非常繁重，有时甚至难以处理。但是，如果我们可以将先验形式的共轭形式使用封闭式公式，那么计算就很容易了。

作为一名数据科学家或机器学习工程师，只要模型还在生产中使用，它就永远不会完成。随着更多数据的到来，你必须更新或重新训练你的模型。这就是我们使用贝叶斯推理的原因。贝叶斯推理的计算量可能会非常大，有时甚至难以实现。但如果我们能使用共轭先验的闭式公式，计算就会变得易如反掌。

在我们的约会例子中，Beta 分布是二项式似然的共轭先验。在建模阶段，如果我们选择使用 Beta 分布作为先验，我们就已经知道后验也将是贝塔分布。因此，在做了更多的实验后（比如请更多的人和你约会），只需将接受和拒绝的次数分别加到现有的参数 β、α\beta 、 \alpha 上，就可以计算出后验，而不用那么麻烦的用似然乘以先验分布。

总之，贝塔分布是一种方便且可解释的概率模型。它还通过与常见概率分布的共轭关系简化了贝叶斯推断。

Beta分布非常灵活

beta 分布是一种概率分布，可以有多种不同的形状。根据参数 α\alpha 和 β\beta 的取值，Beta 分布的概率密度函数可以是钟形、有渐近端点的 U 形、严格递增或递减线，甚至是一条水平直线。 a．钟形 图片

例如，当 α=8\alpha=8 和 β=2\beta=2 时，Beta 分布的 PDF 会产生一条蓝色的钟形曲线，而不是红色。 xx 轴代表成功概率。

此外，当 α+β\alpha+\beta 足够大且 α\alpha 和 β\beta 大致相等时，Beta 分布的PDF可以近似于正态分布。

b．直线 图片 Beta PDF也可以是一条直线！

c.U形 图片

当 α\alpha 和 β\beta 小于 1 时，分布呈 UU 型，在两端成功的概率最高。

形状的底层逻辑

为什么 Beta⁡(2,2)\operatorname{Beta}(2,2) 是钟形分布？ 您可以认为 Beta 分布的形状反映了它所模拟的成功和失败的次数。 例如，如果将 α−1\alpha-1 视为成功的次数，将 β−1\beta-1 视为失败的次数， Beta⁡(2,2)\operatorname{Beta}(2,2) 表示有 1 次成功和 1次失败。因此，成功概率在 0.5 时达到峰值是符合人类认知的。

在这种情况下， Beta⁡(1,1)\operatorname{Beta}(1,1) 意味着你抛硬币得到了 0 个花面和 0 个 国徽面。那么，您对成功概率的猜测在整个 [0,1][0,1] 范围内应该是相同的，正如水平直线所示。

Beta⁡(0.5,0.5)\operatorname{Beta}(0.5,0.5) 如何理解？ 为什么是U型？（－0．5）正面和（－0．5）国徽面是什么意思？ 我还没有答案。如果您对U形Beta有个解释，请不吝赐教！ 总的来说，beta 分布是一个强大的工具，可用于对各种现象进行建模。 α\alpha 和 β\beta 参数控制着分布的形状，数值越大，分布越＂平滑＂，数值越小，分布的形状越极端。它的灵活性使其成为数学家、科学家和研究人员的重要工具。

贝塔分布 B(a,b)B(a, b) 的数学期望和方差

利用贝塔函数的性质, 不难算得贝塔分布 Be(a,b)B e(a, b) 的数学期望为

E(X)=Γ(a+b)Γ(a)Γ(b)∫01xa(1−x)b−1 dx=Γ(a+b)Γ(a)Γ(b)⋅Γ(a+1)Γ(b)Γ(a+b+1)=aa+b.E(X)=\frac{\Gamma(a+b)}{\Gamma(a) \Gamma(b)} \int_0^1 x^a(1-x)^{b-1} \mathrm{~d} x=\frac{\Gamma(a+b)}{\Gamma(a) \Gamma(b)} \cdot \frac{\Gamma(a+1) \Gamma(b)}{\Gamma(a+b+1)}=\frac{a}{a+b} .

方差为D(X)=a(a+1)(a+b)(a+b+1)−(aa+b)2=ab(a+b)2(a+b+1).D(X)=\frac{a(a+1)}{(a+b)(a+b+1)}-\left(\frac{a}{a+b}\right)^2=\frac{a b}{(a+b)^2(a+b+1)} .

下图给出几种贝塔分布密度函数曲线. 图片

从上图可以看出:

  • 当 a<1,b<1a<1, b<1 时, p(x)p(x) 是下凸的 U\mathrm{U} 形函数.

  • 当 a>1,b>1a>1, b>1 时, p(x)p(x) 是上凸的单峰函数.

  • 当 a<1,b⩾1a<1, b \geqslant 1 时, p(x)p(x) 是下凸的单调减函数.

  • 当 a⩾1,b<1a \geqslant 1, b<1 时, p(x)p(x) 是下凸的单调增函数.

  • 当 a=1,b=1a=1, b=1 时, Be⁡(1,1)=U(0,1)\operatorname{Be}(1,1)=U(0,1).

因为服从贝塔分布 Be(a,b)B e(a, b) 的随机变量是仅在区间 (0,1)(0,1) 取值的, 所以不合格品率、机器的维修率、市场的占有率、射击的命中率等各种比率选用贝塔分布作为它们的概率分布是恰当的, 只要选择合适的参数 aa 与 bb 即可.

本文部分摘自微信公众号 《数据分析学习与实践》

前の章20._连续型_伽马分布garmma
次の章22._正态分布与伽玛函数