第 1 章概率的三种解释：经典、频率与主观

从掷骰子的「等可能」假设，到「把经验注入模型」的贝叶斯世界观

1.0　为什么从这里讲起

前面整门可靠性课程，我们学的是经典方法论：可靠性框图、故障树分析（FTA）、失效模式与影响分析（FMEA）。这些方法有一个共同的前提——系统结构是清晰的、因果是确定的：从顶事件往下，每个节点的关系明确，每个底事件还服从一个很强的假设（指数分布、泊松分布、威布尔分布）。

但现代工程场景往往不这么「听话」：

• 因果是「软」的。$A$ 与 $B$ 之间未必有「$A$ 必然推出 $B$」的强因果，而常常是一种带不确定性的关联。
• 系统比想象的复杂。真实系统的节点数、耦合关系远超教科书里 3–5 个节点的小例子。

从现在开始，我们转向一套更现代、也更有探索空间的方法，看它如何与可靠性——以及更广义的可靠性（含故障诊断与健康预测）——结合。整个专题课程包含贝叶斯方法、故障诊断与健康预测、蒙特卡洛分析三大方向，本教程聚焦其中的贝叶斯方法。

1.1　经典概率（Classical Probability）

例（掷骰子）。求「奇数面朝上」的概率：样本空间有 $\{1,2,3,4,5,6\}$ 共 6 个等可能结果，有利结果为 $\{1,3,5\}$ 共 3 个，故 $P=\tfrac{3}{6}=50\%$。

这个定义自帕斯卡时代沿用至今，简洁而有力。但它依赖一个极强的假设：六个面「等可能」。一旦有人递给你一颗来历不明的骰子（可能灌了铅），等可能假设就崩塌了——而经典概率本身无法验证这个前提。这正是其它两种解释登场的原因。

1.2　频率学派概率（Frequentist Probability）

面对那颗来历不明的骰子，频率学派说：「我不管它是什么骰子，我掷它足够多次。」把每一面出现的频率画出来，你会看到它在波动中收敛到某个稳定值——这与有限元里的 converge、与人工智能训练中的「收敛」是同一回事：观察一个有界的、逐渐趋于特定值的过程。

频率学派的局限：它无法把已有经验融进来。如果你是骰子厂的老板，难道每造一颗骰子都要掷一万次来验证它均匀吗？我们明明拥有历史数据、设计知识、专家判断——频率学派却没有为它们留下入口。

1.3　主观概率 / 贝叶斯概率（Subjective Probability）

贝叶斯的世界观是：先基于知识给出一个猜测（先验），再用当前观测去更新它（得到后验）。这恰好为「数据 + 经验」的融合提供了天然入口：

把你以往的认知、历史数据、专家意见，统统编码成先验；做实验、做观测得到的，就是数据；用数据去更新先验，得到与时俱进的后验。 —— 这正是后续所有章节的主旋律

第 2 章条件概率、全概率与贝叶斯定理

三块基石，搭起「用观测更新信念」的完整通路

本章把贝叶斯定理的三块基石——条件概率、全概率公式、贝叶斯定理——一次性串起来。它们你在本科都学过，这里的目的不是重新证明，而是将它们组织成「先验 → 似然 → 后验」的统一形式，为后续内容奠定基础。

2.1　条件概率（Conditional Probability）

2.2　全概率公式（Theorem of Total Probability）

设 $B_1,B_2,\dots,B_n$ 是样本空间 $S$ 的一组划分——它们两两互斥（mutually exclusive）且完全穷尽（其并集覆盖整个样本空间 $S$）；二者共同保证 $\sum_i P(B_i)=1$。这正是我们在故障树分析里强调过的 MECE 原则（Mutually Exclusive, Collectively Exhaustive）：不重、不漏。

直观理解：既然 $\{B_i\}$ 铺满了整个空间，那么 $A$ 发生的总概率，就是「在每一块 $B_i$ 上 $A$ 发生的概率」按 $B_i$ 的权重加起来。例如把「当前天气」划分成 $B_1$＝乌云、$B_2$＝晴空，则下雨的总概率由这两种天气下的下雨概率加权而成。划分成 2 块还是 10 块，本质一样。

2.3　贝叶斯定理（Bayes' Theorem）

现在把问题倒过来问：我已经知道 $A$ 发生了，那么某个特定的 $B_i$ 发生的概率是多少？由条件概率定义，$P(B_i\mid A)=\dfrac{P(B_i\cap A)}{P(A)}$，分子用 $P(A\mid B_i)P(B_i)$ 替换、分母用全概率公式 (2.2) 展开，即得：

2.4　一个关键观察：分母是常量

注意分母 $P(A)$ 对所有 $B_i$ 都一样——它只是把分子归一化。于是后验与「似然 × 先验」成正比：

这条「正比关系」在工程上极其好用，它给了我们两种处理分母的方式：

• 做推断（比大小）：只想知道哪个 $B_i$ 更可能，分母可以完全不算——直接比较各分子即可。
• 要完整后验（求数值）：把各分子算出来后做归一化（除以它们之和）即可，因为所有后验加起来必为 1。

第 3 章先验、似然、后验：机床诊断与抛硬币

把抽象公式落到两个能亲手推演的例子上

上一章给出了贝叶斯定理的形式。本章用两个例子把它落到可计算的具体数值上：一个是工程性很强的机床故障诊断（离散、强先验），一个是教科书经典的抛硬币（连续、无信息先验）。机床这个例子尤其值得细品——我们将围绕它展开四点深入剖析，它们是理解贝叶斯方法的四块基石。

3.1　三个核心概念

3.2　工程主线例子：机床故障诊断

设想你负责一台超精密磨床（machine tool，台湾称「工具机 / 工业母机」）。根据导师三十年的运维经验，它一旦停机故障，最可能是两种原因之一（为方便，令两者先验之和为 1）：

某天早上你进车间，闻到一股刺鼻的焦糊味，机床停机了。记这个观测为事件 $A$。凭经验，你给出两个似然：

问题：闻到焦味后，到底哪种故障更可能？即求后验 $P(B_1\mid A)$ 与 $P(B_2\mid A)$。代入贝叶斯定理 (2.3)：

3.3　机床例的四点深入剖析

下面四点，是这门课希望你记入笔记的核心认识。它们都从上面这台机床的诊断生长出来，却通向贝叶斯方法的全部要害。

点一　从一次更新到连续递推：模型会「持续学习」

上面只是一次观测。如果第二天又出现新的现象呢？办法是：把这次的后验当作下一次的先验，再套一遍贝叶斯定理。于是「今天早上的后验」就成了「明天早上的先验」，更新可以一轮接一轮地进行下去：

点二　分母是常量：推断「比大小」，更新「做归一化」

观察 (3.1)、(3.2) 的分母：$P(A)=P(A\mid B_1)P(B_1)+P(A\mid B_2)P(B_2)=0.26$。它对每一个假设都相同，是一个与具体 $B_i$ 无关的常量。于是后验与分子成正比，处理分母有两种方式：

• 做推断（比大小）：只想知道哪种故障更可能时，分母可以完全不算——直接比较两个分子 $0.9\times0.2=0.18$ 与 $0.1\times0.8=0.08$，$0.18>0.08$，即判电气短路。当项数很多时，这能省下大量计算。
• 要完整后验（求数值）：需要具体概率时，把各分子算出后做归一化即可：$\dfrac{0.18}{0.18+0.08}\approx0.69$、$\dfrac{0.08}{0.18+0.08}\approx0.31$。分子之和 $0.18+0.08=0.26$ 一般并不等于 1；正是除以这个和（即归一化）之后，两个后验才恰好相加为 1。

点三　脱离先验比例谈观测，没有意义：基率的支配作用

更新后的结果呈现一种「反向分布」：先验是电气 20%、磨损 80%，后验却翻成约 69% 对 31%。这提醒我们：先验比例（基率）与观测，二者缺一不可。

把这一点推向极端，就得到一个反直觉的重要结论。设想把「机床故障」换成「某种疾病的检测」：

点四　从离散到连续：后验是一条「分布」，看的是可能性与期望

上例的故障只有两种离散假设，先验是两条竖线（0.2 与 0.8）。但若你关心的不是「哪种故障」，而是故障的严重程度这类连续量，情况就不同了。请注意：这并不是把 0.2 / 0.8 这两根竖线「拉」成一条曲线，而是把待估量本身换成了一个连续参数（如严重程度 $s$ 或寿命参数 $\theta$）——先验、似然、后验都改写在这个连续量上。此时先验是一条概率密度曲线（其形状可借助威布尔等可靠性常用分布族来承载设计手册知识与历史数据），全概率公式中的求和也相应变为积分，更新后得到的后验是一条新的密度曲线。

3.4　经典例子：抛硬币与 Beta 分布

再看一个无信息先验的例子，与机床的「强先验」恰成对照。一枚均匀性未知的硬币，正面概率 $\theta$ 未知。我们对它一无所知，于是假设 $\theta$ 在 $[0,1]$ 上均匀分布——即 $\mathrm{Beta}(1,1)$，称为无信息先验（non-informative prior）。

接着抛 10 次，观测到 7 次正面。给定 $\theta$，这一观测的似然由二项分布给出：

其中组合系数 $\binom{10}{7}$ 与 $\theta$ 无关，在做归一化或求 $\arg\max$ 时可约去（即点二的思想，详见第 5 章）。用贝叶斯定理把先验 $\mathrm{Beta}(1,1)$ 与该似然相乘并归一化，得到后验。第 6 章会证明：这个后验恰好仍是一个 Beta 分布：

第 4 章贝叶斯的三种用途：推断、学习、估计

同一公式的三种使用方式

贝叶斯定理只有一个，但在工程中有三种典型用法：推断（Inference）、学习（Learning）、估计（Estimation）。三者本质都是「先验 → 似然 → 后验」，区别在于你把什么当作已知、想求什么。分清它们，读论文时就不会被术语绕晕。

4.1　推断 Inference —— 对未知状态的判定

这里有三类变量：未知量（unknowns，待求）、观测量（observables，可见）、辅助量（auxiliary）。推断就是由观测量确定未知量，而似然与先验都是「模型」——它们承载知识。

前面两个例子都是推断：

• 机床：已知「闻到焦味」（$Y$），判定「哪种故障」（$X$）。
• 疾病诊断：已知「检测阳性」，判定「是否患病」（见第 11 章）。

推断的关键特征：模型本身是固定的（检测能力、人群患病率已知），我们只是对某个具体个体下判断。

4.2　学习 Learning —— 模型能力的迭代与进化

注意它与推断的根本差别：推断用固定模型，学习则让模型本身迭代进化。

4.3　估计 Estimation —— 具体数值的计算与寻优

一个参数的估计量（estimator）是数据的某个函数，我们希望它接近真值。给定数据 $D$，参数 $\theta$ 的后验为

把分布求出来之后，「$\theta$ 到底等于多少」还可以有不同取法——取众数（MAP）、取均值等等。这一步留到下一章（MLE / MAP / 贝叶斯估计）展开。注意 (4.1) 与机床例子结构完全一致：那里分母是两项求和，这里换成积分而已。

4.4　推断 vs 学习：一张对照表

这是课堂上专门强调的辨析，可靠性工程师尤其要分清——因为「故障诊断」属推断，而「自适应模型」属学习。

第 5 章参数估计三法：MLE、MAP 与贝叶斯估计

拿到后验之后，「$\theta$ 到底等于多少」的三种回答

第 4 章把后验分布求了出来。但工程上常常还要落到一个具体数值：硬币正面概率是多少？故障率是多少？这就是参数估计。本章给出三种主流估计，并在抛硬币上把它们算通。

5.1　三种估计的定义

5.2　例子：抛硬币的 MLE

抛硬币得到 $h$ 次正面、$t$ 次反面。设正面概率为 $\theta$，则似然 $L(\theta)=\theta^{h}(1-\theta)^{t}$（略去与 $\theta$ 无关的组合系数）。取对数后求导令其为零：

结果朴素而合理：观测既然这么发生了，就找让它「最有道理发生」的 $\theta$。抛 10 次出现 7 正，则 $\hat\theta_{\mathrm{ML}}=0.7$。

5.3　例子：抛硬币的 MAP（均匀先验）

取无信息先验 $\theta\sim\mathrm{Beta}(1,1)$（均匀分布）。Beta 密度的一般形式为

其中 $B(a,b)$ 是只与 $a,b$ 有关的归一化常数。令 $a=b=1$，则 $\theta^{0}(1-\theta)^{0}=1$，密度退化为常数——正是 $[0,1]$ 上的均匀分布。

设 $n$ 次抛掷中有 $y$ 次正面。后验正比于先验 × 似然：

这正是 $\mathrm{Beta}(y+a,\;n-y+b)$ 的核！于是后验为

利用 Beta 分布的众数公式 $\mathrm{Mode}=\dfrac{a-1}{a+b-2}$，对 $\mathrm{Beta}(y+1,\,n-y+1)$（即 $a=b=1$）有

第 6 章共轭先验与 Beta 分布：从一枚硬币说起

一个完整案例——看先验、似然、后验如何在形式上达成统一

本章是第二部分的收束，也是全书最值得细嚼的一章。我们不急于抛出「共轭」的定义，而是从一枚硬币出发，把一次完整的贝叶斯推理走到底：先想清楚「拿到一枚来历不明的硬币该怎么猜」，再回头看经典与频率学派在这里的困境，然后用贝叶斯的方式做一次推导——推完你会惊讶地发现，先验与后验竟是同一种形式。这绝非偶然，它背后是一个被称作共轭的、极为高明的工程化技巧。

6.1　拿到一枚硬币：你会怎么猜？

桌上一枚来历不明的硬币，正面朝上的概率记为 $\theta$，未知。在抛它之前，你对 $\theta$ 已经可以有一个信念。至少有三种态度：

• 不做任何猜测（无信息）：你对 $\theta$ 一无所知，认为 $0$ 到 $1$ 之间任何值都等可能。这对应均匀分布，即 $\mathrm{Beta}(1,1)$。
• 基于常识的弱猜测：常识告诉你硬币多半是公平的，$\theta$ 大概在 $0.5$ 附近。这对应一条对称、在中间隆起的分布，如 $\mathrm{Beta}(5,5)$。
• 带强烈倾向的先验：若你有理由相信它偏向某一面，可以给出偏斜的信念，如 $\mathrm{Beta}(1,2)$（偏向反面、$\theta$ 偏小）或 $\mathrm{Beta}(5,3)$（偏向正面、$\theta$ 偏大）。

这三种态度，都可以用同一族定义在 $[0,1]$ 上的分布来表达——Beta 分布。它正是描述「关于一个概率的信念」的天然语言：

6.2　经典与频率学派，在这枚硬币上的困境

先别急着算。同样一枚硬币，前两种概率观会怎么处理，又会遇到什么问题？

• 经典概率：武断地认定 $\theta=0.5$。无论你抛多少次、看到什么，它都不更新——一旦硬币其实有偏，这个回答就是错的，而它没有自我纠正的机制。
• 频率学派：抛 $n$ 次、$y$ 次正面，给出 $\hat\theta=y/n$。它有两处软肋：其一，无法注入任何先验经验（哪怕你早知道这类硬币几乎都公平，也用不上）；其二，少量样本极不可靠——只抛 2 次得 1 正 1 反，难道就断定 $\theta=0.5$？没人敢下这个结论。

6.3　贝叶斯的做法：先验 × 似然

设先验为 $\theta\sim\mathrm{Beta}(a,b)$，即式 (6.1)。现在抛 $n$ 次，观测到 $y$ 次正面。给定 $\theta$，这组观测的似然由二项分布给出：

由贝叶斯定理，后验正比于「似然 × 先验」，再除以与 $\theta$ 无关的证据 $P(\text{data})$ 做归一化。我们把它完整地写出来。

6.4　从头推导：先验与后验，形式上的统一

把似然 (6.2) 与先验 (6.1) 相乘、再除以归一化积分：

第一步：分子分母里都含有与 $\theta$ 无关的常数 $\dbinom{n}{y}\big/B(a,b)$，上下抵消。剩下的只是 $\theta$ 的幂次相乘——把指数合并：$\theta^{y}\cdot\theta^{a-1}=\theta^{\,y+a-1}$，$(1-\theta)^{n-y}\cdot(1-\theta)^{b-1}=(1-\theta)^{\,n-y+b-1}$：

第二步：分母那个积分，正是 Beta 函数的定义 $\displaystyle\int_0^1\theta^{p-1}(1-\theta)^{q-1}d\theta=B(p,q)$，此处 $p=y+a,\ q=n-y+b$。于是

6.5　这不是偶然：共轭，一种工程化的技巧

「Beta 进、Beta 出」并不是这枚硬币的巧合，而是先验与似然般配时的普遍现象，背后有深刻内涵。我们给它一个名字：

6.6　参数即累积观测：读懂 Beta(1,1) → Beta(10,10)

更新规则 (6.5) 还藏着一个漂亮的解读。从「零信息」的 $\mathrm{Beta}(1,1)$ 出发，做 $18$ 次观测、$9$ 次正、$9$ 次反，则

6.7　共轭不止一对（承上启下）

伯努利 / 二项 与 Beta 只是最先遇到的一组。共轭组合还有很多，且各有其适用的数据类型：

实践中正态似然尤为常见（我们常把似然设为高斯），其共轭先验可取 Normal / Gamma / Inverse Gamma，选择灵活。第 14 章将系统列出共轭族，并把它们用到可靠性工程——如用 Gamma–Poisson 给故障率建模、用 Gamma–Exponential 做剩余寿命估计。

第 7 章模型复杂度与分段建模

一个模型不够用时，代价与收益的博弈

进入第三部分，我们从一个朴素的工程困惑开始：当单一模型刻画不了数据时怎么办？最直接的想法是「分段」——把数据切成几段、各用一个简单模型。但分段并非没有代价。本章把这笔账算清楚，并由此自然引出下一章的混合模型。

7.1　分段的代价：参数膨胀

用一条直线 $y=ax+b$ 拟合，只要 2 个参数。若把定义域切成 3 段，参数会多出来：

• 每段之间的分段点位置——3 段有 2 个内部分段点；
• 每段各自的 $a,b$——3 段就是 $3\times2=6$ 个。

于是参数从 2 个增加到 8 个（每段 $y=ax+b$ 共 $3\times2=6$ 个，加 2 个分段点位置）。分得越细，参数越多；参数越多、自由度越高，就越容易拟合噪声——这正是下一节过拟合的根源。

7.2　分段的隐患：信息割裂与过拟合

把数据切分后，每一段都看不到其它段的信息。若某段本身含噪声，建模就容易被噪声带偏。一个极端的反例最能说明问题：

所以分段建模本质是一门折中的艺术：分多少段、在哪里分，听起来非常经验（empirical），需要大量假定、推测与验证。它相对单一模型唯一确定的好处是「误差变小」，其余全是要权衡的负担。

7.3　什么样的分段才「有道理」

分段要分得有依据——背后得有合理的先验。

这个例子也埋下伏笔：男生、女生各是一个高斯，整体就是两个高斯的叠加——这正是下一章混合模型的雏形。

7.4　分段的连接问题 → 走向混合模型

简单分段还有个毛病：分段连接处往往不连续、不光滑、不可导，对建模不利。怎么办？把硬切换成软叠加——不再用「非此即彼」的分段，而是把若干个分布按权重相加，让它们平滑地融合。

第 8 章混合模型与高斯混合模型（GMM）

把多个简单分布「加权叠加」，刻画复杂数据

上一章把「硬分段」转向「软混合」。本章给出混合模型的精确形式，并聚焦工程中最常用的高斯混合模型（GMM）。它回答的问题是：当数据明显由几个子群构成时，如何用一个统一的概率模型去描述？

8.1　混合模型的定义

8.2　高斯混合模型（GMM）

当每个成分都取高斯分布、但均值与方差各不相同时，混合模型就成了 GMM。例如把三个不同的高斯按权重叠加：

• 一维（Univariate）：每个成分是一条钟形曲线，叠加后可呈现多峰。
• 多维（Multivariate）：每个成分是一个多元高斯（带均值向量与协方差矩阵），叠加后描述高维数据的多个聚集团。

8.3　核心难题：参数怎么估？

对单个高斯，估计 $\mu,\sigma$ 很容易（直接套样本均值、样本方差）。但 GMM 要同时估两类未知量：

• 每个成分的分布参数 $\theta_i=(\mu_i,\sigma_i)$；
• 每个成分的混合权重 $p_i$。

更麻烦的是，我们手上只有一堆没有标签的数据点（不知道每个点来自哪个成分）。单一分布取对数后 $\ln\prod=\sum\ln$，可逐项求导得到闭式解；而混合模型的对数似然形如 $\displaystyle\sum_{n}\ln\Big(\sum_{i} p_i\,\mathcal{N}(x_n;\theta_i)\Big)$，对数套在内层求和之外，求导时各成分参数相互耦合、无法分离，因而没有解析解——这正是必须改用 EM 迭代的根本原因。

第 9 章EM 算法（期望最大化）

在「不知道标签」的情况下，把混合分布的参数估出来

期望最大化算法（Expectation–Maximization, EM）是一种迭代方法，用于在含隐变量（如「每个点属于哪个成分」）时，求参数的最大似然 / 最大后验估计。本章用两个高斯的混合把 EM 走通——这是理解后续诊断、聚类乃至许多现代统计学习方法的基石。

9.1　EM 在做什么：一句话直觉

9.2　E 步：计算归属（Expectation）

以两个成分为例：蓝 $B$（参数 $\mu_b,\sigma_b$）与红 $R$（参数 $\mu_r,\sigma_r$）。给定当前参数，点 $x_i$ 在各成分下的似然（高斯密度）为

再用贝叶斯定理，把似然转成后验归属（membership / posterior）——点 $x_i$ 属于 $B$ 的概率：

这正是一个标准的后验计算：先验 $P(B),P(R)$（初始可设相等 $0.5$）× 似然 (9.1)，归一化即得归属。「期望」部分到此完成。

9.3　M 步：更新参数（Maximization）

M 步本质是一个加权的点估计：用每个点的归属作权重，重新算各成分的均值与方差。属于 $B$ 的「软计数」越大，该点对 $B$ 参数的贡献越大。

更新完 $\mu,\sigma,P$ 后，带着新参数回到 E 步重算归属，如此往复，直到参数不再变化（曲线趋于稳定）即收敛。

第 10 章模型选择：AIC 与 BIC

当混合成分数 K 未知时，如何在「拟合」与「复杂度」之间取舍

GMM 要事先指定成分数 $K$。但现实里 $K$ 常常未知——这又回到第 7 章那个老问题：到底分几段 / 几类才合适？本质是模型精度与模型复杂度之间的权衡（trade-off）。AIC 与 BIC 就是把这个权衡量化的准则。

10.1　为什么需要复杂度惩罚

重温那个反例：用 99 条线段拟合 100 个点，误差为零却毫无意义。可见单看「拟合误差」会把我们引向越复杂越好的歧路。所以好的准则必须由两部分相加：

最小化这个和，就能在「拟合好」与「别太复杂」之间找到平衡点。

10.2　两个准则

其中：$L$ 为模型的最大似然（拟合越好 $L$ 越大，$-2\ln L$ 越小）；$K$ 为参数个数；$n$ 为样本量。两式都遵循「拟合优度 + 复杂度惩罚」的结构，取值越小的模型越优。

BIC 的惩罚项含 $\ln(n)$。当样本量 $n\ge 8$ 时（此时 $\ln n>2$，因两者相等点为 $\ln n=2\Rightarrow n=e^{2}\approx 7.39$），BIC 对每个参数的惩罚 $\ln n$ 超过 AIC 的 $2$，因而更偏好简单模型。

10.3　与「损失函数」的统一视角

如果你做过机器学习或贝叶斯优化，会发现这与损失函数是一回事：损失 = 拟合误差项 + 复杂度（正则 / 惩罚）项。用一个直观的写法：

其中 $M$ 是模型复杂度（如参数个数），$f(\cdot)$ 是惩罚函数，$k$ 是可调系数。

第 11 章诊断检测与基率谬误：HIV 检测案例

为什么「99% 准确的检测」可能是个陷阱——以及它对可靠性检测的警示

本章是贝叶斯定理在诊断检测上的经典应用，也是一个极具冲击力的反直觉结论。它和第 3 章的机床例子结构完全相同，但结论颇违直觉。对可靠性工程师而言，它直接关系到「一个检测工具是否可信」这一根本问题。

11.1　问题设定

已知一种新的 HIV 检测：

• 灵敏度（sensitivity）95%：真患病者被检出阳性的概率 $P(X=1\mid\theta=1)=0.95$；
• 特异度（specificity）98%：真健康者被检出阴性的概率 $P(X=0\mid\theta=0)=0.98$，故假阳性 $P(X=1\mid\theta=0)=0.02$；
• 人群患病率（prevalence）0.1%：$P(\theta=1)=0.001$。

问题：某人检测呈阳性，他实际患 HIV 的概率是多少？

11.2　套用贝叶斯定理

11.3　为什么？——基率谬误（Base-Rate Fallacy）

症结在患病率太低。阳性只有两个来源：

• 真患病且检出：$0.001\times0.95=0.00095$；
• 健康却假阳性：$0.999\times0.02=0.01998$。

虽然单个健康人假阳性的概率只有 2%，但健康人基数极大（占 99.9%），这一项乘起来反而远大于真患病项。于是分母被假阳性主导，后验被压得很低。

11.4　对可靠性工程的警示

第 12 章贝叶斯分类与朴素贝叶斯分类器

从「一个特征」到「特征向量」，用一个朴素假设让计算变得可行

前面的诊断都只有一个观测变量（闻到焦味、检测阳性）。但真实问题里，判断往往依赖一组特征：判断一封邮件是否垃圾、判断一个人是男是女、判断一台设备处于哪种故障模式。本章把贝叶斯推断推广到特征向量，并引入朴素贝叶斯分类器（NBC）。

12.1　分类即模式识别

设有 $n$ 个类别，$\theta_i$ 表示第 $i$ 类，$x$ 是观测（特征）。分类就是比较各类的后验，取最大者：

各项含义：$P(\theta_i)$ 是类 $i$ 的先验（如「中大男女比例」）；$P(x\mid\theta_i)$ 是似然；$P(x)$ 是与类别无关的归一化常数（求 $\arg\max$ 时可略去）；$P(\theta_i\mid x)$ 是后验。这是一种判别式用法：得到各类概率后看谁大。

12.2　难题：联合分布估不动

当 $x$ 是 $D$ 维特征向量 $X=[X^1,X^2,\dots,X^D]^{T}$，每个 $X^j\in\{1,2,\dots,K\}$ 时，似然是一个联合分布：

12.3　朴素假设：条件独立

12.4　NBC 的训练：基于频次计数

给定训练集 $T=\{(x_1,\theta_1),\dots,(x_N,\theta_N)\}$，其中 $x_i=(x_i^1,\dots,x_i^D)'$，类别 $\theta_i\in\{c_1,\dots,c_n\}$。训练就是统计频次（$\mathrm{I}(\cdot)$ 为示性函数）：

12.5　完整算例：用 NBC 判 x = (2, M)

训练集共 12 个样本，两个特征 $x^1\in\{1,2,3\}$、$x^2\in\{L,M,H\}$，类别 $\Theta\in\{-1,+1\}$（可类比「男 / 女」或「正常邮件 / 垃圾邮件」）：

第一步 · 先验（数类别）。$\Theta=1$ 有 7 个、$\Theta=-1$ 有 5 个：

第二步 · 似然（在各类内数特征）。我们只需要测试点 $x=(2,M)$ 用到的几项：

第三步 · 比较后验（分母 $P(x)$ 相同，只比分子）：

因为 $\tfrac{1}{14}>\tfrac{1}{30}$，判为 $\hat\theta=+1$。归一化后置信度约为

第 13 章可靠性案例：挑战者号 O 型圈灾难

把贝叶斯一步步搭起来——从温度到失效概率的完整推理链

这是本课程的压轴可靠性实案，也是把前面所有要素（先验、似然、伯努利分布、Logistic 函数、后验抽样、可信区间）组装成一条完整推理链的范例。它来自经典读物 Bayesian Methods for Hackers。

13.1　背景

1986 年 1 月 28 日，挑战者号航天飞机升空不久，一个火箭推进器发生爆炸，机上 7 名成员全部遇难。官方结论：事故起因是推进器上的 O 型密封圈存在缺陷，这种缺陷源于不合理的设计，使 O 型圈对包括外界温度在内的诸多因素极其敏感。

数据显示：此前的飞行中大量出现过 O 型圈缺陷；但发射前夜的讨论只重视了少数几次有明确损伤的飞行，其余被认为「没有显著趋势」。问题恰恰在于：温度与事故之间没有一个清晰的「转折点」，量化分析的缺失，让这一本可避免的风险没有被充分暴露。

核心问题：在温度 $t$ 时，事故发生的概率 $p(t)$ 是如何变化的？

13.2　建模四步：把先验知识逐层注入

1. 设计温度相关函数 $p(t)\in[0,1]$。 从数据趋势看，温度升高时缺陷概率 $p(t)$ 应由 1 向 0 变化。选用 Logistic 函数（逻辑斯蒂函数）（logistic function）——其取值天然落在 $[0,1]$，恰好可解释为概率：
   $$ p(t)=\frac{1}{1+e^{\beta t}}. \tag{13.1}$$
2. 增加偏置项 $\alpha$。 纯逻辑函数关于原点对称、无法左右平移。加一个偏置 $\alpha$，让曲线能左偏 / 右偏，从而更准确地刻画 $p(t)$ 与温度的关系：
   $$ p(t)=\frac{1}{1+e^{\beta t+\alpha}}. \tag{13.2}$$

   这里约定 $\beta>0$：温度 $t$ 越高，$e^{\beta t+\alpha}$ 越大，$p(t)$ 越接近 0，即「温度越高、缺陷概率越低」，与散点趋势一致；偏置 $\alpha$ 则决定曲线沿温度轴左右平移的位置。$\alpha,\beta$ 正是下一步要由数据估计的未知参数。

3. 用伯努利分布连接「概率」与「事件」。 把每次飞行「是否出现缺陷」的事件 $D_i$ 设为伯努利随机变量（Bernoulli，成功取 1、失败取 0），其参数正是该温度下的缺陷概率：
   $$ D_i\sim \mathrm{Ber}\big(p(t_i)\big). \tag{13.3}$$
   这与抛硬币完全同构——$p(t_i)$ 就是「这枚（随温度而变的）硬币」正面朝上的概率。
4. 设先验、做后验更新。 最朴素的先验：认为各温度下缺陷概率 $p(t_i)=0.5$，对应参数
   $$ \alpha=\beta=0. \tag{13.4}$$
   再用历史观测数据，对 $(\alpha,\beta)$ 做后验抽样，得到它们的后验分布。

13.3　结果与判读

基于后验抽样，取均值得到 $p(t)$ 的估计，并计算其可信区间（credible interval——贝叶斯框架下由后验分布直接得到的区间，与频率学派的「置信区间」含义不同）：

第 14 章共轭先验：共轭族与可靠性应用

把第 6 章的发现系统化，并落到可靠性工程

第 6 章我们从一枚硬币出发，亲手推导出「Beta 是二项的共轭先验」，并把共轭理解为一种让贝叶斯计算落地的工程化技巧。本章把视角系统化：先重新审视先验、似然、后验三者的关系，再给出常用共轭族的对照表，最后落到可靠性工程的具体场景。

14.1　重新审视先验 / 似然 / 后验的关系

回到贝叶斯定理。把事件 $B_i$ 写成连续参数 $\theta$，分母由求和变积分：

正是凭着这一视角，第 6 章才能一眼认出后验分子 $\theta^{\,y+a-1}(1-\theta)^{\,n-y+b-1}$ 就是 Beta 的核，从而直接写出

14.2　常用共轭族对照表

Beta–二项 只是最先遇到的一组。下表列出几组常用共轭对——它们各自匹配一类数据模型（更完整的列表可查 Wikipedia「Conjugate prior」）：

实践中 Normal 似然最常见（高斯是最常用的分布），其共轭先验可选 Normal / Gamma / Inverse Gamma，选择较为灵活。设计模型时优先选用共轭组合，可保证后验有闭式、并支持无限递推更新（详见第 6 章）。

14.3　共轭在可靠性工程中的应用

把共轭对用到可靠性建模、保修分析、失效模式分析、维修策略优化、故障预测与健康管理（PHM）、质量控制、结构健康监测等场景：

挑战者号案例（第 13 章）也可由此重做：它的先验 / 似然有多种合理选择——这正是该案例期末作业的探索空间。

第 15 章贝叶斯网络：因果网络、d-分离与链式法则

当变量很多、彼此牵连时，如何紧凑地表示与推理

前面的贝叶斯都在少数几个变量间打转。现实系统却由大量相互关联的变量构成。贝叶斯网络（Bayesian Network）用「节点 + 有向边」把变量间的因果/关联结构画出来，从而紧凑地表示联合分布并做推理——这是连接「贝叶斯」与「复杂可靠性系统」的桥梁。

15.1　因果网络与几个直觉例子

因果网络由一组变量与一组连接它们的有向弧构成，用来推断「一个变量的确定性变化如何影响其它变量」。课堂上的几个经典小例子：

• 恶心 Nausea：流感 $F$、沙门氏菌 $S$ 都可能导致恶心 $N$。
• 结冰路面 Icy Road：路面结冰 $I$ 可能同时导致 Holmes 出车祸 $H$、Watson 出车祸 $W$。
• 降雨 Rainfall：降雨 $R$ → 水位 $W$ → 洪水 $F$（串行）。
• 湿草坪 Wet Grass：是否有云 → 是否开洒水器 / 是否下雨 → 草坪是否变湿。

15.2　三种连接与证据传递

证据能否沿一条路径传递，取决于中间节点的连接类型和它是否被「实例化」（即取值已知 / 被观测）：

15.3　贝叶斯网络的定义

15.4　d-分离（d-separation）

15.5　链式法则：紧凑表示联合分布

贝叶斯网络最大的价值在于紧凑表示：联合分布等于每个变量「在其父节点条件下」的概率之积。

15.6　范例：湿草坪网络

各节点的条件概率表（$T$＝真，$F$＝假）：

15.7　贝叶斯网络的学习

这里的「学习」特指从数据中估计网络的参数（条件概率表 CPT）与结构（DAG），比第 4 章泛指的「随新数据更新信念」更为具体。

真实贝叶斯网络可以非常复杂（几十上百个节点）。这正是它能承载复杂可靠性系统的原因——下一章给出工程实案。

第 16 章贝叶斯网络的可靠性工程应用案例

从人因可靠性到发动机诊断、无人机风险评估

本章把贝叶斯网络落到四个真实工程方向：人因可靠性、人机界面评价、复杂发动机故障诊断、无人机事故风险评估。它们共同说明：当系统复杂、变量众多、因果交织时，贝叶斯网络是把「机理知识 + 数据」融合起来做诊断与预测的有力工具。

16.1　案例一：飞机作战效能评估中人的可靠性

16.2　案例二：基于人因可靠性的民机驾驶舱人机界面评价

将民机驾驶舱人机界面的要素，按经典的 SHEL 框架分为四个方面，并研究飞行员（L）与其余要素之间的关系：

评估内容即确定为 L–L、L–S、L–H、L–E 之间的关系研究。

16.3　案例三：复杂发动机系统的故障诊断

思路是把发动机系统 + 领域知识转化为贝叶斯网络结构，再用其做故障诊断推理：把观测到的异常征兆（如排气温度升高、振动超标）作为证据节点输入，由链式法则（式 15.1）反向推理各部件故障节点的后验概率，后验最高者即最可能的根因。

16.4　案例四：数据驱动贝叶斯网络的无人机事故风险评估

基于无人机事故报告数据集，构建树增强朴素贝叶斯网络（TAN-BN，Tree-Augmented Naive Bayes）模型。它在朴素贝叶斯的「条件独立」之上，引入树状结构以允许从数据中加入额外的特征间依赖信息——是第 12 章 NBC 的自然推广。

附录作业集、参考文献与联系方式

把课堂布置的练习与延伸资料集中于此

A. 作业集

A.1　常规作业

A.2　Bonus 作业（选做，不计分）

• 诊断检测延伸：自拟一个类似 HIV 检测的问题并求解；进一步用矩阵 / 表格或曲线，刻画 sensitivity、specificity、prevalence 与最终检出可信度之间的关系。
• 垃圾邮件 NBC：到 B 站搜索「朴素贝叶斯 + 垃圾邮件检测」，看一个实现，作为课程补充学习。

B. 参考文献与延伸阅读

1. Cameron Davidson-Pilon. Bayesian Methods for Hackers: Probabilistic Programming and Bayesian Inference.（挑战者号案例出处；有电子版）
2. Wikipedia. Conjugate prior.（共轭族对照表更完整的版本，见第 14 章）
3. Liu N. et al. Fault detection and diagnosis using Bayesian network model combining mechanism correlation analysis and process data: Application to unmonitored root cause variables type faults.（第 16 章 发动机诊断案例）
4. SUN X, et al. Risk assessment of unmanned aerial vehicle accidents based on data-driven Bayesian networks. Reliability Engineering & System Safety, 2024, 248: 110185.（第 16 章 无人机 TAN-BN 案例）

C. 课程信息

《贝叶斯方法与可靠性工程 · 系列讲义》v1.0　由讲义 PPT、备课及课堂实录整理而成。
本讲义按章拆分、便于持续更新——欢迎在此基础上继续打磨与扩充。