PHM2016 实验报告

面向半导体制造分布跳变的双流自适应在线预测框架

目录

  1. 当前模型框架
    1. 全局运行范式
    2. 模块一:晶圆内时序编码器
    3. 模块二:晶圆间退化编码器
    4. 模块三:自适应不确定性融合
    5. 模块四:延迟感知跳变检测与极速响应
    6. 模块五:状态感知与双速在线微调
  2. 实验结果
  3. 结果分析
    1. 优势分析
    2. 不足之处
    3. 调整方向

当前模型框架

全局范式

带延迟的流式交替评估

摒弃传统的静态"训练集/测试集"划分,完全贴合工业流水线场景。系统采用以下两阶段全局运行范式:

1

预训练热身期

利用历史前 64 个晶圆数据,完成双流编码器和条件网络的离线初始化,建立元跳变知识基础。

2

带延迟的流式在线期(延迟 $k$)

推断:第 $t$ 片晶圆加工完毕,立刻输入模型进行 MRR 预测。此时真实量测值存在 $k$ 步延迟(通常 $k \ge 1$)。

更新:当量测机台传回第 $t-k$ 片晶圆的真实 MRR 值 $Y_{t-k}$ 时,将其与 $X_{t-k}$ 组成闭环样本加入经验回放池,触发模型在线微调与分布跳变检测。

晶圆 $t$ 加工
即时推断 $\hat{Y}_t$
等待 $k$ 步延迟
获取 $Y_{t-k}$
在线更新 / 跳变检测
模块一

微观视角 — 晶圆内时序编码器

核心目标:捕捉单片晶圆的多传感器时序动态特征,并在分布跳变时实现极速特征空间对齐。
  • 输入与预处理(引入掩码机制)
    • 接收时序矩阵。由于加工时间微调导致不同晶圆时序长度不一,预处理阶段采用 Padding + 掩码生成策略。Transformer 计算时会忽略无效的 Padding 区域,保证时序特征的严谨性。
    • 计算特征均值作为初始 [CLS] 令牌插入序列起始位置。
  • Transformer 骨干网络
    • RoPE(旋转位置编码):天然适应序列长度的变化,精准捕捉局部相对时间依赖。
    • LoRA 微调:仅在 Q/K/V 和 FFN 引入低秩矩阵,极大降低流式在线更新的算力开销。
    • AdaLN 极速域自适应:缩放和平移参数 $\gamma, \beta$ 由一个"条件网络"动态生成。在 64 个点的预训练期,该条件网络通过学习历史多次耗材更换的模拟数据,掌握了元跳变知识。因此在线推断时,仅需输入跳变后极少样本的统计特征,即可瞬间生成正确的对齐参数,强制将特征空间拉回稳态。
  • 预测输出头

    提取 [CLS] 向量送入 MLP,输出微观预测值 $\hat{Y}_{\mathrm{intra},\, t}$。

模块二

宏观视角 — 晶圆间退化编码器

核心目标:追踪 Run-to-Run (R2R) 的全局渐进式退化,并巧妙跨越量测延迟的"数据真空期"。
  • 特征构建(跨越量测延迟的上下文拼接)

    当前 $t$ 时刻的输入由两部分拼接:

    • 实时全局特征:第 $t$ 晶圆数据矩阵各特征维度的均值。
    • 延迟容忍上下文:由于 $Y_{t-1}$ 不可得,系统提取最近可用的真实数据与近期预测数据构建混合状态向量:$\big[$ 最新可用真实 MRR $Y_{t-k}$,局部预测序列一阶差分 $\hat{Y}_{t-1} - \hat{Y}_{t-2}$,局部滚动标准差 $\big]$。这保证了在没有最新真实标签时,模型仍能感知当前的退化斜率。
  • GRU 序列建模

    处理上述拼接向量,提取宏观退化特征。

  • 延迟残差预测范式
    • 由于最新状态不可知,历史滑动指数均值(EMA)退回至基于 $t - k$ 时刻计算。
    • GRU 预测当前值与延迟 EMA 之间的残差 $\hat{R}$。
    $$\hat{Y}_{\mathrm{inter},\, t} = \mathrm{EMA}_{\mathrm{history}}(\le t-k) + \hat{R}$$

    此设计有效过滤了基线漂移,使模型专注于预测当前状态与历史稳态之间的偏差。

模块三

推断期 — 自适应不确定性融合

核心目标:动态评估两个编码器的当前可靠性,给出最优融合预测。
  • 延迟校准的不确定性量化

    双流编码器分别通过 ACI(自适应共形推断)模块,利用历史 $t - k$ 步累积的误差分数,实时生成当前预测的置信区间。

  • 基于温度调节的 Softmax 融合

    提取 ACI 输出的区间宽度 $W_1, W_2$ 作为不确定性度量。为避免跳变初期某一路权重骤降为 0 导致容错率丧失,采用带温度系数 $\tau$ 的 Softmax 计算融合权重:

    $$w_i = \frac{\exp(-W_i / \tau)}{\displaystyle\sum_{j=1}^{2} \exp(-W_j / \tau)}, \qquad \tau \text{ 为温度系数}$$

    系统最终预测为两路加权融合:

    $$\hat{Y}_{\mathrm{final},\, t} = w_1\, \hat{Y}_{\mathrm{intra},\, t} + w_2\, \hat{Y}_{\mathrm{inter},\, t}$$
模块四

监控期 — 延迟感知的跳变检测与极速响应

核心目标:引入独立的轻量级影子系统监控严苛概念漂移(严格 $P(Y \mid X)$ 突变),并针对量测延迟导致的"主干状态污染"问题执行后验式系统回滚与极速冷启动。

独立监控基座:影子 MLP

在主干双流网络之外,并行维护一个极轻量级(双层)的"影子 MLP"。由于其参数量极小且仅在确认的稳态下进行微调,它只能拟合半导体物理加工最基础的"大趋势"映射,无法过拟合复杂的噪声或渐进老化。当真实的物理跳变(如耗材物理极限突破、化学液质变)发生时,影子 MLP 会瞬间爆发出极其尖锐、纯粹的预测残差

  • 阶段 1:影子评估与贝叶斯警戒

    检测针对刚刚到达的真实标签 $Y_{t-k}$:

    • 残差计算:影子 MLP 对 $X_{t-k}$ 进行推断,计算基准残差 $E_{\mathrm{shadow},\, t-k} = \lvert Y_{t-k} - \hat{y}_{\mathrm{shadow}} \rvert$
    • 贝叶斯似然比检验(BLR):动态计算该残差在"稳态假设 $H_0$"与"跳变假设 $H_1$"下的似然比,并更新累积似然分数 $S_t$:
      $$\Lambda_t = \frac{P(E_{\mathrm{shadow}} \mid H_1)}{P(E_{\mathrm{shadow}} \mid H_0)}$$
    • 异常拦截:若 $S_t$ 突破初始警戒线,立刻将该样本隔离(拒绝进入经验回放池),并暂时冻结主干网络的所有在线微调,防止可疑数据污染模型。
  • 阶段 2:累积确诊
    • 若后续 $t-k+1$ 的真实数据令影子残差回落,累积分数 $S_t$ 衰减,系统判定首个异常为偶然物理噪声,解除微调冻结,将该点作为 Outlier 丢弃。
    • 若连续获取的标签令影子残差居高不下,$S_t$ 连乘突破最终确诊阈值,系统正式宣告发生严格分布跳变
  • 阶段 3:后验状态回滚与架构重置

    在 $t$ 时刻才确诊了 $t-k$ 时刻发生的跳变,主干网络在真空期内已吸收了 $k$ 步错误的预测状态。确诊后立刻触发以下强纠错机制:

    • a. 状态回滚:强制将宏观 GRU 的隐藏层状态和历史 EMA 基线倒带(Rollback)至 $t-k-1$ 时刻的无污染快照。
    • b. AdaLN 极速对齐:将跳变点 $X_{t-k}$ 的统计特征输入至模块一的"元学习条件网络",瞬间刷新 $\gamma, \beta$ 参数,强制底层网络适应新的特征空间。
    • c. 残差基准重建:宏观基线退化为用跳变后的 1–2 个真实点做简单移动平均(SMA),作为新退化周期的起点。
    • d. 状态清空与重放:清空经验回放缓冲区,利用修正后的最新模型对流水线上尚未得到真实量测值的晶圆($t{-}k{+}1$ 至 $t$)重新进行一次前馈推断,覆盖错误的预测历史。
模块五

更新期 — 状态感知与双速在线微调

核心目标:在维持模型对历史数据记忆的同时,敏捷追踪渐进式退化,并解决单样本梯度震荡问题。
  • 动态预热的经验回放
    • 模块四触发 Buffer Flush 后,缓冲区内样本极少。此时冻结 Transformer 和 GRU 的反向传播(凭借 AdaLN 支撑初期预测精度),防止极小 Batch Size 导致模型崩溃。
    • 当 Buffer 累积样本量达到最小阈值($\mathrm{Batch} > 8$)后,正式恢复深层网络在线微调。
  • 参数解耦与双速学习率
    • 慢通道:冻结主体,仅微调 LoRA 和 MLP,赋予小学习率 $\eta_{\mathrm{intra}}$,保护局部空间拓扑记忆。
    • 快通道:负责追踪渐进式磨损,赋予大学习率 $\eta_{\mathrm{inter}} = 5\,\eta_{\mathrm{intra}}$,充当快速学习者。
  • 流式优化器适配

    为应对流式 Non-IID 数据,重置优化器状态字典,并将 Adam 等优化器的动量参数 $\beta_1, \beta_2$ 大幅调低或直接采用 SGD,彻底消除历史分布残余动量对新梯度更新的拖拽效应。

实验结果

Data 1 — 实验结果
Test RMSE (融合)
3.888
Train RMSE
3.722
Test RMSE (Intra)
4.338
Test RMSE (Inter)
3.933
MAPE
4.07%
Data1 — 融合预测总览
图1-1 融合预测(Train & Test)vs Ground Truth
Data1 — Intra 预测及置信区间
图1-2 晶圆内编码器(Intra)预测及 95% 置信区间
Data1 — Inter 预测及置信区间
图1-3 晶圆间编码器(Inter)预测及 95% 置信区间
Data 2 — 实验结果
Test RMSE (融合)
3.917
Train RMSE
3.145
Test RMSE (Intra)
4.281
Test RMSE (Inter)
3.843
MAPE
1.91%
Data2 — 融合预测总览
图2-1 融合预测(Train & Test)vs Ground Truth
Data2 — Intra 预测及置信区间
图2-2 晶圆内编码器(Intra)预测及 95% 置信区间
Data2 — Inter 预测及置信区间
图2-3 晶圆间编码器(Inter)预测及 95% 置信区间
Data 3 — 实验结果
Test RMSE (融合)
4.607
Train RMSE
4.583
Test RMSE (Intra)
5.867
Test RMSE (Inter)
4.631
MAPE
4.44%
Data3 — 融合预测总览
图3-1 融合预测(Train & Test)vs Ground Truth
Data3 — Intra 预测及置信区间
图3-2 晶圆内编码器(Intra)预测及 95% 置信区间
Data3 — Inter 预测及置信区间
图3-3 晶圆间编码器(Inter)预测及 95% 置信区间

结果分析

优势分析

  • 1
    不确定性感知融合的有效性

    基于自适应共形推断(ACI)生成置信区间,并依据双流编码器的预测不确定性动态分配融合权重。最终融合预测在 Data1(RMSE 3.888)和 Data3(RMSE 4.607)上均同时优于单独的晶圆内编码器(Intra)和晶圆间编码器(Inter),验证了不确定性门控融合策略的有效性。在 Data2 上,融合结果(3.917)略高于晶圆间编码器(3.843),表明在 Data2 的低波动场景下 Inter 编码器的宏观退化建模占优,ACI 对 Intra 端不确定性的容错权重分配仍有优化空间。

  • 2
    晶圆间编码器的鲁棒基线性能

    晶圆间编码器(Inter)在未经精细调参的情况下,凭借延迟残差预测范式与 EMA 基线过滤,在三个数据集上均取得了相对稳健的预测表现(Data1: 3.933,Data2: 3.843,Data3: 4.631)。这表明宏观退化特征建模策略具有良好的跨数据集泛化能力,EMA 基线有效抵御了量测延迟期间的基线漂移干扰。

  • 3
    置信区间覆盖率自适应

    从实验图像(图1-2、图2-2、图3-2等)可观察到,ACI 模块生成的置信区间具有良好的自适应性:在稳态阶段(MRR 波动小)置信区间较窄,在分布跳变后或信号高噪声段区间自适应扩宽,体现了模型对自身预测可靠性的准确评估,为下游决策提供了有效的不确定性量化参考。

不足之处

  • 1
    分布跳变识别器稳定性不足

    在设计上,分布跳变识别器旨在捕捉半导体制造过程中的严格概念漂移(如耗材更换、化学液质变)。然而在实现过程中遇到了多重挑战:

    a. 初始方案(融合误差判定)的失败: 最初以双流融合预测误差作为跳变判定依据,但由于融合误差受多种因素干扰(噪声、渐进退化、在线学习滞后等),对短期波动极为敏感,日志分析显示判定结果极不稳定,误报率高,无法在实际中使用。因此主动将跳变识别器与双流编码器进行解耦,转为独立模块设计。
    b. Usage 特征的误导性: 对 Usage 特征跳变与真实 MRR 分布跳变进行比对分析(见图4)后发现,两者并非强相关:仅有少数几个时间戳的 Usage 特征跳变与 MRR 分布跳变同步,其余 Usage 特征跳变与 MRR 分布跳变相互独立。直接采用 Usage 特征跳变作为判断依据将引入大量误检,故转而采用独立的影子 MLP 方案。
    Usage特征跳变与分布跳变对比分析
    图4 Usage 特征跳变时间戳与 MRR 分布跳变对比
    c. 影子 MLP 方案的局限性: 当前影子 MLP 方案存在两个显著问题:其一,连续误判——一旦触发跳变判定,后续往往出现连续多步被误判为跳变,推测是累积似然分数 $S_t$ 的重置逻辑存在缺陷,确诊后未能及时回归稳态基准;其二,漏检率过高——除连续误判外,真实跳变点的检出率偏低,初步判断是确诊阈值的设置未能适应数据的实际噪声分布。这两个问题相互制约,难以在同一阈值设置下同时满足低误报率与高检出率的要求。
  • 2
    晶圆内编码器的性能瓶颈

    晶圆内编码器在三个数据集上的预测精度已超出预期,相较于之前需要较大在线学习率才能达到相近精度的方案,当前 LoRA + AdaLN 的轻量化设计取得了明显改善。然而,与 JIT-PF(自回归 + 粒子滤波)等强基线相比仍存在差距,主要原因可能有以下几点:

    • 晶圆内编码器仅依赖当前晶圆自身的传感器时序数据,缺乏与近邻标签样本之间的相对特征学习,难以在分布跳变后快速重新定标;
    • 分布跳变发生后的冷启动期,缺乏有效的参考锚点,导致初期预测精度下降较为明显;
    • Intra 编码器的不确定性估计(CI 宽度)在跳变后偏宽,反映出模型对新分布的特征理解尚不充分。

调整方向

1
移除分布跳变识别器,回归纯双流架构

综合当前实验发现,分布跳变识别器在通用性、准确性与稳定性之间难以取得平衡,且其引入会增加整个系统的复杂度与不稳定性风险。下一阶段计划将其从框架中移除,回归纯双流编码 + 不确定性门控的核心设计。

去除后的影响评估与应对措施:

  • 去除影子 MLP 后,模型无法主动识别跳变,需依赖 ACI 的区间扩张被动感知分布变化,这对 ACI 的校准精度提出了更高要求;
  • 去除跳变触发的 AdaLN 极速对齐后,晶圆内编码器的在线自适应能力将主要依赖 LoRA 微调,需通过改进 Intra 编码器的输入构造来补偿这一损失(见方向二);
  • 去除异常点隔离机制后,在线微调的抗噪声能力需通过更严格的回放缓冲区质量控制来保障,例如基于预测残差大小过滤极端样本。
该方向的核心理念是:与其通过复杂的显式跳变检测来触发特定的自适应机制,不如通过更鲁棒的编码器设计使模型本身具备更强的自然自适应能力,从而降低系统整体的实现复杂度与失效风险。
2
改进晶圆内编码器:引入标签锚点相对预测范式

为弥补去除 AdaLN 后晶圆内编码器的自适应能力损失,同时提升其在分布跳变后的快速收敛性,提议将晶圆内编码器改造为基于近邻标签晶圆的相对预测范式

构造方式:

  • 将当前待预测晶圆的传感器数据矩阵 $X_t$ 与最近已获得真实 MRR 值的晶圆传感器数据矩阵 $X_{t-k}$ 进行通道维度拼接(或通过交叉注意力机制融合),共同送入 Transformer 编码器;
  • 预测目标由绝对 MRR 值改为两者之间的相对残差 $\Delta Y = Y_t - Y_{t-k}$,最终预测结果为 $\hat{Y}_t = Y_{t-k} + \Delta\hat{Y}$。

优势分析:

  • 自然消除基线漂移:相对预测范式天然消除了跨耗材周期的 MRR 绝对基线漂移问题,使模型更专注于局部动态变化的建模,理论上对分布跳变具有更强的鲁棒性;
  • 极速冷启动:分布跳变后,只要能获得一个新分布下的真实标签作为锚点 $Y_{t-k}$,模型即可立刻以该点为参考基准进行相对预测,无需等待多个样本重新建立新分布的统计特征;
  • 降低对显式跳变检测的依赖:由于相对预测本身具有自校准特性,即便跳变未被显式检测到,只要锚点位于跳变后的新分布中,预测精度便能自然恢复。

潜在问题与应对:

  • 当 $k$ 较大时,锚点样本 $X_{t-k}$ 与当前状态的时间跨度较大,跨步残差可能引入过多噪声。可考虑引入多个近邻锚点(如最近 $m$ 个已标注晶圆)取加权均值,或限制最大参考步长;
  • 拼接两个时序矩阵会使 Transformer 输入长度翻倍,可在编码阶段分别提取两个矩阵的 [CLS] 向量后再拼接,以控制计算开销。
3
改进晶圆间编码器:引入分层稀疏注意力机制

当前 GRU 序列建模仅利用固定滑动窗口内的数据,无法有效捕捉更长周期的退化规律,对跨耗材更换周期的历史模式也缺乏感知。计划将 GRU 改造为基于 Transformer 的分层稀疏注意力结构

架构设计:

  • 窗口外(长期):采用稀疏注意力筛选窗口外的重要历史时间步(如均匀步长采样或基于注意力分数的 Top-K 采样);
  • 拼接后全局注意力:将筛选出的历史时间步与当前滑动窗口内的所有时间步拼接,统一送入全局自注意力,在一次计算中同时捕捉短期精细动态与长期退化趋势。

预期收益:

  • 既保留了对近期退化斜率的精确感知,又使模型具备对历史大周期趋势的长程记忆能力;
  • 在多次耗材更换周期跨越时,长程稀疏注意力有助于学习不同生命周期内退化模式的共性规律(如磨损速率的周期性相似性),提升模型对新周期初期的预测准确率;
  • 相较于直接扩大 GRU 窗口,稀疏注意力在计算开销上更为可控,适合流式在线部署场景。
方向二与方向三可以协同设计:Intra 编码器的相对预测锚点为 Inter 编码器的长程注意力提供了更清晰的分布切换信号,两者在架构上形成互补。