RUL-QMoE: Multiple Non-crossing Quantile Mixture-of-Experts for Probabilistic Remaining Useful Life Predictions of Varying Battery Materials

Sel Ly、Rufan Yang、Ninad Dixit、Hung D. Nguyen

论文原文 ↗来源页面 ↗

1. RUL-QMoE: Multiple Non-crossing Quantile Mixture-of-Experts for Probabilistic Remaining Useful Life Predictions of Varying Battery Materials

基本信息

  • 标题:RUL-QMoE: Multiple Non-crossing Quantile Mixture-of-Experts for Probabilistic Remaining Useful Life Predictions of Varying Battery Materials
  • DOI/URL:https://doi.org/10.48550/arXiv.2512.23725;https://arxiv.org/html/2512.23725v1
  • 期刊/会议/预印本平台:arXiv:2512.23725v1,eess.SP;论文注明为第 38 届 Innovative Applications of Artificial Intelligence(IAAI-26)会议论文的扩展版。
  • 发表日期:2025-12-19(arXiv v1)。
  • 作者和机构:Sel Ly、Rufan Yang、Ninad Dixit、Hung Dinh Nguyen;Nanyang Technological University, Singapore 639798。
  • 通讯作者:未能确认。PDF 首页列出 Sel Ly 与 Hung Dinh Nguyen 的 NTU 邮箱,但未明确标注 corresponding author,故不据此猜测。
  • 脚本评分:54(通过 arXiv DOI/OpenAlex 丰富元数据后);直接 Manual URL 解析为 45,低于自动通知阈值 55。本次由哥哥指定并经全文复核,人工提升为正式报告。
  • 期刊指标核验:arXiv 预印本不适用 JCR/JIF/JCI/CiteScore/SJR;IAAI-26 会议状态依据论文自述,未独立核验正式 proceedings 条目。
  • 资助/产业合作:A*STAR Singapore 项目 M23M6c0114;Toyota Motor Engineering & Manufacturing North America, Inc.。作者称模型已进入 Battery Foundation Model / Battery AI 平台第一阶段。
  • 可信度:全文级;HTML 与 PDF 均可访问。

纳入理由和命中证据

  • 研究目标直接是锂离子电池 Remaining Useful Life 概率预测,不属于普通材料合成、热管理或储能调度论文。
  • 题名、摘要和正文均明确提出 RUL-QMoE,输出 RUL 多分位数、预测区间和生存概率。
  • 工作覆盖 LFP、NCA、NMC、LCO、NMC-LCO 五类正极体系,并将材料差异纳入专家分工和 gating,直接回应跨化学体系泛化问题。
  • 论文包含七个真实数据源、早期循环输入、传统 ML/DL 基线比较和部署讨论,研究完整度高于仅在单一 NASA/CALCE 数据集验证的常规 RUL 论文。

创新点

  1. 材料专属专家网络:五个 expert 分别针对 LFP、NCA、NMC、LCO、NMC-LCO,gating 网络根据输入动态分配权重,而不是让一个单体模型强行拟合全部化学体系。
  2. 非交叉分位数输出:用 Softplus 生成严格正的 quantile gaps,再累加构造有序分位数,从结构上保证 Q(τ1) < Q(τ2) < ... < Q(τK),避免独立分位数回归常见的 quantile crossing。
  3. 概率型 RUL 而非单点估计:从 11 个分位数构造条件 PDF/CDF/生存函数,可给出预测区间和任意寿命阈值的生存概率。
  4. 跨数据集/跨化学体系统一特征管线:将七个公开数据源标准化为材料、额定容量、电压范围、倍率和早期放电 V-Q 曲线等统一输入。
  5. 两阶段训练:先训练材料专家,再 warm-start 联合训练 gating 并微调 experts,在专业化与全局泛化之间折中。

主要内容

  • 论文将 RUL 定义为电池容量下降至寿命阈值前剩余可运行循环数,文中以 80% nominal capacity 作为示例阈值。
  • 输入包含正极材料 one-hot、额定容量、最小/最大电压、充放电倍率,以及 cycle 10–100 的放电电压-容量曲线。
  • 每条放电曲线插值到 1000 个固定容量点;论文称最终输入向量维度为 1010。
  • 五个 expert 使用带归一化、可选 dropout、ReLU FFNN 和 skip connection 的网络;初始分位数分支给出基准,quantile-gap 分支经 Softplus 产生正间隔。
  • gating 由四层线性层及 LeakyReLU 构成,最后以 softmax 输出五个 expert 权重;各 expert 的分位数按权重求和。
  • 训练损失为多分位数 pinball loss 的平均值。作者以 11 个分位数 {0.05, 0.1, 0.2, …, 0.9, 0.95} 为例。
  • 模型可通过核平滑从离散分位数估计条件 PDF/CDF,进而计算生存函数、预测区间和风险阈值。

模型架构/方法流程

  1. 从七个电池数据源读取完整循环数据并经 BatteryML 标准化管线预处理。
  2. 提取材料、容量、电压范围、充放电倍率和 cycle 10–100 放电 V-Q 曲线。
  3. 将放电曲线插值至固定容量网格,形成 1010 维输入。
  4. Stage 1:按五类正极材料分别训练五个 non-crossing quantile expert。
  5. Stage 2:以预训练 experts 为 warm start,联合训练 gating 并微调 experts。
  6. 输出多个 RUL 分位数;以中位数 Q(0.5) 作为单点 RUL 估计。
  7. 从多分位数输出构建预测区间、生存概率及条件分布,用于风险感知维护。

EOL/RUL/SOH 定义

  • EOL 阈值:正文以容量低于 nominal capacity 的 80% 为示例;各源数据实际停止条件并不完全一致,UL-PUR 等数据存在 10%–20% capacity fade 条件。
  • RUL 单位:循环数 cycles。
  • 预测起点:主要以 cycle 100 的早期循环数据进行 benchmark;输入序列覆盖 cycle 10–100。
  • SOH/SOC:本论文核心输出是 RUL,SOH/SOC 被列为后续 Stage 2 扩展方向。
  • 标签生成:来自各数据集完整寿命记录。是否对不同数据源统一重算 EOL 标签、如何处理数据源原始终止阈值差异,正文说明不够充分。

模型方法

  • 方法类别:数据驱动深度学习、Mixture-of-Experts、概率预测、quantile regression。
  • 输入特征:正极材料 one-hot、额定容量、Vmin/Vmax、充放电 C-rate、cycle 10–100 放电 V-Q 曲线。
  • 输出目标:RUL 多分位数、条件分布、90% prediction interval、生存概率;Q(0.5) 用于 MAE/MAPE/RMSE/R² 评估。
  • 新意:将材料专属 MoE 与结构化非交叉分位数输出结合,在多化学体系数据上同时追求泛化与概率一致性。

输入特征与输出目标

  • 输入维度:论文报告 1010。
  • 曲线预处理:每条放电曲线插值到 1000 个固定容量点。
  • 时间范围:cycle 10–100 的早期放电曲线序列。
  • 输出:11 个有序 RUL quantiles;由此派生 median RUL、prediction interval、PDF/CDF 和 survival function。
  • 部署含义:相比只给一个 RUL 点估计,维护策略可直接使用较保守的下分位数或生存概率阈值。

数据集/电池体系

  • 电池体系:锂离子电池,覆盖 LFP、NCA、NMC、LCO 与混合 NMC-LCO 正极体系。
  • 数据来源:CALCE、MATR、HUST、HNEI、RWTH、SNL、UL-PUR 七个真实公开数据源,以及由其构成的 CRUH、CRUSH、MIX 聚合集。
  • 数据规模:共 403 cells;各数据集的容量、电压窗口、温度、倍率、DoD 与寿命分布存在明显异质性。
  • 泛化范围:论文展示已知五类化学体系混合训练/测试表现,但未提供 leave-one-chemistry-out 证据,因此不能等同于对全新化学体系的零样本泛化。

数据来源/数据结构/电池类型/循环协议

数据集 化学体系 额定容量 电压范围 RUL 分布(cycles) Cells
CALCE LCO/graphite 1.1 Ah 2.7–4.2 V 566 ± 106 13
MATR LFP/graphite 1.1 Ah 2.0–3.6 V 823 ± 368 180
HUST LFP/graphite 1.1 Ah 2.0–3.6 V 1899 ± 389 77
HNEI NMC-LCO/graphite 2.8 Ah 3.0–4.3 V 248 ± 15 14
RWTH NMC/carbon 1.11 Ah 3.5–3.9 V 658 ± 64 48
SNL NCA/NMC/LFP-graphite 1.1 Ah 2.0–3.6 V 1256 ± 1321 61
UL-PUR NCA/graphite 3.4 Ah 2.7–4.2 V 209 ± 50 10
  • 合计 403 cells。
  • MATR:180 个商业 18650 LFP cells,30°C;统一放电、不同快充策略,至 80% 初始容量。
  • HUST:77 个 LFP cells,30°C,多阶段放电策略。
  • HNEI:NMC-LCO/graphite 18650,1.5C、100% DoD、环境温度,超过 1000 cycles。
  • RWTH:48 个 Sanyo/Panasonic UR18650E,包含 BOL 与周期性 RPT。
  • SNL:NCA/NMC/LFP,研究温度、DoD 和放电电流影响。
  • UL-PUR:NCA pouch cells,1C、2.7–4.2 V、室温,容量衰减 10%–20%;另有 module 测试。
  • 聚合数据:CRUH、CRUSH、MIX;论文指出 Battery Archive 中 SNL、UL-PUR、HNEI 已不能直接下载,需要提交访问请求。

结果指标

按电池体系:

Battery type MAE MAPE RMSE R²
LFP 62 7.01% 116 97.85%
NCA 36 13.80% 57 92.26%
NMC 47 8.83% 61 83.83%
LCO 51 8.96% 82 33.22%
NMC-LCO 10 5.20% 12 83.43%
ALL 55 7.82% 98 98.34%

按聚合/子数据集:

Battery data MAE MAPE RMSE R²
MATR1 53 8.05% 87 94.93%
MATR2 98 10.19% 136 80.13%
HUST 47 2.56% 60 97.93%
SNL 67 9.94% 93 99.44%
CLO 65 8.92% 93 92.12%
CRUH 53 12.64% 70 84.55%
CRUSH 49 10.61% 68 99.55%
MIX 65 9.59% 100 96.84%
  • 概率案例:真实 RUL 1599 cycles,预测中位数 1632 cycles,90% PI 为 [1565, 1681],覆盖真值。
  • 论文还给出示意:若 P(RUL > 1600)=0.8,表示在 cycle 100 后至少再运行 1600 cycles 的概率为 80%。
  • 重要不足:未见系统报告 prediction interval coverage probability、平均区间宽度、CRPS、NLL、quantile calibration error 或各分位数 pinball loss,因此“概率预测更优”的证据没有单点精度比较那么完整。

Baseline/对比方法

  • 比较对象来自 BatteryML 基准,包括 XGBoost、Random Forest、CNN、LSTM、PCR、PLSR、Discharge model、Full model 等。
  • 论文称 HUST 上 RUL-QMoE RMSE 60 cycles,而最佳对照 Discharge model 为 322 cycles。
  • MIX 上 RUL-QMoE RMSE 100 cycles,而 Random Forest 为 197 cycles。
  • SNL 上 RUL-QMoE RMSE 93 cycles,而 PCR 为 200 cycles。
  • MATR1/MATR2 的改善较小,分别降低 3/15 cycles。
  • CRUH 是例外:PLSR 的 RMSE 60 cycles,优于 RUL-QMoE 的 70 cycles。
  • 需复核公平性:论文写明使用 cycle 100 data 进行比较,但是否完全复用了相同 split、预处理、调参预算与随机种子,正文没有提供足够细节。

验证设计

  • 数据划分:70% training / 30% testing,random seed 42。
  • 优化:Adam,learning rate 0.001,batch size 256,hidden units 256。
  • Early stopping:patience 20。
  • 硬件:Google Colab 免费 T4 GPU。
  • 两阶段训练:先独立训练 experts,再联合训练 gating 并 fine-tune experts。
  • 优点:覆盖多化学体系与多公开数据集,且给出按 chemistry 与 dataset 的分层结果。
  • 缺口:未明确 train/test 是按 cell、数据集还是样本行随机划分;未见 leave-one-dataset-out、leave-one-chemistry-out 或真正未见化学体系外推;未见多随机种子均值/方差、显著性检验、校准曲线和概率评分。

泄漏风险/局限性/复现性

  • 泄漏风险:中高,需优先复核。 如果 70/30 是在由同一 cell 产生的循环/曲线样本层面随机切分,同一电池可能同时进入训练与测试,结果会显著乐观。论文没有明确写出 cell-level split。
  • 未来信息风险:中。 输入限定 cycle 10–100,理论上适合 early prediction;但应检查标准化、插值、特征选择和标签构建是否只使用训练集与预测时可用信息。
  • 跨化学体系泛化证据:中。 训练和测试都来自已知五类化学体系时,MoE 证明的是异构混合数据拟合能力,不等同于对新化学体系 zero-shot 泛化。
  • 数据不均衡:明显。 LCO/NMC-LCO/NCA 部分数据集 cells 很少;LCO 的 R² 仅 33.22%,作者也将其归因于小样本和特征代表性不足。
  • EOL 定义异质性:需复核。 不同公开集的停止条件/容量衰减阈值可能不同,若未统一重标,会将数据源差异混入 RUL 分布。
  • 概率校准不足:明显。 仅展示单个 prediction interval 案例,尚不足以证明区间在全测试集上可靠校准。
  • 复现性:中低。 架构、公式、训练超参、seed 和硬件较完整,数据源可识别;但代码仓库未在可访问论文页面中确认,部分数据目前需要申请访问,关键 split 规则与完整调参细节不足。
  • 部署证据:中。 Toyota 合作和 Battery AI 平台集成提升了产业相关性,但正文提供的是部署路径和项目阶段描述,不是公开的车队前瞻性验证结果。

对哥哥研究/落地的启发和后续动作

  1. 将化学体系视为 domain/expert 路由变量,而不是仅作为普通 one-hot 特征;可进一步扩展到厂商、型号、工况、温度、应用场景等层级专家。
  2. RUL 监测报告应优先记录预测区间下界、coverage、区间宽度和 survival probability,避免只看 MAE/RMSE。
  3. benchmark 设计应加入:cell-level split、batch-level split、leave-one-dataset-out、leave-one-chemistry-out、跨温度/倍率外推,明确区分 interpolation 与真正 generalization。
  4. 可复现实验时,先做三个最关键消融:单体 quantile network vs MoE;普通独立分位数 vs non-crossing constraint;已知材料标签 gating vs 完全由曲线自路由。
  5. 对部署策略,建议采用保守触发:以较低分位数或 P(RUL > threshold) 控制更换/维护,而不是以 median RUL 单点触发。
  6. 追踪代码与 IAAI-26 正式 proceedings;若代码开放,优先复现 MIX、CRUH 和 LCO 三组,因为它们分别代表总体性能、对照模型胜出和小样本失效边界。

是否值得跟进

  • 结论:强烈跟进。
  • 理由:问题定义重要,MoE 与非交叉分位数结合具有明确方法新意,数据覆盖比常见单数据集论文更广,并与 Toyota Battery AI 项目关联;其价值不仅在平均误差,更在于把 RUL 转化为可用于风险决策的分布和生存概率。
  • 条件:在纳入核心 benchmark 或用于工程决策前,必须确认 cell-level split、EOL 标签一致性、概率校准指标和代码可复现性。
查看关键词分类依据
  • RUL prediction · 标题包含「remaining useful life」
    uantile Mixture-of-Experts for Probabilistic Remaining Useful Life Predictions of Varying Battery Materials
  • Bayesian · 标题包含「probabilistic」
    Non-crossing Quantile Mixture-of-Experts for Probabilistic Remaining Useful Life Predictions of Varying Battery Materials
  • ECM / electrochemical model · 摘要包含「electrochemical」
    tion rates and RUL, as they lead to distinct electrochemical reactions. Unfortunately, RUL prediction models often overlook the cathode mate
  • Li-ion / LIB · 摘要包含「lithium-ion」
    Lithium-ion batteries are the major type of battery used in a variety of everyday applicati
  • LFP / LiFePO4 · 摘要包含「lfp」
    ized expert networks for five battery types: LFP, NCA, NMC, LCO, and NMC-LCO, within a gating mechanism that dynamically assigns
  • NMC · 摘要包含「nmc」
    t networks for five battery types: LFP, NCA, NMC, LCO, and NMC-LCO, within a gating mechanism that dynamically assigns relevance
  • NCA · 摘要包含「nca」
    expert networks for five battery types: LFP, NCA, NMC, LCO, and NMC-LCO, within a gating mechanism that dynamically assigns rele