RUL-QMoE: Multiple Non-crossing Quantile Mixture-of-Experts for Probabilistic Remaining Useful Life Predictions of Varying Battery Materials
Sel Ly、Rufan Yang、Ninad Dixit、Hung D. Nguyen
1. RUL-QMoE: Multiple Non-crossing Quantile Mixture-of-Experts for Probabilistic Remaining Useful Life Predictions of Varying Battery Materials
基本信息
- 标题:RUL-QMoE: Multiple Non-crossing Quantile Mixture-of-Experts for Probabilistic Remaining Useful Life Predictions of Varying Battery Materials
- DOI/URL:https://doi.org/10.48550/arXiv.2512.23725;https://arxiv.org/html/2512.23725v1
- 期刊/会议/预印本平台:arXiv:2512.23725v1,eess.SP;论文注明为第 38 届 Innovative Applications of Artificial Intelligence(IAAI-26)会议论文的扩展版。
- 发表日期:2025-12-19(arXiv v1)。
- 作者和机构:Sel Ly、Rufan Yang、Ninad Dixit、Hung Dinh Nguyen;Nanyang Technological University, Singapore 639798。
- 通讯作者:未能确认。PDF 首页列出 Sel Ly 与 Hung Dinh Nguyen 的 NTU 邮箱,但未明确标注 corresponding author,故不据此猜测。
- 脚本评分:54(通过 arXiv DOI/OpenAlex 丰富元数据后);直接 Manual URL 解析为 45,低于自动通知阈值 55。本次由哥哥指定并经全文复核,人工提升为正式报告。
- 期刊指标核验:arXiv 预印本不适用 JCR/JIF/JCI/CiteScore/SJR;IAAI-26 会议状态依据论文自述,未独立核验正式 proceedings 条目。
- 资助/产业合作:A*STAR Singapore 项目 M23M6c0114;Toyota Motor Engineering & Manufacturing North America, Inc.。作者称模型已进入 Battery Foundation Model / Battery AI 平台第一阶段。
- 可信度:全文级;HTML 与 PDF 均可访问。
纳入理由和命中证据
- 研究目标直接是锂离子电池 Remaining Useful Life 概率预测,不属于普通材料合成、热管理或储能调度论文。
- 题名、摘要和正文均明确提出 RUL-QMoE,输出 RUL 多分位数、预测区间和生存概率。
- 工作覆盖 LFP、NCA、NMC、LCO、NMC-LCO 五类正极体系,并将材料差异纳入专家分工和 gating,直接回应跨化学体系泛化问题。
- 论文包含七个真实数据源、早期循环输入、传统 ML/DL 基线比较和部署讨论,研究完整度高于仅在单一 NASA/CALCE 数据集验证的常规 RUL 论文。
创新点
- 材料专属专家网络:五个 expert 分别针对 LFP、NCA、NMC、LCO、NMC-LCO,gating 网络根据输入动态分配权重,而不是让一个单体模型强行拟合全部化学体系。
- 非交叉分位数输出:用 Softplus 生成严格正的 quantile gaps,再累加构造有序分位数,从结构上保证
Q(τ1) < Q(τ2) < ... < Q(τK),避免独立分位数回归常见的 quantile crossing。 - 概率型 RUL 而非单点估计:从 11 个分位数构造条件 PDF/CDF/生存函数,可给出预测区间和任意寿命阈值的生存概率。
- 跨数据集/跨化学体系统一特征管线:将七个公开数据源标准化为材料、额定容量、电压范围、倍率和早期放电 V-Q 曲线等统一输入。
- 两阶段训练:先训练材料专家,再 warm-start 联合训练 gating 并微调 experts,在专业化与全局泛化之间折中。
主要内容
- 论文将 RUL 定义为电池容量下降至寿命阈值前剩余可运行循环数,文中以 80% nominal capacity 作为示例阈值。
- 输入包含正极材料 one-hot、额定容量、最小/最大电压、充放电倍率,以及 cycle 10–100 的放电电压-容量曲线。
- 每条放电曲线插值到 1000 个固定容量点;论文称最终输入向量维度为 1010。
- 五个 expert 使用带归一化、可选 dropout、ReLU FFNN 和 skip connection 的网络;初始分位数分支给出基准,quantile-gap 分支经 Softplus 产生正间隔。
- gating 由四层线性层及 LeakyReLU 构成,最后以 softmax 输出五个 expert 权重;各 expert 的分位数按权重求和。
- 训练损失为多分位数 pinball loss 的平均值。作者以 11 个分位数
{0.05, 0.1, 0.2, …, 0.9, 0.95}为例。 - 模型可通过核平滑从离散分位数估计条件 PDF/CDF,进而计算生存函数、预测区间和风险阈值。
模型架构/方法流程
- 从七个电池数据源读取完整循环数据并经 BatteryML 标准化管线预处理。
- 提取材料、容量、电压范围、充放电倍率和 cycle 10–100 放电 V-Q 曲线。
- 将放电曲线插值至固定容量网格,形成 1010 维输入。
- Stage 1:按五类正极材料分别训练五个 non-crossing quantile expert。
- Stage 2:以预训练 experts 为 warm start,联合训练 gating 并微调 experts。
- 输出多个 RUL 分位数;以中位数
Q(0.5)作为单点 RUL 估计。 - 从多分位数输出构建预测区间、生存概率及条件分布,用于风险感知维护。
EOL/RUL/SOH 定义
- EOL 阈值:正文以容量低于 nominal capacity 的 80% 为示例;各源数据实际停止条件并不完全一致,UL-PUR 等数据存在 10%–20% capacity fade 条件。
- RUL 单位:循环数 cycles。
- 预测起点:主要以 cycle 100 的早期循环数据进行 benchmark;输入序列覆盖 cycle 10–100。
- SOH/SOC:本论文核心输出是 RUL,SOH/SOC 被列为后续 Stage 2 扩展方向。
- 标签生成:来自各数据集完整寿命记录。是否对不同数据源统一重算 EOL 标签、如何处理数据源原始终止阈值差异,正文说明不够充分。
模型方法
- 方法类别:数据驱动深度学习、Mixture-of-Experts、概率预测、quantile regression。
- 输入特征:正极材料 one-hot、额定容量、Vmin/Vmax、充放电 C-rate、cycle 10–100 放电 V-Q 曲线。
- 输出目标:RUL 多分位数、条件分布、90% prediction interval、生存概率;
Q(0.5)用于 MAE/MAPE/RMSE/R² 评估。 - 新意:将材料专属 MoE 与结构化非交叉分位数输出结合,在多化学体系数据上同时追求泛化与概率一致性。
输入特征与输出目标
- 输入维度:论文报告 1010。
- 曲线预处理:每条放电曲线插值到 1000 个固定容量点。
- 时间范围:cycle 10–100 的早期放电曲线序列。
- 输出:11 个有序 RUL quantiles;由此派生 median RUL、prediction interval、PDF/CDF 和 survival function。
- 部署含义:相比只给一个 RUL 点估计,维护策略可直接使用较保守的下分位数或生存概率阈值。
数据集/电池体系
- 电池体系:锂离子电池,覆盖 LFP、NCA、NMC、LCO 与混合 NMC-LCO 正极体系。
- 数据来源:CALCE、MATR、HUST、HNEI、RWTH、SNL、UL-PUR 七个真实公开数据源,以及由其构成的 CRUH、CRUSH、MIX 聚合集。
- 数据规模:共 403 cells;各数据集的容量、电压窗口、温度、倍率、DoD 与寿命分布存在明显异质性。
- 泛化范围:论文展示已知五类化学体系混合训练/测试表现,但未提供 leave-one-chemistry-out 证据,因此不能等同于对全新化学体系的零样本泛化。
数据来源/数据结构/电池类型/循环协议
| 数据集 | 化学体系 | 额定容量 | 电压范围 | RUL 分布(cycles) | Cells |
|---|---|---|---|---|---|
| CALCE | LCO/graphite | 1.1 Ah | 2.7–4.2 V | 566 ± 106 | 13 |
| MATR | LFP/graphite | 1.1 Ah | 2.0–3.6 V | 823 ± 368 | 180 |
| HUST | LFP/graphite | 1.1 Ah | 2.0–3.6 V | 1899 ± 389 | 77 |
| HNEI | NMC-LCO/graphite | 2.8 Ah | 3.0–4.3 V | 248 ± 15 | 14 |
| RWTH | NMC/carbon | 1.11 Ah | 3.5–3.9 V | 658 ± 64 | 48 |
| SNL | NCA/NMC/LFP-graphite | 1.1 Ah | 2.0–3.6 V | 1256 ± 1321 | 61 |
| UL-PUR | NCA/graphite | 3.4 Ah | 2.7–4.2 V | 209 ± 50 | 10 |
- 合计 403 cells。
- MATR:180 个商业 18650 LFP cells,30°C;统一放电、不同快充策略,至 80% 初始容量。
- HUST:77 个 LFP cells,30°C,多阶段放电策略。
- HNEI:NMC-LCO/graphite 18650,1.5C、100% DoD、环境温度,超过 1000 cycles。
- RWTH:48 个 Sanyo/Panasonic UR18650E,包含 BOL 与周期性 RPT。
- SNL:NCA/NMC/LFP,研究温度、DoD 和放电电流影响。
- UL-PUR:NCA pouch cells,1C、2.7–4.2 V、室温,容量衰减 10%–20%;另有 module 测试。
- 聚合数据:CRUH、CRUSH、MIX;论文指出 Battery Archive 中 SNL、UL-PUR、HNEI 已不能直接下载,需要提交访问请求。
结果指标
按电池体系:
| Battery type | MAE | MAPE | RMSE | R² |
|---|---|---|---|---|
| LFP | 62 | 7.01% | 116 | 97.85% |
| NCA | 36 | 13.80% | 57 | 92.26% |
| NMC | 47 | 8.83% | 61 | 83.83% |
| LCO | 51 | 8.96% | 82 | 33.22% |
| NMC-LCO | 10 | 5.20% | 12 | 83.43% |
| ALL | 55 | 7.82% | 98 | 98.34% |
按聚合/子数据集:
| Battery data | MAE | MAPE | RMSE | R² |
|---|---|---|---|---|
| MATR1 | 53 | 8.05% | 87 | 94.93% |
| MATR2 | 98 | 10.19% | 136 | 80.13% |
| HUST | 47 | 2.56% | 60 | 97.93% |
| SNL | 67 | 9.94% | 93 | 99.44% |
| CLO | 65 | 8.92% | 93 | 92.12% |
| CRUH | 53 | 12.64% | 70 | 84.55% |
| CRUSH | 49 | 10.61% | 68 | 99.55% |
| MIX | 65 | 9.59% | 100 | 96.84% |
- 概率案例:真实 RUL 1599 cycles,预测中位数 1632 cycles,90% PI 为
[1565, 1681],覆盖真值。 - 论文还给出示意:若
P(RUL > 1600)=0.8,表示在 cycle 100 后至少再运行 1600 cycles 的概率为 80%。 - 重要不足:未见系统报告 prediction interval coverage probability、平均区间宽度、CRPS、NLL、quantile calibration error 或各分位数 pinball loss,因此“概率预测更优”的证据没有单点精度比较那么完整。
Baseline/对比方法
- 比较对象来自 BatteryML 基准,包括 XGBoost、Random Forest、CNN、LSTM、PCR、PLSR、Discharge model、Full model 等。
- 论文称 HUST 上 RUL-QMoE RMSE 60 cycles,而最佳对照 Discharge model 为 322 cycles。
- MIX 上 RUL-QMoE RMSE 100 cycles,而 Random Forest 为 197 cycles。
- SNL 上 RUL-QMoE RMSE 93 cycles,而 PCR 为 200 cycles。
- MATR1/MATR2 的改善较小,分别降低 3/15 cycles。
- CRUH 是例外:PLSR 的 RMSE 60 cycles,优于 RUL-QMoE 的 70 cycles。
- 需复核公平性:论文写明使用 cycle 100 data 进行比较,但是否完全复用了相同 split、预处理、调参预算与随机种子,正文没有提供足够细节。
验证设计
- 数据划分:70% training / 30% testing,random seed 42。
- 优化:Adam,learning rate 0.001,batch size 256,hidden units 256。
- Early stopping:patience 20。
- 硬件:Google Colab 免费 T4 GPU。
- 两阶段训练:先独立训练 experts,再联合训练 gating 并 fine-tune experts。
- 优点:覆盖多化学体系与多公开数据集,且给出按 chemistry 与 dataset 的分层结果。
- 缺口:未明确 train/test 是按 cell、数据集还是样本行随机划分;未见 leave-one-dataset-out、leave-one-chemistry-out 或真正未见化学体系外推;未见多随机种子均值/方差、显著性检验、校准曲线和概率评分。
泄漏风险/局限性/复现性
- 泄漏风险:中高,需优先复核。 如果 70/30 是在由同一 cell 产生的循环/曲线样本层面随机切分,同一电池可能同时进入训练与测试,结果会显著乐观。论文没有明确写出 cell-level split。
- 未来信息风险:中。 输入限定 cycle 10–100,理论上适合 early prediction;但应检查标准化、插值、特征选择和标签构建是否只使用训练集与预测时可用信息。
- 跨化学体系泛化证据:中。 训练和测试都来自已知五类化学体系时,MoE 证明的是异构混合数据拟合能力,不等同于对新化学体系 zero-shot 泛化。
- 数据不均衡:明显。 LCO/NMC-LCO/NCA 部分数据集 cells 很少;LCO 的 R² 仅 33.22%,作者也将其归因于小样本和特征代表性不足。
- EOL 定义异质性:需复核。 不同公开集的停止条件/容量衰减阈值可能不同,若未统一重标,会将数据源差异混入 RUL 分布。
- 概率校准不足:明显。 仅展示单个 prediction interval 案例,尚不足以证明区间在全测试集上可靠校准。
- 复现性:中低。 架构、公式、训练超参、seed 和硬件较完整,数据源可识别;但代码仓库未在可访问论文页面中确认,部分数据目前需要申请访问,关键 split 规则与完整调参细节不足。
- 部署证据:中。 Toyota 合作和 Battery AI 平台集成提升了产业相关性,但正文提供的是部署路径和项目阶段描述,不是公开的车队前瞻性验证结果。
对哥哥研究/落地的启发和后续动作
- 将化学体系视为 domain/expert 路由变量,而不是仅作为普通 one-hot 特征;可进一步扩展到厂商、型号、工况、温度、应用场景等层级专家。
- RUL 监测报告应优先记录预测区间下界、coverage、区间宽度和 survival probability,避免只看 MAE/RMSE。
- benchmark 设计应加入:cell-level split、batch-level split、leave-one-dataset-out、leave-one-chemistry-out、跨温度/倍率外推,明确区分 interpolation 与真正 generalization。
- 可复现实验时,先做三个最关键消融:单体 quantile network vs MoE;普通独立分位数 vs non-crossing constraint;已知材料标签 gating vs 完全由曲线自路由。
- 对部署策略,建议采用保守触发:以较低分位数或
P(RUL > threshold)控制更换/维护,而不是以 median RUL 单点触发。 - 追踪代码与 IAAI-26 正式 proceedings;若代码开放,优先复现 MIX、CRUH 和 LCO 三组,因为它们分别代表总体性能、对照模型胜出和小样本失效边界。
是否值得跟进
- 结论:强烈跟进。
- 理由:问题定义重要,MoE 与非交叉分位数结合具有明确方法新意,数据覆盖比常见单数据集论文更广,并与 Toyota Battery AI 项目关联;其价值不仅在平均误差,更在于把 RUL 转化为可用于风险决策的分布和生存概率。
- 条件:在纳入核心 benchmark 或用于工程决策前,必须确认 cell-level split、EOL 标签一致性、概率校准指标和代码可复现性。
查看关键词分类依据
- RUL prediction · 标题包含「remaining useful life」
uantile Mixture-of-Experts for Probabilistic Remaining Useful Life Predictions of Varying Battery Materials - Bayesian · 标题包含「probabilistic」
Non-crossing Quantile Mixture-of-Experts for Probabilistic Remaining Useful Life Predictions of Varying Battery Materials - ECM / electrochemical model · 摘要包含「electrochemical」
tion rates and RUL, as they lead to distinct electrochemical reactions. Unfortunately, RUL prediction models often overlook the cathode mate - Li-ion / LIB · 摘要包含「lithium-ion」
Lithium-ion batteries are the major type of battery used in a variety of everyday applicati - LFP / LiFePO4 · 摘要包含「lfp」
ized expert networks for five battery types: LFP, NCA, NMC, LCO, and NMC-LCO, within a gating mechanism that dynamically assigns - NMC · 摘要包含「nmc」
t networks for five battery types: LFP, NCA, NMC, LCO, and NMC-LCO, within a gating mechanism that dynamically assigns relevance - NCA · 摘要包含「nca」
expert networks for five battery types: LFP, NCA, NMC, LCO, and NMC-LCO, within a gating mechanism that dynamically assigns rele