elonlit

PopRiskMinimization

elonlit

Operationalization of Population Risk Minimization algorithm from "A Theory of Generalization in Deep Learning."

AI 简介

PopRiskMinimization 是一个基于深度学习泛化理论的优化器实现,将论文《A Theory of Generalization in Deep Learning》中的群体风险最小化(PRM)算法工程化为 PyTorch 兼容的 AdamW 替代方案。其核心是在标准 AdamW 更新基础上,引入基于梯度均值与中心化方差比(SNR)的参数级自适应掩码,动态抑制噪声主导的参数更新;支持 soft/hard/snr 三种掩码模式及 per-tensor 降维策略。适用于训练稳定性要求高、小批量噪声显著的场景,如扩散模型、条件流匹配(CFM)和小批量微调任务。

Python
29
Stars
3
Forks
28
Watchers
2
Issues

Star 增长

今日0
近 7 天0
近 30 天0
综合评分38.81
默认分支main