thombanal

clip-finetune-recipes

thombanal

Practical CLIP fine-tuning recipes — DDP training, LoRA, hard-negative mining, leakage checks.

AI 简介

这是一个面向CLIP双编码器模型微调的实用工具库,提供开箱即用的训练配方与工程化最佳实践。核心功能包括:支持DDP的分布式训练、LoRA/全参数/线性探针三种微调模式、基于FAISS的图文侧硬负例挖掘、WebDataset流式数据加载、自动去重与数据泄露检测、温度参数稳定性监控等。技术上强调批处理卫生(batch hygiene)、本地损失聚合、低内存开销的对比学习构建,适配中英文多语言场景。适用于需要在自有图文数据集上高效、稳健地微调CLIP模型的研究者与工程师,尤其适合资源有限但追求生产级可靠性的中小团队。

Python
Other
221
Stars
2.7k
Forks
6
Watchers
0
Issues

Star 增长

今日0
近 7 天0
近 30 天0
综合评分10
默认分支main