照亮星星的人们 » 日志
【AI动画技术研究】日志更新(290)

今日工作总结

1. 推进项目
- CLIP loss re-implementation + temperature testing 检查loss和温度设定
- weight initialization from CLIP(成功) + SmilingWolf(没成功)
- hyper-parameter re-setting 对照论文设定优化器和lr scheduler
- 使用huggingface accelerate + wandb完成DDP和visualization
- 用fvcore分析para count和FLOPs
- deploying on server + 数值模型测试
- statistical analysis on caption lengths + keyframe lengths

数值模型loss有表现出收敛，但收敛到何种程度尚不清楚，今晚跑一晚上看看
明天继续看accelerate库的加速方法。目前的表现已经远超出预期，看看还能推进到什么地步