照亮星星的人们 » 日志
【AI动画技术研究】日志更新(270)

今日工作总结

1. 昨日的SVD视频生成的测试结果简单做了一个记录，见链接:
https://www.bilibili.com/read/cv32048081/

2. Mistral, LLama2, Qwen, InternLM, deci, chatGLM等LLM的本地部署。对不同规模、量化策略等展开测试，确定最优模型。

3. 了解LLM推理优化方法。包括flash attention, batch-inference等。目前能够把任务开销、执行时间预期等确定下来了。

4. AutoDL的卡居然全部租出去了？？调查了一下目前能用的GPU计算平台，除了智星云和算力云靠谱点(但是相比AutoDL的SSH真的巨慢)，其他的什么恒源云、闪电算力、OF智能云、揽睿星舟、OneThingAI没一个能用的。闪电算力的4090机子拉的一匹，镜像源极为过时，还吃我两块钱，垃圾。

看了一场花火关于作画的采访录播，不知道现在MG动画在手绘动画中是什么应用上的。

明天和组里的朋友讨论一下LLM的部署问题，看看能不能获得什么进展。