有些急性子: 模型的显存占用推理和训练阶段的显存需求不一样，精度不一样的占用也不同

有些急性子 commented on comment 大模型的精度对应的显存大小我一直没搞明白之间的关系，比如千问...: 模型的显存占用推理和训练阶段的显存需求不一样，精度不一样的占用也不同