AI 模型显存占用计算 (Memory/VRAM Usage)主要分为推理（Inference）和训练（Training）两种情况
LLM 运行内存计算器
计算结果
请在左侧输入参数并点击计算。
注意：这是一个估算值。实际显存占用可能因模型具体架构、CUDA版本和底层库的差异而有少量浮动。模型的层数和隐藏维度是基于参数量估算的。
AI 模型显存占用计算 (Memory/VRAM Usage)主要分为推理（Inference）和训练（Training）两种情况
请在左侧输入参数并点击计算。
注意：这是一个估算值。实际显存占用可能因模型具体架构、CUDA版本和底层库的差异而有少量浮动。模型的层数和隐藏维度是基于参数量估算的。