AI LLM 模型显存在线计算工具

发布时间: 更新时间: 作者: IP上海 分享 网址
AI 模型显存占用计算 (Memory/VRAM Usage)主要分为推理(Inference)训练(Training)两种情况

LLM 运行内存计算器

计算结果

请在左侧输入参数并点击计算。

注意: 这是一个估算值。实际显存占用可能因模型具体架构、CUDA版本和底层库的差异而有少量浮动。模型的层数和隐藏维度是基于参数量估算的。

本文总阅读量 次 本站总访问量 次 本站总访客数
Home Archives Categories Tags Statistics