主 题:撸了个大模型显存 + RunPod/Vast实时比价小工具
发 布 者:WalterPGale
标签分类: Dev
时 间:2026-11-18 22:55:13
内容预览:最近按小时租卡跑Qwen3.8-27B和GLM-5.3-Flash,发现两个挺坑的地方:一个是光算4-bit权重很容易翻车,像Qwen3.8-27B权重才14.6G,但拉到32K上下文算上KVCache实际要24.8G,单张4090直接爆显存。另一个是以前总觉得Vast肯定比RunPod便宜,结果拉了两家公开API
直达链接: https://www.nodeseek.com/post-1064093-1
 
 
Back to Top