主 题:16G显存跑GLM还是有点吃力
发 布 者:Acquaint1250
标签分类: 技术
时 间:2026-08-28 08:51:29
内容预览:想在16G显存的消费级显卡上跑GLM 5.0以上版本,完整模型肯定塞不下目前能想到的还是量化或者CPU分担一部分,就是速度估计不会太好看
直达链接: https://www.nodeseek.com/post-897930-1
发 布 者:Acquaint1250
标签分类: 技术
时 间:2026-08-28 08:51:29
内容预览:想在16G显存的消费级显卡上跑GLM 5.0以上版本,完整模型肯定塞不下目前能想到的还是量化或者CPU分担一部分,就是速度估计不会太好看
直达链接: https://www.nodeseek.com/post-897930-1