主 题：[测评]能在8g显存上运行的27b模型-bonsai2 27b
发 布 者：likejia
标签分类： 测评
时 间：2026-10-24 03:35:49
内容预览：最近qwen3.8 27b挺火的，但是奈何我的显卡就8g显存，硬要跑都话只能卸载到内存，然后死慢然后我在hf翻到bonsai2 27b，看介绍说是在qwen3.8 27b的基础上面极端压缩出来的，仅有5.93gb大小，可以轻松在8g显存上面运行鹈鹕测试虽然歪扭七八的，但是还勉强能看出是个鹈鹕洗车店测试虽然思考过程胡言乱语，但是输出的结果没问题常识题测试除了最后一题都没问题，但是最后一题村上春树压根没有写过这本书，纯ai胡言乱语出来的拒绝测试因为我需要用他来续写小说，所以选择了非官方的去审查版本，实测不会拒绝任何问题的回答，虽然思考过程里面提到了“可能会有安全问题”，但是模型仍会”但允许“link text总结总体而言，bonsai2 27b作为一个能在8g显存上运行的模型，有这个成绩已经很好了，但是qwen本身的雷霆大思考和幻觉问题在bonsai身上跟严重了，经常出现左右脑互博的问题（当然也可能是我用的微调去审查模型？）
直达链接： https://www.nodeseek.com/post-1004838-1