请叫我峰子:
感受VPS建站的乐趣。
共 1 篇文章

标签:大模型部署

本地跑大模型,1k 到 10w 五套配置:钱花在显存上才有意义

本地跑大模型,1k 到 10w 五套配置:钱花在显存上才有意义 本地部署大模型,最贵的不是显卡,是买错显卡。 1k 到 10w,跨度一百倍,真正决定你能跑什么模型的只有一个数:显存。 01 只有一件事重要:显存 先说结论:买主机跑大模型,CPU、内存、电源、机箱全都可以妥协,显存不行。 原因是物理的,不是玄学。模

登录

找回密码

注册