我之前还有想法想要换成64GB内存的电脑，这样可以更好的地跑本地大模型。但是随着我对于本地大模型使用的增加，我现在开始觉得购买性能更强大的电脑跑本地大模型，可能不是一笔划算的买卖。

这是因为，最近几年，支持本地大模型的新硬件层出不穷，算力的提升没几个月就提升一个台阶。因此，现在花大钱购买的支持本地大模型产品，可能几个月后同价格就有更好的产品。

此外，本地大模型目前的运行，都还是折衷的产品。要么是模型规模小，要么是模型在使用时必须是缩限的版本。究其原因，还是可以利用的显存不足。并且，实际输出的结果和速度也不如线上。

并且线上大模型价格也在不断降低，甚至还有的处于测试阶段的大模型，使用是免费的。

那么是不是本地跑大模型就一无是处了呢？也不是。本地大模型更适合需要消耗大量token的领域。比如，图片识别（以文搜图）。跑这类应用，如果使用在线大模型，会消耗大量token，不够经济。此时用本地大模型来跑，就划算很多了。