我有两台Mac mini,1台m1,一台m4都是16GB的。之前我为了节省资源,ollama都是跑在m1那台,而我日常使用的是m4的这台。这就导致了一个问题。就是我开发的Chrome扩展X Recommender Plus在调用局域网里的Ollama的时候,会被拒绝服务。这是因为,Ollama默认情况下,只针对本机的所有请求开发了服务,如果是局域网的请求,就会验证头。
因此,要解决这个问题,我就得自己修改代码,然后本地编译。方法不难,仅需要修改一行代码。但是修改之后的只有我自己能用。今天,我突发奇想,问问AI,问它可不可以在GitHub上fork一下ollama,然后完成我本地操作的步骤,最后发布。AI说可以,然后就开始跑。
前几次都收到run failed的邮件。之后AI停了,告诉我成功了。但是我发现release里并没有成果。我问AI,AI说因为我选择的全平台,所以编译要很久,这个可把我给吓到了。因为我知道GitHub的action是有免费额度限制的。于是我赶忙问AI,那这样的话,咱们的免费额度够跑几次的啊?结果AI告诉我,我们fork的public的,而我们自己的也是public,所以action用多少都是免费的。这样我就安心了。
这个是GitHub的地址:https://github.com/owenzhao/ollama
使用X Recommener Plus的诸位可以根据需要选择。其他人有需要也可以选择。这个好处主要是两点:
- macOS的版本默认支持苹果的mlx。
- 局域网安装的ollama,任何应用或者插件都可以调用,不会被拒绝。