Nicksxs's Blog

What hurts more, the pain of hard work or the pain of regret?

之前在用到valet的时候就觉得这个工具很厉害,因为本地部署很多时候都是比较费劲的,也比较简陋,就直接localhost启动下,但是有时候需要验一下回调的,就需要有域名跟https,当然之前也没想明白的是在本地其实用本地的地址也是可以的,意思就是如果回调地址没限制必须要域名,也可…

阅读全文 »

JPEG 的核心目标是:在人眼不太容易察觉的地方丢掉一些信息,从而大幅减小照片体积。所以 JPEG 通常是 有损压缩。它不是简单地把文件“打包变小”,而是会真的改变图像数据。

阅读全文 »

今天在尝试使用llama.cpp在mac下本地运行大模型的时候发现拉取llama.cpp的仓库还是比较慢,这点真的是挺难受,可能我们在玩一项技术的时候,有一大半时间都在克服这个问题, 这个方式也是谷歌搜到的,就是走 https://gh-proxy.com/ 转换镜像链接, 比如…

阅读全文 »

上次我是实地使用llama.cpp跑了本地大模型,这种测试成本比较大, 刚好上次看到有个软件可以运行在本地来评估当前机器的性能可以跑什么样的大模型 它就是llmfit 在mac可以使用 windows可以 安装好就可以直接运行了 可以看到有列了很多模型,包括参数量,token速度…

阅读全文 »

除了购买各种订阅和api服务,还有一种选择就是本地运行模型,但是这个一般来讲还是只能运行一些参数量比较小的, 随着开源权重模型的发展,这个方向也在慢慢的改变,当然差距肯定是有的,只是本地我们可以用来做些辅助工作 之前很多情况下一般都只是能作为玩具,并且由于ollama和lm st…

阅读全文 »
0%