Nicksxs's Blog

Java 运行时、生产诊断与 AI 工程实践

今天在尝试使用llama.cpp在mac下本地运行大模型的时候发现拉取llama.cpp的仓库还是比较慢,这点真的是挺难受,可能我们在玩一项技术的时候,有一大半时间都在克服这个问题, 这个方式也是谷歌搜到的,就是走 https://gh-proxy.com/ 转换镜像链接, 比…

阅读全文 »

上次我是实地使用llama.cpp跑了本地大模型,这种测试成本比较大, 刚好上次看到有个软件可以运行在本地来评估当前机器的性能可以跑什么样的大模型 它就是llmfit 在mac可以使用 windows可以 安装好就可以直接运行了 可以看到有列了很多模型,包括参数量,token速…

阅读全文 »

一段时间都有在用大模型来辅助编程,不过现在很多都叫成vibe coding了,连胡彦斌都在vibe coding了, 现在是个全民皆可做软件开发的时代,包括像之前那个小猫补光灯,有的人的想法是说点子不重要了 我自己想的有点不一样,vibe coding现在是把成熟的开发者和小白…

阅读全文 »
0%