关于适合什么模型,推荐下llmfit

上次我是实地使用llama.cpp跑了本地大模型,这种测试成本比较大,
刚好上次看到有个软件可以运行在本地来评估当前机器的性能可以跑什么样的大模型
它就是

添加评论
点赞收藏
点踩分享查看原文
评论
?
参与讨论