LM Studio 功能比 ollama 更强一些,而且有 UI 界面可以直接使用,更适合新手小白。因此,更加推荐大家尝试和使用这个软件去部署本地大模型。
官网:lmstudio.ai/ 同样,找到对应的版本,直接下载就可以了。


由于LM Studio会到huggingface.co下载相关模型,但其无法访问,所以需要把LM Studio中所有出现的huggingface.co改为hf-mirror.com。hf-mirror.com为huggingface.co国内镜像。
找到LM Studio安装路径:右键桌面快捷方式,在“目标”里面可以看到。
比如我这路径是“F:\LM Studio”。

好的,那我们接下来来搜索huggingface.co 将这个替换为hf-mirror.com

重启LM Studio,搜索并下载大模型

设置中文,点击右下角的齿轮,然后如图

下载一个Llama-3.1-8b试一下

设置模型目录

出现这样的提示,你就点刷新

实现对话

原创文章,作者:陌涛,如若转载,请注明出处:https://imotao.com/8863.html
微信扫一扫