LM Studio本地部署教程

LM Studio 功能比 ollama 更强一些,而且有 UI 界面可以直接使用,更适合新手小白。因此,更加推荐大家尝试和使用这个软件去部署本地大模型。

官网:lmstudio.ai/ 同样,找到对应的版本,直接下载就可以了。

LM Studio本地部署教程
LM Studio本地部署教程

由于LM Studio会到huggingface.co下载相关模型,但其无法访问,所以需要把LM Studio中所有出现的huggingface.co改为hf-mirror.com。hf-mirror.com为huggingface.co国内镜像。

找到LM Studio安装路径:右键桌面快捷方式,在“目标”里面可以看到。
比如我这路径是“F:\LM Studio”。

LM Studio本地部署教程

好的,那我们接下来来搜索huggingface.co 将这个替换为hf-mirror.com

LM Studio本地部署教程

重启LM Studio,搜索并下载大模型

LM Studio本地部署教程

设置中文,点击右下角的齿轮,然后如图

LM Studio本地部署教程

下载一个Llama-3.1-8b试一下

LM Studio本地部署教程

设置模型目录

LM Studio本地部署教程

出现这样的提示,你就点刷新

LM Studio本地部署教程

实现对话

LM Studio本地部署教程

原创文章,作者:陌涛,如若转载,请注明出处:https://imotao.com/8863.html

(1)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
陌涛陌涛
上一篇 2025年1月29日 下午12:47
下一篇 2025年2月11日 下午9:49

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

这个站点使用 Akismet 来减少垃圾评论。了解你的评论数据如何被处理

docker镜像已更新为 https://0-docker.nat.tf/