LM Studio快速部署本地大语言模型|像 ChatGPT 提问

在这个人工智能飞速发展的时代,大语言模型(LLM)已经成为了研究和应用的热点。但长期以来,这些强大的模型似乎只属于技术高手和大型机构的专利。如今,LM Studio的到来,彻底打破了这一壁垒,让每个人都能在自己的电脑上轻松运行大语言模型,就像使用ChatGPT一样简单。

LM Studio简介

LM Studio是一款革命性的工具,它将当前主流的大语言模型元素整合在一起,实现了“0门槛”部署。无论您是Windows、macOS还是Linux用户,都能轻松安装和使用。

简单三步,开启AI问答之旅

  1. 打开电脑:无需复杂配置,LM Studio让一切变得简单。
  2. 双击运行程序:轻松启动,无需专业技能。
  3. 开始提问:像使用ChatGPT一样,与AI进行自然对话。

如何使用LM Studio

挑选模型

使用LM Studio的第一步是挑选适合的模型。由于主流模型托管网站huggingface可能无法访问,您可以通过HF-Mirror等镜像网站来搜索和下载所需的模型。

下载模型

在HF-Mirror上找到心仪的模型后,点击下载。请注意,这些模型文件通常很大,可能达到几个GB。

安装模型

LM Studio默认的模型保存路径在C:\Users\appinn.cache\lm-studio\models,您可以根据需要更改。需要注意的是,模型文件需要按照{Repository}/${ModelFile}的路径结构保存。

开始提问

安装好模型后,您就可以开始提问了。LM Studio会自动调用您的CPU、GPU资源来处理问题。

本地LLM服务器

LM Studio不仅限于本地使用,还支持OpenAI类服务器。这意味着您可以在第三方服务器上运行这个LLM,就像使用OpenAI API一样,但这次,API服务器是您自己的。

LM Studio的出现,让大语言模型不再是遥不可及的技术。它为研究人员、开发者乃至普通用户提供了强大的AI问答能力。现在,就让LM Studio成为您的智能助手,开启智能问答的新篇章吧!

支持系统:windows/MACOS/linux

官网下载: https://lmstudio.ai/

操作手册: https://lmstudio.ai/docs/welcome

B站UP部署视频​:

本站所有素材均来自网络或用户分享,版权归属原作者,如果侵犯了您的版权,就随时联系我们的客服(邮箱:designshidai@qq.com)进行删除。
SD分享导航站 » LM Studio快速部署本地大语言模型|像 ChatGPT 提问