当前位置: 首页 > news >正文

网站建设公司发展前景网络营销公司怎么注册

网站建设公司发展前景,网络营销公司怎么注册,北京网页制作模板,做设计网站赚钱吗本文系统环境 Windows 10 Ollama 0.5.7 Ollama 是什么? Ollama 可以让你快速集成和部署本地 AI 模型。它支持各种不同的 AI 模型,并允许用户通过简单的 API 进行调用 Ollama 的安装 Ollama 官网 有其下载及安装方法,非常简便 但如果希…

本文系统环境

Windows 10

Ollama 0.5.7

Ollama 是什么?

Ollama 可以让你快速集成和部署本地 AI 模型。它支持各种不同的 AI 模型,并允许用户通过简单的 API 进行调用

Ollama 的安装

Ollama 官网 有其下载及安装方法,非常简便

但如果希望不占用系统盘大量空间,可以参考 Ollama Windows 文档 这样安装

1. 把 Ollama 安装到其它磁盘

命令行定位到 Ollama 安装包 OllamaSetup.exe 的目录下,运行如下命令,指定你希望的安装目录

OllamaSetup.exe /DIR="D:\Program Files\Ollama"

2. 更改 Ollama 的模型存放位置

Ollama 后续下载安装的模型默认存放在系统盘,会非常占用位置

设置 OLLAMA_MODELS 系统变量,指定希望的模型存放目录

设置完后,如果 Ollama 服务已在运行,要重启一下 Ollama 服务方能生效

从 ModelScope 下载模型并加载

Ollama 官方安装模型的方法很简单

例如:

ollama run qwen2.5

但下载速度一般非常慢

我们可以从 ModelScope 先下载模型,再通过 Ollama 加载模型

1. 下载 GGUF 格式模型

Ollama 能轻易加载 GGUF 格式的模型,检索 GGUF 模型进行下载

推荐用官方命令行方式下载,下载过程中有进度条,可指定下载目录

modelscope download --model 'Qwen/Qwen1.5-0.5B-Chat-GGUF' --local_dir 'D:\Models\Qwen1.5-0.5B-Chat-GGUF'

下载完成后,目录类似这样:

关于 gguf 文件,简单理解就是体积越大的回答准确率就越高

2. 加载 GGUF 模型

参考 Ollama 关于加载 GGUF 的说明 和 Qwen 官网关于 Ollama 加载 GGUF 模型 的文档

在上述下载 gguf 模型的目录中新建一个名为 Modelfile 的文件

Modelfile 文件内容如下

FROM ./qwen1_5-0_5b-chat-q5_0.gguf

在 gguf 模型的目录下运行 Ollama 加载 gguf 的命令

ollama create qwen1.5:0.5b -f Modelfile

至此,在上面 OLLAMA_MODELS 系统变量对应的目录下会生成 Ollama 的模型数据

Ollama 运行模型

由于 Ollama 已安装,因此 ollama 命令可用

ollama run qwen1.5:0.5b

http://www.15wanjia.com/news/20926.html

相关文章:

  • 网站的绝对路径引流app推广软件
  • 网站引导页怎么设置百度推广怎么做的
  • 石家庄网站制作设计优化设计四年级上册数学答案
  • 网站建设asp文件怎么展现360优化大师官方网站
  • 网站手机pc同步四川seo排名
  • 苏州做网站多少钱李守洪排名大师怎么样
  • 给企业做网站需要什么信息武汉网络推广平台
  • 彩票网站怎么做赚钱吗绍兴seo排名收费
  • 网站开发合同范本关键词网站排名软件
  • 网站做任务给钱的百度手机版网页
  • 制作充值网站百度排名工具
  • 网站设计建长春seo排名公司
  • 遵义网站建设gzyhgseo关键词的优化技巧
  • 免费wordpress域名能绑定吗优化营商环境存在问题及整改措施
  • linux做ppt下载网站长沙靠谱seo优化价格
  • 手机网站有哪些网络查询网站
  • 大型门户网站建设所具有的功能模块主要有几种类型营销团队找产品合作
  • 扬州做网站的黄石seo诊断
  • 中央广播电视总台主持人长春seo优化企业网络跃升
  • 广州网站设计价格新闻源发稿平台
  • 公司的网站备案pc网站优化排名
  • 食品网站开发步骤2023新闻摘抄大全
  • 网站站群管理系统腾讯企点是干嘛的
  • 网站开发周期表免费发广告的网站大全
  • 科技服务 网站建设app 小程序品牌推广策略有哪些
  • 学校党建网站建设实施方案百度注册入口
  • saas做视频网站网络推广免费网站
  • 网站开发记什么费用企业qq多少钱一年
  • 新疆建网站程序企业培训方案
  • 惠州网站设计培训百度投稿平台