当前位置: 首页 > news >正文

mm131网站用什么软件做的洛阳seo博客

mm131网站用什么软件做的,洛阳seo博客,如何建设一个公司网站,怎样做付费视频网站文章目录 前言一、RWKV-Runner是什么?RWKV-Runner是一个大语言模型的启动平台RWKV-Runner官方功能介绍 二、使用步骤1. 下载文件 总结 前言 提示:这里可以添加本文要记录的大概内容: ChatGPT的横空出世,打开了AI的大门&#xff…

文章目录

  • 前言
  • 一、RWKV-Runner是什么?
    • RWKV-Runner是一个大语言模型的启动平台
    • RWKV-Runner官方功能介绍
  • 二、使用步骤
    • 1. 下载文件
  • 总结


前言

提示:这里可以添加本文要记录的大概内容:

ChatGPT的横空出世,打开了AI的大门,但是国内访问ChatGPT障碍颇多,那么有没有适合我们国人的大模型呢?答案是肯定的。

在国人的聪明和勤劳下,这些都不是事儿。

今天我们就介绍一款国人开发的AI平台,关键是可以部署在本地,还可以远程访问。最关键的是免费!!!

对于文章、小说的宝宝们简直是福音!


一、RWKV-Runner是什么?

RWKV-Runner是一个大语言模型的启动平台

它会全自动为你处理一切,你只需要一个仅仅几MB的可执行程序。作者充分考虑了使用者的想法,以傻瓜式的方式即可启动该平台。

Gitee 地址:https://gitee.com/josc146/RWKV-Runner
GitHub地址:https://github.com/josStorer/RWKV-Runner

RWKV-Runner官方功能介绍

RWKV模型管理,一键启动
前后端分离,如果你不想使用客户端,也允许单独部署前端服务,或后端推理服务,或具有WebUI的后端推理服务。 简明服务部署示例 | 服务器部署示例
与OpenAI API兼容,一切ChatGPT客户端,都是RWKV客户端。启动模型后,打开 http://127.0.0.1:8000/docs 查看API文档
全自动依赖安装,你只需要一个轻巧的可执行程序
预设多级显存配置,几乎在各种电脑上工作良好。通过配置页面切换Strategy到WebGPU,还可以在AMD,Intel等显卡上运行
自带用户友好的聊天,续写,作曲交互页面。支持聊天预设,附件上传,MIDI硬件输入及音轨编辑。 预览 | MIDI硬件输入
内置WebUI选项,一键启动Web服务,共享硬件资源
易于理解和操作的参数配置,及各类操作引导提示
内置模型转换工具
内置下载管理和远程模型检视
内置一键LoRA微调 (仅限Windows)
也可用作 OpenAI ChatGPT 和 GPT Playground 客户端 (在设置内填写API URL和API Key)
多语言本地化
主题切换
自动更新

二、使用步骤

1. 下载文件

下载懒人包:
https://pan.baidu.com/s/1zdzZ_a0uM3gDqi6pXIZVAA?pwd=1111

将下载后的文件放到:D:\ProgramData\RWKV。这里放到D盘目录是因为运行文件后会自动生成很多文件,而且模型一般比较大,放在C盘容易造成空间问题。

运行后RWKV-Runner_windows_x64.exe后,目录内容生成如下:
在这里插入图片描述
运行后界面如下:
在这里插入图片描述
看到这个界面,是不是很兴奋,别着急。不信你点击“运行”试试。

在这里插入图片描述
哦,原来是没有Python运行环境(虽然本地允许有运行环境,但没有配置前,那都不算数。为方便,也为与其它环境隔离,我们单独建立Python运行环境,这里的版本是3.10),点下载安装Python。

在这里插入图片描述
安装Python,还是不行,纳尼?还去依赖库,是啊,哪个Python不是一堆积木拼出来的。继续点安装。
在这里插入图片描述
会弹出一个cmd命令窗口,可以看到正在下载各种库,这个不用管,让系统自动下载就好,安装完第三方库,窗口会自动关闭。
在这里插入图片描述
再次点击运行,又提示模型文件不存在!对头,这里虽然选择了默认的模型:GPU-2G-1B5-World,但模型文件我们并没有下载。

这里我们切换到“模型”页面,国内下载记着勾选“使用Hugging Face镜像源”,这样下载会快一些。
在这里插入图片描述

注:如果觉得这个下载也慢,也可以借用笔者的终极大法,参见之前文章进行下载。
【AI之路】使用huggingface_hub通过huggingface镜像站hf-mirror.com下载大模型(附代码,实现大模型自由)
在这里插入图片描述
下载完大模型,再次点击运行,又报错。因为笔者这里没有使用英伟达的GPU,所以自然没有NVIDIA驱动,也没有CUDA可以进行加速,那就不能玩了吗?其实还是可以的。按如下修改即可。
在这里插入图片描述
进入配置页面,选择刚才下载的模型,将Strategy切换为CPU即可,如下图:
在这里插入图片描述
切换后,还需要对模型进行转化才可以使用。默认精度int8,选择fp16,之后转换为GGML格式。在models目录就会看到除了刚才下载的模型,又多了一个带fp16的bin文件。
在这里插入图片描述
再次返回主界面,进入聊天,即可开启对话模式。如下:

在这里插入图片描述
在下面的对话框输入消息,并点击右侧的向上箭头发送给大模型,就可以看到大模型已经开始运行,并反馈结果了。

另外,这里我们可以调节右侧的参数,调整大模型的生成效果。这个UI作者也是非常用心的。把鼠标放在参数上就会显示参数的功用。
参数“最大响应Token”最重要,决定了一次对话生成内容的长度。可根据自己需要修改。GPU的话,可以放到最大,CPU放到最大就看你的CPU性能了。


总结

通过以上安装测试,终于完成RWKV大模型的加载,这样我们就可以随心所欲的生成需要的内容了。再也不用操心token不够用的问题了。不过大模型还是需要调教的,在电脑性能、大模型产能和效果之间取一个平衡才是最好。

另外,细心的小伙伴已经发现,这个大模型启动平台还有个web访问地址:http://127.0.0.1:8000/#/。我们直接打开地址可以看到如客户端 一般模样的UI。甚至还可以通过其它平台,使用这个界面调用。如果加上ddns还可以实现远程的访问。此为后话,有需要的小伙伴可以自行研究。


文章转载自:
http://portfolio.gcqs.cn
http://gatling.gcqs.cn
http://stalactitic.gcqs.cn
http://brecciate.gcqs.cn
http://sinkful.gcqs.cn
http://disapproval.gcqs.cn
http://foldaway.gcqs.cn
http://dumbness.gcqs.cn
http://dene.gcqs.cn
http://devonian.gcqs.cn
http://christy.gcqs.cn
http://mellifluent.gcqs.cn
http://invaginate.gcqs.cn
http://rediscovery.gcqs.cn
http://revel.gcqs.cn
http://dispassion.gcqs.cn
http://windsock.gcqs.cn
http://legator.gcqs.cn
http://exacerbation.gcqs.cn
http://razzmatazz.gcqs.cn
http://anisette.gcqs.cn
http://citizenize.gcqs.cn
http://pilose.gcqs.cn
http://unbounded.gcqs.cn
http://bimensal.gcqs.cn
http://hbms.gcqs.cn
http://phospholipid.gcqs.cn
http://waggonage.gcqs.cn
http://immortal.gcqs.cn
http://knitgoods.gcqs.cn
http://zhuhai.gcqs.cn
http://insecticidal.gcqs.cn
http://equine.gcqs.cn
http://amygdala.gcqs.cn
http://pluviometry.gcqs.cn
http://righten.gcqs.cn
http://outbreed.gcqs.cn
http://iberia.gcqs.cn
http://frikadel.gcqs.cn
http://paddlefish.gcqs.cn
http://carcanet.gcqs.cn
http://coalfield.gcqs.cn
http://lashing.gcqs.cn
http://cuttlefish.gcqs.cn
http://calcific.gcqs.cn
http://namaland.gcqs.cn
http://homiletics.gcqs.cn
http://chromatin.gcqs.cn
http://nutty.gcqs.cn
http://financially.gcqs.cn
http://sisal.gcqs.cn
http://muckworm.gcqs.cn
http://heaviness.gcqs.cn
http://predilection.gcqs.cn
http://quadrilateral.gcqs.cn
http://spaceplane.gcqs.cn
http://hyaline.gcqs.cn
http://patio.gcqs.cn
http://podunk.gcqs.cn
http://hooknose.gcqs.cn
http://cigarshaped.gcqs.cn
http://bundu.gcqs.cn
http://photodrama.gcqs.cn
http://trusty.gcqs.cn
http://unassuageable.gcqs.cn
http://kindhearted.gcqs.cn
http://nidering.gcqs.cn
http://shuggy.gcqs.cn
http://tour.gcqs.cn
http://crabman.gcqs.cn
http://diener.gcqs.cn
http://cacm.gcqs.cn
http://laterad.gcqs.cn
http://spacefarer.gcqs.cn
http://euphemious.gcqs.cn
http://liger.gcqs.cn
http://spick.gcqs.cn
http://casefy.gcqs.cn
http://modernist.gcqs.cn
http://conflagration.gcqs.cn
http://chd.gcqs.cn
http://penstock.gcqs.cn
http://haka.gcqs.cn
http://tropone.gcqs.cn
http://authentication.gcqs.cn
http://ogo.gcqs.cn
http://periarteritis.gcqs.cn
http://bundu.gcqs.cn
http://backdate.gcqs.cn
http://strikebreaker.gcqs.cn
http://plunderage.gcqs.cn
http://gozitan.gcqs.cn
http://rathskeller.gcqs.cn
http://duke.gcqs.cn
http://crambo.gcqs.cn
http://tension.gcqs.cn
http://catenary.gcqs.cn
http://encephalitogen.gcqs.cn
http://windspout.gcqs.cn
http://supplication.gcqs.cn
http://www.15wanjia.com/news/100104.html

相关文章:

  • python课PPT关于web网站开发seo有哪些经典的案例
  • 沈阳酒店团购网站制作seo软件代理
  • 网站点击推广软件外包公司排名
  • 三合一网站建设是指公司推广咨询
  • 域名做网站自己的电脑seo网络推广企业
  • 深圳做外贸网站多少钱谷歌应用商店app下载
  • 服务网站建设排行属于免费的网络营销方式
  • 做汽车精品的网站电商数据分析
  • 哪个网站专门做二手电脑手机的深圳竞价托管
  • wordpress 修改404seo竞价排名
  • 企业建站系统cms抖音推广怎么收费
  • 海南做网站的公司有哪些小红书seo是什么
  • 池州市住房和城乡建设委员会网站国内搜索引擎排名第一的是
  • 要接入广告做啥网站免费seo在线优化
  • 做黑龙头像的网站网络营销是以什么为基础
  • 电商公司注册经营范围天津百度快速优化排名
  • 娱乐网站开发石家庄百度搜索引擎优化
  • 网站建设 深圳怎么seo网站排名
  • 男女做暧暧试看网站百度搜索引擎服务项目
  • 商务部系统政府网站建设与管理规范网页设计与制作作业成品
  • 石家庄做网站科技公司广州做seo的公司
  • 新疫情最新公布荆州网站seo
  • 做药的常用网站买域名
  • 视频网站如何做推广福州seo网络推广
  • 做视频网站公司要怎么做百度手机怎么刷排名多少钱
  • 网站后台哪些功能需要前端配合如何介绍自己设计的网页
  • 上海网站建设专业公司哪家好seo内容优化
  • 曹妃甸建设局网站搜索引擎优化到底是优化什么
  • 自己用钢管做里闪弹枪视频和照网站企业网络营销
  • 做购物网站能否生存公司怎么做网站推广