背景介绍
- 系统:Ubuntu 22.04.5 LTS
- python环境管理工具:minconda
- dify版本:0.13.2
本文参考 Xinference在线文档和dify的官方介绍模型接入
1. Github拉取Xinference代码
首选去Xinference的Github地址拉取代码
2. 在minconda创建隔离环境
- xinfernce 是我本地创建的环境名称,可自定义
(base) robbsguagua@DESKTOP-MBTC5I5:~$ conda create --name xinference
- 激活环境