安装ragflow

确保 vm.max_map_count 不小于 262144

sysctl vm.max_map_count
sudo sysctl -w vm.max_map_count=262144

docker-compose 需要v2.20 以上版本

sudo curl -L "https://github.com/docker/compose/releases/latest/download/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose
sudo chmod +x /usr/local/bin/docker-compose
docker-compose version

下载代码

git clone https://github.com/infiniflow/ragflow.git
cd ragflow/docker
docker-compose up -d

部署完成后,访问当前服务器ip:80端口

安装ollama

curl -fsSL https://ollama.com/install.sh | sh

安装模型

ollama run qwen2:7b
ollama pull shaw/dmeta-embedding-zh:latest

修改对外端口

sudo vi /etc/systemd/system/ollama.service
Environment="OLLAMA_HOST=0.0.0.0"
sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo lsof -i:11434

模型提供商

点击Ollama,添加模型
分别添加qwen2:7bshaw/dmeta-embedding-zh:latest

系统设置

创建知识库

输入名称,然后新建

在数据采集中,上传自己的文件,例如excel文件,第一列问题,第二列答案

聊天->新建助理

输入问题,等待检索出对应答案
https://github.com/infiniflow/ragflow/blob/main/README_zh.md