山东三强建设咨询有限公司网站,企业形象设计包括哪些方面,网站服务费算什么费用,南通网站建设维护Langchain-chatchat本地部署
参考官网
环境配置
conda安装
minicoda下载地址
安装时注意勾选上添加环境变量。安装完成之后使用conda --version测试一下版本。
环境创建
先配置一下conda的镜像地址#xff08;使用阿里的靠谱一些#xff09;#xff0c;这里要修改一下…Langchain-chatchat本地部署
参考官网
环境配置
conda安装
minicoda下载地址
安装时注意勾选上添加环境变量。安装完成之后使用conda --version测试一下版本。
环境创建
先配置一下conda的镜像地址使用阿里的靠谱一些这里要修改一下用户目录下的 .condarc 文件
channels:- defaults
show_channel_urls: true
default_channels:- http://mirrors.aliyun.com/anaconda/pkgs/main- http://mirrors.aliyun.com/anaconda/pkgs/r- http://mirrors.aliyun.com/anaconda/pkgs/msys2
custom_channels:conda-forge: http://mirrors.aliyun.com/anaconda/cloudmsys2: http://mirrors.aliyun.com/anaconda/cloudbioconda: http://mirrors.aliyun.com/anaconda/cloudmenpo: http://mirrors.aliyun.com/anaconda/cloudpytorch: http://mirrors.aliyun.com/anaconda/cloudsimpleitk: http://mirrors.aliyun.com/anaconda/cloud创建一个环境
conda create -n langchain-chatchat python3.10提示其他conda命令使用看这里
激活环境
conda activate langchain-chatchat激活之后我们接下来各种操作基本都在这个环境中进行。
项目依赖
# 拉取仓库。拉去不了就直接下载解压吧。
git clone https://github.com/chatchat-space/Langchain-Chatchat.git# 进入目录
cd Langchain-Chatchat# 安装全部依赖
pip install -r requirements.txt
# 如果有网络问题试一下这种
pip install -r requirements.txt --index-url http://mirrors.aliyun.com/pypi/simple/ --trusted-host mirrors.aliyun.com# 默认依赖包括基本运行环境FAISS向量库。如果要使用 milvus/pg_vector 等向量库请将 requirements.txt 中相应依赖取消注释再安装。模型下载
如果下载不了梯子换一下节点哈或者需要配置以下代理啥的实在不行就页面上文件一个个点击下载吧。
# 支持大文件下载
git lfs installgit clone https://huggingface.co/THUDM/chatglm2-6bgit clone https://huggingface.co/moka-ai/m3e-base设置配置项
Langchain-Chatchat目录下配置文件
configs/model_config.py.example复制一个为configs/model_config.py
configs/server_config.py.example复制一个为configs/server_config.py
设置llm_model_dict为LLM 模型位置
谁知embedding_model_dict 为Embedding 模型路径
知识库初始化与迁移
python init_database.py --recreate-vs一键启动
python startup.py -a额我的内存只有16g达不到要求。。。看要求最少要32g内存。
