个人怎样建立网站,进入淘宝网官网首页 淘宝,创建百度网站,大型网站怎么加载图片的近期发现了一个项目#xff0c;它的前身是ChatGLM#xff0c;在我之前的博客中有关于ChatGLM的部署过程#xff0c;本项目在前者基础上进行了优化#xff0c;可以基于当前主流的LLM模型和庞大的知识库#xff0c;实现本地部署自己的ChatGPT#xff0c;并可结合自己的知识…近期发现了一个项目它的前身是ChatGLM在我之前的博客中有关于ChatGLM的部署过程本项目在前者基础上进行了优化可以基于当前主流的LLM模型和庞大的知识库实现本地部署自己的ChatGPT并可结合自己的知识对模型进行微调让问答中包含自己上传的知识。依托于本项目支持的开源 LLM 与 Embedding 模型本项目可实现全部使用开源模型离线私有部署。与此同时本项目也支持 OpenAI GPT API 的调用并将在后续持续扩充对各类模型及模型 API 的接入。下面具体讲解如何来实现本地部署过程十分简单使用起来十分方便。
目录
一、代码下载
二、 模型支持
2.1 LLM 模型支持
2.2 Embedding 模型支持
三、开发部署
3.1 软件需求
3.2 开发环境准备
3.3 下载模型至本地
3.4 设置配置项
3.5 知识库初始化与迁移
3.6 一键启动API 服务或 Web UI
四、添加个人知识库
4.1 本地添加知识库
4.2 通过web页面添加知识库
4.3 重新微调模型 一、代码下载 项目链接 GitHub - chatchat-space/Langchain-Chatchat
将该代码下载到本地。
二、 模型支持
本项目中默认使用的 LLM 模型为 THUDM/chatglm2-6b默认使用的 Embedding 模型为 moka-ai/m3e-base 为例。
2.1 LLM 模型支持
本项目最新版本中基于 FastChat 进行本地 LLM 模型接入支持模型如下 meta-llama/Llama-2-7b-chat-hfVicuna, Alpaca, LLaMA, KoalaBlinkDL/RWKV-4-Ravencamel-ai/CAMEL-13B-Combined-Datadatabricks/dolly-v2-12bFreedomIntelligence/phoenix-inst-chat-7bh2oai/h2ogpt-gm-oasst1-en-2048-open-llama-7blcw99/polyglot-ko-12.8b-chang-instruct-chatlmsys/fastchat-t5-3b-v1.0mosaicml/mpt-7b-chatNeutralzz/BiLLa-7B-SFTnomic-ai/gpt4all-13b-snoozyNousResearch/Nous-Hermes-13bopenaccess-ai-collective/manticore-13b-chat-pygOpenAssistant/oasst-sft-4-pythia-12b-epoch-3.5project-baize/baize-v2-7bSalesforce/codet5p-6bStabilityAI/stablelm-tuned-alpha-7bTHUDM/chatglm-6bTHUDM/chatglm2-6btiiuae/falcon-40btimdettmers/guanaco-33b-mergedtogethercomputer/RedPajama-INCITE-7B-ChatWizardLM/WizardLM-13B-V1.0WizardLM/WizardCoder-15B-V1.0baichuan-inc/baichuan-7Binternlm/internlm-chat-7bQwen/Qwen-7B-ChatHuggingFaceH4/starchat-beta任何 EleutherAI 的 pythia 模型如 pythia-6.9b在以上模型基础上训练的任何 Peft 适配器。为了激活模型路径中必须有 peft 。注意如果加载多个peft模型你可以通过在任何模型工作器中设置环境变量 PEFT_SHARE_BASE_WEIGHTStrue 来使它们共享基础模型的权重。 以上模型支持列表可能随 FastChat 更新而持续更新可参考 FastChat 已支持模型列表。
除本地模型外本项目也支持直接接入 OpenAI API具体设置可参考 configs/model_configs.py.example 中的 llm_model_dict 的 openai-chatgpt-3.5 配置信息。
2.2 Embedding 模型支持
本项目支持调用 HuggingFace 中的 Embedding 模型已支持的 Embedding 模型如下 moka-ai/m3e-smallmoka-ai/m3e-basemoka-ai/m3e-largeBAAI/bge-small-zhBAAI/bge-base-zhBAAI/bge-large-zhBAAI/bge-large-zh-noinstructsensenova/piccolo-base-zhsensenova/piccolo-large-zhshibing624/text2vec-base-chinese-sentenceshibing624/text2vec-base-chinese-paraphraseshibing624/text2vec-base-multilingualshibing624/text2vec-base-chineseshibing624/text2vec-bge-large-chineseGanymedeNil/text2vec-large-chinesenghuyong/ernie-3.0-nano-zhnghuyong/ernie-3.0-base-zhOpenAI/text-embedding-ada-002 三、开发部署
3.1 软件需求
本项目已在 Python 3.8.1 - 3.10CUDA 11.7 环境下完成测试。已在 Windows、ARM 架构的 macOS、Linux 系统中完成测试。
3.2 开发环境准备
参见 开发环境准备。
请注意 0.2.3 及更新版本的依赖包与 0.1.x 版本依赖包可能发生冲突强烈建议新建环境后重新安装依赖包。
首先要创建虚拟环境然后在虚拟环境中切换到代码文件目录
cd /d E:\Demo\Langchain-Chatchat-master # 切换到代码所在位置
创建虚拟环境
conda create -n Chat_GLM python3.9 # 虚拟环境名称为ChatGLM
启用虚拟环境
conda activate ChatGLM
安装环境依赖
pip install requirements.txt
安装zh_core_web_sm语言包
spacy/zh_core_web_sm at main (huggingface.co)
只需下载下方图片目录中的whl文件然后切换到zh_core_web_sm-any-none-any.whl目录采用pip 安装
pip install zh_core_web_sm-any-none-any.whl 3.3 下载模型至本地
如需在本地或离线环境下运行本项目需要首先将项目所需的模型下载至本地通常开源 LLM 与 Embedding 模型可以从 HuggingFace 下载。
以本项目中默认使用的 LLM 模型 THUDM/chatglm2-6b 与 Embedding 模型 moka-ai/m3e-base 为例。直接点击下载。
网盘下载 链接https://pan.baidu.com/s/14vm-yc8EDQ3DqrRAliFWXw?pwdeaxq 提取码eaxq 链接https://pan.baidu.com/s/1OAqm5sQOUHYyg-YzZu7eCw?pwd0arh 提取码0arh 3.4 设置配置项
复制模型相关参数配置模板文件 configs/model_config.py.example 存储至项目路径下 ./configs 路径下并重命名为 model_config.py。
复制服务相关参数配置模板文件 configs/server_config.py.example 存储至项目路径下 ./configs 路径下并重命名为 server_config.py。
在开始执行 Web UI 或命令行交互前请先检查 configs/model_config.py 和 configs/server_config.py 中的各项模型参数设计是否符合需求
请确认已下载至本地的 LLM 模型本地存储路径写在 llm_model_dict 对应模型的 local_model_path 属性中如:
llm_model_dict{chatglm2-6b: {local_model_path: E:\Demo\chatglm2-6b, # 只需该这里api_base_url: http://localhost:8888/v1, # name修改为 FastChat 服务中的api_base_urlapi_key: EMPTY},} 请确认已下载至本地的 Embedding 模型本地存储路径写在 embedding_model_dict 对应模型位置如
embedding_model_dict {m3e-base: E:\Demo\m3e-base, # 只需改这里}
如果你选择使用OpenAI的Embedding模型请将模型的 key写入 embedding_model_dict中。使用该模型你需要能够访问OpenAI官的API或设置代理。
3.5 知识库初始化与迁移
当前项目的知识库信息存储在数据库中在正式运行项目之前请先初始化数据库我们强烈建议您在执行操作前备份您的知识文件。 如果您是从 0.1.x 版本升级过来的用户针对已建立的知识库请确认知识库的向量库类型、Embedding 模型与 configs/model_config.py 中默认设置一致如无变化只需以下命令将现有知识库信息添加到数据库即可 python init_database.py 如果您是第一次运行本项目知识库尚未建立或者配置文件中的知识库类型、嵌入模型发生变化或者之前的向量库没有开启 normalize_L2需要以下命令初始化或重建知识库 python init_database.py --recreate-vs
3.6 一键启动API 服务或 Web UI
1. 一键启用默认模型
一键启动脚本 startup.py,一键启动所有 Fastchat 服务、API 服务、WebUI 服务示例代码
python startup.py -a
自动跳转到web页面若不能跳转记得在代码末尾按一下Enter键即可一键启动web页面。 并可使用 Ctrl C 直接关闭所有运行服务。如果一次结束不了可以多按几次。
可选参数包括 -a (或--all-webui), --all-api, --llm-api, -c (或--controller), --openai-api, -m (或--model-worker), --api, --webui其中
--all-webui 为一键启动 WebUI 所有依赖服务
--all-api 为一键启动 API 所有依赖服务
--llm-api 为一键启动 Fastchat 所有依赖的 LLM 服务
--openai-api 为仅启动 FastChat 的 controller 和 openai-api-server 服务
其他为单独服务启动选项。
2. 启用非默认模型
若想指定非默认模型需要用 --model-name 选项示例
python startup.py --all-webui --model-name Qwen-7B-Chat
更多信息可通过 python startup.py -h查看。
四、添加个人知识库
如果当前回答结果并不理想如下图所示可添加知识库对知识进行优化 4.1 本地添加知识库
将文档添加到knowledge_base——samples——content目录下 4.2 通过web页面添加知识库 4.3 重新微调模型
知识库添加完成之后按照3.5-3.6重新运行程序即可实现本地知识库更新。如下图所示添加完《天龙八部》电子书之后回答结果变得精准。 提升回答速度把CPU改为GPU
model_config.py文件中修改
# Embedding 模型运行设备。设为auto会自动检测也可手动设定为cuda,mps,cpu其中之一。
EMBEDDING_DEVICE auto
为
# Embedding 模型运行设备。设为auto会自动检测也可手动设定为cuda,mps,cpu其中之一。
EMBEDDING_DEVICE cuda
修改
# LLM 运行设备。设为auto会自动检测也可手动设定为cuda,mps,cpu其中之一。
LLM_DEVICE auto
为
# LLM 运行设备。设为auto会自动检测也可手动设定为cuda,mps,cpu其中之一。
LLM_DEVICE cuda 提示
若上述部署中遇到问题可关注我dydyga9uraeovh
