我想自己做网站吗,和田网站建设,内部网站建设合同,南京市工程造价信息网什么是 GPT4Free #xff1f; GPT4Free 简称 G4F#xff0c;是一个强大的大型语言模型命令行界面#xff08;LLM-CLI#xff09;#xff0c;旨在去中心化并提供免费访问先进人工智能技术的能力。G4F 的目标是通过提供用户友好和高效的工具#xff0c;使人工智能民主化 GPT4Free 简称 G4F是一个强大的大型语言模型命令行界面LLM-CLI旨在去中心化并提供免费访问先进人工智能技术的能力。G4F 的目标是通过提供用户友好和高效的工具使人工智能民主化并与最先进的语言模型进行交互。 GPT4Free 是一个通过逆向工程调用第三方 ChatGPT 网站的 API 项目让 OpenAI API 误以为它是从拥有已付费 OpenAI账户的网站如搜索引擎 You.com、WriteSonic 或 Quora 的 Poe 发出的请求从而达到使任何人都可以免费访问 GPT-4 和 GPT-3.5 模型的目的。
OpenAI 曾要求下架免费 GPT4Free 项目但一年过去了目前这个项目还在 github 上
GPT4Free 是作为 PoC概念验证演示了具有多提供商请求的 API 包的开发具有超时、负载平衡和流量控制等功能。
主要特征
去中心化的AI访问G4F 提供免费访问先进语言模型的能力促进 了AI 技术的民主化。多供应商支持G4F 与多个 AI 供应商无缝集成确保可靠、高效的性能。稳健的架构G4F 的架构融合了超时、负载平衡和流量控制以实现最佳性能和稳定性。用户友好的界面G4F 提供直观的命令行界面使用户可以轻松地与语言模型进行交互。详尽的文档提供全面的指南、教程和 API 参考帮助您充分利用 G4F 的功能。
该项目仅用于教育目的。在使用前请阅读官方的法律申明https://github.com/xtekky/gpt4free/blob/main/LEGAL_NOTICE.md
安装
在群晖上以 Docker 方式安装。
在注册表中搜索 g4f 选择第一个 hlohaus789/g4f版本选择 latest。 本文写作时 latest 版本对应为 0.2.8.2 常规设置
勾选 启用资源限制
CPU 优先顺序设为默认的 中内存限制设置为 2048 卷
在 docker 文件夹中创建一个新文件夹 gpt4free并在其中建一个子文件夹 data
文件夹装载路径说明docker/gpt4free/data/app/hardir存放导出的 .har 文件 .har 文件的生成请看官方文档https://github.com/xtekky/gpt4free#har-file-for-openaichat-provider 端口
本地端口不冲突就行不确定的话可以用命令查一下
# 查看端口占用
netstat -tunlp | grep 端口号本地端口容器端口说明13368080web client 端口13371337API 端口79007900vnc 端口 命令行安装
如果你熟悉命令行可能用 docker cli 更快捷
# 新建文件夹 gpt4free 和 子目录
mkdir -p /volume1/docker/gpt4free/data# 进入 gpt4free 目录
cd /volume1/docker/gpt4free# 运行容器
docker run -d \--restart unless-stopped \--name gpt4free \--shm-size2g \-p 1336:8080 \-p 1337:1337 \-p 7900:7900 \-v $(pwd)/data:/app/hardir \hlohaus789/g4f:latest也可以用 docker-compose 安装将下面的内容保存为 docker-compose.yml 文件
version: 3services:gpt4free:image: hlohaus789/g4f:latestcontainer_name: gpt4freeshm_size: 2gbvolumes:- ./data:/app/hardirports:- 1336:8080- 1337:1337- 7900:7900然后执行下面的命令
# 新建文件夹 gpt4free 和 子目录
mkdir -p /volume1/docker/gpt4free/data# 进入 gpt4free 目录
cd /volume1/docker/gpt4free# 将 docker-compose.yml 放入当前目录# 一键启动
docker-compose up -d运行
聊天
启动会有一个过程日志中看到下面的内容就可以开始访问了 在浏览器中输入 http://群晖IP:1136 就能看到内置客户端的聊天界面 下方是设置模型和服务商的 Model 支持的模型列表 Provider 支持的供应商列表 更详细的信息请参考官方文档https://github.com/xtekky/gpt4free#-providers-and-models Web Access 指联网也就是具备互联网访问能力Disable History禁用历史记录
开始用的 Model:Default 后来切换到 gpt-4 换个问题 https://laosu.tech 主要是介绍哪方面的内容 切换到 llama2-70b API
在浏览器中输入 http://群晖IP:1337 会看到一行字 可以继续访问 http://群晖IP1337/v1/chat/completions 和 http://群晖IP:1337/v1/models 还是以 ChatGPT-Next-Web修改 BASE_URL
服务名称服务地址FreeGPT35http://192.168.0.197:3044aurorahttp://192.168.0.197:8328GPT4Freehttp://192.168.0.197:1337
CUSTOM_MODELS 改为了 all 可以在 设置 -- 模型 中看到支持的模型 可惜触发了 ERROR:root:Response 403: Cloudflare detected没能成功聊天
VNC
在浏览器中输入 http://群晖IP:7900 需要密码访问 默认的密码为 secret 如果不想麻烦可以把密码传进去直接访问 http://群晖IP:7900/?autoconnect1resizescalepasswordsecret
参考文档 xtekky/gpt4free: decentralising the Ai Industry, just some language model api’s… 地址https://github.com/xtekky/gpt4free g4f.ai 地址https://g4f.ai/
