产品介绍网站html源码,上海高端网站建,网站的死链,phpadmin wordpress最近DeepSeek太火了#xff0c;对配置要求不高。刚好放假#xff0c;下载试试。发现开源大模型的生态做的挺好的#xff0c;几分钟就能在本地部署一个大模型。
配置
NVIDIA RTX 2060 6GB#xff08;最低要求 NVIDIA GTX 1060 6GB #xff09;
下载Ollama
Ollama是一个…最近DeepSeek太火了对配置要求不高。刚好放假下载试试。发现开源大模型的生态做的挺好的几分钟就能在本地部署一个大模型。
配置
NVIDIA RTX 2060 6GB最低要求 NVIDIA GTX 1060 6GB
下载Ollama
Ollama是一个运行大模型的工具可以利用Ollama下载、运行大模型。类似于Docker Ollama下载地址
安装Ollama
正常安装后迁移把Ollama到其他盘。 在Windows中将Ollama安装到其他盘例如D盘的步骤如下 修改用户变量的PATH变量将原来的C:\Users\XX\AppData\Local\Programs\Ollama路径更新为新的位置即D:\Ollama。 使用ollama -v验证是否安装成功。
设置大模型的下载地址
新建文件夹如H:\Ollama.ollama\models在系统变量中新建一个名为OLLAMA_MODELS的变量设置其值为模型文件的刚刚新建的文件夹。 下载大模型
到Ollama官网选择deepseek-r1我这里选择了最小的1.5b Ollama官网 本地打开cmd 运行ollama run deepseek-r1:1.5b。
运行
安装完后就可以直接对话了。
本地使用web-ui插件
chrome浏览器商店搜索ollama-ui安装后自动识别到已经安装的大模型。 网页上使用更方便一点。
参考
https://blog.csdn.net/youeyeb/article/details/144905333 https://www.bilibili.com/video/BV1oGfmYjEcH/?spm_id_from333.337.search-card.all.clickvd_source54773d9fdb0709d7cb671b1f78833c17
