本地部署deepseek r1模型丨技术开发分享录

本地部署deepseek r1模型

%{ detail.nickname }

转载翻译 %{ formatTime(detail.create_time) } 字数 %{ detail.content && detail.content.length } 阅读 %{ detail.read_num } 评论 %{ comment.page.total } 喜欢 %{ total(detail.like_uids) } %{ formatTag(v) } 编辑文章

下载ollama

Ollama是一个运行大型语言模型的平台。

官网下载地址：https://ollama.com/download

启动ollama

> ollama serve

下载deepseek

下载地址：https://ollama.com/library/deepseek-r1

需要根据自己的电脑配置选择模型，如果你选择的是7b，直接执行以下命令即可下载并运行：

> ollama run deepseek-r1:7b

运行deepseek后，就可以在命令上输入指令让deepseek去回答了。

可视化界面运行

如果需要在可视化界面运行可以结合chatboxai，Chatbox AI 是一款 AI 客户端应用和智能助手，支持众多先进的 AI 模型和 API，可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。

这里直接使用web版就行了（https://web.chatboxai.app/），使用自己的API Key或本地模型，选择OLLAMA API，如果不会使用可以查看教程（https://chatboxai.app/zh/help-center/connect-chatbox-remote-ollama-service-guide）。

支持语音交互

如果需要支持语音交互的话，需要通过docker运行。

下载docker：https://www.docker.com/

结合open-webui，执行支持ollama的镜像：

> docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

PS：写作不易，如要转裁，请标明转载出处。

%{ comment.page.total }条评论

%{ v }

本地部署deepseek r1模型

下载ollama

下载deepseek

可视化界面运行

支持语音交互

猜你想看