免费视频淫片aa毛片_日韩高清在线亚洲专区vr_日韩大片免费观看视频播放_亚洲欧美国产精品完整版

打開APP
userphoto
未登錄

開通VIP,暢享免費電子書等14項超值服

開通VIP
DeepSeek R1,本地部署才是王道!支持WebUI

DeepSeek這把火燒遍了全球,昨天看還是霸榜30多個國家的App下載榜單第一名,現在已經上升到包括美國、日本、加拿大等在內的164個國家的App下載榜單第一名!

這巨大的流量導致deepseek在昨天幾乎崩潰了,這是我在昨天使用deepseek的情況,時不時就會遇到下面這個回復。

所以我就在想,既然deepseek R1是開源的,直接本地部署使用吧。

而且本地部署大模型之后,沒有各種限制,可以為所欲為,放飛自我,自給自足,隱私性拉滿,不聯網也可以用~

我們還是用之前講過的ollama + open-webui來一鍵部署deepseek r1

這倆好搭檔非常之牛掰且好用,看他倆在Github的Star就知道了。

用ollama管理、運行deepseek,在open-webui接入ollama之后,我們就可以完全界面化去下載安裝deepseek r1,界面化給大模型調整參數,并設定預設prompt,以及對話(如下圖),非常方便

好了,話不多說,我們開始本地部署deepseek r1!


一、先安裝ollama和open-webui

首先就得安裝ollama和open-webui,ollama可以下載官方的exe文件,一鍵安裝,open-webui可docker部署,不清楚的朋友可以先看我之前寫的這篇文章先把ollama和open-webui部署好

部署ollama、open-webui

袋鼠帝,公眾號:袋鼠帝AI客棧獨家!開源AI接入微信【一】ollama + open-webui

但是注意,英偉達GPU的朋友請用如下指令部署open-webui(指令在控制臺輸入,前提是先安裝、啟動了docker-desktop):

docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda

Docker-desktop墻烈推薦大家都裝上,不僅是open-webui,其他絕大多數Github的開源項目都支持用docker一鍵部署,docker的好處是自帶虛擬環(huán)境,不需要在本地額外安裝一堆其他環(huán)境、依賴等,是管理、部署項目的神器。

open-webui也強烈推薦大家安裝使用,它應該是目前功能最全,最好用的大模型webui工具。

安裝完ollama和open-webui,并在open-webui接入本地ollama之后,就可以非常方便的一鍵安裝deepseek r1使用了~


二、本地部署DeepSeek R1

首先我們打開ollama官網,找到deepseek r1模型

ollama地址:https://ollama.com/library/deepseek-r1:8b

可以看到有這么些模型,以及模型的參數大?。?.5b~671b)和本身所需磁盤空間的大?。?.1G~404G)

671b參數,404G大小的這個deepseek r1模型,就是deepseek官網上的那個R1。

但是671b參數的大模型所需的算力驚人,不是我們普通人能玩兒的起的。

下圖是ollama給出的模型選擇建議

這里的RAM是指顯存

如何查看我們電腦的顯存大小呢?

Ctrl + Shift + Esc打開任務管理器->性能->GPU

可以看到,我的電腦顯存是8G(英偉達3060 ti)

經過測試,deepseek-r1:8b對我的電腦來說,運行流暢,體驗最好~

如果換成deepseek-r1:14b,勉強能用,但是比較慢,不流暢,體驗欠佳。

所以接下來我們?yōu)g覽器訪問open-webui的頁面去下載deepseek-r1:8b

如果安裝好open-webui,直接訪問:http://127.0.0.1:3000/  即可進入open-webui頁面。

我們進入open-webui之后,點擊 左下角用戶->設置

點擊 管理員設置

本站僅提供存儲服務,所有內容均由用戶發(fā)布,如發(fā)現有害或侵權內容,請點擊舉報。
打開APP,閱讀全文并永久保存 查看更多類似文章
猜你喜歡
類似文章
deepseek本地化部署,培養(yǎng)你自己的AI,這樣操作就對了。
DeepSeek-R1本地部署,再也不怕宕機,還有語音功能!
服務器部署開源大模型完整教程 Ollama+Gemma+open
本地運行大模型,復刻ChatGPT聊天界面
Ollama WebUI AnythingLLM,構建安全可靠的個人/企業(yè)知識庫
247.2k star! 超強大的私有化ChatGPT,支持圖像識別/文生圖/語音輸入/文本朗讀,個人電腦可運行!
更多類似文章 >>
生活服務
分享 收藏 導長圖 關注 下載文章
綁定賬號成功
后續(xù)可登錄賬號暢享VIP特權!
如果VIP功能使用有故障,
可點擊這里聯系客服!

聯系客服