DeepSeek-基于vLLM部署

作者: 运维小路

作者简介: 微信公众号《运维小路》

描述: vLLM比较复杂，但是他具有组成集群跑更大模型的能力，所以我这里先用单机版来让搭建对这个vLLM有一个的理解，后期再深入。

DeepSeek-基于vLLM部署

推荐视频

（已离职）冒死上传，从入门到入狱！保姆级暗网黑客技术教程：学完即可内推就业|零基础网络安全学习|计算机技术/信息安全/漏洞挖掘/ 渗透测试/web安全/黑客技术

（已离职）冒死上传，从入门到入狱！保姆级暗网黑客技术教程：学完即可内推就业|零基础网络安全学习|计算机技术/信息安全/漏洞挖掘/ 渗透测试/web安全/黑客技术

上传者: 黑客_新之助

DeepSeek-进阶版部署(Linux+GPU)

DeepSeek-进阶版部署(Linux+GPU)

上传者: 运维小路

GPT4o、Claude3.7、Grok3免费无限制用！Gemini2.5pro + DeepSeek-V3统统白嫖！ 全网封神AI镜像站，一次看懂，终身爽用！

GPT4o、Claude3.7、Grok3免费无限制用！Gemini2.5pro + DeepSeek-V3统统白嫖！ 全网封神AI镜像站，一次看懂，终身爽用！

上传者: 月映万川_Boo

Deepseek-容器(Docker)部署vLLM和Open WebUI

Deepseek-容器(Docker)部署vLLM和Open WebUI

上传者: 运维小路

【第二弹全85集】最详细讲解的【kubernetes(k8s)】架构师入门到精通实战课程（k8s教程/k8s部署/k8s安装/k8s实战）

【第二弹全85集】最详细讲解的【kubernetes(k8s)】架构师入门到精通实战课程（k8s教程/k8s部署/k8s安装/k8s实战）

上传者: 鹅厂linux高工手记

DeepSeek-快速搭建Linux版本

DeepSeek-快速搭建Linux版本

上传者: 运维小路

【2025B站最好的MATLAB课程推荐】MATLAB从突破到秃头 全套课程（附带课程数据资料+代码源文件）MATLAB教程|MATLAB速成|图像处理

【2025B站最好的MATLAB课程推荐】MATLAB从突破到秃头 全套课程（附带课程数据资料+代码源文件）MATLAB教程|MATLAB速成|图像处理

上传者: ML与DL

B站强推！这才是2025年最新最全的AI产品经理教程，从零到精通，字节大佬整理的内部版，通俗易懂，学完即就业！！！ 大模型 | LLM | AI大模型 |

B站强推！这才是2025年最新最全的AI产品经理教程，从零到精通，字节大佬整理的内部版，通俗易懂，学完即就业！！！ 大模型 | LLM | AI大模型 |

上传者: cokeAI大模型教程

字节大佬17小时讲完的Docker全套教程，带你从零开始学docker，全程干货无废话（docker入门/docker安装/docker教程/docker镜像）

字节大佬17小时讲完的Docker全套教程，带你从零开始学docker，全程干货无废话（docker入门/docker安装/docker教程/docker镜像）

上传者: 云原生架构师

2025最新SpringAlibaba AI整合DeepSeek+MCP实战！免费本地部署+私有知识库实战，零基础开发企业级智能客服，七天从小白逆袭大佬！

2025最新SpringAlibaba AI整合DeepSeek+MCP实战！免费本地部署+私有知识库实战，零基础开发企业级智能客服，七天从小白逆袭大佬！

上传者: Java架构师徐庶

【清华大学】DeepSeek从入门到精通，三小时即可学会，全程干货无废话，让你少走99%的弯路！

【清华大学】DeepSeek从入门到精通，三小时即可学会，全程干货无废话，让你少走99%的弯路！

上传者: 深度学习入门

2025最新AI智能体开发平台Coze入门到精实战教程！零基础3天速通AI智能体搭建+20个多场景实战案例，手把手教你打造爆款短视频/自动化工作流！

2025最新AI智能体开发平台Coze入门到精实战教程！零基础3天速通AI智能体搭建+20个多场景实战案例，手把手教你打造爆款短视频/自动化工作流！

上传者: 程序汪云阳

强推！不愧是B站最详细讲解的【kubernetes（K8s）】教程全涵盖linux架构师系统知识、Docker+K8s+Devops+Jenkins等

强推！不愧是B站最详细讲解的【kubernetes（K8s）】教程全涵盖linux架构师系统知识、Docker+K8s+Devops+Jenkins等

上传者: 鹅厂linux高工手记

【2025最新】Dify智能案例 | 手把手教会你19＋Dify实战项目，轻松学会AI工作流！科研翻译|图表生成|智能客服！少走99％弯路/大模型|LLM

【2025最新】Dify智能案例 | 手把手教会你19＋Dify实战项目，轻松学会AI工作流！科研翻译|图表生成|智能客服！少走99％弯路/大模型|LLM

上传者: AIGC小助手

【整整600集】清华大学196小时讲完的DeepSeek从入门到精通，全程干货无废话！让你少走99%的弯路！这还学不会，我退出IT界！

【整整600集】清华大学196小时讲完的DeepSeek从入门到精通，全程干货无废话！让你少走99%的弯路！这还学不会，我退出IT界！

上传者: AI芸学姐198

【k8s 1.32版】使用Ubuntu+Containerd，60分钟极速部署企业级kubernetes集群（k8s集群/k8s部署/k8s教程/k8s安装）

【k8s 1.32版】使用Ubuntu+Containerd，60分钟极速部署企业级kubernetes集群（k8s集群/k8s部署/k8s教程/k8s安装）

上传者: 云原生架构师

【全748集】目前B站最全最细的STM32入门全套教程，2025最新版，包含所有干货！七天就能从小白到大神！少走99%的弯路！存下吧！很难找全的！

【全748集】目前B站最全最细的STM32入门全套教程，2025最新版，包含所有干货！七天就能从小白到大神！少走99%的弯路！存下吧！很难找全的！

上传者: stm32项目实战

强推！这可能是B站最新的LangChain教程，1小时讲清楚LangChain原理，以及构建基于LLM的应用程序，还学不会你来打我！人工智能|深度学习|神经网络

强推！这可能是B站最新的LangChain教程，1小时讲清楚LangChain原理，以及构建基于LLM的应用程序，还学不会你来打我！人工智能|深度学习|神经网络

上传者: 凡人修AI

Kubernetes(k8s)-高可用集群部署v1.32.2(生产可用)

Kubernetes(k8s)-高可用集群部署v1.32.2(生产可用)

上传者: 运维小路

这绝对是目前B站最全最细的提示词工程（Prompt Engineering）零基础全套教程，2025最新版，包含所有干货！七天就能从小白到大神！

这绝对是目前B站最全最细的提示词工程（Prompt Engineering）零基础全套教程，2025最新版，包含所有干货！七天就能从小白到大神！

上传者: 大模型coke

【整整400集】字节大佬终于把AI大模型讲清楚了，教学通俗易懂，纯小白也能听懂！2025最新版教程，全程干货无废话！从萌新到大佬只要这套就够了！

【整整400集】字节大佬终于把AI大模型讲清楚了，教学通俗易懂，纯小白也能听懂！2025最新版教程，全程干货无废话！从萌新到大佬只要这套就够了！

上传者: AI大模型训练

无需部署!DeepSeek使用自由！ 电脑手机双端免费使用DeepSeek满血版，拒绝服务器繁忙！

无需部署!DeepSeek使用自由！ 电脑手机双端免费使用DeepSeek满血版，拒绝服务器繁忙！

上传者: 苦逼研二

谷歌的gemini 2.5 pro 有点吊啊

谷歌的gemini 2.5 pro 有点吊啊

上传者: 莱迪娜的风声

DeepSeek-模型(model)介绍

DeepSeek-模型(model)介绍

上传者: 运维小路

2分钟快速入门DeepSeek安装

2分钟快速入门DeepSeek安装

上传者: 运维小路

【k8s 1.32版】60分钟极速部署基于Ubuntu系统的企业级kubernetes集群，k8s教程/k8s安装/k8s部署/k8s实战/k8s集群

【k8s 1.32版】60分钟极速部署基于Ubuntu系统的企业级kubernetes集群，k8s教程/k8s安装/k8s部署/k8s实战/k8s集群

上传者: 云原生架构师

【喂饭教程】20分钟教会你用vLLM+QwQ生产环境部署，及Transformers推理，并搭建聊天机器人应用！超详细教程！企业级应用场景|大模型|LLM

【喂饭教程】20分钟教会你用vLLM+QwQ生产环境部署，及Transformers推理，并搭建聊天机器人应用！超详细教程！企业级应用场景|大模型|LLM

上传者: 大模型学习教程

B站讲的最好的Coze（2025最新版）涵盖coze智能体搭建/coze工作流教程/coze应用开发

B站讲的最好的Coze（2025最新版）涵盖coze智能体搭建/coze工作流教程/coze应用开发

上传者: Coze_扣子

浙大大佬72小时讲完的Python全套教程，2025最新版，学完即可就业！拿走不谢，学不会我退出IT界（这才是B站最系统Python教程，少走90%弯路！）

浙大大佬72小时讲完的Python全套教程，2025最新版，学完即可就业！拿走不谢，学不会我退出IT界（这才是B站最系统Python教程，少走90%弯路！）

上传者: Python大本营

全B站最用心的C语言零基础教程，2025最新版，带你7天搞定C语言，包含所有干货！0基础小白看这套就够了，存下吧，很难找全的！

全B站最用心的C语言零基础教程，2025最新版，带你7天搞定C语言，包含所有干货！0基础小白看这套就够了，存下吧，很难找全的！

上传者: c语言基础入门

MCP+DeepSeek，AI自动做爬虫逆向，抢饭碗的来了？

MCP+DeepSeek，AI自动做爬虫逆向，抢饭碗的来了？

上传者: 图灵AI大模型

【清华大学】Coze（扣子）从入门到精通-基础/应用/搭建智能体，全程干货无废话！让你少走99%的弯路！

【清华大学】Coze（扣子）从入门到精通-基础/应用/搭建智能体，全程干货无废话！让你少走99%的弯路！

上传者: 图灵说Java

翻遍B站！这是目前最全最详细的RAG入门到精通实战教程！一天带你从0到1完成一套完整的RAG框架！全程干货无废话，学完少走99%的弯路

翻遍B站！这是目前最全最详细的RAG入门到精通实战教程！一天带你从0到1完成一套完整的RAG框架！全程干货无废话，学完少走99%的弯路

上传者: AI模型工坊

MCP终极指南 - 从原理到实战，带你深入掌握MCP（基础篇）

MCP终极指南 - 从原理到实战，带你深入掌握MCP（基础篇）

上传者: 马克的技术工作坊

练习两天半，从零开始实现Deep Research（DeepSeek自动生成带插图的markdown报告），原理讲解到代码实现，你绝对学得会

练习两天半，从零开始实现Deep Research（DeepSeek自动生成带插图的markdown报告），原理讲解到代码实现，你绝对学得会

上传者: 偷星九月333

MCP和FunctionCall之间到底有什么关系？LLM/大模型/OpenAI/Agent/DeepSeek/工具调用/ToolCall/AI

MCP和FunctionCall之间到底有什么关系？LLM/大模型/OpenAI/Agent/DeepSeek/工具调用/ToolCall/AI

上传者: MiuMiu8802

【2025最新AI大模型】B站目前最全最细的AI大模型0基础全套教程，入门到进阶，一套全解决！——大模型学习路线/LLM/大模型入门

【2025最新AI大模型】B站目前最全最细的AI大模型0基础全套教程，入门到进阶，一套全解决！——大模型学习路线/LLM/大模型入门

上传者: 吴恩达深度学习

【手搓代码】咱们一起从零开始构建大模型智能体先导集：Function Calling详解，全流程代码资料github无保留开源

【手搓代码】咱们一起从零开始构建大模型智能体先导集：Function Calling详解，全流程代码资料github无保留开源

上传者: Double童发发

【零基础小白必看！】10 分钟用 Cherry-studio 搭个人知识库 + 智能问答助手｜保姆级手把手教程，全程实操无废话，新手也能秒变效率达人！

【零基础小白必看！】10 分钟用 Cherry-studio 搭个人知识库 + 智能问答助手｜保姆级手把手教程，全程实操无废话，新手也能秒变效率达人！

上传者: 大模型喂饭级教程

【全76集】大模型RAG全栈技术从基础到精通，从0打造高精准AI应用！

【全76集】大模型RAG全栈技术从基础到精通，从0打造高精准AI应用！

上传者: 吴恩达langchain