详细解析Claude Code 接入本地大模型Qwen3.6 进行代码开发(vLLM 部署 + 环境配置)-45看点

平时做技术实践时，很多问题不是概念不会，而是细节没串起来。拿“详细解析Claude Code 接入本地大模型Qwen3.6 进行代码开……”来说，它看着像小点，放到项目里常会牵出环境、配置、兼容性和维护成本。下面按实际使用顺序，把思路、关键写法和容易踩坑的地方讲清楚，方便你直接对照操作。

背景

落到代码里，Claude Code 是 Anthropic 推出的智能编码命令行工具，默认采用 Claude 系列模型。但我们能够借助指定自定义 API 端点，将其连接到本地部署的 Qwen3.6 模型，实现“本地模型 + 强大编码助手”的组合。

本文将带你完成：

一、环境准备与模型部署

1.1 安装 Docker

落到代码里，请确保你的系统已安装 Docker 同时兼容 GPU（NVIDIA Container Toolkit）。

1.2 新建 docker-compose.yml

结合项目来看，在合适的位置新建项目目录，比如 ~/vllm-qwen，同时在其中新建 docker-compose.yml 文件，内容如下所示：

version: '3.8'
services:
  vllm-qwen:
    image: vllm/vllm-openai:cu130-nightly
    container_name: vllm-qwen36-35B-A3B-FP8
    restart: unless-stopped
    ipc: host
    ports:
      - "8000:8000"
    volumes:
      - /app/vllm/data/models:/root/.cache/modelscope   # 模型缓存目录，可按需修改
    environment:
      - VLLM_USE_MODELSCOPE=true
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]
    command:
      - --model
      - "Qwen/Qwen3.6-35B-A3B-FP8"
      - --tensor-parallel-size
      - "1"
      - --gpu-memory-utilization
      - "0.8"
      - --served-model-name
      - "Qwen3.6-35B-A3B-FP8"
      - --enable-prefix-caching
      - --enable-auto-tool-choice
      - --default-ch@t-template-kwargs
      - '{"enable_thinking": false}'
      - --tool-call-parser
      - "qwen3_coder"
      - --max-model-len
      - "196608"
      - --max-num-batched-tokens
      - "8192"
      - --enable-chunked-prefill
      - --max-num-seqs
      - "32"
      - --kv-cache-dtype
      - "fp8"

1.3 启动模型服务

在 docker-compose.yml 所在目录执行：

docker compose up -d

服务启动后会本机 8000 端口。

1.4 验证部署

采用 curl 检查模型列表：

curl http://127.0.0.1:8000/v1/models

正常得到应包含 Qwen3.6-35B-A3B-FP8。

二、安装 Claude Code

Claude Code 兼容多种安装方式，可根据你的系统选择。

2.1 借助官方脚本安装（建议）

macOS / Linux / WSL（Linux 子系统）
打开终端，执行：

curl -fsSL https://claude.ai/install.sh | bash

安装完成后重启终端或执行 source ~/.bashrc（或 ~/.zshrc）。

Windows PowerShell（管理员模式运行）

irm https://claude.ai/install.ps1 | iex

Windows CMD（命令提示符）

curl -fsSL https://claude.ai/install.cmd -o install.cmd && install.cmd && del install.cmd

2.2 借助 npm 安装（适用来已安装 Node.js 的用户）

npm install -g @anthropic-ai/claude-code

安装后，执行一次初始化（非必须，但建议）：

claude install

三、设置 Claude Code 采用本地 Qwen3.6

3.1 设置环境变量

从实现思路看，将 Claude Code 指向本地 vLLM 服务。当前服务运行在 127.0.0.1:8000，如果其他机器使用可以ifconfig查看服务器的ip地址，认证 Token 可随意设置（vLLM 默认不校验，但需占位符）。

Linux / macOS / WSL (bash/zsh)

export ANTHROPIC_BASE_URL="http://127.0.0.1:8000"
export ANTHROPIC_AUTH_TOKEN="your_key"

理解这一步时，若想永久生效，可将这两行追加到 ~/.bashrc 或 ~/.zshrc。

Windows PowerShell

$env:ANTHROPIC_BASE_URL="http://127.0.0.1:8000"
$env:ANTHROPIC_AUTH_TOKEN="your_key"

Windows CMD

set ANTHROPIC_BASE_URL=http://127.0.0.1:8000
set ANTHROPIC_AUTH_TOKEN=your_key

3.2 指定模型启动 Claude Code

环境变量设置完毕后，采用 --model 参数指定模型名称（必须与 vLLM 启动参数 --served-model-name 一致）：

claude --model Qwen3.6-35B-A3B-FP8

理解这一步时，首次运行会提示登录，由于我们采用的是自定义端点，可以随意输入邮箱或直接回车跳过。

启动成功后，你将看到类似如下所示的交互界面：

Claude Code v2.x.x
Type /help for commands, /exit to quit.
> 你好，请帮我写一个 Python 冒泡排序

结合项目来看，总的来说，Claude这部分内容适合结合实际项目边做边理解。先抓住核心思路，再逐步补上细节和边界处理，最后效果会更稳定，也更容易复用。