DeepSeek 最近推出的 R1 模型因其强大的思维链(Chain-of-Thought)能力而备受关注。然而，在实际开发中，许多开发者发现主流的 AI 框架（如 Spring AI 和 LangChain4j）并不能完全支持这个模型的特性。本文将深入分析这个问题，并提供一个优雅的解决方案。

​
为什么不能使用现有框架？

​
官方 R1 模型的特殊性

虽然目前网上有许多教程介绍如何通过 Spring AI 或 LangChain4j 的 OpenAI 适配器来接入 DeepSeek，但这种方式存在以下关键问题：

  1. 思维链内容丢失：R1 模型最核心的特性是提供详细的推理过程，这些内容包含在特殊的 reasoning_content 字段中，现有框架会完全忽略这个关键信息

  2. 响应模式的改变：R1 模型强依赖流式输出，其推理过程与通用文本大模型不同 - 会先输出详细的思考过程，再给出最终推理结果。这种”思考在前、结论在后”的模式导致整个响应时间较长，因此必须采用流式输出和专门的思维链展示交互，否则用户体验会大打折扣

  3. 参数限制：R1 模型对以下参数有特殊要求：

    • temperature、top_p、presence_penalty、frequency_penalty：虽然可以设置但不会生效
    • logprobs、top_logprobs：设置会导致API调用失败

框架适配现状

目前主流的 AI 框架都未对 DeepSeek R1 进行官方适配：

  • LangChain4j：暂无计划支持 DeepSeek 特有的思维链功能
  • Spring AI：当前版本仅支持标准的 OpenAI 协议，无法处理 R1 的特殊响应格式

这种情况预计在短期内不会改变，主要原因是 R1 模型的非标准响应格式以及特殊的参数要求。因此，对于想要充分利用 R1 模型能力的开发者来说，直接调用 API 是目前最佳的选择。

​
Ollama 部署的特殊处理

当使用 Ollama 私有化部署 R1 时，情况略有不同：

ollama run deepseek-r1:14b

Ollama 为了保持与 OpenAI 协议的兼容性，采用了一个变通方案：将思维链内容用 <think> 标签包装后通过 content 字段输出。这种方式虽然保证了兼容性，但在多轮对话中会产生额外的 token 开销。

建议在前端实现以下处理逻辑来提取思维链内容：

export function withMessageThought(message: ChatMessage, startTime?: number) {
	const content = message.content;

	const thinkPattern = /<think>(.*?)<\/think>/s;
	const matches = content.match(thinkPattern);

	if (matches) {
		const reasoning_content = matches[1].trim();
		return reasoning_content;
	}

	return message;
}

​
基于 Spring WebFlux 的实现方案

虽然 Spring AI 和 LangChain4j 提供了便捷的 AI 集成方案，但对于 DeepSeek R1 这样的特殊模型，直接调用 API 是更好的选择。使用 Spring WebFlux 不仅可以完整获取思维链内容，还能通过其异步非阻塞特性提供更好的性能表现。

​
基于 Spring WebFlux 的优雅实现

为了充分利用 R1 模型的特性，我们可以使用 Spring WebFlux 实现一个直接调用 API 的解决方案。这不仅能完整保留思维链内容，还能通过响应式编程提供更好的性能。

在处理 AI 模型 API 调用时，WebFlux 相比传统的阻塞式 HTTP 客户端有以下优势：

  1. 非阻塞 I/O

    • 使用 Netty 作为底层实现，支持异步非阻塞的网络操作
    • 不会因为长时间的 API 调用而阻塞线程池
    • 能更高效地处理大量并发请求

  2. 响应式流

    • 通过 SpringBoot WebClient 的声明式 API 简化调用流程
    • 简化 Server-Sent Events (SSE) 开发，实现实时数据推送
    • 方便实现流式输出的 UI 交互

​
API 实现

@PostMapping(value = "/deepseek", produces = MediaType.TEXT_EVENT_STREAM_VALUE)
public Flux<Map<String, String>> chatStream(String inputPrompt) {
    Map<String, Object> message = new HashMap<>();
    message.put("role", "user");
    message.put("content", inputPrompt);

    Map<String, Object> requestBody = new HashMap<>();
    requestBody.put("messages", List.of(message));
    requestBody.put("stream", true);
    requestBody.put("model", "deepseek-reason");

    WebClient webClient = WebClient.builder()
            .baseUrl("https://api.deepseek.com/v1")
            .defaultHeader("Authorization", "Bearer ${DEEPSEEK_API_KEY}")
            .build();

    return webClient.post()
            .uri("/chat/completions")
            .bodyValue(requestBody)
            .retrieve()
            .bodyToFlux(JsonNode.class)
            .map(this::parseDeepseekResponse)
            .takeUntil(response -> response.containsKey("finish_reason"))
            .onErrorResume(error -> Flux.just(Map.of("content", "API 调用异常：" + error.getMessage())));
}

​
响应解析

private Map<String, String> parseDeepseekResponse(JsonNode response) {
    JsonNode choices = response.get("choices");
    Map<String, String> result = new HashMap<>();
    
    if (choices != null && choices.isArray() && !choices.isEmpty()) {
        JsonNode choice = choices.get(0);
        JsonNode delta = choice.get("delta");

        if (delta != null) {
            result.put("content", 
                Optional.ofNullable(delta.get("content"))
                    .map(JsonNode::asText)
                    .orElse(""));
                    
            result.put("reasoning_content", 
                Optional.ofNullable(delta.get("reasoning_content"))
                    .map(JsonNode::asText)
                    .orElse(""));
        }

        Optional.ofNullable(choice.get("finish_reason"))
            .filter(node -> !node.isNull())
            .ifPresent(node -> result.put("finish_reason", node.asText()));
    }
    return result;
}

​
总结

通过本文提供的实现方案，我们可以：

  1. 完整保留 R1 模型的思维链能力
  2. 利用 WebFlux 实现高性能的流式处理

虽然目前 DeepSeek 官方 API 基本不可用，可以考虑使用硅基流动(SiliconFlow)部署的 671B 满血 R1 模型作为替代方案：https://cloud.siliconflow.cn/i/YKcJJTYP

本文的实现方案不仅解决了当前的集成问题，也为未来框架的改进提供了参考。随着大语言模型领域的快速发展，掌握直接调用 API 的技巧将变得越发重要，特别是在处理具有特殊功能的新型模型时。

DeepSeek 最近推出的 R1 模型因其强大的思维链(Chain-of-Thought)能力而备受关注。然而，在实际开发中，许多开发者发现主流的 AI 框架（如 Spring AI 和 LangChain4j）并不能完全支持这个模型的特性。本文将深入分析这个问题，并提供一个优雅的解决方案。

​
为什么不能使用现有框架？

​
官方 R1 模型的特殊性

虽然目前网上有许多教程介绍如何通过 Spring AI 或 LangChain4j 的 OpenAI 适配器来接入 DeepSeek，但这种方式存在以下关键问题：

  1. 思维链内容丢失：R1 模型最核心的特性是提供详细的推理过程，这些内容包含在特殊的 reasoning_content 字段中，现有框架会完全忽略这个关键信息

  2. 响应模式的改变：R1 模型强依赖流式输出，其推理过程与通用文本大模型不同 - 会先输出详细的思考过程，再给出最终推理结果。这种”思考在前、结论在后”的模式导致整个响应时间较长，因此必须采用流式输出和专门的思维链展示交互，否则用户体验会大打折扣

  3. 参数限制：R1 模型对以下参数有特殊要求：

    • temperature、top_p、presence_penalty、frequency_penalty：虽然可以设置但不会生效
    • logprobs、top_logprobs：设置会导致API调用失败

框架适配现状

目前主流的 AI 框架都未对 DeepSeek R1 进行官方适配：

  • LangChain4j：暂无计划支持 DeepSeek 特有的思维链功能
  • Spring AI：当前版本仅支持标准的 OpenAI 协议，无法处理 R1 的特殊响应格式

这种情况预计在短期内不会改变，主要原因是 R1 模型的非标准响应格式以及特殊的参数要求。因此，对于想要充分利用 R1 模型能力的开发者来说，直接调用 API 是目前最佳的选择。

​
Ollama 部署的特殊处理

当使用 Ollama 私有化部署 R1 时，情况略有不同：

ollama run deepseek-r1:14b

Ollama 为了保持与 OpenAI 协议的兼容性，采用了一个变通方案：将思维链内容用 <think> 标签包装后通过 content 字段输出。这种方式虽然保证了兼容性，但在多轮对话中会产生额外的 token 开销。

建议在前端实现以下处理逻辑来提取思维链内容：

export function withMessageThought(message: ChatMessage, startTime?: number) {
	const content = message.content;

	const thinkPattern = /<think>(.*?)<\/think>/s;
	const matches = content.match(thinkPattern);

	if (matches) {
		const reasoning_content = matches[1].trim();
		return reasoning_content;
	}

	return message;
}

​
基于 Spring WebFlux 的实现方案

虽然 Spring AI 和 LangChain4j 提供了便捷的 AI 集成方案，但对于 DeepSeek R1 这样的特殊模型，直接调用 API 是更好的选择。使用 Spring WebFlux 不仅可以完整获取思维链内容，还能通过其异步非阻塞特性提供更好的性能表现。

​
基于 Spring WebFlux 的优雅实现

为了充分利用 R1 模型的特性，我们可以使用 Spring WebFlux 实现一个直接调用 API 的解决方案。这不仅能完整保留思维链内容，还能通过响应式编程提供更好的性能。

在处理 AI 模型 API 调用时，WebFlux 相比传统的阻塞式 HTTP 客户端有以下优势：

  1. 非阻塞 I/O

    • 使用 Netty 作为底层实现，支持异步非阻塞的网络操作
    • 不会因为长时间的 API 调用而阻塞线程池
    • 能更高效地处理大量并发请求

  2. 响应式流

    • 通过 SpringBoot WebClient 的声明式 API 简化调用流程
    • 简化 Server-Sent Events (SSE) 开发，实现实时数据推送
    • 方便实现流式输出的 UI 交互

​
API 实现

@PostMapping(value = "/deepseek", produces = MediaType.TEXT_EVENT_STREAM_VALUE)
public Flux<Map<String, String>> chatStream(String inputPrompt) {
    Map<String, Object> message = new HashMap<>();
    message.put("role", "user");
    message.put("content", inputPrompt);

    Map<String, Object> requestBody = new HashMap<>();
    requestBody.put("messages", List.of(message));
    requestBody.put("stream", true);
    requestBody.put("model", "deepseek-reason");

    WebClient webClient = WebClient.builder()
            .baseUrl("https://api.deepseek.com/v1")
            .defaultHeader("Authorization", "Bearer ${DEEPSEEK_API_KEY}")
            .build();

    return webClient.post()
            .uri("/chat/completions")
            .bodyValue(requestBody)
            .retrieve()
            .bodyToFlux(JsonNode.class)
            .map(this::parseDeepseekResponse)
            .takeUntil(response -> response.containsKey("finish_reason"))
            .onErrorResume(error -> Flux.just(Map.of("content", "API 调用异常：" + error.getMessage())));
}

​
响应解析

private Map<String, String> parseDeepseekResponse(JsonNode response) {
    JsonNode choices = response.get("choices");
    Map<String, String> result = new HashMap<>();
    
    if (choices != null && choices.isArray() && !choices.isEmpty()) {
        JsonNode choice = choices.get(0);
        JsonNode delta = choice.get("delta");

        if (delta != null) {
            result.put("content", 
                Optional.ofNullable(delta.get("content"))
                    .map(JsonNode::asText)
                    .orElse(""));
                    
            result.put("reasoning_content", 
                Optional.ofNullable(delta.get("reasoning_content"))
                    .map(JsonNode::asText)
                    .orElse(""));
        }

        Optional.ofNullable(choice.get("finish_reason"))
            .filter(node -> !node.isNull())
            .ifPresent(node -> result.put("finish_reason", node.asText()));
    }
    return result;
}

​
总结

通过本文提供的实现方案，我们可以：

  1. 完整保留 R1 模型的思维链能力
  2. 利用 WebFlux 实现高性能的流式处理

虽然目前 DeepSeek 官方 API 基本不可用，可以考虑使用硅基流动(SiliconFlow)部署的 671B 满血 R1 模型作为替代方案：https://cloud.siliconflow.cn/i/YKcJJTYP

本文的实现方案不仅解决了当前的集成问题，也为未来框架的改进提供了参考。随着大语言模型领域的快速发展，掌握直接调用 API 的技巧将变得越发重要，特别是在处理具有特殊功能的新型模型时。