Deepseek-r1-distill-qwen-1.5b：超越gpt-4o与claude-3.5的轻量级模型解析与应用指南

深度寻求 概述

深度寻求在生成式 AI 领域引起了轰动。首先推出了深度寻求-v3，现在又推出了深度寻求-R1，这两个模型都击败了所有基准测试，并且完全开源。

但今天我们不谈这两个超级英雄模型，而是深度寻求-R1 的一个蒸馏版本，即深度寻求-R1-蒸馏-Qwen-1.5B，它可能是今天被低估的发布，悄然在一些主要基准测试中击败了 GPT4o 和 Claude3.5 Sonnet，参数仅为 1.5B。

但首先，让我们了解

什么是深度寻求-R1 蒸馏模型？

深度寻求-R1 蒸馏模型是通过蒸馏过程创建的更小、更高效的版本，源自于更大的深度寻求-R1 模型。该过程将更大模型的知识和推理能力转移到更小的模型中，使它们在推理任务上表现良好，同时更加轻量、资源友好且易于部署。

深度寻求-R1 发布的不同蒸馏模型包括：

• 深度寻求-R1-蒸馏-Qwen系列：1.5B，7B，14B，32B。
• 深度寻求-R1-蒸馏-Llama系列：8B，70B。

回到深度寻求-R1-蒸馏-Qwen 1.5…

深度寻求-R1-蒸馏-Qwen 1.5 是 Qwen2.5-数学-1.5B 的蒸馏版本，专注于数学和逻辑推理。

查看指标表，模型看起来是一款强大的模型

从表中可以看出，深度寻求-R1-蒸馏-Qwen-1.5B 在特定任务上优于 GPT-4o 和 Claude-3.5，例如：

• 任务A
• 任务B
• 任务C

结论

总之，深度寻求-R1-蒸馏-Qwen 1.5 在性能指标上显示出显著的改进，使其成为数学和逻辑推理任务的有价值工具。

1. AIME 2024 (数学竞赛)

深度寻求-R1-蒸馏-Qwen-1.5B: 28.9% Pass@1

GPT-4o: 9.3% Pass@1

Claude 3.5: 16.0% Pass@1

分析: 深度寻求-R1-蒸馏-Qwen-1.5B 在这个具有挑战性的数学竞赛基准上显著优于 GPT-4o 和 Claude 3.5，展示了其强大的推理能力。

2. MATH-500 (数学推理)

深度寻求-R1-蒸馏-Qwen-1.5B: 83.9% Pass@1

GPT-4o: 74.6% Pass@1

Claude 3.5: 78.3% Pass@1

分析: 该1.5B模型在数学推理方面优于GPT-4o和Claude 3.5，展示了其处理复杂数学问题的能力，尽管其规模较小。

3. Codeforces (编程竞赛)

深度寻求-R1-蒸馏-Qwen-1.5B: 954 评分

GPT-4o: 759 评分

Claude 3.5: 717 评分

分析: 尽管深度寻求-R1-蒸馏-Qwen-1.5B 在编程任务中并不是最强的，但在 Codeforces 评分方面仍然优于 GPT-4o 和 Claude 3.5，表明在竞争编程任务中的表现更佳。

尽管深度寻求-R1-蒸馏-Qwen-1.5B 在数学和推理方面表现出色，但在所有基准测试中并未超越 GPT-4o 和 Claude 3.5。在更广泛的任务（GPQA, LiveCode Bench）中表现不佳，因为它可能更优化于数学而非一般推理或编码。

深度寻求-R1-蒸馏-Qwen-1.5B 的优势

推理能力：它在数学和推理任务上表现出色，超越了更大的模型，如 GPT-4o 和 Claude-3.5-Sonnet。

效率：仅有 1.5B 参数，它非常高效，适合资源受限的环境。

蒸馏技术：该模型利用了来自更大深度寻求-R1 的知识蒸馏，保留了其大部分推理能力，同时显著减小了模型体积。

限制

编码性能: 与 GPT-4o 和 Claude-3.5-Sonnet 相比，它在 LiveCodeBench 等编码任务中表现不佳。

语言混合: 像它的母模型一样，它在多语言任务中可能会面临语言一致性的问题。

提示敏感性: 它在零样本提示下表现最佳，而在少样本提示下可能会下降。

深度寻求-R1-蒸馏-Qwen-1.5B是最佳的小型LLM吗？

• 是的，对于推理任务：深度寻求-R1-蒸馏-Qwen-1.5B可以说是数学和推理任务中最佳的小型LLM，表现优于更大的模型如GPT-4o和Claude3.5-Sonnet。
• 不，对于通用用途：对于需要强大编码或多语言能力的任务，它可能会表现不佳。

与其他小型LLM如Llama 3.2 1B或3B、HuggingFace的SmolLM以及Qwen2.5–1.5数学模型相比，应该会脱颖而出，但目前没有直接的比较可供参考。

如何使用深度寻求-R1-蒸馏-Qwen-1.5B？

模型权重是开源的，可以直接从HuggingFace使用。

您可以运行 这个collab笔记本 来试用它（作者：Hasan Rafiq）。