DeepSeek各版本回顾

让我们首先回顾DeepSeek发布大语言模型的时间表：

2023年11月2日，DeepSeek-Coder，33B，这是2023年11月29日，DeepSeek的第一个开源大型语言模型，DeepSeek发布了DeepSeek LLM，其中包括7B和67B，分为两类：基础和聊天。总共有四个版本。 2024年1月11日，DeepSeek发布。 MoE(MoE), 145B, February 5, 2024, released DeepSeek-Math(GRPO), 7B, inference model March 11, 2024, released DeepSeek-VL, 7B, multimodal May 7, 2024, released DeepSeek-V2 (MLA), 236B, June 17, 2024, released DeepSeek-Coder-V2, 236B, September 6, 2024, DeepSeek-V2.5于2024年11月20日发布，238b，DeepSeek-r1-Lite，1.5b，2024年12月10日，DeepSeek-V2.5-1210（V2系列的最终版本），236b，2024年12月13日，2024年12月13日，DeepSeek-Vl2，DeepSeek-Vl2，27B，27B，2024年，2024年，2024年，2024年1月67日（Fpp），Fpp（Fpp），M，Fpp），M，Fpp），M，Fpp），M，Fpp） 20，2025，发行了DeepSeek-R1，671b，推理模型DeepSeek和类似产品的性能比较

上面括号中大胆字体的内容是DeepSeek的创新技术。可以看出，DeepSeek逐渐将这些技术应用于一系列产品。可以认为V3是主人，参数高达671B（6710亿）。 V3于2024年12月26日推出，在苹果的中国和美国应用程序商店的免费应用程序下载中排名第一。当时，它在大型语言模型的全球性能排名中排名第七，在复杂问题和代码领域中排名第三，在开源模型中排名第三。

R1是在V3基础上生成的

有些人可能有疑问：您不想谈论R1吗？为什么要谈论V3？因为R1是基于V3生成的！

从V3到R1

上图说明了V3如何生成R1。不用担心它太深刻了。不难理解。让我们简要解释一下：

步骤1：生成R1-Zero

基于V3，基于此基础进行增强学习（RL），主要是基于准确性和格式，而是生成R1-Zero。此版本与R1同时发布。

R1-Zero上有监督的微调（SFT），并获得冷启动数据。

步骤2：生成R1

冷启动数据经过训练。除了准确性和格式外，这次进行的加固学习还增加了一致性，以确保将来使用输入和输出的一致性。经过加强学习后，然后进行了监督和微调以获得思维链（COT）数据。

同时，我们直接从V3监督微调中获得通用知识数据，即无需计算就可以使用的知识。

合并两者后，进行了强化学习的两个方面，包括基于规则的验证（数学，代码）和人类偏好，这些偏好产生了R1。

步骤3：生成蒸馏版

使用先前生成的思想链数据和经常知识数据，监督和微调的其他开源大语模型。 DeepSeek选择了阿里巴巴的Qwen 2.5和Meta的Llama 3，其中获得了所谓的蒸馏版。

R1版本在GitHub上发布

上图是GitHub网站上的屏幕截图，您可以看到DeepSeek发布的R1版本。

关于许多人的蒸馏，我发现许多人不了解，所以我简要解释了：