DeepSeek-V3.1-Think · 企业专享区

DeepSeek-V3.1 是在 DeepSeek-V3.1-Base 的基础上进行后训练的，后者是通过两阶段长上下文扩展方法构建的，遵循原始 DeepSeek-V3 报告中概述的方法。通过收集更多的长文档并大幅扩展两个训练阶段来扩大了数据集。32K 扩展阶段增加了 10 倍至 630B tokens，而 128K 扩展阶段则增加了 3.3 倍至 209B tokens。此外，DeepSeek-V3.1 使用 UE8M0 FP8 格式的数据进行训练，以确保与微缩数据格式兼容。