Перейти к содержимому
ПереводыDeepSeek

DeepSeek как учебник: что открыто и в каком порядке читать

Обзор раздела: какие техотчёты, инженерные документы и библиотеки DeepSeek выложила открыто, чему учит каждый материал, в каком порядке их читать вместе с курсом и что из этого можно запустить на своей машине.

Курсов в привычном смысле у DeepSeek нет. Компания учит иначе: выкладывает техотчёты, где подробно написано, что и почему сделано, и рабочий код инфраструктуры — тот самый, на котором обучались и работают их модели. Для инженера это ценнее курса: видно не «как рассказывают», а «как делают».

Эта страница — карта раздела: что открыто, чему это учит и в каком порядке читать.

  • Цепочка, а не разрозненные статьи. Отчёты продолжают друг друга: законы масштабирования → мелкие эксперты → GRPO → MLA → FP8 и MTP → RL на проверяемых наградах → разреженное внимание → миллион токенов. Видно, как идея рождается, проверяется на маленькой модели и доходит до боевого масштаба.
  • Пишут и про неудачи. В статье R1 есть раздел о том, что не сработало; в отчёте DeepSeekMath — честное «arXiv не помог» и «RL улучшает Maj@K, но не Pass@K»; в V4 — «эти два приёма работают, но мы не до конца понимаем почему».
  • Код открыт целиком. DualPipe, EPLB, FlashMLA, 3FS — это не демонстрации, а части боевой системы. Лицензия почти везде MIT.
  • Числа честные и проверяемые. Почти каждое утверждение об экономии подкреплено расчётом, который можно повторить на калькуляторе. Мы в конспектах такие расчёты повторяем.
СтраницаОригиналВидЧему учитУроки курса
DeepSeek LLM (2024)arXiv:2401.02954конспектсвои законы масштабирования, мера FLOPs/токен, зависимость от качества данных5.1.1, 5.1.2
DeepSeekMoE (2024)arXiv:2401.06066конспектмелкие эксперты, общий эксперт, абляции и анализ специализации5.3.1, 5.3.2
DeepSeekMath и GRPO (2024)arXiv:2402.03300конспектсбор корпуса математики, GRPO — RL без критика6.4.1, 5.1.2
DeepSeek-V2 и MLA (2024)arXiv:2405.04434конспектсжатие KV-кэша, отделённый RoPE, экономика инференса5.2.2, 7.1.1
DeepSeek-V3.2 (2025)arXiv:2512.02556конспектразреженное внимание DSA, устойчивое масштабирование RL, агентные задачи5.5.2, 6.4.3, 8.3.1
DeepSeek-V4 (2026)arXiv:2606.19348конспектгибридное внимание CSA + HCA, mHC, Muon, FP4 QAT, сборка из специалистов9.2.1, 5.4.4, 7.2.1

Отчёты V3 и R1 в этом разделе не пересказаны: по ним есть управляемое чтение в треке «Китайская линза» — «Читаем техотчёт DeepSeek-V3 вместе» и «Читаем статью DeepSeek-R1 вместе». Там разбор по разделам с вопросами и пересчётом чисел — это лучше конспекта.

СтраницаОригиналВидЧему учитУроки курса
Система инференса V3/R1open-infra-index (CC0)переводпараллелизм экспертов между узлами, раздельные prefill и decode, реальная экономика сервиса7.1.1, 7.1.2, 5.3.2
FlashMLA изнутриFlashMLA/docs (MIT)переводкак считать, во что упирается ядро, и строить расписание на GPU5.7.1, 5.7.2, 5.2.2
DualPipe и EPLBDualPipe, EPLB (MIT)переводдвунаправленный конвейер, балансировщик экспертов с кодом5.4.3, 5.3.2
3FS: проектные заметки3FS/docs (MIT)переводраспределённая файловая система для обучения и KV-кэша на диске5.4.3, 7.1.2
Документация APIapi-docs.deepseek.comпутеводительпервый вызов, режим размышления, кэш контекста, ошибки8.1.1, 8.1.2
flowchart TD
A["Ступень 5: большие модели"] --> B["DeepSeek LLM: законы масштабирования"]
B --> C["DeepSeekMoE: эксперты"]
C --> D["V2: MLA и экономика"]
D --> E["china/06: читаем V3"]
E --> F["Ступень 6: GRPO"]
F --> G["DeepSeekMath: откуда взялся GRPO"]
G --> H["china/07: читаем R1"]
H --> I["Ступень 7: инференс"]
I --> J["Система инференса V3/R1"]
J --> K["DualPipe, EPLB, 3FS, FlashMLA"]
K --> L["V3.2: разреженное внимание"]
L --> M["V4: миллион токенов"]
Порядок чтения материалов DeepSeek вместе с курсом

Подробнее по шагам:

  1. После модуля 5.1 (масштабирование) — DeepSeek LLM. Это самый простой отчёт линии и единственный про плотную модель. Главное в нём — методика: как мерить размер модели и как подбирать learning rate и batch size по бюджету.

  2. После модуля 5.3 (MoE) — DeepSeekMoE. Читайте ради абляций: там видно, какая из двух идей что даёт и что ломается, если убрать общего эксперта.

  3. После урока 5.2.2 (MLA) — DeepSeek-V2. Здесь же впервые появляется экономика: GPU-часы на триллион токенов, токены в секунду, размер кэша.

  4. После ступени 5 целиком — управляемое чтение техотчёта V3. V3 собирает всё вместе: MLA, MoE с балансировкой смещениями, FP8, MTP, DualPipe.

  5. Вместе с модулем 6.4 (рассуждения) — DeepSeekMath, потом чтение статьи R1. Сначала алгоритм, потом его применение.

  6. Вместе с модулем 7.1 (инференс) — обзор системы инференса V3/R1. Это лучший в разделе текст про «как на самом деле»: цифры нагрузки, себестоимость, загрузка GPU по суткам.

  7. После 7.1 — инфраструктура. DualPipe и EPLB (пример EPLB запустите на CPU), 3FS, FlashMLA — в порядке возрастания сложности.

  8. Ступень 9 (фронтир) — V3.2 и V4. К этому моменту у вас уже есть язык, на котором они написаны.

  9. Ступень 8 (приложения) — путеводитель по API в любой момент, когда понадобится обратиться к облачной модели.

Что открыто у DeepSeek, кроме переведённого здесь

Заголовок раздела «Что открыто у DeepSeek, кроме переведённого здесь»

Короткий список для ориентировки (всё — на github.com/deepseek-ai):

РепозиторийЧто этоМожно ли запустить на 4× RTX 4080
FlashMLAядра внимания для Hopper и Ascendнет (Hopper/Blackwell/Ascend)
DeepEPбиблиотека обмена для параллелизма экспертовнет (нужен NVLink/InfiniBand)
DeepGEMMFP8-ядра матричного умножениянет (Hopper/Blackwell)
DualPipeдвунаправленный конвейер обученияда, пример на 2–4 GPU
EPLBбалансировщик экспертовда, чистый Python на CPU
3FS и smallpondфайловая система и обработка данных поверх неёнет (нужен кластер с RDMA)
profile-dataпрофили наложения вычислений и связиданные для чтения
open-infra-indexуказатель всей открытой инфраструктуры, тексты Open Source Weekчтение
DeepSeek-V3.2-Expреференсная реализация инференса с DSAкод для чтения, веса слишком велики
DeepSeek-Math-V2модель и код для математических доказательств (Apache-2.0)частично, модели крупные
МатериалЛицензияЧто это значит для нас
Код репозиториев (DualPipe, EPLB, 3FS, FlashMLA, V3.2-Exp)MITможно переводить документы целиком, сохраняя лицензию
open-infra-index (тексты Open Source Week)CC0-1.0можно всё
Веса ранних моделей (LLM, MoE, Math, V2, V3)DeepSeek Licenseсвоя лицензия на модели, к текстам отношения не имеет
Веса V3.2, V4MITсвободно
Тексты статей на arXivоткрытой лицензии неттолько пересказ своими словами, поэтому отчёты у нас — конспекты
Документация APIлицензия не указанатолько путеводитель и пересказ

Поэтому в разделе две группы страниц: переводы инженерных документов и кода (лицензия позволяет) и конспекты техотчётов (лицензия не позволяет переводить дословно). Разница объяснена на главной странице переводов.

  • Отчёты V3 и R1 — они разобраны в треке «Китайская линза» (V3, R1), и дублировать их здесь незачем.
  • Ядра DeepEP и DeepGEMM — их README очень короткие и почти целиком состоят из команд сборки; читать их без Hopper-GPU смысла мало. Если дойдёте до них, начните с обзора системы инференса, где объяснено, зачем они нужны.
  • Статья «Insights into DeepSeek-V3» (ISCA 2025) о совместном проектировании модели и железа — не переведена, доступна на arXiv.
  • Цены API — они меняются слишком часто; смотрите только у провайдера.

Начинающему — обзор системы инференса V3/R1: короткий текст, после которого становится понятно, из чего складывается стоимость ответа модели.

Тому, кто дошёл до ступени 6, — конспект DeepSeekMath: GRPO сегодня стоит за большинством рассуждающих моделей, и полезно знать его в оригинальном виде, до всех улучшений.