Учимся у создателей
Бесплатные курсы, лекции и код от тех, кто делает топовые нейросети, — с маршрутом по ступеням курса и пометкой, что есть на русском.
Да, создатели нейросетей делятся знаниями, и щедро. Компании, которые делают топовые модели, выкладывают бесплатные курсы, открытые книги, ноутбуки с кодом, инженерные статьи и подробные технические отчёты. А некоторые создатели лично записывают лекции: Андрей Карпатый, сооснователь OpenAI, показывает на YouTube, как с нуля написать GPT.
Что именно есть:
- Курсы и академии. Claude Academy от Anthropic, AI Research Foundations от Google DeepMind и UCL, серия «… for Beginners» от Microsoft, курсы Hugging Face, NVIDIA Deep Learning Institute, лагерь Shanghai AI Lab.
- Открытые книги и руководства. How To Scale Your Model (Google DeepMind), Ultra-Scale Playbook (Hugging Face), Spinning Up (OpenAI).
- Кукбуки. Сборники готовых рецептов кода: у Anthropic, OpenAI, Google, Meta, Mistral, Hugging Face.
- Технические отчёты и инженерные тексты. DeepSeek, Qwen, Kimi, MiniMax и Anthropic подробно описывают, как устроены их модели и инфраструктура.
- Лекции людей-создателей и университетские курсы. Андрей Карпатый, Крис Ола (сооснователь Anthropic), Лилиан Венг (бывший вице-президент OpenAI), Stanford CS336, курс Яна Лекуна в NYU.
Ценность этих материалов в том, что это знания из первых рук: так модели делают на самом деле. Материалы свежие (многие обновлялись в 2025–2026 годах), почти все бесплатные, а код из них часто можно запустить на вашей машине с четырьмя RTX 4080.
Как совмещать с курсом
Заголовок раздела «Как совмещать с курсом»Курс — хребет: он ведёт по порядку, без пропусков, и проверяет понимание квизами, домашними работами и тетрадью ошибок. Официальные материалы — второй взгляд на ту же тему и практика от тех, кто делает модели. Работает такой порядок:
-
Сначала урок курса. Он объясняет тему с нуля и сразу проверяет, что вы поняли.
-
Потом один материал из маршрута по ступеням. Исключения: 3Blue1Brown лучше смотреть до урока (сначала картинка, потом формулы), а Карпатого — вместе с практикой: он пишет код в кадре.
-
Вернитесь к курсу. Домашняя работа, карточки, три строки в журнал. Непонятное — в тетрадь ошибок.
Одного-двух внешних материалов на ступень достаточно. Если пытаться пройти всё подряд, учёба превратится в бесконечный список «посмотреть потом». Глубокие материалы (🔴) берите после того, как ступень пройдена.
Про язык. Почти всё здесь на английском или китайском. Где есть русский — оригинал, перевод или субтитры, — стоит пометка RU, а все такие материалы собраны в разделе «На русском». Для остального мы сделали свои переводы, конспекты и путеводители — ссылка перевод → стоит прямо в строке, а всё вместе собрано в разделе «Переводы». Как смотреть английские видео с русскими субтитрами или закадровым переводом, рассказано там же и в разделе «Честные оговорки».
Как читать таблицы
Заголовок раздела «Как читать таблицы»- Уровень. 🟢 — можно с нуля. 🟡 — нужна база: Python, NumPy, PyTorch (ступени 0–3). 🔴 — продвинутый, после ступени 5. Стрелка 🟢→🟡 значит, что материал начинается просто и постепенно усложняется.
- Язык. EN — английский, ZH — китайский, RU — есть русский; в скобках уточнено, что именно: перевод, субтитры, книга. Машинный перевод отмечен отдельно.
- Объём — по данным авторов; знак ≈ означает нашу оценку.
- Ступени — где материал пригодится. Целое число — ступень, число с точкой — модуль (8.3 — «Агенты»). Карта ступеней — на странице «Карта курса и прогресс».
- Цена. Все материалы бесплатны. Если за что-то нужно платить (ключ API для запуска кода, сертификат, бумажная книга), это сказано в строке.
- ⚠ — проверьте доступность. Адрес подтверждён поиском, но напрямую страницу мы не открывали. Если ссылка не работает, найдите материал по названию. Остальные ссылки проверены 04.10.2026.
Если времени мало: топ-10
Заголовок раздела «Если времени мало: топ-10»Если пройти только десять материалов, пусть это будут эти. Они идут в порядке ступеней курса.
| Материал | Почему именно он | Когда |
|---|---|---|
| 1. Deep Dive into LLMs like ChatGPT ⚠ — Андрей Карпатый · 🟢 · EN, RU (любительский перевод) | За один вечер — весь путь ChatGPT-подобной модели без формул: данные, токены, претрейн, SFT, RL. Карта всего курса от сооснователя OpenAI | Ступень 0, вместе с уроком 0.0.1. Части о претрейне и RL пересмотрите перед ступенями 5 и 6 |
| 2. 3Blue1Brown — нейросети, гл. 1–7 ⚠ · 🟢 · EN, RU (субтитры) | Лучшая визуальная интуиция: нейросеть, градиентный спуск, backprop, внимание. Сначала картинка, потом формулы | Гл. 1–4 — до урока 3.1, гл. 5–7 — до 4.4 |
| 3. Microsoft «… for Beginners» · 🟢 · RU (машинный перевод) | Единственные большие официальные курсы, где все уроки переведены на русский: классический ML, обзор ИИ, генеративный ИИ, агенты, MCP | Ступени 2, 3 и 8 — как разминка перед уроками |
| 4. Neural Networks: Zero to Hero — Карпатый · 🟢→🟡 · EN | Создатель пишет код в кадре: автоград, языковые модели, GPT, токенизатор. Повторяя за ним, вы проходите темы курса вторым путём | 3.2, 4.1, 4.2, 4.6 |
| 5. AI Research Foundations — Google DeepMind × UCL · 🟡 · EN | Ближайший официальный аналог ступеней 3–7: своя маленькая языковая модель, трансформер, дообучение, выравнивание, ускорение — с лабораторными | Параллельно ступеням 3–7; первый курс — вместе с 4.1 |
| 6. LLM Course — Hugging Face · 🟢→🟡 · EN, RU (гл. 0–9) | Практикум от создателей библиотеки transformers: токенизаторы, дообучение, оценка, GRPO. Первая половина есть на русском | 4.2 и ступень 6 |
| 7. Stanford CS336 · 🔴 · EN | Самый глубокий открытый курс «LLM с нуля»: токенизатор, трансформер, GPU, параллелизм, данные, RL — под автотестами | После ступеней 4–7: задание 1 — после 4.6, задание 2 — к 5.4 |
| 8. Техотчёты DeepSeek и документ о системе инференса · 🔴 · EN | Создатели одной из сильнейших открытых моделей подробно описывают MLA, MoE, FP8, GRPO и реальную экономику инференса | После ступени 5, уроков 6.4 и 7.1; вместе с уроками-чтениями о V3 и о R1 |
| 9. Spinning Up in Deep RL — OpenAI · 🟡→🔴 · EN | Короткое ясное введение в обучение с подкреплением и вывод policy gradient — фундамент PPO и GRPO | Вместе с модулем 6.0 |
| 10. Prompt Engineering Interactive Tutorial и статьи Anthropic об агентах · 🟢→🟡 · EN | Лучший официальный путь от промптов к агентам: упражнения по промптингу и статья «Building effective agents» | 8.1, 8.3 |
Маршрут по ступеням
Заголовок раздела «Маршрут по ступеням»Левая колонка — что смотреть параллельно с уроками ступени. Правая — для тех, кто прошёл ступень и хочет копнуть глубже. Все материалы подробно описаны в разделах ниже.
| Ступень курса | Параллельно с уроками | Глубже, после ступени |
|---|---|---|
| 0. Инструменты и Python: что такое ИИ и LLM, Python с нуля | Карпатый, «Deep Dive into LLMs» — карта курса; Claude Academy: AI Fluency; «Поколение Python» (RU) или CS50P | Kaggle Learn: Python и Pandas; Harvard CS50x |
| 1. Математика: векторы, вероятность | 3Blue1Brown: Essence of linear algebra и Essence of calculus; Академия Хана (RU); «Основы статистики» Карпова (RU) | MIT 18.06 (Стрэнг); MIT 18.S096 Matrix Calculus |
| 2. Основы ML: задача, данные, модель | Google ML Crash Course (RU); MLU-Explain; ML for Beginners (RU); учебник ШАД (RU) | Stanford CS229; курс Соколова в ВШЭ (RU); mlcourse.ai (RU) |
| 3. Нейросети: нейрон и MLP, свой автоград, PyTorch | 3Blue1Brown, гл. 1–4 (RU); Zero to Hero: micrograd; PyTorch: Learn the Basics или «Основы PyTorch» (RU); MIT 6.S191 | Understanding Deep Learning; Tuning Playbook — к уроку «Как отлаживать обучение»; CS231n; DLS МФТИ (RU) |
| 4. Трансформер: языковая модель, внимание, GPT с нуля | Zero to Hero: makemore, GPT, токенизатор; microgpt; 3Blue1Brown, гл. 5–7 (RU); The Illustrated Transformer (RU); Transformer Explainer; HF LLM Course, гл. 1–6 (RU) | AI Research Foundations, курсы 1–4; CS224N; CS336, задание 1; build-nanogpt; LLMs-from-scratch |
| 5. Большие модели: масштабирование, распределённое обучение, GPU изнутри | How To Scale Your Model, глава о трансформерах; техотчёты DeepSeek-V2 и V3; NVIDIA: введение в CUDA; nanochat | Ultra-Scale Playbook; Smol Training Playbook; Accelerated Computing Hub; DualPipe и EPLB; FlashMLA deep dive; CS336, задание 2; CMU 11-868 |
| 6. Пост-трейнинг: основы RL, SFT, RLHF, GRPO | Spinning Up; HF Deep RL Course; Practical_RL (RU); HF LLM Course, гл. 11–12; smol course; курс DeepLearning.AI о RLHF | Лекции DeepMind × UCL по RL; Саттон и Барто; техотчёты DeepSeekMath и R1; verl; ARENA, гл. 2 |
| 7. Инференс и оценка: prefill и decode, квантование, бенчмарки | DeepSeek: документ о системе инференса; Quantization in Depth; LLM Evaluation Guidebook | How To Scale Your Model, главы об инференсе; anthropics/courses: Prompt evaluations; CMU 11-868 |
| 8. Приложения: API, RAG, агенты | Prompt Engineering Interactive Tutorial; Generative AI for Beginners (RU); HF Agents Course (RU); Anthropic Engineering; гайд OpenAI по агентам; Kimi-K2: tool calling | Claude Academy: API и MCP; MCP for Beginners (RU); AI Agents for Beginners (RU); Kaggle 5-Day AI Agents; Berkeley Advanced LLM Agents |
| 9. Фронтир: мультимодальность, фронтир 2026, интерпретируемость | Transformer Circuits; HF Diffusion Course; HF Audio Course (RU); блог Qwen; Lil’Log | circuit-tracer; ARENA, гл. 1; Ahead of AI; Stanford CS25 |
| 10. Выпускной проект: план проекта | nanochat; Smol Training Playbook — как планировать абляции | Tuning Playbook; circuit-tracer как тема проекта |
Западные лаборатории
Заголовок раздела «Западные лаборатории»Anthropic
Заголовок раздела «Anthropic»Создатели Claude. Делятся тремя видами материалов: курсами Claude Academy (бывшая Anthropic Academy), ноутбуками и инженерными статьями о промптах, агентах и эвалах, а также исследованиями интерпретируемости — того, как модель устроена изнутри. Глубоких открытых работ о внутреннем устройстве моделей у Anthropic больше, чем у любой другой лаборатории из этого списка.
| Материал | Чему учит | Уровень | Язык | Объём | Ступени |
|---|---|---|---|---|---|
| Claude Academy: AI Fluency ⚠ · перевод → | Как работать с ИИ осознанно: что поручать модели, как ставить задачу, как проверять ответ и за что отвечаете вы сами. Помогает сделать ИИ-репетитора помощником, а не заменой собственному пониманию | 🟢 | EN | ≈3,5–4 ч | 0, 8 |
| Claude Academy: Building with the Claude API ⚠, там же Introduction to MCP, MCP: Advanced Topics, Claude Code in Action · перевод → | Claude API на Python: tool use, RAG, структурированный вывод, архитектуры агентов; свои MCP-серверы и клиенты; разработка вместе с агентом. Курсы бесплатны, но для запуска кода нужен платный ключ API | 🟡 | EN | ≈9 ч и по 1 ч | 8.1–8.3 |
| Prompt Engineering Interactive Tutorial · перевод → | 9 глав с упражнениями: структура промпта, отделение данных от инструкций XML-тегами, few-shot, «думай по шагам», борьба с галлюцинациями. Написан под Claude 3 Haiku: где советы расходятся, верьте живому гайду «Prompting best practices» в документации Claude. Нужен ключ API | 🟢→🟡 | EN | ≈6–10 ч | 8.1 |
| anthropics/courses · перевод → | Пять курсов-ноутбуков; ценнее всего «Prompt evaluations» (как строить эвалы) и «Tool use». В архиве с 15.09.2026: читать можно, но код может отставать от текущего SDK | 🟡 | EN | ≈15–25 ч | 7.3, 8.3 |
| Claude Cookbooks · перевод → | Готовые рецепты: RAG, классификация, tool use, субагенты, автоматические эвалы, кэширование промптов | 🟡 | EN | 30–60 мин на рецепт | 7.3, 8 |
| Anthropic Engineering · перевод → | Как Anthropic строит агентов на практике: «Building effective agents», context engineering, проектирование инструментов, Contextual Retrieval для RAG, «Demystifying evals for AI agents», Agent Skills | 🟡→🔴 | EN | 20–40 мин на статью | 8.2–8.4 |
| Transformer Circuits Thread ⚠ · перевод → | Механистическая интерпретируемость: residual stream, induction heads, суперпозиция признаков, разреженные автоэнкодеры, графы атрибуции. Начните с «On the Biology of a Large Language Model» (2025) — разбора того, как «думает» Claude 3.5 Haiku | 🔴 | EN | 3–10 ч на статью | 4.5, 9.3 |
| circuit-tracer и Neuronpedia (программа Anthropic Fellows) · перевод → | Графы атрибуции для открытых Gemma-2-2B и Llama-3.2-1B: видно, через какие внутренние признаки модель приходит к ответу. Модели помещаются на одну RTX 4080; без установки можно попробовать в браузере на neuronpedia.org | 🔴 | EN | ≈3–5 ч | 9.3, 10 |
Создатели ChatGPT. Собственных курсов «с нуля» у OpenAI немного: открытым учебником остаётся Spinning Up по обучению с подкреплением, остальное — кукбук и гайды по API. Курсы для пользователей ChatGPT (OpenAI Academy) мы не включили: они про работу в чате, а не про устройство моделей. Зато бывшие сотрудники OpenAI, Андрей Карпатый и Лилиан Венг, сделали одни из лучших учебных материалов в мире — они в разделе «Люди-создатели».
| Материал | Чему учит | Уровень | Язык | Объём | Ступени |
|---|---|---|---|---|---|
| Spinning Up in Deep RL, текст — на сайте spinningup.openai.com · перевод → | Ключевые понятия RL, виды алгоритмов и вывод policy gradient, на котором стоят PPO и GRPO; документированные реализации VPG, PPO, SAC. Читайте три части «Introduction to RL». Проект в режиме поддержки: код старый, его лучше читать, чем запускать | 🟡→🔴 | EN | ≈10–20 ч | 6.0, 6.3 |
| OpenAI Cookbook · перевод → | Примеры для API: эмбеддинги и поиск, RAG, дообучение, агенты, структурированный вывод, эвалы. Нужен платный ключ; часть рецептов работает с локальной моделью через OpenAI-совместимый сервер | 🟡 | EN | 30–60 мин на рецепт | 7.3, 8 |
| A practical guide to building agents ⚠ · перевод → | PDF на 34 страницы: когда нужен агент, из чего он состоит, оркестрация одного и нескольких агентов, guardrails, участие человека. Прочитайте вместе с «Building effective agents» от Anthropic и сравните подходы | 🟡 | EN | 1–2 ч | 8.3 |
Google и Google DeepMind
Заголовок раздела «Google и Google DeepMind»Создатели Gemini, открытых моделей Gemma и самого трансформера: статью «Attention Is All You Need» написали в Google. Из всех лабораторий Google даёт больше всего материалов на глубину: программу по языковым моделям вместе с UCL, лекции исследователей DeepMind, книгу о масштабировании. Сюда же отнесены курсы Kaggle — платформа принадлежит Google.
| Материал | Чему учит | Уровень | Язык | Объём | Ступени |
|---|---|---|---|---|---|
| AI Research Foundations (Google DeepMind × UCL), лабораторные · перевод → | 8 курсов: маленькая языковая модель с нуля, данные, нейросети, трансформер, дообучение, выравнивание, ускорение и итоговый проект. Лабораторные в Colab на JAX и Keras: те же идеи в другом фреймворке, только не путайте синтаксис с PyTorch | 🟡 | EN | 8 курсов | 3–7 |
| How To Scale Your Model · перевод → | Книга о масштабировании: как устроены TPU и GPU, roofline-анализ, параметры, FLOPs и память трансформера, шардинг и параллелизм, обучение и инференс на масштабе. Примеры про TPU, но арифметика переносится на ваши 4× RTX 4080 | 🔴 | EN | ≈15–25 ч | 4.6, 5, 7.1 |
| Deep Learning Tuning Playbook · перевод → | Как подбирать гиперпараметры по-научному, а не наугад: выбор оптимизатора и batch size, пошаговая стратегия тюнинга, расписания learning rate, выбор чекпоинтов | 🟡→🔴 | EN | ≈3–4 ч | 3.3, 5.4, 10 |
| DeepMind × UCL: Deep Learning Lectures 2020 ⚠ | 12 лекций исследователей DeepMind: оптимизация, RNN, внимание и память, GAN, обучение представлений. Записаны до эпохи LLM, поэтому это углубление, а не первый источник | 🔴 | EN | ≈18 ч | 3.4, 4.4, 9.1 |
| DeepMind × UCL: RL Lectures 2021 ⚠ и курс Дэвида Сильвера ⚠ | Обучение с подкреплением уровня магистратуры: MDP, динамическое программирование, TD и Q-learning, policy gradient, actor-critic. Для LLM важнее всего лекции о policy gradient и actor-critic | 🔴 | EN | 13 лекций, у Сильвера — 10 | 6.0 |
| Machine Learning Crash Course ⚠, русская версия ⚠ | Регрессия, классификация и метрики, работа с данными, переобучение, нейросети, эмбеддинги, введение в LLM — с интерактивными визуализациями. Пересобран в 2024 году. Видео на английском | 🟢 | EN, RU (страницы) | ≈15–25 ч | 2, 3.1, 4.3 |
| Kaggle Learn ⚠ | Короткие практические курсы прямо в браузере: Python, Pandas, Intro to ML, Intermediate ML, Feature Engineering. Курс по глубокому обучению там на Keras, его можно пропустить | 🟢 | EN | 1–7 ч на курс | 0.2, 2 |
| 5-Day Gen AI Intensive ⚠ и 5-Day AI Agents Intensive ⚠ (Google × Kaggle) | Whitepapers, подкасты и codelabs: эволюция LLM, дообучение, ускорение инференса, эмбеддинги и векторные БД, агенты, MCP, эвалы. Whitepaper «Foundational Large Language Models & Text Generation» — плотная карта поля после ступени 4 | 🟡 | EN | 5 дней по 2–4 ч | 4–5, 8 |
| Gemma Cookbook и Gemini API Cookbook | Gemma — открытые модели: инференс и дообучение, маленькие версии помещаются на RTX 4080. Gemini — мультимодальность, Live API, grounding; нужен ключ API | 🟡 | EN | 30–60 мин на ноутбук | 6.2, 7.2, 9.1 |
Создатели моделей Llama и фреймворка PyTorch, на котором написан наш курс (с 2022 года PyTorch развивает PyTorch Foundation). Курсов «с нуля» у Meta нет; главное — официальные туториалы PyTorch и кукбук Llama.
| Материал | Чему учит | Уровень | Язык | Объём | Ступени |
|---|---|---|---|---|---|
| PyTorch: Learn the Basics ⚠ · перевод → | Тензоры, Dataset и DataLoader, сборка модели, autograd, цикл обучения, сохранение. То же есть в видеосерии «Introduction to PyTorch». Продвинутые туториалы — DDP и FSDP для обучения на нескольких GPU | 🟢→🟡 | EN | ≈3–5 ч | 3.3, 5.4 |
| Llama Cookbook (бывший llama-recipes) · перевод → | Инференс, дообучение, RAG и сквозные примеры на моделях Llama; веса выдают после принятия лицензии. Короткие видеокурсы Meta на DeepLearning.AI: «Building with Llama 4» (MoE, длинный контекст) и «Introducing Multimodal Llama 3.2» | 🟡 | EN | по задаче; видео по ≈1,5 ч | 5.3, 6.2, 8 |
Microsoft
Заголовок раздела «Microsoft»Microsoft ведёт на GitHub серию бесплатных курсов «… for Beginners». Главное их достоинство для нас: все уроки
переведены на русский (папка translations/ru). Перевод машинный, поэтому термины сверяйте с
глоссарием. Курсы прикладные и обзорные: об устройстве моделей на уровне ступеней 4–6 в них почти
ничего нет, зато это лёгкий вход в тему на родном языке.
| Материал | Чему учит | Уровень | Язык | Объём | Ступени |
|---|---|---|---|---|---|
| Generative AI for Beginners, на русском | 21 урок: что такое LLM и как выбрать модель, промпты, чат-приложения, RAG и векторные БД, function calling, агенты, дообучение, безопасность. Примеры рассчитаны на облачные API — для локального запуска подставьте свой сервер из урока 8.1.1 | 🟢 | EN, RU (машинный перевод) | ≈20–30 ч | 8 |
| AI Agents for Beginners, на русском | Паттерны агентов: tool use, агентный RAG, планирование, мультиагентные системы, память, context engineering, протоколы MCP и A2A, безопасность. Фреймворк Microsoft можно не учить — важны паттерны | 🟢→🟡 | EN, RU (машинный перевод) | ≈15–25 ч | 8.3 |
| ML for Beginners, на русском; соседний курс Data Science for Beginners | Классический ML на scikit-learn: регрессия, классификация, кластеризация, временные ряды, 52 квиза. Data Science — статистика, работа с данными, визуализация. Глубокого обучения здесь нет | 🟢 | EN, RU (машинный перевод) | 12 недель, 26 уроков | 0.3, 2 |
| AI for Beginners, на русском | Широкий обзор ИИ: символьный ИИ, нейросети, CNN, NLP, эмбеддинги, трансформеры, RL, этика. Берите ноутбуки на PyTorch, версии на TensorFlow пропускайте | 🟢 | EN, RU (машинный перевод) | 12 недель, 24 урока | 3, 4 |
| MCP for Beginners, на русском | Model Context Protocol от основ до продакшна: архитектура, серверы и клиенты, транспорты, безопасность, лабораторные | 🟡 | EN, RU (машинный перевод) | ≈10–20 ч | 8.3 |
| Microsoft Learn: «Основы PyTorch» ⚠ | 4 модуля: тензоры и обучение классификатора изображений, затем зрение, NLP и аудио. Замена «Learn the Basics», если английский пока читать тяжело | 🟢 | RU (страницы) | ≈4–8 ч | 3.3 |
Создатели GPU, на которых обучают почти все модели, и платформы CUDA. NVIDIA учит прежде всего тому, как программировать видеокарту: это нужно для модуля 5.7 и ступени 7 на вашей машине.
| Материал | Чему учит | Уровень | Язык | Объём | Ступени |
|---|---|---|---|---|---|
| NVIDIA Deep Learning Institute ⚠, бесплатные курсы · перевод → | «An Even Easier Introduction to CUDA» (потоки, блоки, память GPU), «Fundamentals of Accelerated Computing with CUDA Python», «Building RAG Agents with LLMs». Нужен бесплатный аккаунт NVIDIA; каталог бесплатных курсов меняется | 🟢→🟡 | EN | 1–8 ч на курс | 5.7, 7.1, 8.2 |
| Accelerated Computing Hub · перевод → | Официальные ноутбуки по GPU-программированию: CUDA Python, CuPy, свои ядра, CUDA C++. Запускаются на вашей RTX 4080 — так видно, из чего сделаны FlashAttention и ядра vLLM | 🟡→🔴 | EN | 2–8 ч на трек | 5.7, 7.1 |
Hugging Face
Заголовок раздела «Hugging Face»Создатели библиотеки transformers и главного хаба открытых моделей. Их курсы ближе всех к духу нашего: всё на открытых моделях, всё можно запустить локально без платных API. Три курса сообщество перевело на русский.
| Материал | Чему учит | Уровень | Язык | Объём | Ступени |
|---|---|---|---|---|---|
| LLM Course (бывший NLP Course), русский перевод · перевод → | Гл. 1–9: transformers, datasets, tokenizers, задачи NLP. Гл. 10–12: подготовка данных, SFT и LoRA, оценка, рассуждения и GRPO в TRL | 🟢→🟡 | EN, RU (гл. 0–9) | ≈30–50 ч | 4.2, 4.5, 6, 7.3 |
| Agents Course, русский перевод; MCP Course (сделан вместе с Anthropic) · перевод → | smolagents, LlamaIndex, LangGraph, агентный RAG, итоговый проект с автооценкой и лидербордом. MCP Course — протокол, клиенты и серверы; он только на английском | 🟡 | EN, RU (Agents Course) | ≈20–40 ч | 8.3 |
| smol course · перевод → | Дообучение маленьких моделей на скромном железе: SFT и шаблоны чата, оценка, DPO и выравнивание по предпочтениям, мультимодальные модели | 🟡 | EN | ≈20–30 ч | 6.1, 6.3, 7.3, 9.1 |
| Deep RL Course · перевод → | RL на практике: Q-learning, DQN, policy gradient (Reinforce своими руками на PyTorch), actor-critic, PPO. Курс поддерживается по минимуму: юнит 7 не работает, поэтому сертификат может быть недоступен | 🟢→🟡 | EN | ≈30–50 ч | 6.0 |
| Diffusion Models Course · перевод → | Диффузионная модель с нуля, библиотека diffusers, guidance, устройство Stable Diffusion. Материал 2022–2023 годов, он старше DiT и flow matching | 🟡 | EN | ≈10–15 ч | 9.1 |
| Audio Course, русский перевод | Трансформеры для звука: представление аудио, классификация, распознавание и синтез речи | 🟡 | EN, RU | ≈15–25 ч | 9.1 |
| The Ultra-Scale Playbook ⚠ · перевод → | Интерактивная книга о параллелизме: data, tensor, sequence, context и pipeline parallelism, ZeRO, перерасчёт активаций, перекрытие вычислений и коммуникаций. Построена на тысячах экспериментов | 🔴 | EN | 10–20 ч | 5.4, 5.7 |
| The Smol Training Playbook ⚠ · перевод → | Как на самом деле обучали SmolLM3 (3B, 11 трлн токенов): абляции, смесь данных, отладка сбоев. Образец планирования выпускного проекта | 🔴 | EN | 10–20 ч | 5.1, 5.6, 10 |
| LLM Evaluation Guidebook ⚠, прежняя версия на GitHub · перевод → | Опыт команды Open LLM Leaderboard: автоматические бенчмарки и их ловушки, оценка людьми, LLM-as-a-judge, воспроизводимость | 🟡→🔴 | EN | ≈4–6 ч | 7.3 |
| Open-Source AI Cookbook · перевод → | Рецепты только на открытых моделях: RAG, дообучение, LLM-as-a-judge, агенты. Всё запускается локально без платных API | 🟡 | EN | 30–60 мин на рецепт | 6.2, 7.3, 8.2 |
Mistral и другие
Заголовок раздела «Mistral и другие»Mistral AI — французская лаборатория, создатели открытых моделей Mistral и Mixtral. Amazon делится визуальными эссе по классическому ML, а учебник d2l, написанный людьми из Amazon, уже есть в библиотеке. У xAI и Apple заметных открытых учебных курсов нет — только документация API и научные статьи. Cohere LLM University мы не включили: материалы в основном 2023 года и привязаны к API Cohere.
| Материал | Чему учит | Уровень | Язык | Объём | Ступени |
|---|---|---|---|---|---|
| Mistral Cookbook · перевод → | Рецепты: RAG, function calling, эмбеддинги, агенты, дообучение, генерация данных, OCR. Есть и короткий курс «Getting Started with Mistral» на DeepLearning.AI (около часа) | 🟢→🟡 | EN | по задаче | 8.1–8.2 |
| MLU-Explain (Amazon Machine Learning University) · перевод → | 11 интерактивных статей: регрессии, ROC и AUC, precision и recall, деревья и случайный лес, bias–variance, double descent. Репозиторий в архиве с 03.2026, сайт работает | 🟢 | EN | 20–30 мин на статью | 2 |
Совместные курсы DeepLearning.AI
Заголовок раздела «Совместные курсы DeepLearning.AI»DeepLearning.AI — компания Эндрю Ына, сооснователя Google Brain и Coursera. Она снимает короткие курсы вместе с лабораториями, и ведут их сотрудники этих лабораторий. Видео бесплатные; часть заданий и сертификаты — по подписке Pro. Курсы прошлых лет показывают устаревшие модели, но принципы в них не устарели.
| Материал | Чему учит | Уровень | Язык | Объём | Ступени |
|---|---|---|---|---|---|
| MCP: Build Rich-Context AI Apps ⚠ и другие курсы с Anthropic: «Claude Code: A Highly Agentic Coding Assistant», «Agent Skills with Anthropic», «Building Toward Computer Use» | Ведут сотрудники Anthropic: свой MCP-сервер и клиент, агентная разработка в Claude Code, Agent Skills, tool use и агент, который управляет интерфейсом компьютера | 🟢→🟡 | EN | около 2 ч каждый | 8.3, 10 |
| ChatGPT Prompt Engineering for Developers ⚠ и «Reasoning with o1» (с OpenAI) · перевод → | Принципы промптинга через API: суммаризация, извлечение, трансформация текста, чат-бот. Во втором курсе — как ставить задачи рассуждающим моделям | 🟢 | EN | ≈1,5 ч и 1 ч 44 мин | 6.4, 8.1 |
| Reinforcement Learning from Human Feedback ⚠ (с Google Cloud) · перевод → | Наглядная схема RLHF: датасеты предпочтений, дообучение Llama 2, сравнение с базовой моделью. Практика завязана на Vertex AI, повторять её не обязательно | 🟡 | EN | 1 ч 32 мин | 6.3 |
| Quantization in Depth ⚠ и «Quantization Fundamentals» (с Hugging Face) · перевод → | Типы данных, загрузка моделей в разной точности, линейное квантование. Во втором курсе — свой квантизатор с нуля, без библиотек: хорошо закрепляет формулы урока | 🟢→🟡 | EN | 2 ч 20 мин и 1 ч 14 мин | 7.2 |
Курсов в западном смысле у создателей топовых китайских моделей почти нет: DeepSeek, Moonshot, MiniMax и Zhipu учат через техотчёты, подробные инженерные документы и гайды по API. Полноценные курсы делают платформы: Alibaba (ModelScope, Alibaba Cloud), Shanghai AI Lab, Huawei, а ещё сообщество Datawhale и университеты.
Тексты DeepSeek, Kimi и MiniMax написаны по-английски, остальное — по-китайски. Китайские материалы читаются машинным переводом вместе с нашим глоссарием; приёмы — в уроке «Как читать китайские технические источники». Русских переводов у китайских материалов нет.
DeepSeek
Заголовок раздела «DeepSeek»DeepSeek подробнее всех рассказывает, как устроены его модели и инфраструктура. Порядок для новичка: сначала урок курса, потом раздел отчёта, на который урок ссылается. Учтите железо: ядра FlashMLA, DeepGEMM и DeepEP требуют GPU поколения Hopper или Blackwell, а RTX 4080 — поколение Ada, поэтому эти материалы только для чтения.
| Материал | Чему учит | Уровень | Язык | Объём | Ступени |
|---|---|---|---|---|---|
| Техотчёты DeepSeek: LLM → MoE → Math (GRPO) → V2 (MLA) → V3 → R1 → V3.2 → V4 · перевод → | Цепочка первоисточников, по которой видна эволюция идей: законы масштабирования, мелкозернистые эксперты, MLA, FP8, MTP, GRPO, RL с проверяемыми наградами, разреженное внимание. Ссылки на все отчёты — в библиотеке, управляемое чтение — в уроках о V3 и о R1 | 🔴 | EN | 4–8 ч на отчёт | 5, 6.4, 9.2 |
| Open Source Week, день 6: «Inference System Overview» · перевод → | Боевой инференс большой MoE от её создателей: разделение prefill и decode, expert parallelism между узлами, наложение вычислений и коммуникаций, балансировка нагрузки и реальная экономика сервиса. Читайте в паре со статьёй «Insights into DeepSeek-V3» ⚠ (ISCA 2025) о том, как модель проектировали под железо | 🔴 | EN | 2–3 ч | 5.4, 7.1 |
| FlashMLA deep dive · перевод → | Как DeepSeek оптимизировал ядро декодирования MLA: почему оно упирается в вычисления, конвейер копирования и умножения матриц, балансировка по мультипроцессорам GPU. Рядом лежит второй текст — о разреженных FP8-ядрах для V3.2. Только чтение | 🔴 | EN | 2–4 ч | 5.2, 5.7, 7.1 |
| DualPipe, EPLB, 3FS design notes · перевод → | Открытая инфраструктура как учебник: двунаправленный конвейерный параллелизм со схемами «пузырей», балансировщик экспертов (чистый Python, работает на CPU — повторите пример из README), устройство распределённой файловой системы для обучения | 🔴 | EN | 3–8 ч | 5.3, 5.4 |
| Документация DeepSeek API ⚠ · перевод → | Первый вызов API, параметры сэмплинга, рассуждающая модель, function calling, JSON-вывод, кэш контекста на диске (это префикс-кэш из ступени 7 в действии). Есть английская версия | 🟢 | ZH, EN | 2–4 ч | 8.1 |
Qwen и Alibaba
Заголовок раздела «Qwen и Alibaba»Alibaba — создатели семейства открытых моделей Qwen и китайского хаба моделей ModelScope. Из китайских компаний Alibaba учит больше всех: документация и блог команды Qwen, курс Alibaba Cloud, учебник ModelScope.
| Материал | Чему учит | Уровень | Язык | Объём | Ступени |
|---|---|---|---|---|---|
| Документация Qwen ⚠ · перевод → | Ключевые понятия (шаблоны чата, токены), быстрый старт на transformers, деплой в vLLM и SGLang, квантованные версии, function calling. Документация эпохи Qwen3: для свежих моделей сверяйтесь с README их репозиториев | 🟡 | ZH, EN | 5–10 ч | 7.1–7.2, 8.3 |
| Блог Qwen ⚠ · перевод → | Посты к релизам — первоисточник архитектурных решений: Qwen3.5, Qwen3.6, Qwen3.8-Flash-Next (08.2026, превью архитектуры Qwen4). Читайте вместе с техотчётом | 🔴 | EN | 0,5–1 ч на пост | 5.5, 9.2 |
| Qwen-Agent · перевод → | Фреймворк агентов от создателей модели: параллельный function calling, MCP, интерпретатор кода, RAG на длинных документах. Полезно читать код как пример устройства агентного фреймворка | 🟡 | ZH, EN | 5–10 ч | 8.3 |
| Курс Alibaba Cloud ACP · перевод → | 18 уроков вокруг сквозного проекта — бота, который отвечает на вопросы: промпты и API, RAG, дообучение и дистилляция, мультиагентные системы, Agent Skills, Qwen Code. Курс бесплатный, сертификация ACA/ACP платная | 🟡 | ZH, EN | ≈30–40 ч | 8 |
| modelscope-classroom · перевод → | Учебник ModelScope: 13 глав и 114 статей от основ глубокого обучения до оптимизации инференса и агентов; ноутбуки по vLLM и LLaMA-Factory | 🟢→🟡 | ZH | ≈30–50 ч | 3–8 |
Shanghai AI Lab
Заголовок раздела «Shanghai AI Lab»Шанхайская лаборатория ИИ — создатели моделей InternLM и Intern-S1 и инструментов XTuner, LMDeploy, OpenCompass. Её бесплатный лагерь — самый полный официальный практикум в Китае; из него наш курс взял систему «островов» (см. «Как учиться»).
| Материал | Чему учит | Уровень | Язык | Объём | Ступени |
|---|---|---|---|---|---|
| InternLM Camp — практический лагерь по большим моделям · перевод → | Архив сезонов 3–5 — «острова» L0–L3: Linux, Python и Git → API, оценка в OpenCompass, деплой в LMDeploy, дообучение в XTuner → мультимодальность, MCP, RL. Сезон 7 (04.2026) — 10 курсов по схеме «учебник → видео → тест из 5 вопросов», среди них MCP, A2A и безопасность агентов. Инструменты запускаются на вашей машине | 🟢→🔴 | ZH | 4–8 недель | 0.1, 6.2, 7.2, 7.3, 8.3 |
Moonshot (Kimi), Zhipu (GLM), MiniMax
Заголовок раздела «Moonshot (Kimi), Zhipu (GLM), MiniMax»Курсов у этих лабораторий нет, но есть короткие практические тексты от создателей. Техотчёты Kimi, GLM и MiniMax собраны в библиотеке, а их ключевые идеи разобраны в уроке «Kimi, Qwen, GLM, MiniMax».
| Материал | Чему учит | Уровень | Язык | Объём | Ступени |
|---|---|---|---|---|---|
| Kimi-K2: tool call guidance (Moonshot AI) · перевод → | Цикл вызова инструментов через OpenAI SDK, в стриминге и с ручным разбором сырых спецтокенов. Хорошо показывает, что function calling — это просто текст в шаблоне чата | 🟡 | EN | 1–2 ч | 8.3 |
| Документация Zhipu ⚠ и glm-cookbook · перевод → | Страницы моделей GLM с примерами вызова, справочник API, SDK. Ещё один OpenAI-совместимый провайдер для упражнения «один код — разные API» | 🟢 | ZH | 1–2 ч | 8.1 |
| Why Did M2 End Up as a Full Attention Model? ⚠ (MiniMax) · перевод → | Честный разбор, почему лаборатория, одной из первых выпустившая гибрид с линейным вниманием, вернулась к полному вниманию: качество на рассуждениях и агентах, численная точность, реальная скорость на железе | 🔴 | EN | 1 ч | 5.5 |
ByteDance Seed, Baidu, Huawei
Заголовок раздела «ByteDance Seed, Baidu, Huawei»У ByteDance и Baidu открытых учебных курсов почти нет; полезны документация к открытым инструментам и техотчёты. Курсы Baidu и Huawei привязаны к своим фреймворкам (PaddlePaddle, MindSpore) и чипам Ascend, поэтому для вас они скорее образец формата, чем практикум.
| Материал | Чему учит | Уровень | Язык | Объём | Ступени |
|---|---|---|---|---|---|
| verl (ByteDance Seed и сообщество), документация — verl.readthedocs.io · перевод → | RL-пост-трейнинг LLM: быстрый старт PPO на GSM8K, примеры GRPO, «HybridFlow programming guide», функции награды. Официальный путь к своему GRPO на маленькой Qwen на 4× RTX 4080. Репозиторий переехал из volcengine/verl | 🔴 | EN | ≈6–12 ч | 6.4 |
| ERNIE 5.0 ⚠ и техотчёт ERNIE 4.5 ⚠ (Baidu) · перевод → | ERNIE 4.5 — гетерогенная мультимодальная MoE (до 424B параметров), FP8, иерархическая балансировка. ERNIE 5.0 — единая омни-модальная модель на ультраразреженной MoE. Код — в репозитории ERNIE на PaddlePaddle | 🔴 | EN | 3–5 ч на отчёт | 5.3, 9.1 |
| Ascend: «Полный цикл разработки больших моделей» ⚠ (Huawei и Шанхайский университет Цзяотун) · перевод → | Полный цикл разработки LLM на китайском железе: окружение, данные, претрейн, инференс, оценка, промпты; средний и продвинутый уровни — дообучение и оптимизация. Лабораторные на Ascend и MindSpore на NVIDIA не перенести — берите как чек-лист этапов | 🟢 | ZH | ≈10–15 ч (начальный уровень) | 5.6, 10 |
Datawhale
Заголовок раздела «Datawhale»Datawhale — некоммерческое сообщество, которое пишет открытые учебники о том, как самому собрать LLM. Это не создатели моделей, но их книги — лучший китайский путь «руками»; часть проектов сделана вместе с командами разработчиков. Полный список — в библиотеке, здесь три главных.
| Материал | Чему учит | Уровень | Язык | Объём | Ступени |
|---|---|---|---|---|---|
| happy-llm «Строим большую модель с нуля» · перевод → | Путь от NLP до своей LLaMA2 на 215M параметров: токенизатор, претрейн, SFT, LoRA; затем RAG, агенты, а в гл. 8 — Agentic RL с GRPO. Есть онлайн-версия и README на английском | 🟡 | ZH | ≈40–60 ч | 4–6, 8 |
| tiny-universe · перевод → | Восемь «белых ящиков» на чистом PyTorch и NumPy: TinyTransformer, TinyLlama3, TinyRAG, TinyAgent, TinyEval и другие — минимальные реализации, с которыми удобно сверять свои | 🟡 | ZH | ≈15–25 ч | 4.6, 7.3, 8 |
| self-llm «Открытые большие модели: инструкция по применению» · перевод → | Рецепты деплоя, LoRA и полного дообучения для 50+ открытых моделей: Qwen, GLM, Kimi, MiniMax, DeepSeek. Берите рецепты для моделей до 30B — они помещаются на 4× RTX 4080 | 🟡 | ZH | 1–3 ч на рецепт | 6.2, 7.2 |
Университеты и лекторы Китая
Заголовок раздела «Университеты и лекторы Китая»| Материал | Чему учит | Уровень | Язык | Объём | Ступени |
|---|---|---|---|---|---|
| «Погружение в глубокое обучение» v2 ⚠ — Ли Му · перевод → | Видеокурс к учебнику d2l: каждая тема — теория плюс код с нуля и на PyTorch, от линейной регрессии до внимания и BERT. Видео — на Bilibili, канал «Изучаем ИИ с Ли Му»; сам учебник есть и по-английски (d2l.ai) | 🟢→🟡 | ZH | ≈60–80 ч | 2–4 |
| Курсы Ли Хунъи (Hung-yi Lee, NTU) ⚠: «Введение в генеративный ИИ» 2024 и ML 2026 ⚠ · перевод → | Самый понятный китайскоязычный лектор. Курс 2024 года — для полного новичка, без математики и кода; курс 2026 года — агенты, FlashAttention и KV-кэш, позиционные эмбеддинги, ДЗ с лидербордом Simple → Boss | 🟢; 🟡→🔴 | ZH | ≈15–25 ч; ≈30–50 ч | 0, 4–8 |
| «Большие языковые модели», RUC AI Box · перевод → | Системный учебник по LLM и видеокурс к нему на Bilibili ⚠: архитектура, претрейн и данные, instruction tuning, выравнивание, декодирование, рассуждения | 🟡 | ZH | книга 40+ ч, видео ≈15–20 ч | 5–7 |
Люди-создатели
Заголовок раздела «Люди-создатели»Некоторые из лучших учебных материалов в мире записали люди, которые сами создавали нейросети или работали в ведущих лабораториях. Они объясняют «изнутри»: с кодом, с выводами и без упрощений.
| Материал | Чему учит | Уровень | Язык | Объём | Ступени |
|---|---|---|---|---|---|
| Neural Networks: Zero to Hero — Андрей Карпатый (сооснователь OpenAI, бывший директор по ИИ в Tesla) · перевод → | 8 видеолекций с кодом: автоград micrograd, языковые модели makemore (биграммы → MLP → BatchNorm → ручной backprop → WaveNet), GPT по «Attention Is All You Need», BPE-токенизатор. Смотрите и набирайте код руками, без копирования | 🟢→🟡 | EN | 8 лекций, ≈15–20 ч видео и вдвое больше на код | 3.2, 4.1, 4.2, 4.6 |
| Deep Dive into LLMs like ChatGPT ⚠ — Карпатый; продолжение — «How I use LLMs» ⚠ · перевод → | Весь путь ChatGPT-подобной модели без формул: данные из интернета, токены, претрейн, SFT, RL и RLHF, галлюцинации, рассуждающие модели. Второе видео — как пользоваться LLM в работе. К первому есть любительский русский перевод ⚠ | 🟢 | EN, RU (любительский перевод) | 3 ч 31 мин; 2 ч 11 мин | 0, 5, 6.4, 8.1 |
| build-nanogpt, видео «Let’s reproduce GPT-2 (124M)» — Карпатый · перевод → | От пустого файла до воспроизведения GPT-2; каждый коммит репозитория разобран в видео. Мост от «GPT с нуля» к распределённому обучению на ваших 4 GPU | 🟡→🔴 | EN | ≈10–15 ч с кодом | 4.6, 5.4 |
| nanochat — Карпатый · перевод → | Полный конвейер в минимальном коде: токенизатор → претрейн → SFT → RL → оценка → веб-чат. Масштаб задаётся одним параметром --depth; на 4× RTX 4080 его стоит уменьшить | 🔴 | EN | ≈20–40 ч | 5.6, 10 |
| microgpt — Карпатый · перевод → | GPT примерно в 200 строк на чистом Python без зависимостей: символьный токенизатор, свой автоград, архитектура в стиле GPT-2, Adam. На этой идее построен урок «Микро-GPT на чистом Python» | 🟡 | EN | 2–4 ч | 4.6 |
| colah.github.io ⚠ и архив журнала Distill ⚠ — Крис Ола (сооснователь Anthropic) · перевод → | Визуальные объяснения backprop через вычислительный граф, LSTM, эмбеддингов; интерактивные статьи Distill об оптимизации и визуализации признаков. Distill на бессрочной паузе с 2021 года, архив открыт | 🟢→🟡 | EN | 1–2 ч на статью | 1.2, 3.4, 9.3 |
| Lil’Log ⚠ — Лилиан Венг (бывший вице-президент OpenAI, сооснователь Thinking Machines Lab) · перевод → | Большие обзоры с формулами и библиографией: внимание, диффузия, RLHF, reward hacking, агенты, «Why We Think» о вычислениях во время ответа (2025). Читайте после урока как обзор литературы | 🔴 | EN | 40–90 мин на пост | 6.4, 8.3, 9 |
| LLMs-from-scratch — Себастьян Рашка | Код к книге «Build a Large Language Model (From Scratch)»: GPT с нуля, претрейн, instruction tuning, DPO; бонусы — KV-кэш, GQA, MLA, MoE, Llama и Qwen с нуля. Ноутбуки бесплатны, книга платная; есть русское издание «Строим LLM с нуля» | 🟡 | EN, RU (книга, платно) | ≈40–60 ч | 4.4–4.6, 5.2, 6.1 |
| Ahead of AI ⚠ — Рашка · перевод → | Рассылка: сравнения архитектур открытых LLM, визуальный гид по вариантам внимания (MHA → GQA → MLA → разреженное), обзоры статей. DeepSeek, Qwen и Kimi — постоянные герои | 🟡→🔴 | EN | 30–60 мин на выпуск | 5.2–5.5, 9.2 |
| The Illustrated Transformer — Джей Аламмар | Трансформер в картинках: self-attention, Q/K/V, многоголовое внимание, позиционное кодирование. Есть русский перевод на Хабре ⚠ | 🟢 | EN, RU (перевод) | 1–2 ч | 4.4–4.5 |
| 3Blue1Brown — нейросети, гл. 1–7 ⚠ — Грант Сандерсон | Интуиция в анимациях: что такое нейросеть, градиентный спуск, backprop, затем GPT, внимание и MLP-блоки. Там же — серии «Essence of linear algebra» и «Essence of calculus» для ступени 1. У всех семи глав есть русские субтитры, у гл. 5–7 — машинный перевод | 🟢 | EN, RU (субтитры) | ≈2,5 ч, лучше смотреть по 2–3 раза | 1, 3.1, 4.4 |
| Видео Умара Джамиля (код к ним — на GitHub) · перевод → | Многочасовые разборы с кодом с нуля: трансформер, LLaMA 2 (KV-кэш, GQA, RoPE, RMSNorm, SwiGLU), Stable Diffusion, PaliGemma | 🟡→🔴 | EN | несколько часов на видео | 4.5, 4.6, 9.1 |
| Neural Networks and Deep Learning ⚠ — Майкл Нильсен | Медленное и подробное текстовое объяснение backprop: сеть для рукописных цифр с нуля, градиентный спуск, cross-entropy, регуляризация. Есть любительский перевод на Хабре — серия «Нейросети и глубокое обучение: онлайн-учебник» (глава 6 ⚠). Код автора на Python 2.7 | 🟢 | EN, RU (перевод) | ≈15–25 ч | 3.1 |
| Understanding Deep Learning — Саймон Принс · перевод → | Современный учебник глубокого обучения с очень хорошими схемами: от backprop и инициализации до трансформеров, диффузии и RL; 68 ноутбуков. Бесплатный PDF | 🟡 | EN | ≈60–100 ч | 3, 4.5, 9.1 |
| Reinforcement Learning: An Introduction ⚠ — Ричард Саттон и Эндрю Барто | Классический учебник RL: бандиты, MDP, Монте-Карло, TD-обучение, Q-learning, policy gradient. Бесплатный PDF; русское издание (ДМК Пресс, 2020) платное | 🟡 | EN, RU (книга, платно) | 40–60 ч на гл. 1–6 и 13 | 6.0 |
| ARENA — Каллум Макдугалл и сообщество AI safety · перевод → | Ноутбуки с тестами: трансформер с нуля и механистическая интерпретируемость, RL (DQN, PPO, RLHF), оценка LLM и агенты. Лучший практикум по интерпретируемости | 🟡→🔴 | EN | 100+ ч, 4 главы | 4.6, 6.3, 7.3, 9.3 |
Университеты
Заголовок раздела «Университеты»В этих курсах преподают исследователи, которые сами строят модели: CS336 ведут Перси Лян и Тацунори Хашимото, на CS25 выступают авторы ключевых работ, курс NYU читает Ян Лекун — один из создателей свёрточных сетей. Записи лекций и задания открыты, но проверять задания вы будете сами.
| Материал | Чему учит | Уровень | Язык | Объём | Ступени |
|---|---|---|---|---|---|
| Stanford CS336: Language Modeling from Scratch, задания, лекции 2026 · перевод → | LLM целиком под автотестами: токенизация, архитектуры и MoE, GPU и Triton, параллелизм, законы масштабирования, данные, SFT и RL. Ведут Перси Лян и Тацунори Хашимото; видео лекций 2025 года — на YouTube | 🔴 | EN | ≈18 лекций и 5 заданий по 20–60 ч | 4–7 |
| Stanford CS224N: NLP with Deep Learning ⚠ · перевод → | NLP на глубоком обучении: word2vec, RNN, seq2seq, внимание, трансформеры, претрейн, пост-трейнинг; плейлист 2024 года. Близкий курс — CMU 11-711 Грэма Нойбига (2024) с лекциями о RLHF, MoE и агентах | 🟡 | EN | ≈20 лекций и 4–5 заданий | 4, 6.3, 8.3 |
| Stanford CS229: Machine Learning ⚠ — Эндрю Ын, 2018 · перевод → | Строгий классический ML с выводами: регрессии, GLM, SVM, деревья, нейросети, EM, PCA, RL. Мягче то же дают специализации Ына на Coursera | 🟢→🟡 | EN | 27+ ч | 2 |
| Stanford CS231n ⚠ · перевод → | Компьютерное зрение: линейные классификаторы, backprop, CNN, приёмы обучения, ViT, мультимодальность. Конспекты по backprop и задания с ручным backprop на NumPy — серьёзное дополнительное ДЗ | 🟡 | EN | ≈18 лекций и 3 задания | 3, 9.1 |
| Stanford CS25: Transformers United ⚠ · перевод → | Семинар о трансформерах: доклады приглашённых исследователей из ведущих лабораторий, без домашних заданий | 🟡 | EN | серия докладов | 9.2 |
| MIT 6.S191: Introduction to Deep Learning, лабораторные · перевод → | Интенсив: основы, последовательности и трансформеры, зрение, генеративные модели, RL; выпуск 2026 года. Короткий обзорный проход перед ступенью 3 | 🟢 | EN | 8 лекций по часу и 3 лабы | 3 |
| MIT 18.06SC Linear Algebra ⚠ — Гилберт Стрэнг · перевод → | Классический курс линейной алгебры: системы уравнений, пространства, ортогональность, собственные значения, SVD. Берите выборочно, когда интуиции 3Blue1Brown мало | 🟢→🟡 | EN | ≈35 лекций | 1.1 |
| MIT 18.S096: Matrix Calculus for Machine Learning ⚠ · перевод → | Производные как линейные операторы, градиенты по матрицам, автодифференцирование в прямом и обратном режиме. Помогает понять backprop для матриц целиком | 🔴 | EN | 8 лекций и задачи | 1.2, 3.2 |
| Berkeley: Advanced LLM Agents ⚠ · перевод → | Онлайн-курс с лекциями исследователей Google DeepMind, Meta и других: техники во время инференса, пост-трейнинг для рассуждений, планирование, агенты для кода и математики | 🟡→🔴 | EN | 12 недель по 2 ч | 6.4, 8.3 |
| CMU 11-868: LLM Systems ⚠, задания · перевод → | Системы для LLM: GPU-программирование и CUDA, ускорение и распределённое обучение, сервинг, квантование. Семь домашних заданий — практика на ваших 4 GPU | 🔴 | EN | ≈80–120 ч с ДЗ | 5.7, 7 |
| Harvard CS50 ⚠: CS50x, CS50P, CS50 AI | CS50x — основы информатики, CS50P — Python, CS50 AI — поиск, логика, вероятности, ML и нейросети на Python. Задачи с автопроверкой. Выпуски 2015–2016 годов озвучены по-русски (JavaRush ⚠) | 🟢 | EN, RU (озвучка старых выпусков) | 10+ недель; CS50 AI — 7 недель | 0, 2 |
| NYU Deep Learning — Ян Лекун и Альфредо Канциани | Градиентный спуск, CNN, RNN, внимание и трансформер, энергетические модели, self-supervised learning. Конспекты лекций переведены на русский | 🟡 | EN, RU (конспекты) | ≈15 недель | 3, 4.4, 9.2 |
| Transformer Explainer (Georgia Tech) и LLM Visualization · перевод → | Живая GPT-2 в браузере: эмбеддинги, Q/K/V, веса внимания, влияние температуры на выбор токена. Вторая визуализация — 3D-прогон маленькой GPT | 🟢 | EN (почти без текста) | 1–2 ч | 4.1, 4.4–4.6 |
На русском
Заголовок раздела «На русском»Сначала — материалы, созданные на русском языке. Ниже — переводы и субтитры к материалам с этой страницы. Ещё несколько русских курсов и книг — в библиотеке.
| Материал | Чему учит | Уровень | Язык | Объём | Ступени |
|---|---|---|---|---|---|
| Учебник по машинному обучению ШАД ⚠, хендбуки по Python ⚠ и по математике ⚠ | Классический ML и глубокое обучение до трансформеров и языковых моделей (уровень примерно 2023 года); хендбуки — Python и математика с нуля | 🟢→🟡 | RU | ≈60–100 ч | 0–4 |
| Practical_RL (ШАД) | Практикум по RL: cross-entropy method, Q-learning, DQN, исследование среды, policy gradient, actor-critic, PPO. Мост от основ RL к PPO и GRPO | 🟡 | RU, EN | 10 недель | 6.0 |
| Машинное обучение на ФКН ВШЭ — Евгений Соколов | Полный университетский курс: подробные конспекты с выводами, семинары, теоретические и практические ДЗ; видео прошлых лет на YouTube | 🟡→🔴 | RU | 2 семестра | 2 |
| Курс ML girafe-ai (МФТИ и ШАД) и лекции К. В. Воронцова | Видеолекции и семинары от kNN и линейных моделей до бустинга, backprop, BatchNorm, эмбеддингов и seq2seq. Лекции Воронцова — самый математический русский курс ML, на второй проход | 🟡 | RU | семестр | 2, 3 |
| Deep Learning School МФТИ ⚠ | Бесплатная школа на Stepik: компьютерное зрение, затем NLP и аудио, ДЗ и финальный проект. Осенний поток — 05.09.2026–24.01.2027, можно идти параллельно со ступенью 3 | 🟢→🟡 | RU | 2 семестра | 3, 4 |
| mlcourse.ai (ODS, Юрий Кашницкий) | Классический ML на практике: EDA, классификация и регрессия, ансамбли, признаки, PCA и кластеризация, временные ряды, бустинг. Основное бесплатно, бонусные задания платные | 🟢→🟡 | RU, EN | ≈50–80 ч | 2 |
| «Поколение Python» ⚠ (Stepik) | Python с нуля: около 500 маленьких задач с мгновенной автопроверкой — тренажёр, на котором набивается рука. Короче и мягче — «Программирование на Python» ⚠ Института биоинформатики | 🟢 | RU | 60–70 уроков | 0.2 |
| «Основы статистики» ⚠ — Анатолий Карпов (Stepik) | Простым языком: распределения, доверительные интервалы, проверка гипотез, корреляция и регрессия. Продолжение — «Введение в Data Science и машинное обучение» ⚠ | 🟢 | RU | 29 уроков | 1.3, 2 |
| Академия Хана ⚠ | Школьная математика с упражнениями и мгновенной проверкой: алгебра, функции и графики, частично матанализ и вероятности. Переведено не всё | 🟢 | RU (частично) | по пробелам | 1.0 |
Переводы и субтитры
Заголовок раздела «Переводы и субтитры»- Microsoft «… for Beginners» — все уроки пяти курсов переведены на русский (машинный перевод); ссылки на переводы — в разделе Microsoft. Там же — «Основы PyTorch» на Microsoft Learn.
- Hugging Face — переводы сообщества: LLM Course, гл. 0–9, Agents Course, Audio Course.
- Google Machine Learning Crash Course — русская версия страниц ⚠.
- 3Blue1Brown — русские субтитры ко всем семи главам о нейросетях, у глав 5–7 перевод машинный. Мы проверили это по открытому репозиторию субтитров канала.
- Карпатый, «Deep Dive into LLMs like ChatGPT» — любительский перевод ⚠.
- Аламмар, «The Illustrated Transformer» — перевод на Хабре ⚠.
- Нильсен, «Neural Networks and Deep Learning» — любительский перевод всей книги на Хабре.
- NYU Deep Learning — конспекты лекций на русском.
- Harvard CS50 — русская озвучка выпусков 2015–2016 годов от JavaRush и студии VertDider.
- Книги на русском (платно): Рашка, «Строим LLM с нуля»; Саттон и Барто, «Обучение с подкреплением» (ДМК Пресс, 2020). Другие переводы — в разделе «Книги на русском» библиотеки.
Честные оговорки
Заголовок раздела «Честные оговорки»Почти всё на английском
Заголовок раздела «Почти всё на английском»У официальных курсов Anthropic, OpenAI и DeepLearning.AI русских субтитров нет. Это не повод их пропускать:
- YouTube. Включите субтитры, затем «Настройки» (шестерёнка) → «Субтитры» → «Перевести» → «Русский». Перевод машинный и путает термины, поэтому сверяйтесь с глоссарием. Яндекс Браузер умеет переводить видео на YouTube закадровым голосом.
- Тексты на GitHub и сайтах читаются встроенным переводчиком браузера. Код и формулы перевода не требуют.
- Сначала урок на русском, потом английский материал. Когда термины и идея уже знакомы, английский текст понимать гораздо проще. Подробнее о работе с видео — в разделе «Видео: смотреть и сразу делать».
Лаборатории учат в основном прикладному
Заголовок раздела «Лаборатории учат в основном прикладному»Большинство курсов от лабораторий — про промпты, API, агентов и MCP: как пользоваться моделями, а не как они устроены. Устройство моделей глубоко объясняют немногие:
- Google DeepMind: AI Research Foundations, лекции DeepMind × UCL, How To Scale Your Model, Tuning Playbook;
- OpenAI: Spinning Up;
- Hugging Face: Ultra-Scale Playbook, Smol Training Playbook, LLM Evaluation Guidebook;
- Anthropic: Transformer Circuits и circuit-tracer;
- DeepSeek: техотчёты и инженерные документы Open Source Week;
- из людей и университетов: Карпатый, Stanford CS336, ARENA, Understanding Deep Learning.
Если хочется понять досконально, держитесь этого списка, а прикладные курсы берите как практикум к ступени 8.
Материалы меняются
Заголовок раздела «Материалы меняются»- Репозиторий anthropics/courses в архиве с 15.09.2026, а Anthropic Academy переехала в Claude Academy (academy.claude.com).
- llama-recipes переименован в llama-cookbook, Gemma Cookbook переехал в google-gemma/cookbook, LLM Evaluation Guidebook — в Space OpenEvals на Hugging Face, verl — в verl-project/verl.
- Spinning Up — в режиме поддержки, у HF Deep RL Course сломан юнит 7, репозиторий MLU-Explain в архиве (сайт работает), журнал Distill на паузе с 2021 года.
- Курс Карпатого LLM101n так и не вышел: репозиторий в архиве, ждать его не стоит. Вместо него — nanochat и Zero to Hero.
- Документация Qwen отстаёт от моделей 2026 года: для свежих версий смотрите README их репозиториев.
Как проверялись ссылки
Заголовок раздела «Как проверялись ссылки»Ссылки проверены 04.10.2026: страницу или репозиторий на GitHub открывали напрямую. Знак ⚠ означает, что сайт из сети проверки не открылся и его адрес подтверждён только поиском. Если такая ссылка не работает, найдите материал по названию.
Сознательно не включены: курсы OpenAI Academy (уровень пользователя ChatGPT), Cohere LLM University (2023 год, привязка к API Cohere), устаревшие и дублирующие материалы. У xAI, Apple и Tencent заметных открытых учебных курсов мы не нашли.