modelscope-classroom: путеводитель по учебнику ModelScope

О странице

Репозиторий modelscope/modelscope-classroom распространяется по лицензии Apache-2.0; сайт-витрина — modelscope.github.io/modelscope-classroom. Здесь — карта всего содержимого и пересказ того, что где лежит. Полностью переведены статья «PPO и GRPO» и раздел учебника 6.5 «Continuous Batching». Мы читали коммит от 27 апреля 2026 года.

Что это и для кого

ModelScope — китайский хаб моделей и датасетов от Alibaba, аналог Hugging Face. modelscope-classroom — учебные материалы его сообщества. По словам README, здесь собраны учебники по глубокому обучению, чтобы разработчики «научились обучению, инференсу, развёртыванию, построению приложений и другим частым операциям».

В репозитории три слоя разного возраста:

1. «Система учебных материалов ModelScope по большим моделям» (папка «Учебник по большим моделям» в корне репозитория) — новый учебник (апрель 2026): 13 глав в пяти частях, от основ ML до агентов. Объём — около 1,3 млн китайских знаков.
2. LLM-tutorial (2024–2025) — серия статей A–S «от введения в глубокое обучение до развёртывания» и ноутбуки с практикой по популярным инструментам.
3. Blogs — обзоры (DeepResearch, мультимодальные модели «всё во всё», последовательностный параллелизм Ulysses + Ring-Attention) и ежедневные разборы статей (DailyPaper). Плюс AIGC-tutorial — диффузия и генерация картинок и видео.

Для нашего курса это параллельный китайский учебник по ступеням 3–8: удобно читать главу по той же теме, что урок, — другой автор объясняет иначе, и понимание закрепляется (принцип «спирали» из «Как учиться»). Уровень — от 🟢 в первых главах до 🟡 в главах о параллелизме и агентах.

Карта нового учебника

Часть 1. Теоретический фундамент

Глава	Разделы	Наш урок	Важность
1. Обучение с учителем и без учителя	понятия, датасеты, ML / DL / RL, регрессия, классификация, кластеризация	ступень 2	для повторения
2. Модель, потери и алгоритмы подгонки	МНК, переобучение, обобщение, функции потерь и регуляризация, градиентный спуск и оптимизаторы, метод Монте-Карло	ступени 1–3	для повторения
3. Модели глубокого обучения	MLP, CLIP, трансформер, токенизация, эмбеддинги и общие веса, позиционное кодирование, активации, нормализация и остаточные связи, внимание, MoE, мультимодальность, лёгкое дообучение, «новые рубежи»	ступени 3–5	важно
4. Модели генерации изображений	VAE, GAN, диффузия, архитектуры, частые приёмы, видео	9.1.2	по теме
5. Основы обучения с подкреплением	градиент политики и функция ценности, GAE, value-based и policy-based, off-policy и on-policy	6.0	важно
6. Оптимизация инференса моделей	prefill и decode, KV-кэш, стратегии декодирования, PagedAttention, continuous batching — раздел 6.5 переведён	7.1.1, 7.1.2	важно
7. Параллельное обучение моделей и его оптимизация	FlashAttention, Triton и слияние ядер, параллелизм данных, тензорный, конвейерный, экспертный, последовательностный и контекстный, многомерный	5.4.3, 5.7	важно
8. AI for Science	AlphaFold, графовые нейросети	—	по желанию
9. Воплощённый интеллект	Gym и Sim2Real, управление роботами	—	по желанию

Часть 2. Программно-аппаратная экосистема

Глава 10 — обзоры инструментов: PyTorch и NumPy, экосистема Transformers, Megatron, фреймворки обучения, LeRobot, veRL, DiffSynth, движки инференса; платформы приложений, ИИ-ассистенты для программирования, ComfyUI, Data-Juicer (очистка данных); экосистемы языковых и визуальных моделей; настройка GPU, а также окружения Ascend NPU, MetaX и AMD ROCm. Полезно как справочник «что есть что» в китайском стеке.

Часть 3. Обучение и инференс на практике

Глава 11: промпт-инжиниринг; форматы датасетов и стадии обучения; проблемы при обучении; обучение цепочкам рассуждений; прикладные модели вокруг LLM; ускорение инференса; практика: обучение в SWIFT и демо на Gradio; практика: своё обучение. Связь — уроки 6.1.2, 6.2.2.

Часть 4. Оценка

Глава 12: кросс-валидация и итоговая оценка, общие бенчмарки, свои бенчмарки, фреймворки оценки, практика с EvalScope (фреймворк оценки от ModelScope). Связь — уроки 7.3.1, 7.3.2.

Часть 5. Агенты

Глава 13 — самая большая (17 разделов): история агентов; кодовые и low-code платформы; ReAct; память, поиск и контекст; мультиагентные системы; Agentic RL; протоколы OpenAI и Claude; инструменты и MCP; RAG; разбор агентных фреймворков; практика — личный помощник, свой MCP-сервер, агент для программирования; Skills; OpenClaw и протокол ACP; Harness Engineering; самосовершенствование агентов. Введение главы описывает агента как четыре компонента: «мозг» (LLM), память, инструменты, планирование. Связь — модуль 8.3.

С чего начать

Если читать одну главу — берите главу 6 (оптимизация инференса). Её введение формулирует главное в одной фразе: обучение дорого, но основные долгосрочные расходы — инференс; и узкое место инференса — пропускная способность памяти: на каждый новый токен приходится заново читать из видеопамяти все веса модели. Пять коротких разделов главы — точно по урокам 7.1.1 и 7.1.2.

Старая серия LLM-tutorial (2024–2025)

Статья	О чём	Наш урок
A. «Введение в глубокое обучение»	введение в глубокое обучение	ступень 3
B. «Сообщество ModelScope и основы больших моделей»	ModelScope и основы LLM	0.0
C. «Промпт-инжиниринг»	промпт-инжиниринг	8.1.2
D. «Устройство Transformer»	устройство трансформера	4.5.1
E. «Выбор технологий»	выбор технологий: промпт, RAG или дообучение	8.4.1
F. «Предобработка данных»	подготовка данных	6.1.2
G. «Квантование» / N. «Разбор техник квантования»	квантование	7.2.1
H. «Обучение» / L. «Разбор метода дообучения LISA»	обучение; метод LISA	6.2.1
I. «Эффективный инференс LLM и мультимодальных моделей на практике» / J. «Развёртывание»	инференс и развёртывание	7.1.2
K. «Автоматическая оценка больших моделей: теория и практика»	автоматическая оценка	7.3.2
M. «Обучение выравниванию по предпочтениям людей»	обучение на предпочтениях	6.3.3
O. AgentFabric	агенты в ModelScope-Agent	—
P. PlayGround	обучаем бота говорить «древним стилем» (вэньянь)	—
Q. «Сложные рассуждения больших моделей на примере OpenAI o1»	рассуждения по мотивам o1	6.4.2
S. «PPO и GRPO»	PPO и GRPO — переведена	6.4.1

Ноутбуки (LLM-tutorial/notebook/)

vllm.ipynb (инференс в vLLM), llama-factory.ipynb, unsloth.ipynb, OpenRLHF.ipynb (RL-обучение), RAG+Rerank+Llamaindex.ipynb, RAGFlow.ipynb, dify.ipynb (low-code платформа), ноутбук по VLMEvalKit (оценка мультимодальных моделей), llamacpp+qwen3vl+gguf.ipynb, ноутбук «Полный цикл обучения на датасете Чжиху» (Zhihu) и ноутбук «Обучение» (учим модель переводить с вэньяня — классического письменного китайского). У ноутбуков, которые мы назвали описанием, а не именем файла, имена файлов китайские. Почти все рассчитаны на бесплатный ноутбук ModelScope с одной GPU — на вашей машине пойдут без изменений.

Как пользоваться

git clone --depth 1 https://github.com/modelscope/modelscope-classroom.git
# учебник — Markdown, читается прямо на GitHub или в любом редакторе;
# ноутбуки открывайте в Jupyter из окружения курса

Китайский читать помогут приёмы из трека 4: термины в учебнике почти всегда даны и по-английски (Prefill, KV Cache, MoE), так что машинный перевод страницы плюс наш глоссарий дают хорошее понимание.

Словарик

English	Русский
ModelScope community	сообщество ModelScope
textbook	учебник
inference optimization	оптимизация инференса
memory-bound / compute-bound	упирается в память / в вычисления
parallel training	параллельное обучение
embodied AI	воплощённый интеллект
agent	агент
evaluation	оценка