MIT 6.S191, лекции 7–9: законы ИИ, ИИ для науки, параллельное обучение

Конспект трёх гостевых лекций интенсива MIT 6.S191 (выпуск 2026 года). Карта курса — в путеводителе.

На чём основан конспект

Слайды лекций 2026 года из открытого репозитория сайта курса (MITDeepLearning/introtodeeplearning.com, папка 2026/slides). Гостевые лекции во многом построены на живых демонстрациях, которых в слайдах нет, поэтому конспект короче основных. Это пересказ своими словами; слайды © их авторы и MIT Introduction to Deep Learning. Ещё одна гостевая лекция (Мэтт Джонсон, Google DeepMind) в расписании есть, но её слайды не опубликованы.

Коротко

• Дуглас Бланк (Comet ML): законы робототехники Азимова на практике не работают — нельзя «закодировать» безопасность одной проверкой. Современные «законы ИИ» — это инженерная дисциплина: трассировка, наборы тестов, регулярная оценка и прозрачность.
• Кристофер Бишоп (Microsoft Research AI for Science): законы физики и химии известны, но уравнения слишком сложны для расчёта. Нейросети-эмуляторы, обученные на данных симуляций, ускоряют расчёты в тысячи раз; примеры — погода (Aurora), материалы (MatterGen), функционал плотности (Skala), молекулярная динамика (AI2BMD).
• Матиас Лехнер (Liquid AI): большие модели и данные требуют тысяч GPU. Память на обучение — это не только параметры, но и градиенты, состояния оптимизатора и активации; спасают чекпоинтинг активаций, шардирование (ZeRO/FSDP) и пять видов параллелизма, подобранные под иерархию пропускной способности кластера.

Как читать вместе с курсом

Лекция	Когда смотреть	Урок ChinaAI
7. The Three Laws of AI	на ступени 8, перед уроком об оценке и наблюдаемости	8.4.2 Оценка и наблюдаемость, 9.3.4 Безопасность и red teaming, 8.3.1 Цикл агента
8. AI for Science	для кругозора, в любой момент после ступени 3	9.2.1 Фронтир 2026
9. Secrets to Massively Parallel Training	на ступени 5	5.4.3 Распределённое обучение, 5.4.1 Смешанная точность, 5.7.4 Практика на нескольких GPU, 5.3.1 MoE

Лекция 7. Три закона ИИ (Дуглас Бланк, Comet ML)

От Азимова к реальным системам

В 1942 году Айзек Азимов сформулировал три закона робототехники как литературную этическую рамку: робот не может причинить вред человеку или своим бездействием допустить вред; должен подчиняться людям, если это не противоречит первому закону; должен заботиться о своей безопасности, если это не противоречит первым двум. Позже появился «нулевой закон» — не вредить человечеству в целом. Бланк переписывает их как «законы ИИ» и спрашивает, что из этого осталось на практике.

Законы сильно повлияли на культуру, философию, этику и фантастику — и на ранний ИИ (сам термин «искусственный интеллект» появился только в 1956 году). Тогда казалось, что можно написать код вроде if not causes_harm_to_humans(action): execute(action). Через несколько десятилетий стало ясно, что так не выйдет: «причиняет ли вред» — не формальная проверка.

Два ИИ

Бланк противопоставляет два подхода: формальные системы (символы и правила, дискретные, централизованные, «всё или ничего», чёткое разделение синтаксиса и семантики) и неформальные (образы и обобщения, вещественные числа, распределённые, с плавной деградацией, где синтаксис и семантика размыты). Прорыв глубокого обучения 2010–2017 годов он объясняет шестью причинами: данных стало очень много, GPU стали быстрыми и пригодными для нейросетей, сети стали глубже, улучшились алгоритмы (автоматическое дифференцирование), индустрия вложила огромные деньги, и прорывы пришли во все области сразу. Отдельный слайд — «на плечах гигантов»: многое из сегодняшнего ИИ построено на работах людей, о которых мало кто слышал.

Как оценивать LLM

Вторая половина лекции — живые демонстрации на платформе Opik (открытый проект Comet под лицензией Apache 2.0): трассировка запросов к LLM, автоматические тесты и метрики, в том числе «LLM как судья». Понятия, которые вводит лектор:

• сообщение — один фрагмент текста от пользователя или модели; чат-промпт — вся история диалога;
• трасса (trace) — полная запись работы LLM-приложения для отладки; спан (span) — отдельный шаг внутри трассы;
• оценка — применение метрики к ответу; набор данных — коллекция пользовательских запросов; метрика — мера правильности; эксперимент — набор данных, каждый пример которого оценён одной или несколькими метриками.

Главная мысль: то, что мы обычно делаем «на глаз» в чате, нужно превратить в научную процедуру.

Можно ли доверять LLM

Слайды 28–29 разбирают тяжёлый реальный случай 2025 года (по материалам прессы): подросток после долгой переписки с чат-ботом получил от него конкретные советы о сочетании опасных веществ, хотя сначала модель отказывалась; компания-разработчик признала, что в длинных диалогах защитное обучение модели может «деградировать». Отсюда рекомендации лектора против «дрейфа безопасности» в длинных контекстах: ограничить влияние истории пользователя на модель, противодействовать деградации защиты в длинных разговорах, сделать модель намеренно плохой в опасных персонализированных советах, сделать персонализацию объяснимой и управляемой пользователем, тестировать медленные сбои, а не только отдельные промпты, направлять опасные темы в специализированные системы, укреплять организационные меры и смещать модель к более безопасным режимам отказа.

Агенты

Агент — «программная система, которая может что-то делать от имени пользователя» (короткое определение лектора; длинное он для иронии берёт из ответа Gemini). Демонстрация — агентная система «за 90 секунд».

Новые законы ИИ

Версия 1 (по мотивам EU AI Act, NIST AI RMF, принципов OECD, рекомендаций ЮНЕСКО и др.): (0) ИИ должен быть достаточно прозрачным, чтобы люди могли понять и оспорить его решения; (1) системы ИИ должны быть безопасными, защищёнными и надёжными; (2) согласованными с волей человека через прозрачный подотчётный надзор; (3) уважать права человека, справедливость и ценности общества.

Версия 2 — инженерная, для разработчика: (0) если не можете гарантировать безопасность и защищённость — не выпускайте; (1) логируйте трассы, используйте онлайн-оценку и разбирайте сбои; (2) соберите набор тестов и постоянно его пополняйте; (3) часто оценивайте промпты на этом наборе; (4) будьте прозрачны — публикуйте набор данных и результаты оценки. А над всем — азимовский «минус первый» закон: не вредить человечеству.

Лекция 8. ИИ для науки (Кристофер Бишоп, Microsoft Research)

Бишоп — автор классических учебников по машинному обучению (новая книга — «Deep Learning: Foundations and Concepts», сайт BishopBook.com) и технический руководитель (Technical Fellow) направления Microsoft Research AI for Science.

Почему наука — особый случай

Пример «величайшего научного открытия»: магнитный момент электрона, теория и эксперимент совпадают до 12 знаков. Цитата Дирака (1929): законы, нужные для большей части физики и всей химии, «полностью известны»; трудность лишь в том, что точное их применение ведёт к уравнениям, «слишком сложным, чтобы их решить». ИИ может участвовать во всём цикле открытия: гипотеза → эксперимент (или симулятор, или ИИ-эмулятор) → наблюдение.

Теорема «бесплатного обеда не бывает»: обучение — это данные плюс индуктивное смещение (априорные знания). У больших языковых моделей много данных и мало встроенных знаний; у научных моделей данных мало, зато есть сильные априорные знания: инвариантность и эквивариантность к симметриям, законы сохранения энергии, массы, импульса, заряда. Отсюда — геометрическое глубокое обучение.

Эмуляторы

Идея: обучить сеть на данных точной, но медленной симуляции. Плюсы: данные синтетические и идеально размечены, нет проблем с приватностью, объём ограничен только вычислительным бюджетом, а ускорение по сравнению с симуляцией — в $10^3$–$10^4$ раз и больше. Пример — модель погоды Aurora.

Молекулы и материалы

Применения: полупроводники, лекарства, улавливание CO₂, сверхпроводники, хранение энергии, катализаторы, белки, батареи; генеративная модель материалов — MatterGen. Главная трудность — трилемма «точность — скорость — общность»; химическая точность — 1 ккал/моль. Точное решение через волновую функцию стоит экспоненциально от числа электронов $N$, а теория функционала плотности (DFT, 1965) — порядка $N^3$ и точна в принципе, но с подвохом: неизвестен точный обменно-корреляционный функционал $E_{XC}[\rho]$. Десятилетиями его подбирали вручную («лестница Иакова»), и получился «зоопарк» функционалов ограниченной точности. Skala (arXiv:2506.14665) — функционал, выученный нейросетью: по плотности электронов он вычисляет энергию, а нелокальность учитывает через передачу сообщений (message passing).

Молекулярная динамика

Последовательность → структура → функция белка. Моделирование молекулярной динамики упирается в «проклятие последовательности»: нужно от $10^6$ до $10^{15}$ последовательных шагов интегрирования, а процессоры давно не ускоряются для последовательных вычислений. Пример ИИ-подхода — AI2BMD.

Лекция 9. Секреты массово-параллельного обучения (Матиас Лехнер, Liquid AI)

Лектор — сооснователь и технический директор Liquid AI (компания-спин-офф MIT, 2023), которая делает модели серии LFM2 для работы на устройствах. План: зачем масштабировать, что масштабировать и как.

Зачем GPU и зачем масштаб

Обучение нейросети — это умножение матриц. Пример со слайда: $[256 \times 4096] \times [4096 \times 4096]$ — это $8{,}6$ GFLOP. CPU 2011 года (Intel i7-3960X, ≈0,1 TFLOPS) делает это за ≈86 мс, GPU того же года (GTX 580, 1,58 TFLOPS) — за ≈5,4 мс, а NVIDIA H100 (989 TFLOPS в bf16) — за ≈8,7 мкс: примерно в 1000 раз быстрее, чем в 2011 году. С AlexNet (2011, две GTX 580) началась революция глубокого обучения.

Проверим (наш расчёт): $2 \cdot 256 \cdot 4096 \cdot 4096 \approx 8{,}6 \cdot 10^9$ операций (умножение и сложение); $8{,}6 \cdot 10^9 / (989 \cdot 10^{12}) \approx 8{,}7$ мкс.

Больше данных → ниже потери (кривые Llama 2 7B), больше модель при тех же данных → ниже потери (Llama 2 7B–70B). Это формализуют законы масштабирования (Kaplan и др., 2020; Chinchilla, 2022). Примеры масштаба: GPT-3 — 175 млрд параметров и 300 млрд токенов (2020); Llama 2 — 70 млрд и 2 трлн токенов (2023); LFM2.5-1.2B — 1,2 млрд параметров и 28 трлн токенов (2026).

Параллелизм данных

Примеры в батче независимы, поэтому каждая GPU держит полную копию модели и обрабатывает свою часть батча (например, батч 256 на 4 GPU — по 64 примера), а потом градиенты усредняются операцией all-reduce. Пропускная способность растёт линейно с числом GPU, эффективный батч растёт — но слишком большой батч может ухудшить обобщение.

Сколько памяти нужно на обучение

Пример со слайда: модель на 1 млрд параметров (батч 16, 256 слоёв, скрытый размер 1024):

Что	Сколько
параметры (bf16, 2 байта)	2 ГБ
градиенты (тот же размер)	2 ГБ
состояния Adam (fp32: два момента × 4 байта)	8 ГБ
активации всех слоёв	≈16 ГБ
итого	≈28 ГБ

Для модели на 70 млрд параметров нужно порядка 2 ТБ — нужны стратегии экономии памяти.

• Чекпоинтинг активаций: хранить только часть активаций и пересчитывать остальные на обратном проходе. На слайде — примерно в 4 раза меньше памяти ценой ≈30% дополнительных вычислений; на практике память дороже вычислений.
• Выгрузка в память CPU (offloading): редко нужные данные (состояния оптимизатора, неактивные слои, активации) держать в RAM. Беда — пропускная способность: HBM у H100 — 3,35 ТБ/с, PCIe 5.0 — 64 ГБ/с, в 52 раза медленнее. Ниша — дообучение очень больших моделей на скромном железе и продление контекста.
• Иерархия связи: кэш → HBM → NVLink (внутри узла) → InfiniBand (между узлами); RDMA позволяет передавать данные между GPU разных узлов, минуя CPU.

Шардирование и параллелизм модели

Шардирование — разбить данные (веса, состояния оптимизатора, активации, градиенты) между машинами; платим коммуникацией за экономию памяти.

• Шардирование состояний оптимизатора: состояния Adam огромны (~8 байт на параметр), но нужны только при обновлении весов. Каждая GPU хранит свою долю, после reduce-scatter обновляет свою часть параметров, затем all-gather раздаёт обновлённые веса.
• DeepSpeed ZeRO: ZeRO-1 шардирует состояния оптимизатора, ZeRO-2 — ещё и градиенты, ZeRO-3 — всё, включая параметры (на слайде для 4 GPU: 12 → 6 → 4,5 → 3 ГБ на GPU). ZeRO-3 позволяет обучать модели, не помещающиеся на одну GPU, ценой большей коммуникации.
• FSDP — нативная реализация шардирования в стиле ZeRO-3 в PyTorch: каждый блок трансформера оборачивается отдельно, параметры собираются «точно вовремя» для вычисления и снова выбрасываются. Стратегии: FULL_SHARD (максимум экономии памяти), SHARD_GRAD_OP (шардировать только градиенты и оптимизатор), NO_SHARD (поведение DDP).
• Конвейерный параллелизм (pipeline): модель режется на этапы по слоям (например, 128 слоёв на 4 GPU по 32). Наивный конвейер простаивает («пузырь»), микробатчи его уменьшают; упомянуты двунаправленное расписание в Llama 3 и DualPipe из DeepSeek-V3.
• Тензорный параллелизм: делить сами матрицы весов — по столбцам (без коммуникации) или по строкам (с all-reduce). В MLP трансформера пара «столбцы → строки» требует одного all-reduce на слой и быстрой связи (NVLink).
• Параллелизм по последовательности и контексту: для очень длинных последовательностей делить ось последовательности; контекстный параллелизм распределяет KV-кэш и позволяет обучать на контекстах в миллион токенов.
• Mixture of Experts и экспертный параллелизм: в MoE-слое маршрутизатор отправляет токен лишь к нескольким экспертам (top-k), эксперты распределены по GPU, а токены пересылаются операцией all-to-all. Пример — LFM2-8B-A1B: 8,3 млрд параметров, из них 1,5 млрд активны. Сложность — балансировка нагрузки экспертов.

Фреймворки и итог

DeepSpeed ZeRO (Microsoft) и FSDP (PyTorch) экономят память, Megatron-LM (NVIDIA) — про параллелизм (нативные конвейер и тензорный параллелизм, но свой код). На практике всё комбинируют — «5D-параллелизм»: данные, тензоры, конвейер, последовательность/контекст, эксперты. Пример со слайда: $DP = 8$, $TP = 8$, $PP = 4$, $EP = 8$ — запуск на 2048 GPU; тензорный параллелизм — внутри узла (NVLink), конвейерный — между узлами.

Главный принцип: подбирайте стратегию параллелизма под иерархию пропускной способности — ни одна стратегия не работает сама по себе.

На вашей машине (4 × RTX 4080, без NVLink)

У вас связь между GPU только через PCIe, поэтому из всего списка лучше всего подходит параллелизм данных (DDP) и FSDP/ZeRO для моделей, которые не помещаются в одну карту; тензорный параллелизм через PCIe будет медленным. Практика — в уроке 5.7.4.

Что сделать руками

1. Повторите расчёт памяти из лекции 9 для модели на 0,5 млрд параметров и проверьте его, запустив обучение с torch.cuda.max_memory_allocated() (урок 5.4.3).
2. Для лекции 7: соберите набор из 20 тестовых запросов к своему LLM-приложению и метрику для них — это ровно задание урока 8.4.2.

Словарик

EN	RU
trace, span	трасса, спан
evaluation, metric, dataset, experiment	оценка, метрика, набор данных, эксперимент
LLM-as-a-judge	LLM как судья
safety drift, long context	дрейф безопасности, длинный контекст
inductive bias, equivariance	индуктивное смещение, эквивариантность
emulator	эмулятор (суррогатная модель)
density functional theory (DFT), exchange-correlation functional	теория функционала плотности, обменно-корреляционный функционал
molecular dynamics	молекулярная динамика
data parallelism, all-reduce	параллелизм данных, all-reduce
activation checkpointing, offloading	чекпоинтинг активаций, выгрузка
sharding, ZeRO, FSDP	шардирование, ZeRO, FSDP
pipeline / tensor / sequence / context / expert parallelism	конвейерный / тензорный / последовательностный / контекстный / экспертный параллелизм
pipeline bubble, micro-batch	пузырь конвейера, микробатч
reduce-scatter, all-gather, all-to-all	reduce-scatter, all-gather, all-to-all