«Как я пользуюсь LLM»: практический обзор от Карпатого

Это продолжение «Глубокого погружения в LLM». Там Карпатый объяснял, как модели устроены и обучаются. Здесь — как он сам пользуется ими в жизни и работе: от вопроса про кофеин до чтения научных статей, программирования и изучения корейского. Формул и кода нет, зато много живых примеров и честных ошибок моделей, которые он показывает на экране.

Коротко

• Чат с моделью — это одна общая последовательность токеновтокенEN tokenВ разговорной речи и статьях китайцы чаще всего пишут просто «token»., которую вы пишете вместе с моделью. Это контекстное окноконтекстное окноEN context window, рабочая память. «Новый чат» стирает её. Меняете тему — начинайте новый чат.
• Сама модель — «zip-файл на терабайт»: знания из интернета, прочитанного примерно полгода назад и помнящегося смутно, плюс «личность ассистента», заданная примерами при дообучении. Своих инструментов у неё нет.
• Следите, с какой моделью вы говорите: бесплатный тариф часто даёт меньшую модель. Для трудных задач по математике и коду включайте рассуждающую модель, для простых она не нужна.
• Инструменты расширяют модель: поиск в интернете (для свежего и редкого), deep research (поиск + рассуждение десятки минут), загрузка файлов, интерпретатор Python, артефакты, агенты для кода вроде Cursor.
• Мультимодальность: голос (лучше «настоящий», внутри модели), картинки на вход и на выход, видео. Плюс удобства: память, пользовательские инструкции, свои GPT. Главное правило везде — результат проверять: это «первый черновик».

Как смотреть вместе с курсом

Смотреть можно сразу после урока 0.0.1 «Что такое ИИ, машинное обучение и LLM» и «Глубокого погружения». Подготовка не нужна: видео для широкой аудитории.

Снимок февраля 2025 года

Названия моделей, тарифы и кнопки в видео устарели: GPT-4o, o1 pro, Claude 3.5/3.7, Grok 3, Gemini 2.0 давно сменились новыми. Конспект сохраняет их как примеры, но ценность видео — в принципах: что модель знает сама, а что нужно дать ей инструментом. Названия и цены сверяйте с текущими страницами сервисов.

Многие сервисы из видео могут быть недоступны или неудобны в вашей стране. Те же функции есть у китайских ассистентов, с которыми работает курс. Например, в веб-чате DeepSeek рассуждающая модель и поиск включаются кнопками «Глубокое мышление» и «Поиск в сети» (в англоязычном интерфейсе — DeepThink и Search). Как обращаться к таким моделям из кода, через API, — урок 8.1.1. Как писать промпты с примерами (few-shot), которые Карпатый использует для своих GPT, — урок 8.1.2. Как модель вызывает инструменты — урок 8.3.2.

Карта видео

Таймкоды и названия глав — из описания видео.

Время	Глава в оригинале	О чём
0:00	Intro into the growing LLM ecosystem	какие бывают чат-боты
2:54	ChatGPT interaction under the hood	токены, контекстное окно, «zip-файл»
13:12	Basic LLM interactions examples	вопросы на знание
18:03	Be aware of the model you’re using, pricing tiers	тарифы и размеры моделей
22:54	Thinking models and when to use them	рассуждающие модели
31:00	Tool use: internet search	поиск в интернете
42:04	Tool use: deep research	deep research
50:57	File uploads, adding documents to context	файлы, чтение статей и книг
59:00	Tool use: python interpreter, messiness of the ecosystem	интерпретатор Python
1:04:35	ChatGPT Advanced Data Analysis, figures, plots	анализ данных и графики
1:09:00	Claude Artifacts, apps, diagrams	артефакты и диаграммы
1:14:02	Cursor: Composer, writing code	программирование с агентом
1:22:28	Audio (Speech) Input/Output	голосовой ввод и озвучка
1:27:37	Advanced Voice Mode aka true audio inside the model	«настоящий» голос
1:37:09	NotebookLM, podcast generation	подкасты по документам
1:40:20	Image input, OCR	картинки на вход
1:47:02	Image output, DALL-E, Ideogram, etc.	генерация картинок
1:49:14	Video input, point and talk on app	камера в приложении
1:52:23	Video output, Sora, Veo 2, etc etc.	генерация видео
1:53:29	ChatGPT memory, custom instructions	память и инструкции
1:58:38	Custom GPTs	свои GPT
2:06:30	Summary	итоги

---

Экосистема (0:00)

ChatGPT от OpenAI появился в 2022 году и остаётся, по словам Карпатого, самым популярным и богатым функциями: он дольше всех на рынке. Но к 2025 году вокруг выросла целая экосистема: Gemini (Google), Meta AI, Copilot (Microsoft), Claude (Anthropic), Grok (xAI), а также китайский DeepSeek и французский Le Chat от Mistral. Следить за силой моделей он предлагает по рейтингам — Chatbot Arena и SEAL от Scale AI. О том, как устроены такие рейтинги и почему им нельзя верить слепо, — модуль курса об оценке моделей: 7.3.1 и 7.3.2.

Что происходит «под капотом» (2:54)

Карпатый просит модель написать хайку о том, каково быть языковой моделью, и показывает в tiktokenizer, что видит модель: его запрос — 15 токенов (в словаре GPT-4o около 200 тысяч токенов), ответ — 19. Вместе со служебными спецтокенамиспециальный токен (спецтокен)EN special tokenУправляющий токен, а не кусок текста — начало/конец текста (BOS/EOS), заполнитель для батча (PAD), разметка ролей в чате (например, <|im_start|> у Qwen). формата диалога, которые размечают реплики пользователя и ассистента, выходит 42 токена.

Ключевая картинка: «пузыри» чата — иллюзия. На самом деле вы с моделью по очереди дописываете одну одномерную последовательность токенов. Вы пишете и нажимаете Enter — управление переходит к модели. Она дописывает ответ и выдаёт особый токен «я закончила» — управление возвращается к вам.

flowchart LR
N["Новый чат: окно пусто"] --> U1["Ваши токены"]
U1 --> M1["Токены модели + «конец ответа»"]
M1 --> U2["Ваши токены"]
U2 --> M2["Токены модели"]
M2 --> W["Всё это вместе — контекстное окно, рабочая память модели"]

Диалог — это одна общая последовательность токенов

Кто ваш собеседник? Карпатый предлагает такое «самопредставление» ChatGPT: «Привет, я ChatGPT. Я zip-файл размером в терабайт. Мои знания — из интернета, который я целиком прочитал примерно полгода назад и помню смутно. А мою обаятельную личность на примерах запрограммировали разметчики OpenAI».

Разберём по частям:

• Претрейн сжимает интернет в параметры сети. Сжатие с потерями и вероятностное: модель помнит «общее впечатление». Терабайт — это порядка триллиона параметров (его условный пример). Претрейн стоит десятки миллионов долларов и идёт месяцами, поэтому его делают редко. Отсюда дата среза знанийдата среза знанийEN knowledge cutoffМомент, на котором закончились обучающие данные модели. О более поздних событиях модель не знает, если ей не дать поиск.: о том, что случилось потом, модель не знает.
• Дообучение (post-training) на диалогах, составленных людьми, «приклеивает к zip-файлу улыбку»: модель перенимает стиль ассистента.
• По умолчанию это самодостаточная сущность: ни калькулятора, ни Python, ни браузера. Токены на вход — токены на выход.

Подробнее обо всём этом — в «Глубоком погружении» и в уроке 0.0.1.

Вопросы на знание (13:12)

Когда модели можно верить без инструментов? Пример Карпатого: «Сколько кофеина в одной порции американо?» Ответ — около 63 мг. Он считает вопрос подходящим по двум причинам: знание не новое и не меняется, и оно очень часто встречается в интернете, а частое модель помнит лучше. Гарантии всё равно нет, поэтому он сверяется с первоисточниками.

Второй пример — простуда: какие лекарства помогают от насморка, подходят ли те, что есть дома, как быстро подействуют. Состав лекарств он сверил с упаковкой: модель могла ошибиться. Ситуация при этом не опасная, а лекарства распространённые и хорошо описаны в сети.

Два совета из этого раздела:

1. Начинайте новый чат при смене темы. Лишние токены в окне отвлекают модель и могут снизить точность, а каждый следующий токен чуть дороже в вычислениях. Относитесь к контекстному окну как к ценному ресурсу.
2. Знайте, какая модель отвечает. Об этом следующая глава.

Тарифы и размеры моделей (18:03)

Без входа в аккаунт ChatGPT даже не говорит, какая модель отвечает, — возможно, маленькая. На момент записи у OpenAI было три тарифа для частных лиц: бесплатный (GPT-4o mini — меньшая модель: хуже пишет, меньше знает, чаще галлюцинирует), Plus за 20 долларов в месяц (по мелкому шрифту — 80 сообщений GPT-4o за три часа) и Pro за 200 долларов (без ограничений плюс дополнительные возможности). У Claude, Gemini и Grok — свои тарифы и свои переключатели моделей.

Принцип: большие модели дороже в вычислениях, и компании берут за них больше. Проверьте, хватает ли вам дешёвой модели. Если вы работаете профессионально и умности не хватает, платите за верхний тариф. Карпатый много программирует и платит охотно.

Его приём — «совет LLM» (LLM council): задать один и тот же вопрос нескольким моделям и сравнить. Так он выбирал, куда поехать на Новый год: и Claude, и Gemini посоветовали Церматт в Швейцарии, туда он и поехал.

Рассуждающие модели (22:54)

Третий этап обучения — обучение с подкреплением (RLобучение с подкреплениемEN reinforcement learning (RL)) на задачах вроде задач из учебника, особенно по математике и коду. В процессе модель сама находит стратегии рассуждения: пробует идеи, возвращается назад, перепроверяет допущения. Такие стратегии трудно задать вручную, они появляются только в RL. Первой об этом публично подробно рассказала DeepSeek в статье о R1 (в курсе — урок 6.4.2).

Что это значит для пользователя: модель «думает» — иногда минутами, выдавая множество токенов, — и на трудных задачах отвечает точнее. На простых вопросах выигрыша нет.

Пример: у Карпатого не проходила проверка градиента (gradient check) в коде обучения MLP. GPT-4o без рассуждения перечислил общие советы, но причину не нашёл. o1 pro подумал около минуты и нашёл ошибку: параметры упаковывались и распаковывались в разном порядке. Claude 3.5 Sonnet, хотя и не рассуждающая модель, тоже нашёл ошибку; Gemini и Grok 3 — тоже. DeepSeek-R1 (через Perplexity) показал свои сырые рассуждения: «но подождите, когда они накапливают градиенты…» — и пришёл к правильному ответу.

Стратегия Карпатого: сначала спросить быструю модель без рассуждения. Если ответ кажется слабым, переключиться на рассуждающую. В интерфейсах это переключатель модели или кнопка вроде «Think» у Grok.

Инструмент: поиск в интернете (31:00)

Вопрос: когда выйдет вторая серия третьего сезона «Белого лотоса»? Этого нет в «zip-файле»: расписание объявили после среза знаний. Без поиска модель не может ответить.

Как работает поиск: модель выдаёт особый токен «искать в интернете» с запросом. Приложение останавливает генерацию, выполняет поиск, открывает страницы и вставляет их текст в контекстное окно. Теперь нужные факты лежат в рабочей памяти, и модель отвечает по ним, со ссылками на источники. Подробнее о том, как модели вызывают инструменты, — урок 8.3.2.

Интеграция инструментоввызов инструментовEN tool calling / function calling на момент записи была очень разной: ChatGPT иногда сам понимал, что нужно искать, а иногда нужно было нажать кнопку поиска; Claude поиска не имел и честно отвечал «по состоянию на апрель 2024 года»; Gemini 2.0 Pro Experimental поиска не имел, а 2.0 Flash — имел. Карпатый по привычке ходит за поиском в Perplexity — по его словам, первое приложение, где поиск с LLM заработал убедительно.

Когда он включает поиск: если ответ можно найти, погуглив и открыв несколько первых ссылок. Особенно если информация свежая (что анонсирует Apple завтра, почему растут акции компании), меняется (есть ли у сервиса нужная услуга, безопасно ли ехать в страну) или редкая (где снимали сериал, какой пастой пользуется известный блогер). И когда в соцсетях что-то обсуждают, а из отдельных постов неясен контекст.

Инструмент: deep research (42:04)

Deep research — это поиск плюс рассуждение, растянутые на десятки минут. На момент записи в ChatGPT он был только в тарифе за 200 долларов. Модель задаёт уточняющие вопросы, затем делает много поисковых запросов, читает статьи и выдаёт отчёт с источниками — что-то вроде научного обзора на заказ.

Пример: что такое Ca-AKG — компонент «смеси долголетия» Брайана Джонсона (2,5 г на порцию), какие есть исследования на людях и животных, механизм действия, риски. ChatGPT думал около 5 минут, просмотрел 27 источников и написал отчёт: исследования на червях, дрозофилах и мышах, идущие испытания на людях. Аналоги — Deep Research в Perplexity и DeepSearch в Grok. Отчёт ChatGPT показался Карпатому самым подробным и связным.

Неудачи он тоже показывает. Таблица крупнейших американских LLM-лабораторий пропустила xAI, но включила Hugging Face и EleutherAI, а цифры финансирования он перепроверять не стал бы на слово. Вывод: отчёт — первый черновик и список литературы, галлюцинации возможны, поэтому ссылки нужно открывать. Удачный пример — сравнение браузеров по приватности: после отчёта и чтения источников он перешёл на Brave.

Загрузка файлов: читать вместе с моделью (50:57)

Кроме поиска, документы в контекст можно положить самому. Пример — свежая статья Arc Institute о «языковой модели для ДНК» (Evo 2), PDF около 30 МБ. Скорее всего, PDF превращается в текст, а картинки отбрасываются или понимаются хуже, чем людьми. Claude 3.7 (вышел прямо во время записи, с режимом расширенного рассуждения) на этом файле упёрся в лимит длины чата, GPT-4o сделал краткое содержание. Дальше Карпатый читает статью сам и по ходу задаёт вопросы.

Так же он теперь читает книги: «почти никогда не читаю книги в одиночку». Пример — «Исследование о природе и причинах богатства народов» Адама Смита (1776). Текст лежит в проекте Гутенберг. Он копирует текущую главу (о том, что разделение труда ограничено размером рынка), просит сначала краткое содержание, а потом читает и спрашивает. Модель «что-то помнит» о книге, но точного текста главы не помнит, поэтому главу надо положить в контекст. По его словам, так гораздо лучше понимание и запоминание, особенно для текстов из чужой области или старинного языка.

Чего ему не хватает: инструмента, где можно выделить абзац книги и сразу спросить о нём. На момент записи он копировал текст вручную.

Инструмент: интерпретатор Python (59:00)

30 × 9 = 270 модель считает «в уме» — это почти запоминание. А произведение двух длинных чисел человек считать в уме не стал бы, взял бы калькулятор. ChatGPT обучен поступать так же: пишет программу на Python, приложение её выполняет, результат возвращается в контекст текстом. Когда инструмент нужен, модели показали на примерах разметчики.

Беспорядок экосистемы: Grok 3 (на тот момент без интерпретатора) посчитал «в уме» и ошибся в нескольких цифрах, хотя и близко; Claude написал код на JavaScript и получил верный ответ; Gemini 2.0 Pro посчитал верно без инструментов, но на числах подлиннее тоже ошибся. Мораль: следите, у какой модели какие инструменты, — без них модель не откажется, а «сделает как сможет», то есть может выдумать результат.

Анализ данных и графики в ChatGPT (1:04:35)

Advanced Data Analysis превращает ChatGPT в «младшего аналитика данных». Карпатый просит найти поиском оценку OpenAI по годам, построить график в логарифмической шкале, провести линию тренда и продлить до 2030 года.

Здесь же — два поучительных сбоя:

• для 2015 года данных нет, но в коде модель молча подставила 0,1, то есть 100 млн долларов, ничего не сказав;
• в тексте модель написала, что к 2030 году оценка составит около 1,7 трлн долларов, а переменная в коде показывала примерно 20 271,7 млрд, то есть около 20 трлн. Карпатый попросил вывести переменную отдельно — и модель признала ошибку.

Вывод: мощный инструмент, но аналитик «рассеянный». Код нужно читать, а людям, которые читать код не умеют, Карпатый такие инструменты рекомендовал бы с осторожностью.

Артефакты Claude и диаграммы (1:09:00)

Артефакты — маленькие приложения, которые Claude пишет и сразу запускает в браузере. Пример: 20 карточек для повторения по статье Википедии об Адаме Смите, а затем по просьбе — приложение на React для тренировки этих карточек: показать ответ, отметить «знал/не знал», перемешать. Без сервера и базы данных — всё локально в браузере. Другая парадигма: не программист пишет приложение для всех, а модель пишет приложение лично для вас.

Сам Карпатый пользуется артефактами нечасто. Полезным он считает одно применение — концептуальные диаграммы: «построй схему этой главы». Claude пишет диаграмму на Mermaid: главный тезис (разделение труда зависит от размера рынка), примеры, сравнение сухопутной и водной торговли, ранние цивилизации у воды. Визуалам это помогает запомнить структуру аргумента. (Кстати, схемы на этом сайте тоже рисуются на Mermaid.)

Программирование: Cursor (1:14:02)

Большую часть рабочего времени Карпатый пишет код, но не копирует куски кода в ChatGPT: так слишком медленно, и у чата нет контекста проекта. Он пользуется отдельным приложением — на момент записи Cursor (упоминает также VS Code и Windsurf). Cursor работает с файлами на компьютере и через API вызывает модель — тогда Claude 3.7 Sonnet.

Эволюция таких инструментов: сначала Ctrl/Cmd+K — «измени эту строку», потом Cmd+L — «объясни этот кусок», теперь Cmd+I — Composer, автономный агентагентEN agentВ китайском встречается и «дайли» («посредник»), но в AI-контексте стандарт — «чжинэнти» (буквально «интеллектуальное тело»)., который сам выполняет команды и правит много файлов. Демонстрация: новый проект на React, пять предложений — и готовы крестики-нолики. Дальше «добавь конфетти при победе»: агент устанавливает библиотеку react-confetti, дописывает код, стили и даже звук победы (одну команду пришлось подтвердить вручную).

Работу в таком режиме — отдать управление агенту и надеяться, что получится, — Карпатый называет vibe coding и говорит, что этот термин, кажется, придумал он. Страховка: все файлы перед вами, и всегда можно вернуться к обычному программированию.

Голос: ввод и озвучка (1:22:28)

Около половины запросов на компьютере и около 80% на телефоне Карпатый не печатает, а надиктовывает: «лень». В мобильном приложении ChatGPT есть две разные кнопки: микрофон (речь → текст) и голосовой режим. На компьютере он пользуется системными приложениями распознавания речи (называет SuperWhisper, WisprFlow, MacWhisper; сам — SuperWhisper на клавише F5). Названия продуктов и библиотек распознаются плохо — их он печатает. В обратную сторону — кнопка «Read aloud», озвучка ответа.

Это он называет «ненастоящим» голосом: модель по-прежнему работает с текстом, а речь лишь переводится в текст и обратно отдельными моделями. Главный совет главы: «не печатайте, говорите».

«Настоящий» голос внутри модели (1:27:37)

Звук тоже можно превратить в токены: нарезать спектрограмму на окна и квантовать их в словарь, условно из 100 тысяч «кусочков звука». Модель, обученная на таких токенах, слышит и говорит сама, без текста посередине. В ChatGPT это Advanced Voice Mode. Текст, который появляется в чате, — лишь расшифровка разговора.

Демонстрация: объяснить, почему небо голубое, голосом Йоды, потом пирата, рассказать сказку, посчитать до 20 очень быстро. Корову («му») модель изобразила, а лису изображать отказалась. Карпатый жалуется, что голосовой режим ChatGPT слишком осторожен и часто отказывается. У Grok в мобильном приложении есть голосовые режимы с разными «характерами», и он «идёт дальше» — для развлечения Карпатый предпочитает его. Он показывает, насколько сильно такие режимы могут отклоняться от обычного вежливого ассистента. Для ученика тут урок безопасности: поведение модели сильно зависит от того, как её настроил разработчик.

NotebookLM: подкасты по документам (1:37:09)

В NotebookLM от Google слева загружаются источники (текст, веб-страницы, PDF). С ними можно разговаривать, а можно нажать кнопку и через несколько минут получить подкаст-беседу двух ведущих о ваших материалах. По статье об Evo 2 получилось около 30 минут. Подкаст можно настроить инструкциями, а в интерактивном режиме — перебить ведущих вопросом. Карпатый слушает такие подкасты на прогулке или за рулём, по нишевым темам, о которых люди подкасты не записывают. Целый сезон таких выпусков он выложил на Spotify под названием «Histories of Mysteries».

Картинки на вход (1:40:20)

Картинку тоже можно превратить в токены: разрезать на квадратики (патчи) и каждый заменить ближайшим из словаря патчей. Сам трансформер не знает, какие токены — текст, какие — звук, какие — изображение: он моделирует последовательности. Модальность «знают» только кодировщик и декодер по краям. (Подробнее — урок 9.1.1; о звуке — 9.1.5.)

Примеры Карпатого:

• Этикетка «смеси долголетия». Сначала попросить переписать состав в таблицу и проверить, что модель прочитала числа верно. Только потом задавать вопросы: сгруппировать компоненты, оценить, какие изучены хорошо, а какие сомнительны. Два шага вместо одного — его постоянный приём.
• Анализ крови. 20 страниц PDF. Он загружал скриншоты по частям (на Mac — сочетание клавиш для снимка области экрана в буфер обмена) и проверял расшифровку. Анализы крови — частая тема в интернете, поэтому модели он тут доверяет больше, но это черновик для разговора с врачом, а не замена врачу.
• Формула из статьи — сначала перевести в текст, потом спрашивать.
• Состав зубной пасты — что здесь функционально, а что лишнее.
• Мем — модель объяснила шутку про ворон (стая ворон по-английски — «murder», отсюда «покушение на убийство»).

Картинки на выход (1:47:02)

У OpenAI на момент записи был DALL-E 3. Пример: найти поиском главные новости дня и попросить картинку, которая их «подытоживает». Сам Карпатый генерирует так обложки для YouTube и иконки, часто в Ideogram. Важная деталь: в тогдашнем ChatGPT картинка рисовалась отдельной моделью — языковая модель писала подпись-описание и передавала её генератору изображений. Это «сшитая» система, а не одна модель.

Видео на вход и на выход (1:49:14, 1:52:23)

В мобильном приложении в голосовом режиме можно включить камеру и показывать модели предметы. В демонстрации она узнаёт акустический поролон на стенах, книги («Чингисхан и рождение современного мира» Джека Уэзерфорда, «Вы, конечно, шутите, мистер Фейнман!»), датчик CO₂ Aranet4 (713 ppm — «нормально для помещения, лучше ниже 800») и карту Средиземья. Карпатый предполагает, что на самом деле модель получает не поток видео, а кадры, например раз в секунду. Сам он так не делает, но показал бы родителям: навёл камеру — спросил.

Генерацию видео он почти не использует: не его профессия. Показывает сравнение моделей на одном запросе («тигр в джунглях») и называет Veo 2 близкой к лучшему уровню на тот момент.

Память и пользовательские инструкции (1:53:29)

Каждый чат начинается с пустого окна. Но у ChatGPT есть память: короткие заметки о вас, которые модель сохраняет сама или по просьбе («запомни это»). Эти заметки подставляются в начало каждого разговора, их можно просматривать, редактировать и удалять. Пример: модель запомнила, что пик Голливуда, по мнению Карпатого, — конец 1990-х и начало 2000-х. Сначала он сомневался в пользе функции, но теперь считает, что со временем ChatGPT узнаёт его лучше. На момент записи, по его словам, такой памяти у других ассистентов не было.

Пользовательские инструкции (custom instructions) действуют во всех чатах. Карпатый попросил «не говорить как HR-менеджер» и объяснять всё как можно образовательнее, а для корейского — указал нужный уровень вежливости речи. Технически это тот же системный промптсистемный промптEN system promptСообщение с ролью system — правила для модели (роль, тон, формат). Технически это просто первый блок текста в chat-шаблоне., о котором говорит урок 8.1.1.

Свои GPT (1:58:38)

Свой GPT — это сохранённый промпт: «если вы снова и снова вставляете один и тот же промпт, сохраните его один раз». Примеры Карпатого — для изучения корейского:

• Извлекатель словаря. На вход — предложение, на выход — слова в словарной форме в формате «корейский; русский» (у него — английский), который сразу импортируется в карточки Anki.
• Подробный переводчик. Сначала перевод целиком, потом разбор по кусочкам, и можно задавать уточняющие вопросы. По его опыту, это лучше Google Translate и даже корейских переводчиков вроде Papago.
• Переводчик субтитров. Скриншот кадра реалити-шоу с вшитыми субтитрами → распознать текст (OCRоптическое распознавание символов (OCR)EN optical character recognition (OCR)) → перевести → разобрать.

Внутри — только инструкции и несколько примеров входа и выхода, размеченные XML-подобными тегами. Это few-shotfew-shot (примеры в промпте)EN few-shot promptingНесколько пар «вход → выход» прямо в промпте; модель подхватывает формат без дообучения (in-context learning). Zero-shot — без примеров.-промпт. Карпатый говорит, что примеры всегда повышают точность, как и с людьми: показать лучше, чем объяснить. Подробно — в уроке 8.1.2.

Итоги: на что смотреть в любом ассистенте (2:06:30)

Экосистема — «зоопарк», и у каждого приложения свои сильные стороны. Карпатый называет ChatGPT хорошим выбором по умолчанию, но для поиска ходит в Perplexity, для прототипов и диаграмм — в артефакты Claude, для голосовых развлечений — в Grok. Его чек-лист:

Вопрос	Почему важно
Какой тариф и какая модель?	Большая модель больше знает, лучше пишет и реже галлюцинирует
Нужна ли рассуждающая модель?	Для математики, кода, сложной логики — да; для простых вопросов — лишнее ожидание
Есть ли поиск?	Без него свежего и редкого модель не знает
Есть ли интерпретатор кода?	Без него модель «посчитает в уме» и может ошибиться
Что нужно сделать: график, приложение, диаграмма, код проекта?	Анализ данных, артефакты, агент вроде Cursor
Как устроена мультимодальность?	Родная (omni-модель) мощнее, чем отдельная модель, «пришитая» через текст
Какие есть удобства?	Файлы, память, инструкции, свои GPT
Где — в браузере или на телефоне?	Функции могут различаться: например, камера была только в мобильном приложении

Что сделать руками

1. Откройте tiktokenizer и посчитайте, сколько токенов занимает ваш вопрос на русском и на китайском. Сравните со своей оценкой.
2. Задайте один вопрос, ответ на который появился после среза знаний модели, сначала без поиска, потом с поиском. Посмотрите, признаётся ли модель, что не знает.
3. Соберите свой «совет LLM» из двух-трёх доступных вам ассистентов (например, DeepSeek, Qwen и ещё одного) и задайте им одну задачу на логику с рассуждением и без.
4. Повторите приём «два шага» с фотографией этикетки: сначала расшифровка в таблицу и проверка, потом вопросы.
5. Почитайте главу трудной книги вместе с моделью: положите текст главы в контекст, попросите краткое содержание и концептуальную схему.
6. Напишите few-shot-промпт для своей повторяющейся задачи (например, выписывать новые слова из текста в формате карточек) и сохраните его — как свой GPT или просто как файл.

Словарик

EN	RU
context window	контекстное окно (рабочая память модели)
knowledge cutoff	дата среза знаний
pre-training, post-training	предобучение (претрейн), дообучение
thinking / reasoning model	рассуждающая модель
tool use	использование инструментов
internet search, deep research	поиск в интернете, глубокое исследование
file upload	загрузка файлов в контекст
Python interpreter	интерпретатор Python
hallucination	галлюцинация, выдуманный ответ
artifact	артефакт (приложение в окне чата)
vibe coding	вайб-кодинг: программирование, где код пишет агент
speech-to-text, text-to-speech	распознавание речи, синтез речи
true audio / advanced voice mode	«настоящий» голос внутри модели
omni / multimodal model	омни-модель, мультимодальная модель
OCR	распознавание текста на изображении
memory, custom instructions	память, пользовательские инструкции
few-shot prompt	промпт с несколькими примерами