Перейти к содержимому
ПереводыQwen, InternLM и другие

Курс Alibaba Cloud ACP: путеводитель

Что внутри бесплатного курса Alibaba Cloud для подготовки к сертификации ACP по большим моделям: сквозной проект бота-помощника для новых сотрудников, 22 урока от API и RAG до агентов, Skills, Qwen Code, дистилляции и безопасности — с привязкой к урокам нашего курса и программой экзамена.

«Курс подготовки к сертификации Alibaba Cloud ACP по большим моделям» — продвинутая ступень сертификации Alibaba Cloud. ACP (Alibaba Cloud Certified Professional) — «профессионал», ступенью ниже — ACA («специалист», для тех, кто не программирует). Сам курс бесплатный, экзамен — платный.

Курс рассчитан на тех, кто уже умеет программировать на Python и пользоваться git. Его отличие от учебников — один сквозной проект: вы работаете в компании, которая делает образовательный контент, и строите «бота-помощника для новичков», который отвечает на вопросы новых сотрудников по внутренним документам. Каждый урок начинается с проблемы, которую не решил предыдущий: бот не знает документов компании → RAG; отвечает неровно → промпты; непонятно, хорошо ли → оценка; умеет только говорить → агенты; дорого → дистилляция; страшно выпускать → безопасность.

Для нашего курса это практикум ступени 8 на китайском: те же темы, что в модулях 8.1–8.4, но вокруг одного приложения и с готовым кодом.

Урок оригиналаО чём (по введению и целям урока)Урок нашего курсаВажность
C1. Подготовка
1.1 Настройка среды для разработки ИИлокально (VSCode, PyCharm) или в облачном ноутбуке: ModelScope Notebook бесплатен, но сессия гаснет через 4 часа; PAI-DSW — по условиям пробного периода0.1.2по необходимости
C2. Строим систему вопросов и ответов
2.0 Предыстория проектановички тонут в документах компании, ошибаются — нужен бот—прочитать
2.1 Строим на LLM бота-помощника для новичковвызов Qwen по API, как работает LLM (токены, температура, top_p), ограничения моделей и пути их обхода8.1.1важно
2.2 Расширяем знания ботакак работает RAG, приложение на LlamaIndex, сохранение индекса, многоходовый RAG с переписыванием вопроса8.2.1переведён
2.3 Улучшаем промптыструктура промпта, контекстная инженерия, цепочка рассуждений, Meta Prompting8.1.2важно
2.4 Автоматическая оценкасвоя автопроверка, затем Ragas: answer correctness, context recall и precision — и как по ним искать причину ошибки8.2.2, 8.4.2важно
2.5 Улучшаем RAG-приложениенарезка текста, переранжирование, окно предложений и другие приёмы повышения точности8.2.2важно
C3. Строим агентную систему
3.0 От ответов на вопросы к решению задачбот «только говорит, а не делает»; дальше — инструменты, планирование, роли, память, навыки, оценка—прочитать
3.1 Основы агентов и вызов инструментовот простой функции-инструмента до Function Calling и протокола MCP8.3.1, 8.3.2важно
3.2 Учим агента планировать и выполнятьрефлексия против галлюцинаций, «сначала план, потом выполнение» (Plan & Execute)8.3.3важно
3.3 Командная работа нескольких агентовдва шаблона: иерархия «менеджер и команда» и совместная работа «у общей доски»8.3.3полезно
3.4 Память: агент накапливает опытот простого забывания к активной памяти между сессиями; четыре вида памяти8.3.3полезно
3.5 Навыки (Agent Skills): закрепляем умениякак оформить «в такой ситуации делай так» в вызываемый навык и делиться им в команде8.3.2полезно
3.6 Разработка агента от оценкиоценивать не только ответ, но и путь: выбор инструментов, расход токенов, формат промежуточных шагов8.4.2важно
3.7 Практика с Qwen Codeагент для программирования как рабочий инструмент: понять проект → план → правки по шагам → проверка → коммит—по желанию
3.8 Harness Loop — «обвязка» и цикл улучшенийстандарты, проверки, журнал и условия остановки для бизнес-задачи; Harness Engineering и Loop Engineering8.4.1по желанию
C4. Выпуск в продакшен
4.0 К продакшенутри горы: стоимость, развёртывание, безопасность—прочитать
4.1 Дистилляция: маленькая модель осваивает профессиональные навыкималенькая модель вместо большой на шаге «понять запрос» (намерения, срочность, маршрут) — генерация данных большой моделью и дообучение маленькой6.2.2, 6.4.4важно
4.2 Развёртывание моделиразвернуть вручную, облачные варианты, как выбрать7.1.2, 8.4.3полезно
4.3 LLM-приложение в продакшенечто нужно, чтобы перенести приложение из разработки в реальный бизнес8.4.3полезно
4.4 Безопасность и соответствие требованиямриски контента, защитные фильтры на входе и выходе, мультимодальные риски, эшелонированная защита8.3.4, 9.3.4важно
C5. Итоги
5.1 Развиваем «вкус» к применению ИИкак выбрать, куда в бизнесе внедрять ИИ: методика RIDE—по желанию
5.2 Итоги и перспективывесь путь проекта и готовые решения Alibaba Cloud для самостоятельной практики—по желанию
flowchart LR
A["2.1 бот на API"] --> B["2.2 RAG"] --> C["2.3 промпты"] --> D["2.4 оценка"] --> E["2.5 точный RAG"]
E --> F["3.1 инструменты"] --> G["3.2 план"] --> H["3.3 команда агентов"] --> I["3.4 память"] --> J["3.5 навыки"] --> K["3.6 оценка агента"]
K --> L["4.1 дистилляция"] --> M["4.2–4.3 развёртывание"] --> N["4.4 безопасность"]
Сквозной проект курса ACP: каждая следующая тема решает проблему предыдущей

Распределение вопросов по темам:

ТемаДоля вопросов
Разработка LLM-приложений17%
Промпт-инжиниринг15%
Генерация с поиском (RAG)20%
Дообучение16%
Мультиагентные и мультимодальные приложения16%
Практика в продакшене16%

1. Разработка LLM-приложений. Базовые навыки построения приложений через вызовы API: как работает модель, настройка ключевых параметров, ведение диалога, понимание стоимости. Темы: как в целом работает LLM; ключевые параметры и управление выводом; многоходовый диалог и потоковый вывод; контекстное окно и снижение галлюцинаций; безопасное хранение ключей API и оплата за токены.

2. Промпт-инжиниринг. Улучшение ответов через устройство промпта: системные промпты, продвинутые приёмы, промпты под конкретные сценарии. Темы: системный промпт; контекстная инженерия; цепочка рассуждений, Meta Prompting, few-shot; структурированный вывод и контроль формата; где промпты помогают, а где нет.

3. RAG. Проектирование и оптимизация всей цепочки: построение индекса, стратегии поиска, диагностика качества, сопровождение базы знаний. Темы: цепочка «индекс → поиск → дополнение → генерация»; стратегии нарезки и качество поиска; диагностика поиска и переранжирование; поиск в многоходовом диалоге; сопровождение базы знаний — обновления, права доступа, версии.

4. Дообучение. Когда дообучать или дистиллировать, основы обучения и практика: когда это нужно, как обучать, как оценить. Темы: когда дообучение уместно; основы — градиентный спуск, функция потерь, переобучение и недообучение; LoRA и подбор параметров обучения; пути дистилляции — синтез данных, дистилляция знаний, сжатие рассуждений; синтез обучающих данных и анализ «затраты — выгода».

5. Агентные приложения. Вызов инструментов, планирование задач, совместная работа нескольких агентов, память и закрепление навыков, архитектура мультимодальных приложений. Темы: механизм Function Calling и проектирование JSON Schema; цикл ReAct и протокол MCP; Plan & Execute, зависимости задач, выбор между жёстким сценарием и самостоятельным планированием; иерархия с субагентами; четыре вида памяти и навыки (Skills); основной цикл Harness Engineering; мультимодальные API и сквозная архитектура приложения.

6. Практика в продакшене. Инженерия выпуска: развёртывание и контроль затрат, защита и соответствие требованиям, разработка от оценки и деловые решения. Темы: выбор способа развёртывания; снижение стоимости инференса; стабильность в продакшене; безопасность — контент, защита от инъекций, эшелонированная оборона, регистрация сервиса по требованиям регулятора; разработка от оценки; методика RIDE и выбор точек применения ИИ.

README оговаривает: программа задаёт общее направление, но экзамен может касаться и тем, которых в ней нет.

Окно терминала
git clone https://github.com/AlibabaCloudDocs/aliyun_acp_learning.git
cd aliyun_acp_learning
pip install -r requirements.txt # для дообучения на GPU есть отдельный requirements-gpu.txt
# Если GitHub недоступен — зеркало: git clone https://atomgit.com/alibabaclouddocs/aliyun_acp_learning.git

Есть и скрипт автоматической установки для Linux и Mac (ссылка в README). Курс предполагает, что Python, pip и git у вас уже установлены. Китайская версия — в папке с китайским названием «Курс подготовки к сертификации ACP по большим моделям», английская — в LLM_ACP_EN/ (она отстаёт: в ней старая структура — одна большая глава из 11 уроков, агентам посвящён один урок, нет уроков о памяти, навыках и Qwen Code).

  1. После модуля 8.1 — уроки 2.0–2.1 (быстро: многое уже знакомо).
  2. После урока 8.2.1 — 2.2 в нашем переводе, затем 2.3–2.5 в оригинале: это лучший китайский практикум по оценке RAG через Ragas.
  3. После модуля 8.3 — уроки 3.1–3.6: та же теория агентов, но на одном проекте.
  4. Урок 4.1 о дистилляции — хорошее продолжение урока 6.2.2: «большая модель размечает — маленькая учится».
EnglishРусский
FAQ bot for new employeesбот-помощник для новичков
Model Studio (Bailian)облачная платформа моделей Alibaba
retrieval-augmented generation (RAG)генерация с поиском
context engineeringконтекстная инженерия
automated evaluationавтоматическая оценка
distillationдистилляция
guardrailsзащитные фильтры
defense in depthэшелонированная защита