Вся программа 9 класса · 5.4. Системы искусственного интеллекта для создания текстов
В учебном обзоре написано: «GPT придумал внимание в2018 году, а раньше языковых систем не было». Как исправить обзор, используя датированные источники, и объяснить, что изменилось в подходах?
Учителю: подготовка и план на 45 минут
Подготовьте: экран или распечатки, тетради, ручки и калькулятор. Все таблицы, тексты и ключи находятся в статье и PDF. Ключи открывайте после самостоятельной попытки; ученические листы печатайте отдельно от раздела учителя.
Вариант без регистрации: работайте по готовым материалам и учебным журналам на экране или бумаге. Ученики не создают аккаунтов и не передают личных данных. Учебная имитация позволяет проверить рассуждение, но не заменяет настоящий эксперимент с сервисом.
| Время | Этап | Результат |
|---|---|---|
| 0–5 | Проблемная ситуация | Первое решение и основания |
| 5–14 | Теория и разобранный пример | Понятия, доказательства и ограничения |
| 14–25 | Практика 1 | Проверяемый результат по критериям |
| 25–33 | Практика 2 | Перенос в новые условия |
| 33–40 | Обсуждение | Аргумент, возражение, общее решение |
| 40–45 | Индивидуальная проверка | Самостоятельный ответ и сверка |
Что собрать: результаты двух практик, основания вывода и индивидуальную проверку. Минуты включают чтение, обсуждение и запись; раздел соответствия программе предназначен учителю вне этих 45 минут. При 0–1 балле в проверке вернитесь к разобранному примеру; при 2–3 уточните пропущенное звено; при 4 предложите новый случай. Критерии нужны для обратной связи, не задают обязательную школьную отметку.
01. Проблемная ситуация
В учебном обзоре написано: «GPT придумал внимание в2018 году, а раньше языковых систем не было». Как исправить обзор, используя датированные источники, и объяснить, что изменилось в подходах?
За 1 минуту прочитайте ситуацию; за 2 запишите предварительное решение и основание; за 2 сравните с соседом и назовите недостающую проверку. Случаи, числа и реплики условного ИИ созданы для обучения, не являются результатами испытания действующего сервиса.
02. Объяснение и разобранный пример
5–14 минут: 4 минуты — понятия; 3 — совместный разбор; 2 — проверка ограничений примера.
История языковых систем — не соревнование одного сервиса со всеми предыдущими. Скриптовые системы использовали заранее описанные способы ответа; вероятностные модели учились оценивать языковые последовательности; нейросетевые подходы обучали числовые представления. Мы рассмотрим четыре опорные публикации, не полную историю и не утверждение, что каждый новый подход отменил старый.
Трансформер в работе 2017 года описан как архитектура для обработки последовательностей с механизмами внимания вместо рекуррентного прохода в предложенной модели. Внимание вычисляет, какие элементы контекста и в какой степени учитывать при обновлении представления. Это числовой механизм, не человеческая сосредоточенность или сознание. Порядок элементов также нужно представить; набор слов без порядка теряет важные отношения.
Исходный Transformer имеет части кодирования и декодирования. GPT 2018 применил предварительное языковое обучение и настройку на задачи, используя трансформерный декодер. Название GPT раскрывается как Generative Pre-trained Transformer. В авторегрессионной генерации модель использует допустимый предыдущий контекст для следующего элемента, а не читает ещё не созданное будущее слово.
У разных архитектур и целей обучения бывают разные режимы доступа к контексту; не каждый трансформер — GPT и не каждая система ИИ — языковая модель. Улучшение результатов на конкретных тестах не доказывает гарантированную точность всех новых ответов. Источник, автор, год, задача и ограничение должны сопровождать исторический факт.
Разобранный пример. Карточка Transformer относится к2017, GPT к2018. Поэтому «GPT впервые придумал внимание» не следует из этих карточек. Доказательный исправленный тезис: «В2017 опубликована архитектура Transformer; в2018 предложен подход GPT с генеративным предварительным обучением и настройкой». Нельзя по двум датам объявить одну систему универсально лучше.
03. Практика 1: Соберите хронологию и исправьте обзор
| Карточка, год, авторы | Первичный документ | Краткий проверенный тезис |
|---|---|---|
| Г:2018, Radford и соавторы | Improving Language Understanding by Generative Pre-Training; OpenAI | Предварительное языковое обучение и последующая настройка на задачи |
| Б:2003, Bengio и соавторы | A Neural Probabilistic Language Model; JMLR | Обучаемые представления слов и вероятности последовательностей |
| А:1966, Weizenbaum | ELIZA; Communications of the ACM, DOI10.1145/365153.365168 | Публикация языковой диалоговой программы, не современная большая модель |
| В:2017, Vaswani и соавторы | Attention Is All You Need; arXiv1706.03762 | Предложена архитектура Transformer для последовательностей |
Ссылки на первичные документы приведены в источниках. Карточки — краткие авторские пересказы, не цитаты из статей. Датируется первоначальная публикация, а не поздняя версия страницы/препринта. Ошибочный обзор: «До 2018 не было языковых систем. Transformer появился позже GPT. GPT всегда проверяет факты и видит будущие слова». Составьте новую версию из четырёх подтверждённых тезисов.
- За 2 минуты упорядочьте четыре карточки и сохраните авторов/источники.
- За 4 минуты для каждого этапа запишите задачу, принцип и одно ограничение.
- За 3 минуты исправьте четыре утверждения обзора с основаниями и создайте четыре карточки мини-презентации.
- За 2 минуты различите исторический факт, интерпретацию улучшения и неподтверждённое обещание.
Форма результата: Четыре датированные карточки и исправленный короткий обзор.
Критерии: По 1 баллу: хронология/источники; сравнение принципов; исправленный обзор; ограничения/статусы. Всего 4.
Ответ, объяснение и критерии для учителя
Порядок А1966 → Б2003 → В2017 → Г2018. До GPT существовали языковые системы; Transformer 2017 раньше GPT 2018. Скриптовый учебный подход ограничен предусмотренными правилами; вероятностная модель учится языковым связям; Transformer учитывает контекст через внимание; GPT использует генеративное предварительное обучение и настройку. Утверждения об абсолютной проверке фактов и чтении будущих элементов не подтверждены. Для авторегрессионного GPT будущий элемент ещё не сгенерирован. Мини-презентация сохраняет название/год/авторов и разницу принципов; нельзя объявлять 2003 первой нейросетевой системой вообще или 2017 изобретением всех видов внимания.
Оценка: По 1 баллу: хронология/источники; сравнение принципов; исправленный обзор; ограничения/статусы. Всего 4.
04. Практика 2: Объясните роль контекста и порядка
| Упрощённая карточка | Сведения |
|---|---|
| Скрипт | Правило: если встречается «устал», ответить «От чего вы устали?»; это авторский учебный пример, не полный код ELIZA. |
| Контекст 1 | «Ключ положили в карман. Он был пуст». |
| Контекст 2 | «Карман лежал на столе. Он был закрыт». |
| Порядок | «Оля передала книгу Лене» и «Лена передала книгу Оле» содержат близкий набор слов, но разные роли. |
| Граница | «Оля подошла к Лене. Она улыбнулась» допускает две отсылки без дополнительного контекста. |
Подготовьте памятку из четырёх правил: когда скрипт срабатывает; что даёт контекст; зачем порядок; когда нужно уточнение. Не вычисляйте настоящие веса внимания и не выдавайте свои языковые объяснения за внутренний журнал модели.
- За 2 минуты покажите ответ скрипта на «Я устал» и объясните ограничение такого правила.
- За 3 минуты сравните две фразы с «он», укажите наиболее обоснованные отсылки и основания.
- За 2 минуты объясните смену ролей при изменении порядка и составьте уточнение для фразы с «она».
- За 1 минуту подпишите, что такое внимание в модели и чего примеры не доказывают.
Форма результата: Памятка четырёх правил с примерами и уточняющим вопросом.
Критерии: По 1 баллу: скрипт/ограничение; две отсылки/основания; порядок/уточнение; внимание и предел опыта. Всего 4.
Ответ, объяснение и критерии для учителя
Скрипт выдаст предусмотренный вопрос, не доказав понимание причины усталости. В контексте 1 пустым естественно назвать карман, но возможна и необычная ситуация с полым ключом: при важном решении нужна ясная формулировка. В контексте 2 закрыт карман; текст и смысл помогают выбрать связь. При перестановке меняются отдающий/получатель. Уточнение: «Кто улыбнулся — Оля или Лена?» Внимание — вычислительное использование контекста, не сознание. Эти случаи объясняют необходимость контекста/порядка, но не показывают реальные веса, точный вывод всех моделей и гарантированную однозначность языка.
Оценка: По 1 баллу: скрипт/ограничение; две отсылки/основания; порядок/уточнение; внимание и предел опыта. Всего 4.
05. Обсуждение: аргумент и возражение
Тезис: «Каждая новая модель отменяет предыдущие подходы». За 2 минуты назовите пользу развития; за 3 возразите по скрипту и конкретной задаче; за 2 согласуйте критерий выбора.
Ожидаемое рассуждение и критерии обсуждения
Разные задачи и ограничения сохраняются. Простое правило полезно для точно заданного формата, контекстная модель — для вариативного языка, но требует отдельной проверки. Выбор основывают на задаче, ресурсах и испытании, не только на дате или имени.
Критерии: аргумент по материалу; содержательное возражение; условие итогового решения; роль человека. По 1 баллу, всего 4.
06. Индивидуальная проверка понимания
Человек написал: «Transformer — это любое приложение GPT, внимание означает сознание, будущий токен уже известен». Исправьте три положения и назовите один источник исторического факта.
За 3 минуты запишите ответ; за минуту сверьте ключ и исправьте другим цветом; за последнюю минуту сдайте запись. По 1 баллу за каждый из четырёх содержательных элементов.
Ключ и критерии: 4 балла
Transformer — архитектура, а не название любого приложения; GPT — одно семейство подходов на её основе. Внимание — вычисление связи контекста, не сознание; при авторегрессионном создании следующий токен ещё выбирается. Источник: Vaswani и соавторы 2017 или Radford и соавторы 2018 с соответствующим фактом. По 1 за каждую правку и источник.
07. Связь с исходной программой
Пункт программы → действие → проверяемый результат
| Пункт программы | Действие ученика | Что проверяет учитель |
|---|---|---|
| Описывать этапы развития языковых моделей от первых версий до трансформеров; от трансформеров к GPT. | Создаёт хронологию четырёх публикаций | Сохраняет годы и основания |
| Приводить примеры развития языковых моделей, причины и результаты этих изменений. | Сравнивает задачи и принципы | Не объявляет все подходы взаимозаменяемыми |
| Объяснять отличительные особенности больших языковых моделей. | Объясняет контекст и порядок | Не приписывает модели сознание или доступ к будущему |
Матрица относится к результатам данного урока. Другие существенные результаты модуля раскрываются в остальных уроках по опубликованному плану.
Источники и права на материалы
Основа содержания и результатов — исходная программа класса. Поурочное название и учебные случаи — авторская методическая развёртка, не дословные названия модулей программы. Числовые наборы, реплики условных помощников и ситуации специально подготовлены для урока. Учебные журналы не являются результатами испытания реального ИИ.
Weizenbaum,1966: ELIZA; первичная публикация ACM, DOI10.1145/365153.365168 — источник для понятий и проверки; учебные задания разработаны отдельно.
Bengio и соавторы,2003: A Neural Probabilistic Language Model, первичная публикация — источник для понятий и проверки; учебные задания разработаны отдельно.
Vaswani и соавторы,2017: Attention Is All You Need, первичная публикация — источник для понятий и проверки; учебные задания разработаны отдельно.
Radford и соавторы,2018: Improving Language Understanding by Generative Pre-Training — источник для понятий и проверки; учебные задания разработаны отдельно.
Логотип «Школы России» используется в материалах портала; авторские схемы предназначены для учебной работы. Внешние материалы сохраняют указанные условия использования.