Виды нейронных сетей для 7 класса: полносвязная, свёрточная и рекуррентная архитектуры, их работа с таблицами, изображениями и последовательностями.
Для картинки важно соседство точек, а для последовательности — порядок элементов. Как устройство нейронной сети помогает сохранить эти связи? Сравним архитектуры и проверим, насколько убедительно объяснён выбор сети для нашей задачи.
Содержание урока
01. Цель урока
Научиться связывать устройство нейронной сети с тем, какие связи в данных важно сохранить.
К концу урока ученики смогут:
- Различать полносвязную, свёрточную и рекуррентную сети.
- Объяснять, зачем свёрточная сеть повторяет одно преобразование, а рекуррентная сохраняет состояние.
- Выбирать архитектуру для задачи и обосновывать выбор по входным данным.
- Проверять объяснение архитектуры, полученное от текстового помощника.
02. Ход урока
| Этап | Мин | Учитель | Ученики |
|---|---|---|---|
| 1. Вход в тему: порядок важен | 5 | Организует короткий опыт с порядком слов, вводит вопрос о связях. | Создают два осмысленных варианта и сравнивают значение. |
| 2. Три устройства для разных данных | 11 | Сопоставляет три архитектуры на схеме. | Объясняют роль соседства, порядка и объединения признаков. |
| 3. От следующей точки к почерку | 10 | Разбирает последовательное создание рукописной строки. | Связывают состояние сети с продолжением последовательности. |
| 4. Архитектурное бюро | 13 | Организует выбор архитектуры и разбор ответа помощника. | Рисуют эскиз, проверяют объяснение, защищают выбор. |
| 5. Итоги урока | 6 | Обсуждает общие выводы и ответы на итоговые вопросы. | Формулируют знания и объясняют ответы. |
03. Этап 1. Вход в тему: порядок важен 5 минут
Говорим ученикам
Запишите короткое предложение, которое меняет смысл при перестановке слов. Если трудно начать, возьмите предложение из текущего учебного текста. Прочитайте оба варианта соседу. Те же слова ещё не означают то же сообщение: связи между ними тоже несут информацию.
Архитектура сети — это устройство её частей и связей. Разные виды нейронных сетей по-разному используют порядок, соседство и набор признаков. Сегодня выясним, зачем понадобились эти различия и почему число слоёв не объясняет всё устройство сети.
04. Этап 2. Три устройства для разных данных 11 минут
Говорим ученикам
В полносвязном слое каждый выходной нейрон получает значения от всех входных элементов этого слоя. Так можно объединять числовые характеристики предмета или результаты измерений. Но если изображение развернуть в длинный список, сам список уже не подсказывает, какие точки были соседями на рисунке.
Свёрточный слой работает с небольшими соседними участками. Представьте рамку, которая проходит по изображению и применяет одно и то же преобразование к каждому участку. Это преобразование не пишут отдельно для каждого места: его параметры общие и обучаются. Поэтому признак может обнаруживаться слева, справа и в центре. Ответы складываются в карту признака; следующие слои объединяют простые элементы в более сложные сочетания.
Рекуррентная сеть обрабатывает последовательность по шагам и переносит состояние с предыдущего шага. В состоянии сохраняется часть сведений о том, что уже встретилось. Поэтому одинаковый следующий элемент может обрабатываться по-разному после разных предшествующих элементов. Состояние помогает работать с последовательностью, хотя не сохраняет без ошибок всё прошлое.
Архитектуры можно сочетать: одна часть извлекает признаки изображения, другая обрабатывает их последовательность. Полносвязные слои тоже встречаются внутри более сложных сетей. Эти названия описывают устройство, а не ступени от плохой сети к хорошей.
05. Этап 3. От следующей точки к почерку 10 минут
Говорим ученикам
В рукописной линии порядок точек важен: соседняя точка продолжает уже проведённый штрих. Если забыть предыдущие движения, трудно получить связную строку. Рекуррентная сеть может на каждом шаге предсказывать следующее движение с учётом своего состояния.
В работе Алекса Грейвса, впервые опубликованной 4 августа 2013 года, сеть создавала связный рукописный текст. Ей задавали текстовую последовательность, а она порождала движения пера. Неожиданность в том, что она не доставала из папки готовую картинку слова: строка возникала постепенно.
Рекуррентные связи помогают учитывать предысторию. Есть и другие способы работать с последовательностью; сегодня мы сравниваем эти три архитектуры.
Реальный случай: сеть выводит строку движениями пера
Алекс Грейвс описал модель, которая могла синтезировать рукописные строки в разных стилях. Результат строился как последовательность, зависимая от заданного текста.
Вывод: устройство сети помогает использовать те связи, которые важны в данных. Для почерка важны и форма, и порядок появления штрихов.
Для учителя
LSTM — разновидность рекуррентной сети с особым устройством состояния. Название можно назвать по вопросу класса, но не требовать формулы. Не говорите, что все современные языковые модели рекуррентные.
Есть и другие архитектуры: например, трансформеры используют механизм внимания для сопоставления элементов. Эти понятия не требуются для выполнения заданий данного урока.
06. Этап 4. Архитектурное бюро 13 минут
Говорим ученикам
Выбор начинается с данных и требуемого ответа. Слова «сложная задача» недостаточно: нужно понять, какие зависимости потеряются при обработке. Выбирать свёрточную обработку изображения имеет смысл, когда у задачи действительно есть изображение на входе. Если порядок измерений важен, перестановка строк может разрушить смысл.
Задание. Защитите выбор устройства
Каждая пара выбирает одну реальную работу, которую ей хотелось бы облегчить: читать ритм музыкального фрагмента, находить одинаковые детали на фото своих поделок или прогнозировать ход собственного спортивного упражнения по последовательности измерений. Можно предложить свою задачу.
- Опишите вход и нужный выход. Укажите, что именно должно сохраниться: соседство, порядок или набор признаков.
- Нарисуйте эскиз из 3–5 узлов. Подпишите, где данные объединяются и какая архитектура это объясняет.
- Составьте запрос текстовому помощнику: попросите сравнить два устройства для вашей задачи и назвать допущения. При разрешённом доступе получите ответ; иначе передайте запрос другой паре, отвечающей по материалу урока.
- Проверьте объяснение по схеме и определениям. Запишите одно подтверждённое положение и один вопрос, для которого нужен дополнительный источник.
Результат — эскиз и короткая защита выбора. Критерии: вы объяснили, почему архитектура подходит к вашим данным, какие связи она учитывает и как вы проверите ответ помощника.
Для учителя
Разные варианты допустимы. Для фотографии разумен свёрточный блок; последовательность ритма позволяет обосновать рекуррентную часть. Но само слово «музыка» не доказывает выбор: если вход — фиксированная таблица итоговых характеристик, рассуждение будет другим. Бумажный вариант — работа с тем же вопросом, а не выдаваемый за ответ сервиса текст. Отведите время на две короткие защиты. Не требуйте регистрации, загрузки фотографий людей или сложного программирования.
07. Этап 5. Итоги урока 6 минут
Говорим ученикам
Архитектура задаёт, какие части входа и каким способом взаимодействуют. Она помогает решать задачу, когда устройство сети согласуется с устройством данных. Окончательный выбор всё равно проверяют обучением и испытанием: название архитектуры не обещает нужную точность.
Главное за урок
- Полносвязный слой объединяет доступные ему входные признаки.
- Свёрточная сеть применяет общие преобразования к соседним участкам и строит карты признаков.
- Рекуррентная сеть переносит состояние между шагами последовательности.
- Архитектуру выбирают по данным и задаче, а пригодность подтверждают испытанием.
Итоговые вопросы
Ответьте коротко. Затем обсудим объяснения двух-трёх участников.
- Почему два массива с одинаковыми числами могут требовать разной обработки, если один из них представляет картинку, а другой — последовательность измерений?
- Что даёт применение одного преобразования в разных участках изображения?
- Какие сведения о задаче нужны, прежде чем советовать конкретную архитектуру нейронной сети?
Для учителя
- Важны связи: пространственное соседство и порядок во времени.
- Одни и те же параметры помогают искать похожие детали в разных местах изображения.
- Нужны форма входа, желаемый выход, важные зависимости и условия проверки; одного названия области недостаточно.
Принимаются ответы по смыслу. Важна связь с общим знанием, а не воспроизведение деталей реального случая.
Для учителя: источники
- Alex Graves. Generating Sequences With Recurrent Neural Networks. Дата материала: 04.08.2013; редакция 05.06.2014. Материал старше 2024 года. Подтверждающая фраза: «The resulting system is able to generate highly realistic cursive handwriting in a wide variety of styles.».