Нейросеть распределила роли в школьном репортаже. Решение готово, но его основания вызывают вопросы. Класс разберётся, откуда берётся предвзятость, проверит два способа отбора и предложит правила ответственного использования ИИ.
Учителю: подготовка и план на 45 минут
Подготовьте: экран с этой страницей; тетради; таблицы из разделов 3 и 4 на экране или на бумаге. На доске оставьте три колонки: «критерий», «доказательство», «что исправить». Никакие реальные сведения об учениках для занятия не нужны.
Что дети уже должны понимать: ИИ может предлагать ответы и распознавать закономерности; ответ системы бывает ошибочным. Если это первое знакомство, используйте короткое объяснение из раздела 2.
Что собрать: распределение ролей с доказательствами, проверку двух правил и личный ответ в конце. До урока прочитайте закрытые разборы; фотографии увеличиваются по нажатию.
| Время | Работа класса | Что получится |
|---|---|---|
| 0–5 | Проблемная ситуация | Первое решение и сомнение в его основании. |
| 5–14 | Объяснение и короткий разбор данных | Понимание этики, морали и предвзятости. |
| 14–25 | Практика: редакционная команда | Три роли с доказательствами и условиями пересмотра. |
| 25–33 | Практика: испытание правил отбора | Сравнение двух правил на четырёх случаях. |
| 33–40 | Дискуссия и перенос | Три правила ответственной разработки. |
| 40–45 | Индивидуальное задание | Самостоятельный ответ с проверкой по критериям. |
Подсказки и ответы открывайте после самостоятельной попытки. Все ситуации, имена, таблицы и сообщения условного ИИ в заданиях вымышлены. Указанные минуты включают чтение условий, запись ответов и переход к следующему этапу.
01. Кому доверить школьный репортаж?
Первая минута. Покажите фотографии и спросите: «Какие умения нужны для съёмки, интервью и монтажа?» Принимайте конкретные действия: удерживать кадр, задавать уточняющий вопрос, выбирать важный фрагмент.
Учебная ситуация. В школе есть камера, микрофон и компьютер. Даша, Артём и Илья хотят снять репортаж. Условный ИИ советует: «Артёму — камеру: у него дорогой телефон. Даше — интервью: девочки общительнее. Илье — монтаж: другого места не осталось».
Следующие две минуты. Каждый записывает одно сомнительное основание и вопрос, который нужно задать перед решением. Затем сравнивает запись с соседом.
Последние две минуты. Выслушайте два ответа. Спросите: «Мы сейчас спорим с фамилией выбранного человека или со способом выбора?» Зафиксируйте задачу: проверить основания и предложить более обоснованное решение.
02. Почему система может повторить несправедливость?
Объяснение учителя — 4 минуты. ИИ — общее название технологий, которые помогают решать задачи распознавания, прогнозирования, создания текста и другие задачи. Многие такие системы обучаются на примерах: находят в данных повторяющиеся связи и используют их для новых ответов. Цель, данные и способ проверки выбирают люди.
Если в старых примерах есть перекос, система может его повторить. Если мы проверяем не то умение, результат тоже окажется сомнительным. В нашем репортаже дорогой телефон подменил навык съёмки, а предположение о характере девочек — умение вести интервью.
Предвзятость здесь означает систематический перекос: одним участникам дают преимущество по признаку, который не обосновывает нужное для задачи умение. Это не просто единичная опечатка. Даже быстрое и уверенное решение может регулярно ставить кого-то в невыгодное положение.
Мораль — представления о хорошем и плохом поступке. Этика помогает рассуждать о том, почему правило или поступок приемлемы и что происходит с людьми из-за нашего решения. Слова «этика ИИ» относятся прежде всего к решениям создателей и пользователей системы: сам по себе компьютер не освобождает человека от ответственности.
Проверяем три основания. «Дорогой телефон» — имущество, не доказательство навыка. «Девочки общительнее» — обобщение о группе, не наблюдение за Дашей. «Другого места не осталось» — удобство распределения, не проверка умения Ильи.
Короткая работа с данными — 3 минуты. Покажите таблицу. Дайте минуту прочитать её, минуту обсудить с соседом и минуту сформулировать вывод.
| Вымышленный архив десяти репортажей | Что известно |
|---|---|
| Кому чаще давали камеру | В восьми репортажах снимали мальчики, в двух — девочки. |
| Как раньше выбирали | В первую очередь приглашали тех, кто уже ходил в кружок съёмки. Возможности попасть в кружок были не у всех. |
| Чего в архиве нет | Результатов одинакового пробного задания для всех желающих. |
Вопрос: «Доказывают ли восемь случаев из десяти, что любой мальчик снимает лучше любой девочки? Какой проверки не хватает?»
Ожидаемый ход рассуждения
Архив показывает прежнее распределение работы. Он не сравнивает способности всех желающих при одинаковых условиях. Доступ к занятиям мог повлиять на опыт. Поэтому частоту прошлых назначений нельзя превращать в правило выбора по полу. Нужна проба, связанная со съёмкой, и возможность научиться. Не требуется делать вывод, что все люди умеют снимать одинаково.
Закрепление — 2 минуты. Попросите закончить фразу: «Решение стоит проверять по…». Запишите три опоры: уместные сведения; понятное обоснование; возможность исправить ошибку. Объясните пользу: так меньше способных участников теряются из-за неверного критерия.
03. Практика: соберите редакционную команду
Условия. Все трое хотят участвовать. Техника школьная. К завтрашнему дню нужен репортаж, поэтому первая роль опирается на уже показанный навык. Во время следующей съёмки участники смогут учиться другой работе.
| Участник | Наблюдение на пробе | Что ещё известно |
|---|---|---|
| Даша | На трёх коротких видео изображение устойчивое; важное действие остаётся в кадре. | Своей камеры нет. Хотела бы попробовать монтаж. |
| Артём | Подготовил пять вопросов гостю; дважды уточнил ответ и не перебивал. В видео часто терял собеседника из кадра. | У него дорогой телефон. |
| Илья | Из длинной записи собрал понятный ролик, убрал паузы и добавил подписи. | Не рассказывал, хочет ли вести интервью. |
- За 2 минуты прочитайте данные. Подчеркните проверенные умения. Отдельно отметьте сведения, которые не доказывают навык для роли.
- За 3 минуты самостоятельно распределите съёмку, интервью и монтаж. Для каждой роли запишите доказательство из таблицы. Если сведений не хватает, так и укажите.
- За 3 минуты сравните ответы в парах. Для одной роли предложите проверку, которая могла бы изменить первоначальный выбор. Объясните, как Даша сможет попробовать монтаж.
- За 3 минуты исправьте записи после обсуждения. Один ученик представляет решение, другой объясняет, какое основание они отвергли.
Форма результата: «Съёмка — …, потому что на пробе… Для пересмотра решения мы…». Такие же строки нужны для интервью и монтажа. В конце: «На следующей съёмке дадим возможность…».
Подробный разбор и допустимые решения
Съёмка: Даша. Устойчивый кадр и выбор важного действия прямо относятся к задаче. Отсутствие собственной камеры здесь не препятствие: техника школьная.
Интервью: Артём. Основание — подготовленные вопросы, уточнения и умение слушать. Цена его телефона не объясняет этот выбор.
Монтаж: Илья. Есть результат пробы: отбор фрагментов, удаление пауз, понятные подписи. Фраза «ему больше нечего поручить» не нужна.
Пересмотр: можно дать одинаковую короткую пробу, уточнить желание и проверить результат обучения. Для Даши подойдёт совместный монтаж одного фрагмента с Ильёй и самостоятельная проба к следующему репортажу. Другие назначения допустимы, если ученики объяснили, как обеспечат готовность репортажа и обучение.
Типичная ошибка: «Раз нельзя выбирать по полу, назначим случайно». Случайный выбор убирает один спорный признак, но не проверяет умение. Верните вопрос: «Какие данные относятся именно к этой работе?» Другая ошибка — приписать неизвестное: из молчания Ильи не следует, что он не умеет вести интервью.
04. Практика: испытайте два правила отбора
Представьте, что вы проверяете проект школьного помощника. Разработчики предложили два правила. Это упрощённая учебная проверка критериев, а не обучение настоящей нейросети.
Правило А: допустить к съёмке того, у кого есть собственная камера.
Правило Б: дать всем школьную камеру и одинаковую пробу из двух действий: удержать кадр и показать важное событие. Два выполненных действия — можно снимать; одно — тренировка и повторная проба; ни одного — обучение с наставником и повторная проба.
| Участник | Своя камера | Выполнено действий из двух |
|---|---|---|
| Маша | Нет | 2 |
| Тимур | Есть | 0 |
| Оля | Есть | 2 |
| Денис | Нет | 1 |
Рабочая таблица в тетради: сделайте четыре строки для Маши, Тимура, Оли и Дениса и три столбца «Решение А», «Решение Б», «Что проверю дополнительно». Не ограничивайтесь ответом «Б лучше»: запишите отдельное решение для каждого участника.
Работа по минутам: 1 минута — прочитать правила; 3 — в паре определить решение А и Б для каждого участника; 2 — найти неудачное решение А и описать последствие; 2 — сравнить с другой парой и предложить улучшение Б.
Что записать: четыре строки «имя → решение А → решение Б», затем две фразы: «Правило А ошибается в случае…» и «Чтобы правило Б работало лучше, нужно…».
Ключ, объяснения и вопрос посложнее
| Участник | А | Б |
|---|---|---|
| Маша | Не допустить | Допустить: оба действия выполнены. |
| Тимур | Допустить | Обучение и повторная проба. |
| Оля | Допустить | Допустить: оба действия выполнены. |
| Денис | Не допустить | Тренировка одного действия и повторная проба. |
А отвергает Машу, хотя она показала нужные умения, и допускает Тимура без подтверждённого навыка. Команда теряет подходящего оператора, а репортаж может пострадать. У Дениса есть частичный результат: путь к участию полезнее бессрочного отказа.
Б связано с задачей, но тоже требует проверки: понятна ли инструкция, исправна ли техника, одинаково ли оценивают пробу разные проверяющие? Один неудачный день не должен превращаться в вечный ярлык. Хорошее улучшение — объяснить критерии заранее, дать обратную связь и повторную попытку.
Для быстрого темпа: «Почему даже одинаковое задание ещё не гарантирует справедливости?» Возможный ответ: один участник не расслышал инструкцию или получил неисправную камеру. Нужно проверить условия, а не объявлять систему безошибочной.
05. Кто отвечает за качество решения?
2 минуты. Каждая пара выбирает одну ситуацию и отвечает: какая польза возможна; кого затронет ошибка; какая проверка нужна. Ситуации учебные, это не сообщения о конкретных действующих сервисах.
| Сфера | Ситуация для переноса |
|---|---|
| Образование | Помощник раздаёт дополнительные задания только по прошлогодней оценке, не проверяя, что ученик уже научился делать. |
| Медицина | Система помогает врачу выделить снимки для просмотра. На изображении низкого качества она не заметила важную деталь. |
| Развлечения | Рекомендатель снова предлагает один жанр, хотя человек уже выбрал новые интересы. |
| Торговля | Помощник рекомендует товар по старым покупкам, не учитывая текущую задачу и бюджет покупателя. |
3 минуты. Одна пара защищает тезис «Система ускоряет работу, её совет полезен». Другая отвечает контраргументом: «Да, но вот возможная ошибка и её последствие…». Попросите предложить общее решение, сохранив пользу и добавив проверку. Остальные отмечают, какая проверка относится именно к выбранной ситуации.
2 минуты. Соберите на доске три правила для разработчика: использовать данные, связанные с задачей; испытывать решение на разных случаях и объяснять ограничения; предусмотреть исправление и обращение к ответственному человеку.
Как направить обсуждение
В образовании помогут текущая проба и возможность изменить уровень. В медицине важны качество данных и проверка специалистом; ответ системы не равен диагнозу. В рекомендациях полезны актуальные предпочтения и возможность их изменить. Не требуйте одной и той же проверки во всех сферах: последствия и задачи различаются.
Компромисс можно сформулировать так: «Пусть ИИ помогает быстро отбирать варианты, но критерии проверены, ограничения известны, а ошибку можно исправить». Ответственность не переносится на фразу «так решила программа»: у разработчика и пользователя остаются свои действия.
06. Индивидуальная проверка
Новая ситуация. Школьный помощник предлагает принять в команду викторины тех, кто быстрее всех отправил онлайн-заявку. Содержание ответов он не проверяет. У одного желающего медленный интернет.
За 3 минуты ответьте четырьмя короткими пунктами: какой признак выбран; почему он недостаточен; каково последствие; как изменить правило, сохранив пользу автоматизации. За 1 минуту сверьте по открытому ключу и дополните ответ другим цветом. За последнюю минуту сдайте запись; учитель уточняет одну общую ошибку.
Ключ и критерии: четыре проверяемых элемента
- Признак — скорость отправки заявки. Это не проверка знаний или умения играть в команде.
- Недостаточность — скорость зависит в том числе от связи и момента, когда человек узнал о наборе.
- Последствие — подходящий участник может не получить возможности показать умение.
- Изменение — одинаковая содержательная проба, разумный срок подачи и способ обратиться при технической проблеме; ИИ может помогать собирать и сортировать заявки.
По одному баллу за каждый содержательный элемент: всего 4. Если ученик написал только «это несправедливо», попросите назвать признак и последствие. При 0–1 балле вернитесь к одному сравнению из раздела 4; при 2–3 уточните пропущенное звено; при 4 предложите свой пример. Это критерии обратной связи, а не обязательная школьная отметка.
Главная мысль: проверяйте не уверенность ответа, а связь критерия с задачей, последствия и возможность исправления. На следующем уроке решим, какие данные вообще стоит передавать помощнику.
07. Соответствие исходной программе
Какие результаты отрабатываются на этом уроке
| Пункт исходного модуля | Действие ученика | Что проверяет учитель |
|---|---|---|
| Этика и мораль ИИ; проблема предвзятости | Объясняет два понятия, разбирает архив и критерии. | Отличает подтверждённое умение от стереотипа. |
| Последствия предвзятости; оценка результата | Сравнивает два правила на четырёх случаях. | Показывает конкретное ошибочное решение и последствие. |
| Принципы разработки; преимущества ответственного использования | Предлагает проверки и правила исправления. | Сохраняет пользу ИИ и называет действия людей. |
| Влияние ИИ в медицине, образовании, развлечениях и торговле | Переносит принцип на одну из четырёх ситуаций. | Подбирает проверку под задачу и последствия. |
Опора — исходный тематический план курса, первый модуль на 3 часа. Этот урок занимает первый из них. Утечки данных, злонамеренное применение и физическая/цифровая безопасность раскрываются в уроке 2; учебная честность и общественная договорённость о правилах — в уроке 3. Подробный сценарий и учебные случаи являются методической разработкой.
Источники и авторы фотографий
- Canon_Camera_(Unsplash).jpg — Hanson Lu, Wikimedia Commons; CC0.
- Microphone_(Unsplash).jpg — Kai Oberhäuser, Wikimedia Commons; CC0.
- Desk-laptop-notebook-pen_(23958719819).jpg — pixellaphoto, Wikimedia Commons; CC0.
- ЮНЕСКО: рекомендация об этике ИИ — источник для принципов справедливости и человеческого контроля.
Фотографии уменьшены и сохранены в WebP без изменения содержания. Для снимков CC BY-SA сохраняется указанная лицензия. Учебные ситуации, реплики условного ИИ и распределение времени — методическая разработка.