Этика искусственного интеллекта касается данных, справедливости и последствий действий. Разберём, почему полезная функция ещё не гарантирует приемлемый способ её работы.
Содержание урока
01. Цель урока
Научиться оценивать применение ИИ по обращению с данными, справедливости проверки и возможным последствиям.
К концу урока ученики смогут:
- различать личные данные и сведения, нужные для задачи;
- объяснять, почему удаление файла не всегда означает удаление всех его копий;
- объяснять, как неподходящий критерий создаёт перекос для разных пользователей;
- отделять совет программы от разрешения на опасное действие;
- обосновывать условия, при которых цифровую функцию можно использовать.
02. Ход урока
| Этап | Мин | Учитель | Ученики |
|---|---|---|---|
| 1. Вход в тему: след записи | 5 | Обсуждает, что остаётся после удаления. | Формулируют недостающие сведения. |
| 2. Данные после нажатия кнопки | 12 | Объясняет хранение аудио и текста. | Уточняют обещание удаления. |
| 3. Предвзятость в критерии выбора | 11 | Показывает роль потребностей пользователя. | Рисуют путь глазами другого человека. |
| 4. Опасное действие и ответственность | 10 | Обсуждает последствия применения. | Создают условия безопасного использования. |
| 5. Итоги урока | 7 | Проверяет понимание этических вопросов. | Объясняют решения. |
03. Этап 1. Вход в тему: след записи 5 минут
Говорим ученикам
Сегодня поговорим об этике искусственного интеллекта. Это вопросы о том, как применять систему, чтобы учитывать права и интересы людей. Выясним, какие данные получает программа и кто отвечает за решение. Обсудим, кому может навредить ошибка.
Голосовой помощник получает звук и может превратить его в текст. Если удалить запись из списка, что именно исчезло: звук, расшифровка или все сведения сразу? Сначала запишите, чего вам не хватает, чтобы ответить.
04. Этап 2. Данные после нажатия кнопки 12 минут
Говорим ученикам
Личные данные позволяют узнать человека прямо или в сочетании с другими сведениями. Это может быть имя, узнаваемая голосовая запись, фотография или сведения о месте нахождения. Какие данные нужны, зависит от задачи: для общего объяснения учебной темы обычно не требуется узнавать автора вопроса.
Когда мы передаём данные сервису, он обрабатывает их по своим условиям. Сервис может хранить запись и сделать из неё текстовую расшифровку. Поэтому при удалении выясняют отдельно, что произойдёт со звуком, расшифровкой и копиями. Например, исчезновение аудио из приложения показывает изменение списка, а сведения о хранении текста нужно искать в условиях сервиса или уточнять у его владельца.
Реальный случай. Что осталось после удаления
31 мая 2023 года Федеральная торговая комиссия США, FTC, сообщила о претензиях к Amazon. По изложению FTC, после просьб родителей удалить детские голосовые записи Alexa текстовые расшифровки продолжали храниться в других базах. Alexa — голосовой помощник. Случай показывает, что при удалении нужно учитывать и копии данных, и полученный из них текст.
Задание 1. Обещание понятным языком
Возьмите обещание «вы можете удалить свои данные». Допишите к нему короткое пояснение для пользователя голосового помощника: что нужно узнать, чтобы понять, удалятся ли и звук, и расшифровка. Затем поменяйтесь текстами и отметьте неясные места. Сформулируйте два вопроса владельцу сервиса.
Для учителя: ответы и обсуждение
Пояснение должно различать аудио и текст, а вопросы — выяснять, какие копии и какие места хранения охватывает удаление. Возможны разные формулировки. Не выдавать предложение учеников за описание реальной политики сервиса.
05. Этап 3. Предвзятость в критерии выбора 11 минут
Говорим ученикам
Предвзятость ИИ возникает, когда система систематически хуже обращается с одной группой людей без достаточной причины. Она может возникнуть не только из-за примеров обучения, но и из-за выбранной цели. Помощник может советовать всем одно и то же, хотя людям нужны разные условия.
Посмотрим на реальную потребность: в сообщении Google от 17 октября 2023 года описаны пешеходные маршруты без лестниц там, где есть данные. Это нужно людям, для которых обычный короткий путь недоступен. Такой поиск маршрута может работать и без ИИ. Для интеллектуального помощника здесь важен сам выбор цели: предложить путь, по которому конкретный человек сможет пройти.
Даже если маршрут подходит большинству, для некоторых он может оказаться непроходимым. Нужно проверить, учитывает ли помощник условия конкретного человека. Если свойства пути неизвестны, нельзя обещать, что он доступен.
Задание 2. Путь глазами другого человека
Нарисуйте схематично знакомое общественное место: например, вход в библиотеку или школу. Выберите пользователя: человек с детской коляской, с тяжёлым чемоданом или с ограниченной подвижностью. Подготовьте для него понятное объяснение пути. Отметьте, какие свойства прохода вам известны, а какие пришлось бы уточнить.
Другая пара смотрит на рисунок с позиции выбранного человека и задаёт один вопрос, который авторы не учли. Уточните рекомендацию помощнику. Не используйте домашние адреса или личные сведения.
Для учителя: ответы и обсуждение
Оценивать учёт потребностей пользователя, ясность рекомендации и честное обозначение неизвестного: лестницы, ширина, уклон, покрытие. Не требовать подтверждать доступность знакомого места без обследования. Рисунок исследует критерий рекомендации, а не доказывает наличие ошибки в Google.
06. Этап 4. Опасное действие и ответственность 10 минут
Говорим ученикам
Опасное поведение возникает, когда совет программы превращают в действие, способное причинить вред. Модель может не знать реальную обстановку и ошибаться даже при уверенном ответе. Текстовая рекомендация не подтверждает исправность оборудования и не заменяет проверку человеком, который умеет с ним работать.
Пользователь решает, пользоваться ли функцией. Разработчики и владельцы сервиса отвечают за то, как она работает и в каких условиях её можно применять. Нельзя снять с себя ответственность словами «так посоветовала программа». Но и требовать, чтобы пользователь сам исправил скрытые ошибки системы, недостаточно.
Задание 3. Условия использования
Выберите одну функцию: голосовой учебный тренажёр или помощник по работе с оборудованием кабинета. Подготовьте короткую памятку из четырёх условий использования. Она должна охватить данные, проверку результата, действие при сомнении и ответственного человека. Партнёр проверяет, понятно ли по памятке, когда нужно остановить работу.
Для учителя: ответы и обсуждение
Засчитывайте ответ, если ученик назвал конкретные условия использования выбранной функции. Для оборудования: сомнительная или неполная инструкция означает остановку и обращение к ответственному взрослому, а не эксперимент с устройством. Для тренажёра: оценку сверяют с чтением, данные используют только на согласованных условиях. Не засчитывать четыре варианта «будь осторожен».
07. Этап 5. Итоги урока 7 минут
Говорим ученикам
В истории голосового помощника удаление аудио и удаление текста оказались разными действиями. В истории маршрута длина пути не рассказала нам о лестницах и ширине прохода. Поэтому мы уточняем, какие сведения получает помощник, чьи потребности учитывает и кто проверяет его совет перед действием.
Главное за урок
- Голосовой сервис может хранить звук, его текстовую расшифровку и копии, поэтому при удалении выясняют, что произойдёт с каждой из этих записей.
- Маршрут без лестниц может быть полезнее самого короткого пути человеку с коляской или ограниченной подвижностью.
- Предвзятость возникает, если система без достаточной причины систематически хуже учитывает интересы одной группы людей.
- Если совет ИИ о работе с оборудованием расходится с проверенными правилами, работу останавливают и обращаются к ответственному взрослому.
Итоговые вопросы
- Почему исчезновение голосовой записи из списка в приложении ещё не подтверждает удаление её текстовой расшифровки и копий из сервиса?
- Какие особенности пути должен учитывать цифровой помощник, предлагая маршрут человеку с коляской или ограниченной подвижностью?
- Что должны сделать ученик и ответственный взрослый, если инструкция ИИ по работе с оборудованием противоречит проверенным правилам кабинета?
Для учителя: ответы и обсуждение
1. Список отражает видимые записи в приложении; текст и копии могут храниться отдельно, и их удаление нужно выяснять отдельно. 2. Например, лестницы, ширину прохода, уклон и покрытие; неизвестные свойства пути нужно уточнить. 3. Ученик останавливает действие и обращается к ответственному взрослому; тот проверяет инструкцию и оборудование, а об ошибке функции сообщают владельцу сервиса.
Для учителя: источники
FTC. Out of the mouths of babes?. 31.05.2023. Проверено 03.11.2026. Материал старше 2024 года.
Основание: FTC сообщила о претензиях к Amazon: после запросов на удаление детских голосовых записей их текстовые расшифровки сохранялись в других базах. Это изложение претензий FTC, не утверждение о нынешней работе Alexa.
Подтверждающая фраза: «retained transcripts of the recordings elsewhere».
Google. 8 ways we’re making daily tasks more accessible. 17.10.2023. Проверено 03.11.2026. Материал старше 2024 года.
Основание: Google описал пешеходные маршруты без лестниц там, где доступны необходимые данные. Учебная карта не описывает сбой сервиса и не доказывает, что построение маршрута само по себе использует ИИ.
Подтверждающая фраза: «get stair-free routes».