Вся программа 6 класса · Урок 12 · 45 минут
Робот может выбрать путь, но кто задаёт допустимые условия и проверяет его решения? На бумажном складе вы сравните маршруты, исследуете журнал ошибки и распределите работу людей.
Учителю: подготовка и маршрут на 45 минут
Подготовьте экран, тетради и карточки со страницы. Все предприятия, числа, журналы и ответы условного ИИ в заданиях вымышлены. Никаких действий с реальными станками, электрическими устройствами, роботами или транспортом: только чтение, расчёты и обсуждение. Ответы открывайте после самостоятельной попытки. Доступ к ИИ не обязателен: готовые ответы помощника уже приведены для проверки.
| Время | Работа | Наблюдаемый результат |
|---|---|---|
| 0–4 | Остановка робота | Решение с условием пересмотра |
| 4–13 | Роботы и автономность | Цепочка работы и роли |
| 13–25 | Бумажный склад | Три решения при изменении данных |
| 25–35 | Журнал происшествия | Отчёт с мерами проверки |
| 35–40 | Испытания и поиск | Обоснованная граница вывода |
| 40–45 | Библиотека | Самостоятельный перенос |
Время включает чтение, обсуждение и запись. На практиках сначала каждый делает короткую собственную запись, затем сверяет её с соседом; итоговый перенос выполняется самостоятельно. Учитель оценивает основания решения, а не совпадение красивых формулировок. Допускаются разные обоснованные варианты там, где данных недостаточно.
01. Робот остановился. Это ошибка или успех?
На учебной схеме склада робот везёт коробку по свободному проходу. Впереди появляется неизвестный предмет, камера видит его плохо. Робот останавливается. Диспетчер недоволен: доставка задерживается. Другой сотрудник считает остановку правильной. Пока неизвестны ни свойства предмета, ни допустимые условия работы.
За минуту запишите своё предварительное решение и недостающий факт. За две минуты сравните варианты: «продолжить», «выбрать иной путь», «остановиться и запросить помощь». В последнюю минуту назовите условие, при котором вы готовы изменить ответ. Нельзя считать любое движение успехом, а любую остановку поломкой.
Автомобиль, домашний робот и заводской манипулятор действуют в разных условиях. По снимкам нельзя определить программу управления или степень автономности. Все решения урока относятся только к бумажной модели.
02. Устройство действует, а ответственность распределяют люди
Робот — устройство, способное выполнять действия в физическом мире по программе. Промышленный робот может переносить детали, наносить материал, собирать изделия. Некоторые роботы повторяют заданные движения. Другие используют ИИ для распознавания предметов или выбора подходящего действия. Поэтому слова «робот», «автоматический» и «искусственный интеллект» не являются полными синонимами.
Условную работу удобно представить цепочкой: датчики получают сведения → программа оценивает обстановку → планировщик выбирает действие → механизм выполняет его → система получает новые сведения. Камера помогает распознавать изображения; другие датчики могут измерять расстояние или положение. Несколько источников иногда дополняют друг друга, но их наличие само по себе не гарантирует правильность. Если датчик загрязнён или условия незнакомы, уверенность системы может быть неоправданной.
Беспилотный транспорт — транспорт, который может выполнять часть или все задачи движения без непосредственного управления человеком в определённых условиях. Здесь важно уточнить степень автоматизации. Помощь водителю не равна полной самостоятельности. Описание NHTSA различает уровни автоматизации и обязанности человека. Не следует по рекламному слову «умный» заключать, что пассажир или водитель может перестать следить за работой системы.
Промышленный манипулятор обычно выполняет ограниченную задачу в подготовленной зоне. Транспорт сталкивается с изменяющейся средой: другими участниками, погодой, неожиданными препятствиями. У одной и той же системы могут быть разрешены только некоторые маршруты, освещение или скорости. Эту область допустимой работы можно сравнить с условиями задачи по математике: решение, верное при одних условиях, нельзя без проверки переносить на другие.
Прогноз и решение различаются. Программа может предположить, что предмет впереди — пустой пакет. Но решение продолжать движение требует учесть цену ошибки и правила безопасности. Если это не пакет, а вещь человека, последствия изменятся. Поэтому недостаточно сказать «самая вероятная версия». При высоком риске и недостатке данных система должна действовать по заранее предусмотренному безопасному порядку. На уроке такой порядок задан прямо; мы не проектируем управление настоящим транспортом.
Успешная работа включает не только скорость доставки. Нужны безопасность, соблюдение границ применения, сохранность груза, возможность выяснить причину происшествия. Журнал событий помогает восстановить, какие сведения были доступны, какую версию программы использовали и кто изменил условия. Однако журнал не заменяет защиту; он помогает анализировать уже случившееся и улучшать проверки.
Кто отвечает? Разработчики создают и испытывают систему; организация определяет разрешённые задачи и условия; специалисты обслуживают оборудование; назначенные люди следят за работой и действуют при проблеме. Эти роли не означают, что виноваты все поровну. Чтобы делать вывод о конкретном событии, нужны факты, обязанности и применимые правила. Мы обсуждаем распределение работы по предотвращению ошибок, а не выносим юридический приговор по короткой истории.
Разобранный пример: учебному роботу разрешён только освещённый коридор А. Диспетчер отправил его в тёмный коридор Б. Камера не распознала препятствие. Фраза «виноват только ИИ» пропускает изменение маршрута; фраза «виноват только диспетчер» тоже преждевременна, если неизвестно, позволяла ли система запрещать недопустимое задание. Полезнее составить вопросы: кто разрешил Б, как система проверяла область работы, было ли предупреждение, что записано в журнале? Несколько защитных мер могут предотвращать одну ошибку.
03. Практика 1. Диспетчер бумажного склада
Учебные правила. Роботу «Картон» разрешены только маршруты с проверенной картой и достаточным освещением. Проход с человеком занят; неизвестный предмет считается препятствием до проверки ответственным сотрудником. Если нет подтверждённого безопасного пути, робот остаётся в обозначенной точке ожидания и сообщает диспетчеру. Приоритет: сначала правила безопасности, затем доставка не позднее 10 условных минут, затем кратчайшее время. Лимит 10 минут относится ко времени движения выбранным маршрутом. Время предыдущего ожидания в этой упрощённой модели отдельно не учитывается; в реальном планировании общий срок пришлось бы считать вместе с ожиданием. Это условия настольной задачи, не инструкция для реальных устройств.
| Маршрут | Время | Карта | Освещение | Наблюдение |
|---|---|---|---|---|
| А | 6 минут | Проверена | Достаточное | Человек в проходе |
| Б | 8 минут | Проверена | Достаточное | Проход свободен |
| В | 5 минут | Не проверена после перестановки | Достаточное | Камера считает проход свободным |
| Г | 9 минут | Проверена | Недостаточное | Других сведений нет |
За 3 минуты проверьте каждый маршрут по всем условиям. Выберите путь и объясните, почему самый короткий вариант не подходит. Отдельно запишите, какие сведения камеры являются наблюдением, а какие ещё требуют доверия к карте и условиям.
За 4 минуты откройте изменение обстановки: на маршруте Б обнаружен неизвестный предмет. ИИ сообщает: «Вероятно, это лёгкая пустая коробка; можно продолжить». Других обновлений нет. Составьте сообщение диспетчеру из трёх частей: известные факты, неизвестное, действие по учебному правилу. Нельзя придумывать, что человек уже ушёл с А или что карту В уже обновили.
За 3 минуты рассмотрите новое подтверждение: ответственный сотрудник проверил карту В после перестановки, освещение достаточное, проход свободен. В журнале указано время проверки. Изменится ли ваш выбор? Объясните, почему изменение решения при новых данных не означает непоследовательность. Укажите, какое старое предположение заменено фактом.
За 2 минуты сосед играет роль скептика: «Если останавливаться из-за каждой неизвестности, доставка станет бесполезной». Ответьте, назвав законный способ уменьшить остановки без отмены правил: улучшить подготовку маршрутов, поддерживать карту, убрать причины неясных наблюдений силами ответственных взрослых. Не предлагайте школьникам вмешиваться в работу техники.
Учителю: разбор, ответы и типичные ошибки
Сначала Б: все ограничения соблюдены, 8 меньше 10. А занят человеком; В имеет непроверенную карту; Г не соответствует освещению. Быстрый В исключён до сравнения скорости, иначе оптимизация подменяет безопасность. Камера не подтверждает актуальность всей карты.
После появления предмета на Б доступного подтверждённого пути нет. По условиям задачи робот ожидает и сообщает диспетчеру: «На Б неизвестный предмет; его свойства не установлены; другие маршруты остаются недопустимыми». Версия «лёгкая коробка» не отменяет правила. Отсутствие подтверждения опасности не является подтверждением безопасности.
После проверки В он становится допустимым и занимает 5 минут, поэтому его можно выбрать в настольной модели. Карта изменила статус с непроверенной на проверенную; новые сведения о свободном проходе тоже важны. Ошибка — разрешить В раньше проверки только потому, что он короткий. Снижать лишние остановки можно лучшими данными и подготовкой среды, сохраняя порядок действий при неопределённости.
04. Практика 2. Разбор происшествия без поиска козла отпущения
На вымышленной учебной линии манипулятор сортирует пустые картонные модели. Он положил модель не в тот контейнер. Никто не пострадал. Команда пишет отчёт, чтобы ошибка не повторилась. Журнал содержит только приведённые ниже факты; другие обстоятельства нельзя додумывать.
| Время | Запись |
|---|---|
| 09:00 | Принята версия программы 3 для круглых и квадратных моделей |
| 09:10 | В партию добавили треугольные модели; испытание на них не записано |
| 09:12 | Оператору показано сообщение «неизвестная форма» |
| 09:13 | Оператор выбрал «продолжить по прежним настройкам» |
| 09:14 | Треугольная модель попала в контейнер круглых |
| 09:20 | Разработчик сообщил: для неизвестной формы предусмотрен запрос человеку; запрета продолжения в этой версии нет |
Первые 3 минуты: отделите факт, обоснованный вывод и догадку. Фразы для проверки: «В партии появилась новая форма»; «Оператор хотел испортить работу»; «Система могла запросить человека»; «Все предыдущие изделия тоже рассортированы неверно»; «Требуется проверить порядок добавления новых форм». Для догадок укажите, каких данных не хватает.
Следующие 4 минуты: распределите четыре задачи между разработчиком, организацией, ответственным оператором и специалистом по испытаниям: уточнить разрешённые формы; проверить новую версию на неизвестных формах; определить порядок реакции на предупреждение; проверить журнал и факт изменения партии. Одну задачу могут выполнять совместно несколько ролей, но назовите, что конкретно делает каждая.
Последние 3 минуты: напишите короткий отчёт из пяти пунктов: что произошло; какие данные подтверждают цепочку; что неизвестно; две меры предотвращения; как проверить результат мер. Затем отредактируйте плохую фразу ИИ: «Оператор виновен, потому что робот всегда выполняет правильные команды». Не заменяйте её столь же голословным обвинением разработчика.
Учителю: разбор, ответы и типичные ошибки
Факты: новая форма появилась, система показала неизвестную форму и могла запросить человека. Намерение оператора не установлено; нужны сведения о понимании предупреждения, обязанностях и обстоятельствах, но даже они не позволяют угадывать мысли. Ошибки всех предыдущих изделий не следуют из одного события. Необходимость проверить порядок изменения партии — обоснованный практический вывод, а не факт о чьей-то вине.
Организация утверждает допустимые задачи и порядок изменений; разработчик объясняет и дорабатывает поведение при неизвестной форме; испытатель проверяет известные и новые формы; оператор действует по утверждённому порядку и сообщает о предупреждениях. Журнал могут разбирать совместно. Нельзя возложить на одного человека обязанности, которых в условии нет.
Возможные меры: обязательная проверка новых форм перед добавлением и запрет автоматического продолжения при неизвестной форме до решения назначенного специалиста. Проверка — повторить учебные испытания на знакомых и незнакомых формах, убедиться, что правильные изделия обрабатываются, а неизвестные попадают в предусмотренный безопасный сценарий. Исправленная фраза: «После добавления новой формы система предупредила оператора, но позволила продолжить; необходимо проверить порядок изменений, предупреждение и действия всех участников». Юридическую ответственность по этим данным не определяем.
05. Что должен доказать испытатель?
Предложение рекламного отдела: «Робот сто раз доставил груз без ошибки, поэтому он безопасен везде». За минуту каждый придумайте условие, которого могло не быть в этих ста испытаниях. Затем объедините ответы по видам: среда, объект, изменение программы, действия человека. Достаточно ли увеличить число одинаковых поездок, чтобы охватить все эти случаи?
В обсуждении один ученик защищает пользу испытаний, другой показывает границу вывода. Общий ответ должен сохранить обе мысли: успешные испытания дают сведения о проверенных условиях, но не доказывают работу в любых условиях. Предложите два новых испытания для бумажной модели из раздела 3, например неизвестный объект при правильной карте и свободный проход при устаревшей карте.
Сформулируйте запрос к поиску или ИИ: найти официальный источник, объясняющий различие помощи водителю и автоматизированного управления. Попросите ссылку и описание обязанностей человека, а не рекламный список достоинств. При наличии доступа проверьте страницу NHTSA ниже; без доступа используйте приведённый в разделе 2 факт о различении уровней. В обоих случаях запишите, чего источник не доказывает о конкретной машине на фотографии.
Учителю: разбор, ответы и типичные ошибки
Хороший запрос: «Найди официальное объяснение NHTSA уровней автоматизации транспорта; укажи, чем помощь водителю отличается от более высокой автоматизации, дай ссылку и не делай вывод о конкретной машине без её характеристик». Источник объясняет категории, но не подтверждает комплектацию изображённого автомобиля и не разрешает кому-либо ездить без контроля. Поиск считается осмысленным, если ученик называет источник, подтверждённый факт и границу вывода.
06. Самостоятельный перенос: робот в библиотеке
В вымышленной библиотеке робот перевозит книги только между отмеченными столами по проверенной карте. Работать разрешено при свободном проходе. После перестановки стола карта не обновлена. Камера не видит препятствий. ИИ предлагает доставить быстрее прежним путём, а отчёт написать после поездки.
Напишите решение, два его основания и недостающие сведения. Назовите две человеческие роли и действия, необходимые до возобновления доставки в этой модели. Предложите один показатель пользы и один показатель безопасности для последующих испытаний. Завершите объяснением, почему робот может быть полезен, даже когда иногда отказывается от задания.
Учителю: разбор, ответы и типичные ошибки
По старой карте ехать нельзя: нарушено условие актуальности маршрута, а камера не доказывает правильность карты. Ответственный за помещение сообщает об изменении и обеспечивает проверку карты; назначенный специалист подтверждает разрешённый маршрут и готовность системы. Польза — время доставки или число выполненных допустимых заявок; безопасность — правильная реакция на занятый проход или устаревшую карту в испытаниях. Простое отсутствие происшествий за короткое время недостаточно для вывода обо всех условиях. Отказ от недопустимого задания сохраняет границы безопасного применения.
Источник: NHTSA: автоматизированный транспорт и уровни автоматизации. Это источник для различения технологий, а не юридическая инструкция. Маршруты, роботы и журнал занятия вымышлены.
Источники изображений и права
Экспериментальный автомобиль Stanley. DARPA. Оригинал. Public domain. Уменьшение и преобразование в WebP без изменения содержания. Для производной копии сохраняется указанная лицензия.
Робот-пылесос застрял у сушилки. BoldLuis. Оригинал. CC BY-SA 4.0. Уменьшение и преобразование в WebP без изменения содержания. Для производной копии сохраняется указанная лицензия.
Промышленные роботы FANUC. Mixabest; обработка Andrew J. Kurbiko. Оригинал. Public domain. Уменьшение и преобразование в WebP без изменения содержания. Для производной копии сохраняется указанная лицензия.
Основа: исходная программа для 6 класса, модуль «Искусственный интеллект и промышленность», 3 часа. Задания и учебные данные разработаны для этого сценария.