Безопасность нейросетей: презентация о данных учеников
Собери презентацию про этику и безопасность нейросетей из шести слайдов. Разберите в классе, какие данные нужны чату и что может раскрыть личность.
Андрей
Преподаватель, научный редактор
8 мин чтения
На первом слайде я бы показал два почти одинаковых задания. В одном нужно отправить в чат скриншот из общей беседы, чтобы получить расписание школьной мастерской. В другом время и названия занятий уже выписаны на лист. Оба задания обещают одно и то же расписание, но из первого скриншота можно случайно узнать, кто попросил перенести занятие и почему. С этого различия удобно начать разговор про безопасность нейросетей.
Ниже шесть слайдов и упражнение для класса. Материалы вымышлены: реальную беседу и настоящие ученические данные для занятия открывать не нужно. На доске разберём, какие сведения помогают решить задачу, какие относятся к людям и как перепроверить готовое расписание. К концу занятия участники составят короткий безопасный запрос с теми же полезными данными.
Из одной переписки делаем два макета
Представь, что ребята ведут кружок школьного макетирования. Чтобы никто не перепутал смены, им нужна таблица с днём, временем и видом занятия. Ходить по длинной переписке неудобно. В учебно-выдуманном скриншоте первый участник пишет: «В среду моделирование в 15:20». Второй отвечает: «В пятницу раскрой картона с 16:10». Рядом я рисую места с условными плашками «Имя и фото отправителя» и «Уведомление о личной встрече». Я не наполняю эти плашки подражанием настоящему человеку.
Второй макет показывает выписку: «Среда, 15:20, моделирование. Пятница, 16:10, раскрой картона». Этого достаточно, чтобы разложить данные по трём колонкам. Если кабинет не указан, оставляю пустую клетку и отмечаю, что его нужно уточнить. В макетах есть два сообщения, но из второго уже не видно, кто их прислал, откуда они сохранены и какие уведомления мог получить владелец телефона.
Макеты можно собрать рядом как две карточки. Я беру три цвета пометок:
Зелёный для сведений, от которых зависит ответ: день, время, занятие.
Жёлтый для деталей, которые можно убрать или обобщить. Например, «попросили предупредить новичков» можно передать как «добавь напоминание для всей группы».
Красный для полей, которые относятся к отдельному человеку и не нужны в этой работе: имя, аватар, контакты, фрагмент личного уведомления.
Попроси класс отметить сначала одно зелёное поле. Затем предложи найти одно лишнее. Спор чаще всего начинается вокруг имени автора сообщения. Одни захотят сохранить его «на всякий случай». Другие заметят, что график от автора не зависит. Тут и возникает этический вопрос: кто решает, можно ли использовать детали чужой жизни для удобства всей группы?
Безопасность нейросетей на шести слайдах
Скриншот и выписка появятся рядом на втором экране. Когда зрители заметят лишние детали, на следующем экране я покажу, какие поля получили каждый цвет. В конце те же цвета понадобятся классу для самостоятельной разметки другого объявления.
Слайд · Что показать · Что спросить
1. Задача мастерской — Две строки и пустую таблицу — Как выглядит ответ, который можно повесить у двери?
2. Два способа дать исходник — Вымышленный скрин и ручную выписку — Хватит ли обоих способов для заполнения трёх колонок?
3. Поля по цветам — Время, плашку с именем и личное уведомление — Если удалить одно поле, изменится ли расписание?
4. Человек узнаваем и без имени — Учебную фразу «единственный участник другой смены» — Кто в этой маленькой группе поймёт, о ком сказано?
5. Готовая версия запроса — Две строки расписания и требование к ответу — Что делать, если кабинет в исходнике отсутствует?
6. Проверка на новом примере — Условное объявление об открытии мастерской — Какие поля оставить, если нужно составить памятку для всей школы?
На четвёртом слайде я бы задержался дольше. Представь маленькую группу из пяти человек, где только один приходит в другой день. Сочетание расписания и редкой роли может указать на него даже без имени. На слайде никого не нужно изображать. Достаточно пяти одинаковых фигур и одной отметки у входа, чтобы увидеть: иногда личность раскрывает сочетание нескольких обычных деталей.
Методический ориентир для преподавателя есть в рекомендациях ЮНЕСКО о генеративном ИИ в образовании. В документе предлагается защищать конфиденциальность данных и выбирать способы работы с учётом возраста и учебной задачи. На занятии я перевожу это в короткий принцип: сначала выяснить, какие сведения нужны для ответа, затем решить, допустимо ли их передавать согласно школьным правилам. Даже искусно обрезанный скрин может оставить аватар или уведомление. Руками переписать две строки иногда проще.
Покажи, как из заметок получается запрос
Перед демонстрацией я бы проверил доступные условия LibraChat и устроил один прогон с вымышленным материалом. Для проверки достаточно трёх колонок и двух записей. В LibraChat можно передать готовую выписку:
Собери расписание вымышленной мастерской в таблицу с колонками «День», «Начало», «Занятие». Есть ровно две записи: среда, 15:20, моделирование; пятница, 16:10, раскрой картона. Оставь обе минуты такими, как в источнике. После таблицы перечисли, чего не хватает для объявления на двери, если нужно указать кабинет и дату ближайших занятий. Не угадывай этих сведений. Не добавляй участников и организаторов.
После ответа ничего сразу не копирую на слайд. Смотрю, сохранились ли 15:20 и 16:10, не исчез ли раскрой и не появился ли придуманный «кабинет 11». Если чат добавил часовой пояс или номер помещения, уточняю, что исходник его не содержит. Так в одной демонстрации видно два разных риска: отправить лишнее на входе и отдать аудитории неверные данные на выходе.
Рядом с планом показа я бы держал заготовленный эталон. В первой строке среда с моделированием, во второй пятница с картоном. После них честная отметка: «Нужно уточнить кабинет и даты». На двух слайдах это даёт два разных задания. Сначала зритель сравнивает число строк с исходником. Потом говорит, может ли человек из другой смены прийти по такому объявлению без дополнительных вопросов. Уверенный текст в таблице ещё не гарантирует, что человеку понятно, куда идти.
Затем меняю только одну деталь в условии. Добавляю: «В пятницу начало передвинули на 16:40». Сохраняю предыдущую и новую запись, чтобы класс видел конфликт. Прошу не удалять его молча и объяснить, что именно стало новым указанием. Если слово «передвинули» плохо видно в макете, участники смогут заметить это до правки. В презентации этот шаг можно разместить в заметках ведущего для пятого слайда.
Проведи занятие без настоящей переписки
В классе мне удобнее работать с двумя командами и пустым столбцом на доске. Группы по очереди предлагают поле, которое считают нужным. Ведущий делает отметку: «останется», «исчезнет» или «уточним». После обмена я даю обеим командам одинаковый короткий запрос и прошу проверить ответ.
Прочитай готовые строки вслух. Даты и минуты проверь по первоначальной карточке.
Закрой колонку с именами на первом макете. Через десять секунд спроси, что перестало быть понятным именно в расписании.
Подай вторую карточку человеку из другой команды. Пусть объяснит, почему слова о личном уведомлении исчезли из запроса.
Добавь один непривычный случай: занятие переносится, кабинет новый, точная дата неизвестна. Попроси указать, что ещё нужно уточнить до вывешивания объявления.
План уже можно перенести в редактор. Как выбрать формат выдачи и собрать материал в программе для слайдов, разобрано в обзоре инструментов для создания презентаций. Я оставляю последнему экрану один вопрос для аудитории: «Получится ли нужное расписание, если передать только необходимые поля?». Все решения уже видны на примере. Длинный перечень правил можно оставить в заметках.
Я добавляю пустой угол на распечатке под одно решение. Участник пишет там, какое поле перенёс бы в запрос, а какое оставил бы в локальных заметках. На доске сравниваем решения по одному условию: меняется ли результат после удаления поля. Когда ответ разных команд расходится, это повод пересмотреть саму задачу. Может оказаться, что одна команда готовит общую памятку, а другая собирает персональные напоминания и потому просит совсем другие сведения.
Попробуй сейчас придумать новый вымышленный пример для шестого слайда. Подойдёт объявление о подготовке выставки. Дай классу пять минут, чтобы выписать время и действие, назвать одну лишнюю деталь и уточнить один пробел. Если другой участник сможет из этой выписки собрать ту же памятку без догадок о людях, упражнение сработало.