Угрозы изменились
Много лет детей учили безопасности в интернете на привычном наборе рисков: общение с незнакомцами, раскрытие личных данных, кибертравля, неподходящий контент. Эти риски никуда не делись. Но ИИ добавил новый слой угроз, которого в большинстве нынешних программ по безопасности еще нет.
Эта статья именно об угрозах, которые появились благодаря ИИ: что это такое, насколько вероятно, что ребенок с ними столкнется, и что родители могут с этим сделать.
Новые угрозы, которые принес ИИ
Дипфейки и синтетические медиа
ИИ уже умеет создавать убедительные поддельные видео, где реальные люди говорят то, чего никогда не говорили. Для детей это два разных риска:
Стать жертвой дипфейка. Известны задокументированные случаи, когда созданные ИИ поддельные изображения молодых людей использовали для травли или вымогательства. Во многих странах это незаконно, но технически сделать такое легко, если есть фотографии в открытом доступе.
Поддаться обману через дипфейк. Ребенок, который увидел убедительное видео, где человек, которому он доверяет, говорит неправду, может начать действовать: переслать видео, поверить ему или принять решение на его основе.
Чему научить: «Своими глазами видел» больше ничего не доказывает. Любое видео, где реальный человек говорит что-то неожиданное или провокационное, стоит считать возможной подделкой, пока это не подтвердит второй, независимый источник.
Фишинг, написанный ИИ
Раньше фишинговые письма часто выдавали себя грамматическими ошибками или корявыми фразами. У фишинга, написанного ИИ, таких примет нет. Письма, сообщения в соцсетях и СМС теперь можно сгенерировать безупречно грамотными, нацеленными лично на вашего ребенка (с подробностями, собранными с его открытых страниц в соцсетях) и очень убедительными.
Дети особенно уязвимы: они реже относятся с подозрением к срочным сообщениям, которые будто бы пришли от друзей, от сервисов, которыми они пользуются, или от взрослых, чье слово для них что-то значит.
Чему научить: спешка — признак манипуляции. Любое сообщение, где ребенка просят сделать что-то прямо сейчас (перейти по ссылке, сообщить пароль, отправить деньги, ничего не говорить родителям), должно стать поводом остановиться и посоветоваться со взрослым, которому он доверяет, как бы правдоподобно сообщение ни выглядело.
Фальшивые аккаунты в соцсетях
С ИИ проще простого создать в соцсетях убедительного персонажа: с фотографиями профиля, историей публикаций и правдоподобным описанием. Дети могут подружиться в сети с аккаунтами, за которыми не стоит настоящий человек.
Фальшивые аккаунты существовали всегда. Но с ИИ их стало гораздо больше, и выглядят они гораздо правдоподобнее. Ребенок, который месяцами «дружит» в сети с персонажем, созданным ИИ, может искренне привязаться к тому, кого не существует.
Чему научить: насколько надежно знакомство в сети, показывает встреча в реальной жизни в общей знакомой обстановке или проверенная связь через людей, которых вы знаете лично. Ни длительность общения, ни ощущение, что собеседник вас прекрасно понимает, ничего здесь не доказывают.
Клонирование голоса
ИИ уже умеет убедительно подделывать голос реального человека по нескольким секундам записи. Такую запись можно найти в соцсетях вашего ребенка, в школьном видео или на YouTube-канале. Известны задокументированные случаи, когда мошенники звонили родителям голосом их ребенка, клонированным с помощью ИИ, говорили, что попали в беду, и просили денег.
Чему научить: придумайте семейное кодовое слово. Его знает только ваша семья, и в экстренной ситуации любой из вас может назвать его, чтобы подтвердить, что это действительно он. Этот простой способ без всяких технологий по-прежнему защищает от клонирования голоса.
Что преувеличено
Разные опасения насчет ИИ весят по-разному. Некоторые темы, о которых много пишут в СМИ, пока мало касаются повседневной жизни вашего ребенка:
- Угрозы сильного ИИ (AGI) и автономного ИИ: опасения насчет сверхразумного ИИ, который напрямую угрожает людям, — серьезная тема для долгосрочной политики. В воспитании прямо сейчас с ней мало что можно сделать.
- Слежка ИИ в обычных приложениях: проблемы с конфиденциальностью данных реальны и заслуживают внимания, но прямой угрозы физической безопасности детей от такой слежки меньше, чем от описанных выше уловок социальной инженерии.
Что на самом деле защищает детей
Открытый разговор работает лучше фильтров
Исследования безопасности детей в интернете раз за разом показывают одно и то же. Сильнее всего защищает уверенность ребенка в том, что он может рассказать родителям о чем-то неприятном в сети и его за это не накажут и не отберут устройства. Программы-фильтры и ограничения экранного времени защищают слабее.
Выстраивайте эту уверенность сознательно. Скажите: «Если ты когда-нибудь увидишь в интернете что-то, от чего тебе не по себе, я хочу об этом знать. И ругать тебя я не буду». И держите слово.
Умение критически оценивать
Те же навыки критического мышления, которые помогают детям хорошо учиться, защищают их и от манипуляций. Ребенок, который по привычке спрашивает себя «Откуда я знаю, что это правда?», «Чего от меня хотят?» и «Кому выгодно, чтобы я в это поверил?», гораздо устойчивее к манипуляциям с помощью ИИ.
Технические основы по-прежнему важны
Научите детей:
- Никогда никому не сообщать пароли, даже друзьям.
- Никогда не переходить по ссылкам в сообщениях, где просят «подтвердить» аккаунт.
- Делать скриншот всего, что пугает или кажется неправильным, и показывать его взрослому, которому они доверяют.
- Держать аккаунты в соцсетях закрытыми и понимать, что все опубликованное открыто можно скопировать и использовать.
- Ставить надежные пароли, разные для каждого аккаунта, и включать двухфакторную аутентификацию везде, где это от них зависит.
Договоритесь о семейных правилах
Кроме кодового слова на случай звонка с голосом в беде, договоритесь и о других понятных правилах:
- Кому ребенок звонит, если в гостях у друга почувствовал себя в сети в опасности?
- Что он делает, если кто-то из интернета предлагает встретиться лично?
- Какое в семье правило насчет того, чтобы делиться своим местоположением?
Разговор, который стоит начать сегодня вечером
О безопасности в сети одним разговором не обойтись. Этот разговор нужно продолжать и обновлять по мере того, как меняются угрозы. Заведите ежемесячную «проверку безопасности»: пятнадцать минут, чтобы обсудить, что странного, смешного, тревожного или непонятного ребенок видел в сети.
Знать все ответы вам необязательно. Достаточно быть тем взрослым, которому ребенок доверяет и к которому приходит, когда нужно в чем-то разобраться.