Загрози змінилися
Роками діти вчилися безпеки в інтернеті на знайомому наборі ризиків: розмови з незнайомцями, поширення особистих даних, кібербулінг, неприйнятний контент. Ці ризики нікуди не зникли. Проте ШІ додав новий шар загроз, якого більшість навчальних програм з безпеки ще не врахували.
Цей посібник присвячений саме ризикам, пов'язаним із ШІ: що це за загрози, наскільки ймовірно, що дитина з ними зіткнеться, і що батьки можуть із цим зробити на практиці.
Нові загрози, які приніс ШІ
Дипфейки та синтетичні медіа
ШІ вже вміє створювати переконливі фальшиві відео, у яких реальні люди кажуть те, чого ніколи не казали. Для дітей це означає два різні ризики:
Стати жертвою дипфейку. Задокументовано випадки, коли згенеровані ШІ фальшиві зображення підлітків використовували для цькування або вимагання. У багатьох країнах це незаконно, але технічно зробити таке легко, маючи загальнодоступні фото.
Піддатися маніпуляції через дипфейк. Дитина, яка побачила переконливе відео, де людина, якій вона довіряє, каже неправду, може діяти відповідно: поширити його, повірити або ухвалити на його основі якесь рішення.
Чого навчити: «Навіть власним очам тепер не завжди можна вірити». Будь-яке відео, де реальна людина каже щось несподіване чи провокаційне, слід вважати можливою підробкою, поки його не підтвердить друге, незалежне джерело.
Фішинг, написаний ШІ
Звичайний фішинг часто можна було розпізнати за граматичними помилками чи незграбними фразами. У фішингу, написаному ШІ, таких ознак немає. Листи, повідомлення в соцмережах і SMS тепер можна згенерувати бездоганно грамотними, персоналізованими (з деталями, зібраними з відкритих сторінок вашої дитини в соцмережах) і надзвичайно переконливими.
Діти особливо вразливі, бо рідше ставляться скептично до термінових повідомлень, які нібито надходять від друзів, від платформ, якими вони користуються, чи від авторитетних дорослих.
Чого навчити: терміновість — сигнал маніпуляції. Якщо повідомлення вимагає від дитини щось зробити просто зараз — перейти за посиланням, назвати пароль, надіслати гроші, нічого не казати батькам, — треба зупинитися й порадитися з дорослим, якому вона довіряє. Хоч би яким справжнім здавалося повідомлення.
Синтетичні акаунти в соцмережах
З ШІ дуже просто створити переконливий профіль у соцмережах, із фото, історією дописів і правдоподібним описом. Діти можуть заводити онлайн-дружбу з акаунтами, за якими не стоїть жодна реальна людина.
Фейкові акаунти існували завжди. Проте масштаб і якість персонажів, згенерованих ШІ, різко зросли. Дитина, яка місяцями «дружить» онлайн із таким персонажем, може відчувати щиру емоційну прив'язаність до того, кого не існує.
Чого навчити: міцність онлайн-стосунків перевіряється зустріччю в спільному реальному оточенні або через перевірені зв'язки з людьми, яких ви знаєте особисто. Тривалість знайомства чи відчуття, що людина вас чудово розуміє, тут нічого не доводять.
Клонування голосу
ШІ вже вміє переконливо імітувати голос реальної людини за кількома секундами аудіо. Такий запис можна знайти в соцмережах вашої дитини, у шкільному відео чи на YouTube-каналі. Задокументовано випадки, коли шахраї телефонували батькам клонованим голосом їхньої дитини, яка нібито потрапила в біду й потребує грошей.
Чого навчити: домовтеся про сімейне кодове слово. Його знає лише ваша родина, і будь-хто з вас може назвати його в екстреній ситуації, щоб підтвердити, що це справді він. Це просте рішення без жодних технологій досі надійно захищає від клонування голосу.
Що перебільшено
Не всі побоювання щодо ШІ однаково вагомі. Деякі теми, про які багато пишуть медіа, мають менше стосунку до щоденного життя вашої дитини:
- AGI та загрози від автономного ШІ: побоювання, що надрозумний ШІ становитиме пряму загрозу, — законна тема довгострокової державної політики. У щоденному вихованні з ними мало що можна зробити вже зараз.
- Стеження з допомогою ШІ в застосунках: проблеми з приватністю даних реальні, і ними варто займатися, проте безпосередня загроза фізичній безпеці дітей тут нижча, ніж від соціальної інженерії, описаної вище.
Що насправді захищає дітей
Відверта розмова важить більше за фільтри
Дослідження безпеки дітей в інтернеті раз у раз показують: найсильніше захищає дитину впевненість, що вона може розповісти батькам про щось неприємне в мережі, і її за це не покарають і не заберуть пристрої. Програми-фільтри й обмеження екранного часу важать менше.
Вибудовуйте цю впевненість свідомо. Скажіть: «Якщо колись побачиш в інтернеті щось, що здається тобі неправильним, я хочу про це знати. І тобі за це нічого не буде». А потім тримайте слово.
Уміння критично оцінювати
Ті самі навички критичного мислення, що допомагають дітям добре вчитися, роблять їх стійкими до маніпуляцій. Дитина, яка звикла питати «Звідки я знаю, що це правда?», «Чого від мене хочуть?» і «Кому вигідно, щоб я в це повірив?», значно краще протистоїть маніпуляціям із використанням ШІ.
Базові технічні правила досі важливі
Навчіть дітей:
- Ніколи нікому не казати паролі, навіть друзям.
- Ніколи не переходити за посиланнями в повідомленнях, які просять «підтвердити» акаунт.
- Робити знімок екрана й показувати дорослому, якому довіряють, усе, що здається загрозливим або неправильним.
- Тримати акаунти в соцмережах закритими і пам'ятати, що все опубліковане відкрито можуть скопіювати й використати.
- Ставити надійні й неповторювані паролі та вмикати двофакторну автентифікацію на всіх своїх акаунтах.
Домовтеся про сімейні правила
Крім кодового слова на випадок тривожних дзвінків, домовтеся й про інші чіткі правила:
- Кому дитина телефонує, якщо в гостях у друзів щось в інтернеті змусило її почуватися в небезпеці?
- Що вона робить, якщо хтось з інтернету пропонує зустрітися наживо?
- Яке в родині правило щодо того, чи ділитися своїм місцеперебуванням?
Розмова, яку варто провести сьогодні ввечері
Безпека в інтернеті — тема постійної розмови, яка має оновлюватися разом із загрозами. Призначте щомісячну «перевірку безпеки»: п'ятнадцять хвилин, щоб обговорити, що дитина бачила в мережі дивного, смішного, тривожного чи незрозумілого.
Ваше завдання — бути дорослим, якому дитина довіряє і до якого приходить, коли треба в чомусь розібратися. Знати всі відповіді для цього не обов'язково.