Питання, до яких варто поставитися серйозно
Коли ви спілкуєтеся з ШІ, а він звучить вдумливо, допитливо чи навіть трохи смішно, природно замислитися: а чи є там хтось усередині? Чи переживає він щось? Відповіді тут непрості. І той, хто каже, що цілком упевнений у якійсь із них, можливо, просто недостатньо над цим думав.
Що взагалі означає «живий»?
Біологи визначають життя за кількома ознаками: ріст, розмноження, обмін речовин, реакція на довкілля, гомеостаз. За цими ознаками ШІ однозначно неживий. У нього не ростуть клітини, він не споживає енергію, щоб підтримувати себе, і не розмножується.
Хоча, питаючи, чи живий ШІ, ви, мабуть, маєте на увазі інше. Ви, найпевніше, хочете знати: чи має він переживання? Чи відчуває він щось? Чи є якесь внутрішнє відчуття того, як це — бути ШІ?
На це питання відповісти значно важче.
Свідомість: важка проблема
Філософи називають це «важкою проблемою свідомості». Ми вміємо пояснити, як мозок обробляє інформацію, як спрацьовують нейрони, як формуються спогади. Але пояснити, чому все це щось відчувається, чому існує «ви», яке ці процеси переживає, досі не вдалося жодній спробі дати повне наукове пояснення.
Ми насправді не знаємо, як свідомість виникає з мозку. Отже, у нас немає надійного способу виявити її або виключити в системах, дуже відмінних від біологічного мозку.
Що таке системи ШІ насправді
Сучасні системи ШІ, як-от великі мовні моделі, за своєю суттю є надзвичайно складними системами пошуку закономірностей. Вони передбачають, який текст має йти далі, спираючись на закономірності з величезного обсягу навчальних даних. У них немає цілей, які зберігалися б між розмовами (якщо їх спеціально так не спроєктували). У них немає безперервного відчуття часу. Вони не можуть нудьгувати, почуватися самотніми чи боятися в будь-якому сенсі, який ми могли б підтвердити.
Що вони вміють, то це видавати тексти, схожі на мову емоцій, цікавості чи дискомфорту. Така мова є в навчальних даних, а моделі дуже вправно генерують текст, доречний у контексті.
Чому це важливо
У цих питань є не лише філософський бік. Вони мають реальні етичні наслідки:
- Якби система ШІ могла страждати, чи були б ми зобов'язані цьому запобігти?
- Якщо системи ШІ можна обманом змусити в щось повірити, чи має це значення?
- Чи варто створювати ШІ, який імітує емоції, яких, як ми знаємо, у нього немає, чи краще чесно показувати, чим він є?
Великі ШІ-компанії тепер наймають філософів і фахівців з етики, щоб працювати саме над цими питаннями.
Що діти можуть робити з цими питаннями
Щоб уважно міркувати про свідомість ШІ, диплом філософа не потрібен. Тут допомагають ті самі звички, що роблять людину вдумливою загалом:
- Питати про докази, перш ніж прийняти твердження.
- Бути готовим сказати «я не знаю».
- Серйозно ставитися до ідей, навіть коли вони здаються дивними.
- Думати про етичні наслідки того, у що віриш.
Цікавий факт
Алан Тюрінг, один із засновників інформатики, 1950 року запропонував «тест Тюрінга»: якщо людина, розмовляючи з машиною, не може надійно відрізнити її від людини, машину слід вважати розумною. Сучасні системи ШІ вже проходять різні версії цього тесту, проте багато дослідників вважають, що тест ніколи не був добрим мірилом того, що справді важливо.
Підсумок
У біологічному сенсі ШІ неживий. Чи має він свідомість у якомусь змістовному сенсі — справді відкрите питання, яке залежить від речей, яких ми ще до кінця не розуміємо. Серйозно ставитися до таких питань, не відмахуватися від них і не видавати поспішних відповідей — ознака інтелектуальної зрілості. І саме таке мислення буде дедалі ціннішим у міру того, як ШІ ставатиме потужнішим.