Думки "Дюна" проти ChatGPT: про що Френк Герберт попереджав ще 60 років тому
8 жовтня виповнюється 106 років від дня народження Френка Герберта, автора «Дюни» — одного з ключових науково-фантастичних романів ХХ століття. У цього жанру є одна неприємна риса: фантастика швидко старіє, коли змальоване нею майбутнє так і не настає. Герберт уникнув цієї пастки радикально — просто прибрав комп’ютери з вигаданого ним світу майбутнього.
Олексiй Росовецький Журналіст та медіаменеджер 0
Як зауважив кінокритик Олексій Росовецький, одне з найсміливіших припущень «Дюни» лише через шістдесят років перестало здаватися чистою фантастикою й почало потроху набувати рис реальності. Звісно, легко оголосити Герберта черговим пророком, який ще 1965 року попереджав людство про ChatGPT. Але найцікавіше, що в головному це справді так.
Низка екранізацій «Дюни», за яку взявся один із майстрів так званого інтелектуального блокбастера Дені Вільнев, викликала нову хвилю інтересу до роману Френка Герберта. 18 грудня, через п’ять років після прем’єри першого фільму, вийде довгоочікувана «Дюна: Частина третя», яка завершить історію Пола Атрейдеса.
Видео дня
Пам’ятаю, коли вийшла перша «Дюна», мене неприємно здивував відвертий міскаст на роль Пола. Поруч із Кайлом Маклакленом, з його величною поставою й невимушеністю справжнього аристократа, Тімоті Шаламе скидався радше на поганця зі шкільного рок-гурту, ніж на спадкового принца. Але саме ця темрява, прихована за миловидною зовнішністю — те, чого зовсім не було у 24-річного Маклаклена, і пояснює, чому Вільнев бачив у ролі Пола лише Шаламе. Режисер від початку задумував цю історію як трилогію, яку мала завершити екранізація «Месії Дюни». У продовженні роману, що стало холодним душем для багатьох шанувальників, письменник перетворив світлого лицаря на кривавого тирана.
Політичні алюзії першої «Дюни» Вільнева мене радше відштовхнули, ніж заінтригували: надто вже легко в них прочитувалися близькосхідна нафта й ганебна афганська кампанія США. Куди сильніше мене вразила сама модель майбутнього, яке свідомо відмовилося від комп’ютерів.
Нагадаю, що у всесвіті Френка Герберта за тисячі років до подій «Дюни» людство пережило так званий Батлеріанський джихад — повстання проти комп’ютерів і «мислячих машин». У Герберта люди поступово передавали комп’ютерам дедалі більше інтелектуальної роботи, сподіваючись таким чином позбутися потреби самостійно аналізувати інформацію й ухвалювати рішення. Але зручність обернулася залежністю: той, хто контролював «мислячі машини», отримав можливість контролювати й людей. Після цього антикомп’ютерного джихаду людству довелося знову покладатися на власний розум і відновлювати інтелектуальні навички, що занепали за час залежності від машин. По суті, це було повстання за право мислити самостійно.
Нічого не нагадує? Останні кілька років у соцмережах без кінця сперечаються саме про це: хто зрештою поневолить людство — сам штучний інтелект чи техноеліта, озброєна ШІ?
Важливо Шлях води Джеймса Кемерона: як технології наздоганяли фантазію митця
Восени 2021 року, коли на екрани вийшла перша частина «Дюни», революція генеративного ШІ ще тільки вимальовувалася на обрії. Штучний інтелект уже визначав рекомендації, розпізнавав обличчя, перекладав тексти й навіть учився писати їх самостійно, але ще не ввійшов у наше повсякденне життя як співрозмовник та інтелектуальний помічник. Тому сама відмова від «мислячих машин» у всесвіті Герберта здавалася тоді лише химерною вигадкою. Через п’ять років ідея цивілізації, що свідомо заборонила передавати комп’ютерам сам процес мислення, сприймається вже майже як прямий коментар до нашої реальності.
Сьогодні ми рухаємося у протилежному напрямку. Якщо «мисляча машина» може написати за нас листа, перекласти текст іноземною мовою, обрати оптимальний маршрут, проаналізувати дані, підібрати музику тощо — то чому б не доручити їй цю роботу?
Коли людина передає частину розумової роботи зовнішньому інструменту, це називається когнітивним розвантаженням. Ми завжди це робили: записник зберігає номери телефонів, калькулятор рахує, GPS прокладає маршрути. Таке розвантаження вивільняє ресурси мозку для інших завдань і часто допомагає працювати ефективніше. Але когнітивне розвантаження має й зворотний бік: ми менше запам’ятовуємо, повільніше рахуємо подумки й гірше орієнтуємося у просторі.
Генеративний ШІ принципово змінює ситуацію. Вперше ми масово делегуємо не окрему функцію, а сам процес мислення. І коли людина постійно віддає ШІ частину інтелектуальної роботи, вона ризикує з часом послабити саме ті навички, які поступово перестає застосовувати.
Важливо Солодка брехня та зручні ілюзії: чому небезпечно віддавати свій мозок на відкуп ШІ
Ми дедалі менше готові довго зосереджуватися й дедалі частіше відступаємо перед складними завданнями. У всьому, що доручаємо ШІ, ми поступово втрачаємо індивідуальність — наприклад, власний стиль листування. Позбавляємо себе радості випадкових знахідок і раптових осяянь, що нерідко приводять до відкриттів. Помилятися теж важливо: як відомо, на помилках вчаться, але тепер навіть почесне право помилятися ми дедалі частіше віддаємо ШІ. От тільки на його «глюках» нічого не навчишся: щоб їх розпізнати, потрібен власний запас знань. Недостатньо отримати готову відповідь — важливо хоча б час від часу знаходити її самостійно, а потім осмислювати. Інакше ми ризикуємо врешті просто перестати розвивати наші професійні й творчі навички.
Але головна небезпека навіть не в цьому. Поступово ми можемо звикнути не створювати самі, а лише обирати серед того, що вже створила для нас «мисляча машина». І зрештою просто перестанемо бути творцями.
Автор висловлює особисту думку, яка може не співпадати із позицією редакції. Відповідальність за опубліковані дані в рубриці "Думки" несе автор.