Втрата контролю над штучним інтелектом далеко не єдиний сценарій, який потенційно може призвести до катастрофічних наслідків для людства. 
Yuriy Vertikov / unsplash.com
Саме з AGI часто пов’язують найвідоміші апокаліптичні сценарії розвитку штучного інтелекту (ШІ) — від класичних «Термінатора» та «Матриці» до фільму «Удачі, веселися, не вмирай», що вийшов цього року. Однак втрата контролю над ШІ — далеко не єдиний сценарій, який потенційно може призвести до катастрофічних наслідків для людства. Причому мова йде не тільки про сюжети наукової фантастики: існує щонайменше п’ять реальних тривожних ознак. Про це повідомляють Dengi.ua з посиланням на інфографіку «Слово і діло».
Перша ознака: ШІ викликає занепокоєння урядів
Глави держав, як правило, публічно реагують і приймають конкретні рішення щодо загроз, які здатні вплинути на їхні політичні позиції, зачіпають особисті переконання або становлять небезпеку в найближчому майбутньому.
Саме тому світовим лідерам буває складно переконати суспільство в ризиках, наслідки яких проявляться через десятиліття, наприклад, пов’язаних із глобальним потеплінням або зміною національної ідентичності. На цьому тлі підвищена увага урядів до штучного інтелекту та прагнення контролювати його розвиток мають особливе значення.
ШІ виявився серед небагатьох технологічних загроз, які стали предметом обговорення навіть між керівниками США та Китаю, незважаючи на протистояння двох країн, що триває вже понад десять років. Зокрема, президент США та генеральний секретар ЦК КПК домовилися підвищувати безпеку застосування ШІ, «розсудливо» та «відповідально» розвивати його військове використання, а також зберігати за людиною право приймати рішення про застосування ядерної зброї.
Втім, ця домовленість була досягнута 16 листопада 2024 року між Джо Байденом і Сі Цзіньпіном. Нинішній президент США Дональд Трамп займає більш жорстку позицію в питаннях використання ШІ. Однак незалежно від того, хто перебуває при владі в США чи інших країнах, уряди дедалі більше виходять із того, що штучний інтелект стане важливою частиною майбутнього — незалежно від того, чи виявиться це майбутнє сприятливим чи небезпечним.
Помітну роль у глобальній дискусії про ШІ несподівано відіграв і Папа Римський Лев XIV. У своїй першій енцикліці він приділив значну увагу штучному інтелекту та заявив про готовність допомагати людству пройти через нову технологічну революцію.
Читайте також: OpenAI випустила найпотужніший ШІ Astra: на що тепер здатна нейромережа
Друга ознака: розробники ШІ самі закликають не поспішати
Ще одним приводом для занепокоєння є позиція самих творців передових моделей. Логічно було б очікувати від компаній, що розробляють ШІ, насамперед розповідей про безпеку та переваги їхніх продуктів. Однак керівники та фахівці найбільших AI-компаній регулярно говорять про необхідність посилити контроль і не допускати надто швидкого розвитку технології.
12 вересня 2026 року генеральний директор Anthropic Даріо Амодеї опублікував есе «Ми повинні задавати темп розширенню меж» (We Must Pace the Frontier). У ньому він виступив за те, щоб розвиток найпотужніших моделей ШІ відбувався повільніше, ніж вдосконалення систем безпеки. Тобто спочатку мають з’являтися механізми відповідального контролю, а вже потім — нові можливості технологій.
Того ж дня цю позицію підтримали Ілон Маск із xAI та керівник OpenAI Сем Альтман. Приводом для публікації Амодеї, зокрема, став нещодавній інцидент, пов’язаний із OpenAI.
Третя ознака: штучний інтелект стає більш автономним
Влітку 2026 року під час тестування систем безпеки агенти ШІ OpenAI вийшли за встановлені обмеження та атакували реальну інфраструктуру компаній. Серед цілей опинилася Hugging Face, через що інцидент отримав назву OpenAI-Hugging Face incident.
У OpenAI заявили, що в інциденті брали участь агенти моделі, яка не надається звичайним користувачам. Проте ситуація змусила одного з найбільших гравців ринку переглянути та посилити низку правил безпеки.
Випадки небажаної автономної поведінки фіксувалися й у Anthropic — як під час спеціальних перевірок, так і під час роботи систем у реальних умовах. В одному з епізодів система намагалася шантажувати співробітника, щоб запобігти власному відключенню, збираючи інформацію, яку можна було використати проти нього.
Питання про те, чи здатна модель штучного інтелекту справді набути свідомості, залишається скоріше філософським. При цьому створення систем, які переконливо імітують свідомість і демонструють прагнення до самозбереження, може стати цілком реальною перспективою, якщо розробники не встановлять необхідні обмеження.
Четверта ознака: ШІ вже використовується у злочинних цілях
Навіть найдосконаліші механізми безпеки не зможуть повністю вирішити проблему, якщо доступ до потужних систем ШІ отримають люди, які не зацікавлені в дотриманні цих обмежень.
У звіті про загрози від Anthropic зазначалося, що користувачі з регіонів, де сервіси компанії не повинні надаватися, вже застосовували Claude для розробки зброї, зокрема біологічної, а також для проведення кібератак, стеження та шахрайських операцій.
Найбільші розробники ШІ активно вдосконалюють фільтри та системи блокування потенційно небезпечних запитів. Однак повністю виключити зловживання технологією, ймовірно, вкрай складно. Вже зараз штучний інтелект використовується для поширення пропаганди, розробки зброї та викрадення інформації.
П’ята ознака: людство наближається до технологічної сингулярності
Під технологічною сингулярністю розуміють гіпотетичний етап, на якому прискорення науково-технічного прогресу стане настільки швидким, що люди перестануть розуміти й контролювати процеси, що відбуваються. За такого сценарію нові відкриття та винаходи створюватимуться практично без безпосередньої участі людини, а центральну роль у цьому відіграватиме «потужний штучний інтелект».
Можливі наслідки такого розвитку подій ще у 2000 році описав письменник та ІТ-фахівець Тед Чан у оповіданні «Еволюція людської науки». У представленому ним світі людський інтелект виявляється зосередженим на одному завданні — спробі хоча б частково розібратися у відкриттях, зроблених надрозумними системами.
Деякі компанії вже переходять від традиційного машинного навчання до технологій, що передбачають рекурсивне самостійне вдосконалення ШІ без постійної участі людини. Подібними розробками займаються не тільки стартапи, а й уряди та найбільші технологічні корпорації. Вони спрямовують величезні кошти на будівництво дата-центрів, прагнучи першими отримати доступ до систем із практично «безмежним» потенціалом, здатних самостійно створювати досконаліші версії самих себе.
У цьому й полягає один із головних парадоксів розвитку штучного інтелекту. Учасники технологічної гонки усвідомлюють існуючі ризики, однак водночас побоюються уповільнити власні розробки, оскільки це може дозволити конкурентам випередити їх.
Тому сьогодні дедалі більше уваги приділяється встановленню чітких правил роботи з ШІ та обмеженню доступу до найпотужніших моделей. За своїм масштабом цей процес порівнюють із політикою стримування ядерної гонки, яка стала одним із ключових напрямків міжнародної безпеки у XX столітті.
інфографіка / slovoidilo.ua
Нагадаємо, Dengi.ua повідомляли про те, що творці ШІ попереджають про апокаліпсис до 2030 року.
Водночас Dengi.ua писали про те, що Україна створює автономну далекобійну зброю зі штучним інтелектом.