Зловмисники та пов'язані з державами групи в Китаї та росії вже намагаються використовувати штучний інтелект Anthropic для кібератак, масового стеження та інших небезпечних операцій. Про це йдеться у новому звіті компанії, повідомляє Politico, пише УНН.
Деталі
Anthropic заявила, що виявила та заблокувала низку випадків зловживання моделями Claude. Серед них – кібероперації, системи стеження, кампанії впливу, а також спроби використати ШІ для досліджень, які потенційно можуть бути пов'язані зі створенням біологічної зброї.
Компанія зафіксувала випадки, коли її моделі намагалися залучити до автоматизації кібератак і розвідувальних операцій. Окремі схеми були пов'язані з державними структурами або суб'єктами з Китаю та росії.
Біологічна загроза
Особливе занепокоєння в Anthropic викликали запити, пов'язані з біологією. В одному з випадків користувач намагався отримати від ШІ допомогу в дослідженні, яке могло зробити небезпечний вірус більш шкідливим. Компанія заявила, що заблокувала таку активність.
Китай пригрозив США відповіддю через звинувачення у крадіжці технологій ШІ, але запропонував переговори10.09.26, 06:15 • 7542 перегляди
Також Anthropic протидіє спробам незаконно копіювати можливості Claude для навчання інших моделей. Раніше компанія повідомляла про масштабну нелегальну екосистему, учасники якої намагаються обходити обмеження та створювати велику кількість акаунтів для отримання доступу до її технологій.
У компанії попереджають, що зі зростанням можливостей ШІ подібні системи можуть дедалі сильніше спрощувати проведення складних кібератак та інших небезпечних операцій, які раніше вимагали значної кількості фахівців і ресурсів.
Китай відкинув звинувачення США у шкідливій розробці ШІ напередодні зустрічі Трампа і Сі09.09.26, 18:41 • 4058 переглядiв