Розробник та дослідник ШІ Джейкоб Коксон, останні три роки працював над передовими моделями в OpenAI та Anthropic, оголосив про звільнення з Anthropic. 
Колаж: Dengi.ua
Схоже, у надрах гігантів штучного інтелекту готується щось серйозне. Спочатку з’являється анонс нової моделі GPT-6 Astra, потім OpenAI заявляє, що її нова система вирішила одну з семи «задач тисячоліття» — проблему Нав’є—Стокса, і ось з’явилися резонансні заяви деяких ключових співробітників галузі.
Розробник і дослідник ШІ Джейкоб Коксон, який останні три роки працював над передовими моделями в OpenAI та Anthropic, оголосив про свій відхід з Anthropic. Своє рішення він пояснив тим, що обидві компанії, на його думку, ведуть «небезпечну гонку за створенням самовдосконалюючого надінтелекту», не маючи достатніх гарантій його безпеки та фактично ризикуючи людськими життями:
«Не варто недооцінювати потужність цієї технології. Незабаром з’являться надлюдські системи, здатні зламати що завгодно, за одну ніч здійснити революцію в будь-якій галузі та здобути реальну владу й ресурси. Ми всі спостерігали прогрес у кожному з цих напрямків, і темпи цього прогресу не сповільнюються».
А ось ще більш апокаліптичний уривок з одкровення Джейкоба:
«Люди, які створюють ШІ, цілком серйозно вважають, що вже до кінця цього десятиліття він може знищити все людство. І це не маркетинговий трюк. Більше того, багато керівників і провідних дослідників, виступаючи в пресі, навмисно пом’якшують формулювання, щоб звучати розсудливо, — але в приватних розмовах я чую, як ті самі люди висловлюють справжній страх. Жодна інша сфера людської діяльності не несе в собі небезпеки такого масштабу».
Я думаю, що за цим потоком новин може стояти не просто конкурентна боротьба за лідерство в індустрії ШІ або медійна кампанія з підігріву інтересу до компаній напередодні IPO. Хоча, звичайно ж, і не без цього.
Можливо, ми спостерігаємо ознаки набагато масштабніших змін.