Генеральний директор і співзасновник Anthropic Даріо Амодей виступив із жорстким попередженням щодо майбутнього штучного інтелекту, заявивши про реальну та близьку небезпеку для людської цивілізації. У великому есе на 38 сторінок, оприлюдненому напередодні публікації, він закликає уряди, технологічні компанії та суспільство терміново переосмислити підходи до розвитку та контролю ШІ. Про це пише Axios.
На думку Амодея, людство вступає в критичний період, коли технологічний прогрес значно випереджає соціальну та політичну готовність ним керувати.
Чому до цього варто прислухатися
Anthropic є одним із лідерів у сфері великих мовних моделей. Нові системи компанії, зокрема Claude Opus 4.5, активно використовуються в бізнесі та корпоративних середовищах. За словами Амодея, до 90% програмного коду Anthropic уже створюється за допомогою ШІ – включно з інструментами, які розробляють самі AI-системи.
Саме цей практичний досвід і підштовхнув керівника компанії до публічного попередження про масштаби потенційних ризиків.
«Країна геніїв у дата-центрі»
Ключовою метафорою есе генерального директора Anthropic Даріо Амодей є «країна геніїв у дата-центрі» – сценарій, за якого вже протягом одного-двох років можуть з’явитися AI-системи, що перевершуватимуть людину майже в усіх інтелектуальних сферах і зможуть автономно створювати програмне забезпечення, нові матеріали, біологічні агенти та складні технологічні чи військові системи, тож за збереження стрімкого прогресу питання полягає вже не в тому, “чи” це станеться, а “коли”.
Основні загрози, які виділяє Anthropic
У своєму есе «The Adolescence of Technology: Confronting and Overcoming the Risks of Powerful AI» Амодей окреслює низку системних ризиків.
Масове витіснення з ринку праці
За оцінками CEO Anthropic, протягом 1–5 років ШІ може замінити до 50% початкових найманих працівників, тоді як уже через 1–2 роки AI-системи можуть стати загалом здібнішими за будь-яку окрему людину.
Загроза національній безпеці
Амодей порівнює розвиток надпотужного ШІ з появою нової наддержави, що володіє інтелектуальними можливостями, які перевищують людські. На його думку, у звітах спецслужб такий сценарій описувався б як найсерйозніша загроза національній безпеці за століття.
Біологічний тероризм
Найбільше занепокоєння викликає біологія. Амодей вважає, що поєднання ШІ та біотехнологій може значно знизити бар’єр для створення надзвичайно небезпечних атак – аж до вибіркового ураження людей за генетичними ознаками.
Посилення авторитарних режимів
Окремо він попереджає про ризик «AI-авторитаризму», зазначаючи, що передові AI-технології неминуче опиняться в руках держав із тоталітарними системами управління та розвиненими механізмами цифрового контролю.
Ризики з боку самих AI-компаній
Генеральний директор Anthropic прямо визнає, що серйозну загрозу можуть становити й самі AI-компанії, адже вони контролюють обчислювальну інфраструктуру, володіють найпотужнішими моделями та мають безпосередній вплив на сотні мільйонів користувачів, тому, на його думку, корпоративне управління у сфері штучного інтелекту потребує особливо пильної уваги з боку суспільства та регуляторів.
Заклик до дій
Попри тривожний характер своїх застережень, Амодей зберігає обережний оптимізм і вважає, що людство здатне впоратися з викликами штучного інтелекту, але лише за умови відкритої й чесної розмови про ризики, запровадження реалістичного регулювання, відповідальності з боку технологічних компаній і держав, а також активної участі бізнесу та філантропів, адже, за його словами, найближчі роки стануть серйозним випробуванням для всієї цивілізації.
