Перегони ШІ вийшли з-під контролю, і провідні голови індустрії б’ють на сполох. Ілон Маск, співзасновник Apple Стів Возняк та понад тисяча експертів підписали відкритий лист із вимогою негайно заморозити розробку надпотужних нейромереж. Маніфест опублікувала організація Future of Life Institute. У ньому вчені та бізнесмени закликають усі лабораторії зробити паузу щонайменше на шість місяців. Головна претензія — людство створює цифровий розум, який ніхто на планеті не здатний надійно контролювати.
Чому технологічні лідери вимагають натиснути на гальма
Світ охопила справжня золота лихоманка. Лабораторії наввипередки випускають нові моделі, ігноруючи правила безпеки. Підписанти листа наголошують: системи, що перевершують за потужністю нещодавно анонсовану GPT-4, несуть величезні ризики. Вони можуть наводнити інтернет фейками, знищити мільйони робочих місць та зробити людство залежним від машин.
Вимога проста. Всі розробники мають зупинити навчання великих мовних моделей на пів року. За цей час індустрія зобов’язана створити єдині протоколи безпеки. Якщо розробники відмовляться зробити це добровільно, авторами листа пропонується державне втручання. Уряди країн мають запровадити примусовий мораторій.
| Критерій порівняння | Прихильники мораторію (Маск, Возняк, Бенджо) | Опоненти та розробники (OpenAI, Microsoft) |
|---|---|---|
| Головна мета паузи | Розробити спільні протоколи безпеки та запобігти хаосу. | Продовжувати інтеграцію ШІ в комерційні продукти. |
| Рівень загрози | Екзистенційний. ШІ може перевершити людину та вийти з-під контролю. | Керований. Ризики вирішуються поступовим оновленням фільтрів безпеки. |
| Роль держави | Уряди повинні ввести примусовий мораторій за потреби. | Держава має підтримувати інновації, а не обмежувати їх. |
| Вплив на ринок | Запобігання масовому безробіттю та дезінформації. | Уповільнення технологічного розвитку та втрата лідерства перед конкурентами (наприклад, Китаєм). |
Хто підтримав маніфест
Заклик зупинити розробку ШІ підтримали знаковий десант відомих інтелектуалів:
- Ілон Маск — генеральний директор Tesla, SpaceX та Twitter;
- Стів Возняк — легендарний співзасновник Apple;
- Йошуа Бенджо — лауреат премії Тюрінга, один із «хрещених батьків» глибокого навчання;
- Ювал Ной Харарі — відомий історик та автор бестселера Sapiens;
- Емод Мостак — очільник компанії Stability AI.
Скептики переконані: цей лист навряд чи зупинить гігантів на кшталт Microsoft чи Google. Бізнес грає за своїми правилами. Але сам факт такої заяви показує — страх перед неконтрольованим ШІ більше не є теорією змов.
Підсумок
Відкритий лист Future of Life Institute, підписаний Ілоном Маском, Стівом Возняком та провідними вченими, закликає негайно призупинити розробку ШІ-систем, потужніших за GPT-4, щонайменше на 6 місяців. Автори наголошують на загрозах екзистенційного характеру, зокрема втраті контролю над штучним розумом, інформаційному хаосі та масовому безробіттю. Маніфест вимагає від лабораторій розробити єдині протоколи безпеки, а у разі їхньої відмови — закликає уряди запровадити жорсткий мораторій. Попри скепсис щодо реального впливу на технологічних гігантів, лист став першим масштабним закликом до регулювання ринку ШІ.
