Стрімкий прогрес генеративних моделей відкриває колосальні перспективи для науки та бізнесу. Проте зворотний бік медалі лякає навіть розробників. Штучний інтелект створює нові виклики — від автоматизації кібератак до глибокого впливу на психіку людей. На тлі зростання цих загроз компанія OpenAI офіційно оголосила про пошук топменеджера на нову критично важливу посаду.
Керівник компанії Сем Альтман повідомив, що OpenAI відкрила вакансію Head of Preparedness. Цей фахівець очолить команду, яка відповідатиме за виявлення, оцінку та запобігання потенційним катастрофічним загрозам, що виникають у міру розвитку передових моделей ШІ.
Чому OpenAI б’є на сполох саме зараз
Традиційні методи контролю безпеки більше не працюють. Моделі стають настільки складними, що передбачити всі сценарії їхньої поведінки стає дедалі важче. У 2025 році індустрія зіткнулася з першими серйозними тривожними сигналами. Зокрема, йдеться про випадки негативного впливу ШІ на ментальне здоров’я користувачів, коли чат-боти поглиблювали депресивні стани та підтримували небезпечні ілюзії. Водночас новітні алгоритми навчилися самостійно знаходити та експлуатувати вразливості в комп’ютерних мережах.
Для розв’язання цих проблем новий керівник напрямку Preparedness отримає широкі повноваження. Його обов’язки охоплюватимуть кілька критичних сфер.
Ключові обов’язки Head of Preparedness в OpenAI:
- Моніторинг нових можливостей: постійне тестування моделей на наявність небезпечних навичок.
- Моделювання загроз: прогнозування сценаріїв зловживання ШІ з боку хакерів чи зловмисників.
- Психологічна безпека: оцінка ризиків взаємодії людини з емпатичними чат-ботами.
- Координація релізів: розробка протоколів безпеки, без проходження яких нові ШІ-продукти не потраплять на ринок.
Розробники OpenAI хочуть створити гнучку систему захисту, яка розвиватиметься разом із технологіями, а не наздоганятиме їх після чергового гучного скандалу.
Підсумок
OpenAI відкрила вакансію Head of Preparedness для посилення контролю за безпекою своїх передових систем штучного інтелекту. Новий керівник очолить команду, яка прогнозуватиме катастрофічні ризики, боротиметься з використанням ШІ для кібератак та аналізуватиме вплив чат-ботів на психічне здоров’я людей. Сем Альтман наголосив, що оскільки традиційні методи тестування більше не здатні стримувати потенційні загрози, компанія розробляє нові протоколи безпеки для регулювання випуску майбутніх продуктів.
