Стартап OpenAI, який займається провідними дослідженнями у сфері штучного інтелекту, оголосив про створення спеціалізованої команди, метою якої є розробка стратегій та методів контролю над супер розумним штучним інтелектом (Super-Intelligent AI, SAI). Ця команда матиме за завдання визначити, як саме можна контролювати потужність і можливості SAI.
Лідерами цієї команди будуть Ілля Суцкевер, головний науковий співробітник OpenAI, та Ян Лейке, керівник відділу контролю над ШІ дослідницької лабораторії OpenAI. Вони об’єднають зусилля, щоб створити контролюючу структуру для SAI.
У OpenAI термін “супер розумний ШІ” використовується для опису штучного інтелекту, який має потенціал бути розумнішим ніж найрозумніша людина. Хоча на даний момент такий ШІ ще не створено, у OpenAI припускають, що він може з’явитися протягом наступного десятиріччя.
У рамках цього амбітного проекту, команда дослідників планує вирішити кілька важливих завдань. Серед них – створення масштабованого методу навчання ШІ близького до людського рівня, розробка системи виявлення проблемної поведінки та розробка системи контролю над узагальненнями.
Також у планах – робота над навчанням моделей, які “підуть проти людини” та приймають некоректні рішення. За допомогою цих моделей планується тестувати систему виявлення неправильної поведінки ШІ.
Очікується, що розроблені інструменти дозволять уникнути випадку, коли SAI виходить з-під контролю людей. Також ці інструменти можуть бути використані для контролю над іншими, менш розумними ШІ.
OpenAI планує працювати з попереднім обчисленням: методи та інструменти контролю SAI мають бути розроблені протягом найближчих чотирьох років. Команда, яка займається цим питанням, отримає 20% обчислювальної потужності OpenAI для виконання цієї важливої місії.
