Стрімкий зліт ChatGPT привернув увагу не лише мільйонів користувачів, а й американських регуляторів. Федеральна торгова комісія США (FTC) розпочала офіційне розслідування проти компанії OpenAI. Чиновники хочуть з’ясувати, чи не порушує розробник популярного чат-бота закони про захист прав споживачів, ставлячи під загрозу приватність, безпеку та репутацію людей.
Як повідомляє видання Washington Post, FTC надіслала OpenAI детальний 20-сторінковий запит на надання внутрішніх документів. Державні службовці вимагають пояснень, як стартап оцінює та контролює ризики, пов’язані з використанням великих мовних моделей. Головна підозра регулятора полягає в тому, що компанія могла застосовувати «недобросовісні або обманні» практики.
Які саме гріхи OpenAI розслідує комісія
Запит FTC містить десятки точкових питань. Насамперед чиновників цікавлять деталі березневого інциденту 2023 року, коли через критичний баг у системі стався витік конфіденційних даних користувачів ChatGPT Plus, включаючи історію діалогів та номери банківських карток. Хоча керівництво OpenAI запевняло, що постраждала мізерна кількість людей, регулятори хочуть перевірити реальні стандарти кібербезпеки компанії.
Крім витоків даних, під приціл потрапила проблема штучних галюцинацій. FTC вимагає надати відомості про всі скарги від реальних людей, репутація яких постраждала через брехню чат-бота. Алгоритми неодноразово приписували реальним особам неіснуючі кримінальні злочини, корупційні скандали чи вигадували неправдиві біографічні факти.
Головні напрямки розслідування FTC щодо OpenAI:
- Витоки конфіденційних даних: аналіз вразливостей, які призвели до компрометації історії чатів та платіжних даних користувачів.
- Наклеп і дезінформація: збір скарг на неправдиві заяви ChatGPT, що ганьблять честь і гідність конкретних осіб.
- Прозорість технології: оцінка того, наскільки добре користувачі поінформовані про схильність ШІ до вигадування фактів.
- Навчання моделей: перевірка джерел даних, які OpenAI використовує для тренування нейромереж.
Голова FTC Ліна Хан раніше неодноразово попереджала, що хоча генеративний ШІ пропонує нові інструменти, він також створює широке поле для шахрайства, дискримінаційної реклами та маніпуляцій. Якщо комісія виявить системні порушення, на OpenAI чекають мільйонні штрафи або жорсткі обмеження на розробку майбутніх моделей.
Це розслідування стане першим серйозним прецедентом державного нагляду за індустрією генеративного ШІ в США, що може змінити правила гри також для Google, Anthropic та інших розробників.
Підсумок
Федеральна торгова комісія США (FTC) ініціювала розслідування проти OpenAI з метою перевірки відповідності її діяльності законам про захист споживачів. Регулятори вимагають від компанії пояснень щодо березневого витоку платіжних даних користувачів ChatGPT та випадків генерації чат-ботом наклепницької дезінформації про реальних людей. Якщо комісія підтвердить використання недобросовісних або обманних практик з боку OpenAI, стартапу загрожують великі грошові штрафи та жорсткі приписи щодо зміни політики безпеки продуктів.
