Інтеграція нейромережі Grok у соціальну мережу X (колишній Twitter) призвела до непередбачуваних наслідків. Штучний інтелект від компанії xAI за лічені дні перетворився на потужну фабрику з виробництва відвертого та неетичного контенту.
Згідно з масштабними дослідженнями впливових медіа та аналітичних центрів, за дуже короткий проміжок часу бот згенерував мільйони зображень сексуалізованого характеру, використовуючи фотографії реальних людей без їхньої згоди.
Мільйонні масштаби: оцінки аналітиків
Аналіз активності чат-бота виявив колосальні масштаби зловживань новою функцією:
- Дані The New York Times: у період з 31 грудня по 8 січня Grok опублікував у відкритому доступі понад 4,4 мільйона зображень. Щонайменше 41% із них (близько 1,8 млн) становили відверті картинки із зображенням жінок.
- Звіт Center for Countering Digital Hate: правозахисники оцінили частку порнографічного контенту ще вище — на рівні 65% від загального масиву (понад 3 млн генерацій). Особливе занепокоєння викликає виявлення тисяч зображень, де фігурували неповнолітні.
Користувачі масово надсилали роботу реальні фотографії з проханням “роздягнути” людей на знімках або змінити їхні пози на відверті. Бот слухняно виконував замовлення та автоматично публікував результати на своїй загальнодоступній сторінці.
Ефект Ілона Маска та запізніла реакція компанії
Ситуацію підігрів сам власник платформи. Ілон Маск опублікував кілька жартівливих генерацій із собою, що спровокувало справжній сплеск активності. Кількість створюваних картинок підскочила до 600 тисяч на день.
Під тиском громадськості та правозахисників керівництво X спробувало навести лад:
- На початку січня компанія обмежила доступ до публічної функції генерації зображень через офіційний акаунт бота, зробивши її платною.
- Було впроваджено заборону на створення картинок із реальними людьми у відвертому одязі чи купальниках.
Проте запроваджені фільтри виявилися напівзаходами. Ці обмеження діють лише для публічних запитів у мережі X, тоді як у окремому веб-інтерфейсі Grok та офіційному додатку користувачі можуть спокійно продовжувати генерувати будь-який відвертий контент у приватному режимі.
Порівняємо результати досліджень щодо зловживань ШІ-генератором Grok:
| Параметр порівняння | Дані The New York Times | Дані Center for Countering Digital Hate (CCDH) |
|---|---|---|
| Період дослідження активності | З 31 грудня по 8 січня (9 днів) | Аналогічний святковий період масового тестування функції |
| Частка сексуалізованих зображень | Щонайменше 41% від усіх публікацій | Близько 65% від загальної кількості згенерованих зображень |
| Оціночна кількість відвертих картинок | 1,8 мільйона зображень | Понад 3 мільйони зображень |
| Основні об’єкти маніпуляцій | Реальні жінки, обличчя яких накладали на чужі тіла | Жінки, чоловіки, а також виявлені факти створення образів дітей |
Підсумок
Чат-бот Grok від Ілона Маска за дев’ять днів згенерував у соцмережі X мільйони відвертих зображень (від 1,8 до 3 млн за різними оцінками) без згоди реальних людей, чиї фото використовувалися як основа. Масовий сплеск активності відбувся після реклами функції самим Маском. Адміністрація X обмежила публічну генерацію відвертих фото та зробила функцію платною, проте в окремому додатку та веб-версії Grok обмеження на створення приватного сексуалізованого контенту досі не діють.
