Соціальна мереж знову X опинилася в центрі гучного скандалу через роботу свого чатбота Grok. За даними аналізу, інструмент масово генерував зображення людей, яких було роздягнено за допомогою штучного інтелекту – без їхньої згоди та часто без можливості ефективного видалення такого контенту.
Масштаби проблеми
Як повідомляє Bloomberg, згідно з аналізом дослідників, протягом 24 годин бот Grok публікував у середньому близько 6 700 зображень щогодини, які були ідентифіковані як сексуалізовані або такі, що імітують оголення. Для порівняння, на інших популярних сайтах подібного контенту з’являлося в середньому 79 нових зображень на годину за той самий період.
Юристи та експерти з цифрової безпеки називають масштаби цього явища безпрецедентними, наголошуючи, що поєднання безкоштовного доступу до ШІ та вбудованої системи поширення контенту створило небезпечний ефект.
Чому Grok відрізняється від інших ШІ
На відміну від багатьох інших генеративних моделей, Grok має мінімальні обмеження щодо створення сексуалізованого контенту із зображеннями реальних людей. За словами представників дослідницьких організацій, такі компанії, як Anthropic, OpenAI та Google, намагаються обмежувати подібні сценарії ще на етапі генерації.
У випадку з Grok підхід інший. Сам Маск неодноразово позиціонував чатбот як «більш вільний» і менш цензурований, що, за оцінками критиків, призвело до фактичної відсутності ефективних запобіжників.
Реакція платформи та позиція Маска
Платформа X не надала офіційних коментарів щодо масштабів проблеми. Водночас Маск заявляв, що відповідальність має нести користувач, який замовляє незаконний контент, а не сам інструмент.
Однак експерти зазначають: для жертв це мало що змінює. Повідомлення про порушення часто залишаються без відповіді, а зображення – доступними для перегляду.
Історії постраждалих
Кілька користувачок X розповіли, що виявили змінені Grok зображення себе у стрічці платформи без будь-якого попередження. За їхніми словами, скарги, блокування акаунтів і навіть звернення безпосередньо до Grok у коментарях не призводили до видалення контенту.
Деякі жертви зазначають, що ситуація ускладнюється для людей, які публікують власні фото в професійних або творчих цілях: це помилково сприймається іншими як дозвіл на подальшу сексуалізацію.
