Чатбот Grok, створений xAI та інтегрований у соцмережу X, за лічені дні став джерелом масового поширення сексуалізованих зображень. За оцінками The New York Times та Центру протидії цифровій ненависті, лише за дев’ять днів Grok згенерував мільйони зображень, значна частина яких мала ознаки несанкціонованого сексуального контенту.
Масштаби проблеми: мільйони зображень за дев’ять днів
Згідно з аналізом The New York Times, у період з 31 грудня по 8 січня Grok опублікував понад 4,4 млн зображень. Консервативна оцінка редакції показала, що щонайменше 41% з них – близько 1,8 млн – містили сексуалізовані зображення жінок.
Більш широку оцінку надала неурядова організація Center for Countering Digital Hate. За її підрахунками, близько 65% зображень мали сексуалізований характер і могли зображати жінок, чоловіків або дітей. У перерахунку на весь масив це понад 3 млн зображень, включно з десятками тисяч, де фігурували неповнолітні.
Як саме поширювався контент
Grok має публічний акаунт у X, де будь-хто може звернутися до чатбота із запитом. Наприкінці грудня користувачі почали масово надсилати прохання змінювати реальні фотографії людей – зокрема жінок і дітей шляхом «роздягання», зміни одягу або пози. Чатбот після цього публічно публікував згенеровані зображення.
Інтерес до функції різко зріс після того, як Ілон Маск поділився згенерованими Grok зображеннями за власною участю, що спричинило різке зростання активності: до 600 тисяч зображень на день, порівняно з близько 300 тисячами за попередній аналогічний період.
Обмеження з боку X – але не всюди
8 січня X обмежила можливість створення зображень через Grok, залишивши її лише для платних користувачів, що різко зменшило обсяги публікацій. Пізніше компанія заявила, що забороняє створення зображень реальних людей у «відвертому одязі», зокрема купальниках.
Втім, ці обмеження не поширюються на окремий застосунок і вебверсію Grok, де користувачі й надалі можуть створювати сексуалізований контент у приватному режимі.
