У США розгортається новий конфлікт навколо модерації контенту в застосунках зі штучним інтелектом. Група американських сенаторів звернулася до Apple та Google з вимогою прибрати застосунки X і Grok із їхніх магазинів через можливість масового створення сексуалізованих зображень без згоди людей, зокрема жінок і дітей. Про це пише MacRumors.
У чому звинувачують X і Grok
Основна претензія сенаторів стосується роботи інструментів генерації зображень у сервісі X та пов’язаному з ним ШІ-продукті Grok. За повідомленнями медіа, ці інструменти використовувалися для створення сексуалізованих зображень жінок і дітей без їхньої згоди.
За словами сенаторів, інструменти генерації зображень у застосунках X та Grok не мали достатніх технічних обмежень для запобігання зловживанням, що, на їхню думку, робить такі матеріали шкідливими та ймовірно незаконними.
Реакція X на скандал
Після хвилі критики X частково обмежила функціональність Grok. За даними журналістів, можливість генерувати зображення у відповідь на публікації в соцмережі стала недоступною для безплатних користувачів.
Втім, попри часткові обмеження, інструменти генерації зображень і далі залишаються доступними для платних користувачів X, працюють у спеціальній вкладці Grok всередині застосунку та повністю функціональні в окремому застосунку Grok, що, на думку сенаторів, свідчить про недостатні кроки компанії для запобігання зловживанням.
Порушення правил App Store і Google Play
У листі сенатори наголошують, що подібні можливості порушують правила Apple та Google, які забороняють образливий, відверто неприйнятний і сексуалізований контент, підкреслюючи, що бездіяльність у цьому випадку ставить під сумнів заяви компаній про безпечніше середовище їхніх магазинів застосунків порівняно з альтернативними способами встановлення програм.
