Корпорація Meta вирішила посилити контроль за психологічним станом неповнолітніх користувачів. Компанія анонсувала запуск нової функції безпеки для соціальної мережі Instagram. Тепер батьки отримуватимуть екстрені сповіщення, якщо їхня дитина почне наполегливо шукати матеріали, пов’язані із самопошкодженням чи самогубством. Інструмент розгорнуть найближчими тижнями, проте працюватиме він лише в тих акаунтах, де активовано функцію батьківського нагляду.
Хоча соцмережа вже давно блокує прямі пошукові запити на тему суїциду, нова система діятиме превентивно. Вона фокусується на виявленні повторних спроб обійти заборону за короткий проміжок часу.
Алгоритм та канали доставки: як це влаштовано
ШІ-алгоритми Instagram моніторитимуть пошуковий рядок на предмет підозрілих слів, фраз чи завуальованих термінів. Якщо система виявить систематичний інтерес підлітка до небезпечної теми, вона негайно запустить процес інформування дорослих.
Для передачі тривожних сигналів розробники передбачили декілька незалежних каналів комунікації. Сповіщення міститимуть не лише опис ситуації, а й прямі лінки на методичні матеріали, розроблені дитячими психологами.
Особливості роботи нової системи безпеки Meta:
| Елемент системи | Опис та механіка роботи |
|---|---|
| Основний тригер | Систематичні повторні спроби знайти контент про суїцид чи самопошкодження за короткий час |
| Канали сповіщення | SMS-повідомлення, листи на e-mail, чати у WhatsApp та внутрішній пуш у додатку Instagram |
| Супутній контент | Методичні матеріали для батьків з порадами, як правильно почати розмову про ментальне здоров’я |
| Умови активації | Обов’язкове підключення профілю дитини до батьківського кабінету в Meta Family Center |
Новація має допомогти родинам вчасно помітити тривожні симптоми у поведінці дитини та запобігти біді на ранньому етапі.
Підсумок
Meta запроваджує в Instagram нову функцію батьківського нагляду, яка надсилатиме батькам повідомлення через e-mail, SMS, WhatsApp або пуш-повідомлення, якщо дитина кілька разів шукатиме заборонені теми про суїцид та самопошкодження. Окрім самого сигналу про небезпеку, батьки отримають доступ до експертних порад психологів для делікатної розмови, проте для активації інструменту профілі батьків та підлітка мають бути зв’язані через сервіс Family Center.
