Meta оголосила про оновлення правил взаємодії чат-ботів зі своїми користувачами-підлітками. Компанія зосередила увагу на посиленні захисту неповнолітніх після гучного журналістського розслідування щодо недоліків у політиці безпеки ШІ. Про це пише TechCrunch.
Які теми тепер заборонені для чат-ботів Meta
Відтепер чат-боти Meta не будуть обговорювати з підлітками наступні теми:
- самопошкодження;
- думки про самогубство;
- розлади харчової поведінки;
- неприйнятні романтичні або сексуалізовані розмови.
Ці обмеження набувають чинності як тимчасові заходи. Водночас у Meta пообіцяли незабаром запровадити постійні механізми захисту, орієнтовані на безпеку підлітків.
Коментар компанії: “Ми вчимося на помилках”
Прес-секретарка Meta Стефані Отвей визнала, що раніше чат-боти могли відповідати на такі запити в межах допустимого, однак компанія переосмислила свої підходи:
“Ми вдосконалюємо наші системи, вводимо додаткові обмеження та навчаємо ШІ не відповідати підліткам на чутливі теми. Натомість бот скеровуватиме користувача до перевірених фахових ресурсів”, — зазначила вона.
Meta також тимчасово обмежила доступ підлітків до лише перевірених AI-персонажів з акцентом на освіту та креативність.
