Губернатор штату Каліфорнія затвердив новий законопроєкт, який впроваджує перші у Сполучених Штатах Америки офіційні вимоги до прозорості генеративних систем. Нові правила набули чинності 13 жовтня 2025 року. Документ регулює передусім діяльність так званих AI-компаньйонів — інтерактивних програм, які імітують живе людське спілкування, повідомляє видання The Verge.
Головні вимоги та сфера дії каліфорнійського закону
Нормативний акт під номером SB 243, який запропонував сенатор Стів Паділья, зобов’язує розробників чітко інформувати користувачів про взаємодію з роботом. Якщо звичайна людина може сплутати штучний інтелект із реальним співрозмовником, компанія має показати помітне текстове попередження. Мета ініціативи полягає у підвищенні прозорості комунікацій та запобіганні психологічним маніпуляціям з боку автоматизованих систем.
| Сфера регулювання | Старі правила (до ухвалення закону) | Нові вимоги закону SB 243 |
|---|---|---|
| Ідентифікація бота | Чат-бот міг маскуватися під реальну людину без обмежень | Обов’язкове видиме попередження про використання ШІ |
| Контроль ментального здоров’я | Розробники не звітували про аналіз суїцидальних нахилів | Щорічне звітування перед Офісом із запобігання самогубствам |
| Доступність звітів | Вся статистика залишалася комерційною таємницею компанії | Офіційні органи оприлюднюють усі звіти у відкритому доступі |
Новий закон вводить додаткові заходи безпеки, які почнуть діяти з 2026 року. Власники платформ мають виконувати такі вимоги:
- систематично перевіряти діалоги користувачів на наявність ознак суїцидальних думок чи глибокого депресивного стану;
- розробити ефективні алгоритми негайного реагування та перенаправлення людини до служб екстреної психологічної допомоги;
- надсилати детальний щорічний звіт про захисні заходи до Офісу з питань запобігання самогубствам;
- своєчасно оновлювати бази знань ШІ для запобігання наданню шкідливих порад у сфері здоров’я.
Представники Офісу публікуватимуть усі отримані документи у відкритому доступі для незалежного громадського контролю.
Підсумок
У жовтні 2025 року влада штату Каліфорнія ухвалила закон SB 243, який зобов’язує розробників штучного інтелекту попереджати користувачів, що вони спілкуються з машиною, а не з реальною людиною. Ініціатива сенатора Стіва Падільї захищає користувачів від психологічних маніпуляцій з боку AI-компаньйонів. З 2026 року закон також впроваджує обов’язкове щорічне звітування компаній перед Офісом із запобігання самогубствам щодо моніторингу ментального стану клієнтів.
