Журналістське розслідування показало, що відео з розумних окулярів Ray-Ban Meta інколи переглядають люди. Йдеться про працівників аутсорсингової компанії в Кенії, які перевіряють записаний контент, щоб допомогти навчати системи штучного інтелекту Meta. Про це пише BBC.
У матеріалі шведських видань Svenska Dagbladet та Göteborgs-Posten стверджується, що модератори можуть бачити дуже приватні моменти з життя користувачів. Серед таких записів – сцени в спальнях, оголені люди або навіть відео, зняті під час перебування у ванній кімнаті.
Як працює перевірка контенту для AI
Розумні окуляри Ray-Ban Meta оснащені камерою та функціями штучного інтелекту. Пристрій може записувати фото й відео, а також допомагає користувачу отримувати інформацію про об’єкти навколо.
За словами Meta, частина контенту, яким користувачі діляться з AI-сервісами компанії, іноді може перевірятися людьми. Таку перевірку використовують для навчання алгоритмів штучного інтелекту, покращення точності розпізнавання зображень і контролю правильності відповідей AI. Цю роботу виконують спеціалісти, які вручну позначають об’єкти на зображеннях або оцінюють результати роботи систем штучного інтелекту.
Працівники повідомляють про доступ до приватних відео
Згідно з розслідуванням, частину цієї роботи виконує аутсорсингова компанія Sama з офісом у Найробі. Її співробітники переглядають відео та зображення, щоб допомогти системам AI правильно інтерпретувати побачене.
Один із працівників заявив, що модератори можуть бачити «все — від звичайних сцен у вітальні до оголених тіл». За словами співробітників, серед переглянутого контенту траплялися відео з людьми у ванній кімнаті або на унітазі, сцени інтимного характеру та записи з оголеними користувачами у спальнях. Іноді такі матеріали потрапляли до системи випадково – наприклад, коли окуляри залишалися увімкненими й продовжували записувати відео.
Meta: дані проходять фільтрацію
В Meta заявили, що серйозно ставляться до захисту приватності користувачів і перед перевіркою контент проходить автоматичну фільтрацію. За словами представників компанії, система може розмивати обличчя на зображеннях, приховувати персональні дані та відбирати лише необхідні приклади для навчання штучного інтелекту. Водночас деякі працівники, які брали участь у перевірці матеріалів, стверджують, що такі фільтри працюють не завжди, тому обличчя або інші персональні деталі іноді залишаються видимими.
Meta також наголошує, що фото й відео залишаються на пристрої користувача, якщо він сам не ділиться ними з AI-сервісами або іншими людьми.
