ШІ-система Meta аналізує структуру тіла

Meta, материнська компанія Facebook і Instagram, оприлюднила інноваційний підхід до захисту неповнолітніх на своїх платформах, використовуючи технологію штучного інтелекту, розроблену для аналізу фізичних характеристик користувачів. Система перевіряє візуальні показники, зокрема зріст і структуру кісток, щоб визначити, чи можуть люди, які мають доступ до платформи, бути неповнолітніми, що є значним прогресом у заходах цифрової безпеки.

Ця система візуального аналізу представляє останню спробу Meta боротися з доступом неповнолітніх до платформ, які офіційно обмежені для користувачів віком від 13 років. Компанія підтвердила, що технологія наразі працює в окремих країнах світу, хоча керівники зазначили, що ширше розширення залишається пріоритетом на найближчі місяці. Стратегія розгортання свідчить про те, що Meta використовує обережний, виважений підхід до впровадження цього суперечливого нового механізму перевірки.

Запровадження цієї технології перевірки віку відбувається в той момент, коли платформи соціальних мереж стикаються зі зростаючим тиском з боку регуляторів, батьків і захисників безпеки дітей у всьому світі. Багато юрисдикцій почали вводити суворіші вимоги до платформ для демонстрації надійних механізмів вікового обмеження та протоколів захисту дітей. Інвестиції Meta у фізичний аналіз на основі штучного інтелекту представляють собою спробу вирішити ці проблеми, зберігаючи конфіденційність користувачів і мінімізуючи помилкові спрацьовування, які можуть розчарувати повнолітніх користувачів.

Технічна структура, що лежить в основі цієї системи, використовує розширені алгоритми машинного навчання, які пройшли навчання на великих наборах даних для розпізнавання закономірностей фізичного розвитку, пов’язаних з різними віковими групами. Ці алгоритми аналізують різні біометричні маркери, отримані за допомогою надісланих користувачами фотографій або відеоконтенту, включаючи пропорційні співвідношення між сегментами тіла, показники зрілості скелета та характеристики росту, які зазвичай корелюють з певними віковими діапазонами. Модель ШІ намагається визначити етапи розвитку, які статистично пов’язані з дитинством або ранньою юністю.

Мета вказує, що система функціонує як один компонент у комплексній стратегії визначення віку, яка включає кілька рівнів перевірки. Компанія підкреслює, що візуальний аналіз не працює ізольовано, а скоріше працює в поєднанні з іншими методами, такими як перевірка документів, аналіз поведінкових шаблонів і перевірка соціальних мереж. Цей багаторівневий підхід має на меті підвищити точність, одночасно зменшуючи залежність від будь-якого окремого методу виявлення, який можна обійти або дати неточні результати.

Прихильники конфіденційності та технічні експерти підняли кілька важливих міркувань щодо цієї технології. Збір і аналіз біометричних даних, навіть з метою захисту, є суттєвим розширенням практик збору даних, які, на думку деяких, можуть створити ризики конфіденційності для всіх користувачів. Крім того, висловлюються занепокоєння щодо можливих дискримінаційних результатів, оскільки фізичний розвиток значно відрізняється в різних етнічних групах, географічних регіонах та індивідуальних обставинах, що потенційно може призвести до хибнопозитивних або хибнонегативних результатів.

Поточна пілотна програма в окремих країнах дозволяє Meta перевірити ефективність системи та збирати дані про її реальну продуктивність перед тим, як поширюватися на ширшу базу користувачів. Цей поетапний підхід дозволяє компанії виявляти та вирішувати технічні проблеми, вдосконалювати алгоритми та розробляти протоколи для обробки граничних випадків і неоднозначних результатів. Повідомляється, що інженерні групи Meta збирають відгуки про ранні розгортання, щоб підвищити точність і мінімізувати випадки, коли система неправильно позначає повнолітніх користувачів або не ідентифікує неповнолітніх.

Регуляторні органи в багатьох країнах з обережним інтересом відреагували на оголошення Meta, хоча деякі висловили скептицизм щодо того, чи є лише візуальний аналіз адекватною перевіркою віку. Європейські регулятори, зокрема, підкреслили, що ефективна перевірка віку повинна передбачати ідентифікацію, яку можна перевірити, і що підходи лише з біометричними показниками можуть не відповідати новим правовим стандартам захисту дітей у цифровому середовищі. Закон про цифрові послуги та подібні нормативні рамки підштовхують платформи до більш надійних, задокументованих механізмів перевірки віку.

Оглядачі галузі відзначають, що цей розвиток відображає ширший перехід до систем модерації контенту та безпеки користувачів на основі AI на основних платформах соціальних мереж. Конкуренти, зокрема TikTok, YouTube і Snapchat, подібним чином інвестували в технології штучного інтелекту, призначені для ідентифікації та керування контентом, пов’язаним з неповнолітніми. Однак особлива увага до аналізу фізичних характеристик за допомогою візуального огляду є більш нав’язливим підходом, ніж публічно прийнятий багатьма конкуруючими платформами, що викликає запитання щодо галузевих стандартів і найкращих практик.

Прагнення Meta розширити цю технологію говорить про те, що компанія розглядає інновацію перевірки віку як важливу конкурентну та регуляторну перевагу. Платформа піддалася серйозній перевірці після численних звітів про шкоду, пов’язану з використанням соціальних мереж неповнолітніми, включаючи вплив на психічне здоров’я, вплив неприйнятного контенту та кіберзалякування. Демонструючи проактивні інвестиції в технології виявлення, Meta прагне позиціонувати себе як відповідального учасника, який зобов’язаний захистити дітей, потенційно впливаючи на регулятивні оцінки зусиль компанії щодо відповідності.

Терміни ширшого розгортання залишаються невизначеними, а Meta заявляє лише, що розширення відбуватиметься, коли система дозріє та доведе свою ефективність для різних груп користувачів. Компанія не розкрила, які країни наразі беруть участь у пілотній програмі, а також не надала детальних показників щодо показників точності системи чи відсотків помилкових позитивних результатів. Більша прозорість щодо цих робочих деталей, ймовірно, усуне занепокоєння захисників конфіденційності та регуляторних органів, які контролюють впровадження технології.

У майбутньому успіх системи візуального аналізу Meta може вплинути на те, як інші технологічні компанії підходять до перевірки віку. Якщо технологія виявиться ефективною та зручною для регулювання, інші платформи можуть застосувати подібні підходи, потенційно створивши загальногалузеві стандарти для визначення віку за допомогою ШІ. І навпаки, якщо впровадження виявить значні проблеми з точністю або конфіденційністю, регулятори можуть запровадити обмеження, що обмежують розгортання таких технологій у галузі соціальних мереж.

Оголошення Meta відображає визнання компанії того, що традиційні методи перевірки віку виявилися недостатніми для захисту неповнолітніх на її платформах. Перевірка документів залишається обмеженою через опір користувачів і проблеми конфіденційності, тоді як сам по собі аналіз поведінки не може достовірно відрізнити молодих підлітків від дорослих із молодими характеристиками. Інтеграція візуального аналізу в інфраструктуру безпеки Meta є підтвердженням того, що для вирішення проблеми доступу неповнолітніх потрібні технологічно складні, багатогранні підходи, а не просто покладатися на чесність користувачів під час створення облікового запису.