Meta використовує AI Bone Analysis для видалення неповнолітніх користувачів

Meta впроваджує передову технологію штучного інтелекту для ідентифікації та видалення неповнолітніх користувачів зі своїх платформ, знаменуючи значну зміну в тому, як гігант соціальних мереж підходить до перевірки віку та безпеки дітей. Новий підхід компанії використовує складний аналіз структури кісток на основі штучного інтелекту для виявлення користувачів, які можуть вводити неправдиві дані про свій вік під час створення облікових записів або доступу до функцій із віковими обмеженнями. Цей інноваційний метод є однією з найдосконаліших автоматизованих систем визначення віку, які на сьогоднішній день застосовує велика технологічна компанія.

Використання штучного інтелекту для визначення віку відбувається в той момент, коли Meta стикається з дедалі більшою увагою з боку регуляторів, захисників безпеки дітей і батьків, які стурбовані тим, що неповнолітні користувачі мають доступ до платформ, призначених для дорослих. Традиційні методи перевірки віку, як-от вимога посвідчення особи державного зразка або використання даних про дати народження, виявилися недостатніми для запобігання неповнолітнім обходу вікових обмежень. Новий біометричний підхід Meta спрямований на усунення цих обмежень шляхом аналізу фізичних характеристик, які важко підробити або маніпулювати звичайними засобами.

Технологія аналізу структури кісток працює шляхом вивчення елементів скелета, видимих на зображеннях або відео, щоб оцінити вік і стадію розвитку користувача. Система штучного інтелекту аналізує різні скелетні маркери, які змінюються в дитинстві та в дорослому віці, дозволяючи алгоритму розрізняти молодших користувачів і дорослих з достатньою точністю. Цей тип біометричного аналізу вивчався в судовій медицині та антропології протягом десятиліть, але його застосування для модерування соціальних мереж є новим кроком у автоматизованій перевірці віку.

Розширення цих систем виявлення облікових записів підлітків на Facebook демонструє прагнення Meta застосувати вікові обмеження на всьому наборі платформ. Facebook, яка передує Instagram і має більш різноманітну вікову демографічну групу, історично стикався з неповнолітніми користувачами, які створювали облікові записи, незважаючи на встановлені вікові вимоги. Інтегруючи ті самі механіми виявлення на основі штучного інтелекту, які були випробувані й удосконалені на інших платформах, Meta прагне створити більш узгоджений і комплексний підхід до перевірки віку в усій своїй екосистемі.

Ініціатива Meta відображає ширші галузеві тенденції щодо впровадження більш складних технологічних рішень для модерування вмісту та безпеки користувачів. Компанія вклала значні кошти в системи машинного навчання, які можуть автоматично виявляти різні порушення політики, від виявлення ворожих висловлювань до розпізнавання вмісту, присвяченого експлуатації дітей. Система аналізу структури кісток відповідає цій ширшій структурі використання розширеного ШІ для безпеки платформи, хоча вона викликає унікальні питання щодо конфіденційності та використання біометричних даних.

Запровадження цієї технології потребує ретельного розгляду наслідків конфіденційності та потенційних етичних проблем. Батьки та захисники конфіденційності висловили неоднозначну реакцію на підхід Meta: деякі вважали це необхідним кроком для захисту дітей, а інші стурбовані збором та аналізом біометричних даних без явної згоди. Компанія заявила, що аналіз виконується на пристрої та що зображення не зберігаються з метою створення біометричної бази даних, хоча незалежна перевірка цих тверджень залишається обмеженою.

Регулятори в різних юрисдикціях почали ретельно перевіряти, як платформи соціальних мереж обробляють перевірку віку користувачів і захист молоді. Закон Європейського Союзу про цифрові послуги та подібні норми в інших регіонах встановлюють суворіші вимоги до платформ щодо перевірки віку користувачів і захисту неповнолітніх. Проактивне впровадження Meta технології виявлення структури кісток можна розглядати як спробу випередити нормативні вимоги та продемонструвати прихильність до безпеки дітей законодавцям і громадськості.

Точність технології є ще одним важливим фактором для впровадження. Хоча аналіз структури кісток може дати обґрунтовані оцінки вікових категорій, індивідуальні відмінності та такі фактори, як гормональні стани, можуть впливати на розвиток скелета. Meta публічно не оприлюднила конкретні показники точності своєї системи, що ускладнює зовнішнім спостерігачам оцінку того, чи зможе вона надійно розрізняти неповнолітніх і дорослих користувачів. Можливість хибно-позитивних і хибно-негативних результатів може мати значні наслідки для законних користувачів.

Конкуренти в соціальних мережах уважно стежать за розгортанням Meta цієї технології, оскільки подібні рішення можуть стати галузевими стандартами, якщо вони будуть ефективними. TikTok, YouTube, Snapchat та інші платформи зі значною аудиторією молоді також стикаються з тиском щодо впровадження кращих систем перевірки віку. Успіх чи невдача підходу Meta може вплинути на те, як інші компанії вирішать проблему недопущення неповнолітніх користувачів до платформ і вмісту з віковими обмеженнями.

Поширення Meta на Facebook спеціально націлено на платформу, яка вже давно бореться з неповнолітніми користувачами, незважаючи на заявлений мінімальний вік 13 років. Молоді користувачі виявили відносно легке створення облікових записів Facebook за допомогою фальшивих дат народження, а платформа має обмежені автоматизовані системи для виявлення та видалення таких облікових записів. Інтеграція аналізу кісткової структури штучного інтелекту у Facebook може значно покращити дотримання вікових обмежень на платформі, яка слугує воротами до екосистеми Meta.

Компанія зазначила, що ця система виявлення працюватиме в поєднанні з існуючими заходами безпеки, а не замінить їх повністю. Перевірка персоналом, повідомлення спільноти та інші методи перевірки й надалі відіграватимуть важливу роль у виявленні неповнолітніх користувачів. Багаторівневий підхід відображає складність перевірки віку в масштабі, де жодне технологічне рішення не може бути повністю надійним або відповідним для всіх ситуацій.

Надалі Meta потрібно буде збалансувати свою відданість захисту дітей із правами конфіденційності користувачів і проблемами практичного впровадження глобального розгортання складних систем ШІ. Готовність компанії інвестувати в передові технології для цієї мети демонструє визнання того, що перевірка віку є критично важливим компонентом відповідального управління платформою. Чи стане цей підхід моделлю для галузі чи зіткнеться зі значними регуляторними чи технічними проблемами, ще належить побачити, оскільки система проходитиме ширше тестування та розгортання на платформах Meta.