Meta использует анализ костей с помощью искусственного интеллекта для выявления несовершеннолетних пользователей

Meta, материнская компания Facebook и Instagram, объявила о значительном прогрессе в своих усилиях по защите молодых пользователей и соблюдению требований проверки возраста на своих платформах. Гигант социальных сетей представил сложную систему Анализ структуры костей с использованием искусственного интеллекта, предназначенную для идентификации фотографий и видео детей до 13 лет и предотвращения ведения ими учетных записей в ее сервисах. Эта технологическая инициатива представляет собой серьезный сдвиг в подходе компании к обеспечению безопасности детей и соблюдению нормативных требований в эпоху цифровых технологий.

В подробном сообщении в блоге, опубликованном во вторник, компания Meta представила механику этой новой системы обнаружения, объяснив, что ее технология искусственного интеллекта будет сканировать визуальный контент, размещенный в Facebook и Instagram, на предмет определенных показателей возраста. Система анализирует то, что Meta описывает как «общие темы и визуальные подсказки», присутствующие в загруженных фотографиях и видео, включая измеримые физические характеристики, такие как рост и общая структура костей. Этот комплексный подход направлен на создание более надежного барьера, препятствующего доступу несовершеннолетних пользователей к платформам, которые технически требуют, чтобы пользователи были старше 13 лет.

Компания уделяла особое внимание разъяснению природы и сферы применения этой технологии в ответ на проблемы конфиденциальности, которые уже давно окружают практику Meta. В своем заявлении Meta прямо заявила, что «это не распознавание лиц», подчеркнув важное отличие, которое отличает эту систему от более спорных технологий идентификации. Система ИИ для анализа костей не идентифицирует конкретных людей, анализируя их лица или создавая профили распознавания лиц, что может вызвать дополнительные проблемы конфиденциальности и регулирования, помимо тех, которые уже связаны с новой технологией.

Помимо визуального анализа, комплексный подход Meta к определению возраста распространяется на изучение текстового контента в различных элементах учетных записей пользователей и их взаимодействиях. Система будет анализировать сообщения, комментарии, биографии пользователей и подписи, чтобы выявить «контекстные подсказки», которые могут указывать на то, что пользователь несовершеннолетний и нарушает условия обслуживания платформы. Эта многоуровневая методика обнаружения сочетает в себе анализ изображений с обработкой естественного языка, создавая более сложную систему защиты, чем любая из технологий может обеспечить по отдельности. Изучая полный цифровой след активности пользователей, Meta стремится выявить случаи, когда одного только визуального контента может быть недостаточно для подтверждения возраста пользователя.

Эта инициатива представляет собой постоянный ответ Meta на растущее давление со стороны регулирующих органов и обеспокоенность общественности по поводу безопасности детей в социальных сетях. Правительства во всем мире усилили контроль над тем, как технологические компании защищают несовершеннолетних в Интернете, при этом многие юрисдикции вводят или рассматривают более строгие требования по проверке возраста. Технологию проверки возраста компании Meta можно рассматривать как превентивную меру, призванную продемонстрировать соблюдение существующих правил и ожидаемого будущего законодательства. Компания столкнулась с многочисленными судебными исками и расследованиями регулирующих органов, связанными с тем, как ее платформы влияют на молодых пользователей: от проблем с психическим здоровьем до нежелательного контента.

Техническая реализация этого анализа костной структуры включает в себя передовые модели машинного обучения, обученные распознавать закономерности физического развития, связанные с различными возрастными группами. Эти модели анализируют пропорции, показатели роста и маркеры зрелости скелета, видимые на фотографиях, без создания постоянных баз данных распознавания лиц. Технология компьютерного зрения, лежащая в основе этой системы, представляет собой многолетнюю разработку искусственного интеллекта, направленную на определение характеристик человека, сохраняя при этом защиту конфиденциальности, которую не могут гарантировать системы распознавания лиц.

Действие Meta происходит в то время, когда компания сталкивается с усиливающимся давлением со стороны защитников безопасности детей, регулирующих органов и законодателей, которые сомневаются в достаточной надежности существующих механизмов проверки возраста. Федеральная торговая комиссия, генеральные прокуроры штатов и международные регулирующие органы внимательно изучили практику Меты в отношении несовершеннолетних. Новое Определение возраста на основе искусственного интеллекта представляет собой техническое решение проблем с правоприменением, которые мешают усилиям компании по обеспечению соблюдения Закона о защите конфиденциальности детей в Интернете (COPPA) и аналогичных международных правил.

Однако внедрение этой технологии также поднимает важные вопросы о последствиях для конфиденциальности и соответствующем балансе между защитой детей и безопасностью пользовательских данных. Хотя Мета утверждает, что система не выполняет распознавание лиц, критики утверждают, что анализ структуры кости и другой биометрический анализ по-прежнему представляют собой серьезное вторжение в конфиденциальность. Сбор и обработка данных о физических характеристиках из миллионов фотографий и видео создают обширные наборы данных, которые потенциально могут быть использованы не по назначению, если меры безопасности не сработают или методы компании со временем изменятся.

Компания сообщила, что система будет постепенно внедряться на ее платформах, начиная с Facebook и Instagram. Мета предполагает, что эта технология будет работать в сочетании с существующими мерами безопасности и процессами проверки людьми, чтобы обеспечить точность и предотвратить ложные срабатывания. Сроки развертывания и конкретные технические детали того, как система будет интегрирована в существующую инфраструктуру модерации, остаются частично неясными, хотя Meta взяла на себя обязательство обеспечить прозрачность показателей производительности системы.

Отраслевые обозреватели отмечают, что подход Meta к анализу структуры кости значительно отличается от других методов проверки возраста, которые исследуют технологические компании и стартапы. Некоторые конкуренты сосредоточились на проверке документов, биометрическом анализе удостоверений личности, выданных государством, или распознавании моделей поведения. Подход визуального анализа Meta пытается сбалансировать эффективность с соображениями конфиденциальности, хотя заинтересованные стороны продолжают спорить о том, правильно ли достигнут этот баланс. Этот подход также отражает практическую реальность: многие несовершеннолетние пользователи создали учетные записи, используя ложную информацию, что делает традиционные методы проверки неэффективными.

В перспективе инвестиции Meta в ИИ для определения возраста могут стать образцом того, как другие социальные платформы подходят к соблюдению требований безопасности детей. Поскольку нормативное давление возрастает во всем мире, другие компании могут принять аналогичные технологические решения или разработать конкурирующие подходы. Эффективность системы Meta, скорее всего, повлияет на дискуссии регулирующих органов о том, представляет ли проверка возраста на основе ИИ жизнеспособный путь вперед или следует обязать более интрузивные процессы ручной проверки.

Это объявление также отражает более широкие отраслевые тенденции к использованию искусственного интеллекта для модерации контента и обеспечения безопасности пользователей. Meta уже развернула системы искусственного интеллекта для обнаружения разжигания ненависти, дезинформации и другого проблемного контента в больших масштабах. Расширение этой технологической инфраструктуры для проверки возраста представляет собой логическую эволюцию возможностей искусственного интеллекта компании, хотя и с четкими аспектами конфиденциальности и этики, которые требуют тщательного управления и контроля.

Поскольку Meta продолжает внедрять эту систему обнаружения анализа костей, компания будет сталкиваться с постоянным пристальным вниманием со стороны защитников конфиденциальности, регулирующих органов и организаций, занимающихся безопасностью детей. Успех этой инициативы будет зависеть не только от технической точности идентификации несовершеннолетних пользователей, но и от способности Meta поддерживать доверие общественности к тому, как она обращается с конфиденциальными биометрическими данными. Прозрачность компании в отношении работы системы, показателей производительности и мер защиты от неправомерного использования будет иметь решающее значение для поддержания легитимности среди заинтересованных сторон, которые по-прежнему скептически относятся к приверженности Meta защите детей.