Meta utiliza análisis óseo de IA para eliminar a los usuarios menores de edad

Meta está implementando tecnología de inteligencia artificial de vanguardia para identificar y eliminar a los usuarios menores de edad de sus plataformas, lo que marca un cambio significativo en la forma en que el gigante de las redes sociales aborda la verificación de la edad y la seguridad infantil. El nuevo enfoque de la empresa aprovecha el sofisticado análisis de la estructura ósea impulsado por IA para detectar usuarios que pueden estar tergiversando su edad al crear cuentas o acceder a funciones restringidas por edad. Este método innovador representa uno de los sistemas automatizados de detección de edad más avanzados implementados por una importante empresa de tecnología hasta la fecha.

El uso de inteligencia artificial para la detección de la edad se produce en un momento en que Meta se enfrenta a un escrutinio cada vez mayor por parte de reguladores, defensores de la seguridad infantil y padres preocupados por el acceso de usuarios menores de edad a plataformas diseñadas para adultos. Los métodos tradicionales de verificación de la edad, como exigir una identificación emitida por el gobierno o basarse en fechas de nacimiento autoinformadas, han demostrado ser inadecuados para evitar que los menores eludan las restricciones de edad. El nuevo enfoque biométrico de Meta tiene como objetivo abordar estas limitaciones mediante el análisis de características físicas que son difíciles de falsificar o manipular por medios convencionales.

La

tecnología de análisis de la estructura ósea funciona examinando las características esqueléticas visibles en imágenes o videos para estimar la edad y la etapa de desarrollo de un usuario. El sistema de inteligencia artificial analiza varios marcadores esqueléticos que cambian durante la infancia y la edad adulta, lo que permite que el algoritmo distinga entre usuarios más jóvenes y adultos con una precisión razonable. Este tipo de análisis biométrico se ha estudiado en la ciencia forense y la antropología durante décadas, pero su aplicación a la moderación de las redes sociales representa una nueva frontera en la verificación automatizada de la edad.

La expansión de estos sistemas de detección de cuentas de adolescentes a Facebook demuestra el compromiso de Meta de hacer cumplir las restricciones de edad en todo su conjunto de plataformas. Facebook, que es anterior a Instagram y tiene un grupo demográfico de edades más diverso, históricamente ha tenido problemas con la creación de cuentas por parte de usuarios menores de edad a pesar de los requisitos de edad establecidos. Al integrar los mismos mecanismos de detección basados en IA que se han probado y perfeccionado en otras plataformas, Meta pretende crear un enfoque más coherente e integral para la verificación de la edad en todo su ecosistema.

La iniciativa de Meta refleja tendencias más amplias de la industria hacia la implementación de soluciones tecnológicas más sofisticadas para la moderación de contenido y la seguridad del usuario. La empresa ha invertido mucho en sistemas de aprendizaje automático que pueden identificar automáticamente diversas violaciones de políticas, desde detectar discursos de odio hasta reconocer contenido de explotación infantil. El sistema de análisis de la estructura ósea encaja dentro de este marco más amplio de uso de IA avanzada para la seguridad de la plataforma, aunque plantea preguntas únicas sobre la privacidad y el uso de datos biométricos.

La implementación de esta tecnología requiere una cuidadosa consideración de las implicaciones de privacidad y las posibles preocupaciones éticas. Los padres y defensores de la privacidad han expresado reacciones encontradas ante el enfoque de Meta: algunos lo ven como un paso necesario para proteger a los niños, mientras que otros se preocupan por la recopilación y el análisis de datos biométricos sin consentimiento explícito. La empresa ha declarado que el análisis se realiza en el dispositivo y que las imágenes no se almacenan con el fin de crear una base de datos biométrica, aunque la verificación independiente de estas afirmaciones sigue siendo limitada.

Los reguladores de varias jurisdicciones han comenzado a examinar cómo las plataformas de redes sociales manejan la verificación de la edad de los usuarios y la protección de los jóvenes. La Ley de Servicios Digitales de la Unión Europea y regulaciones similares en otras regiones imponen requisitos más estrictos a las plataformas para verificar la edad de los usuarios y proteger a los menores. El despliegue proactivo de Meta de tecnología de detección de estructuras óseas puede verse como un esfuerzo para adelantarse a los requisitos reglamentarios y demostrar a los legisladores y al público su compromiso con la seguridad infantil.

La precisión de la tecnología presenta otra consideración importante para la implementación. Si bien el análisis de la estructura ósea puede proporcionar estimaciones razonables de las categorías de edad, la variación individual y factores como las condiciones hormonales pueden afectar el desarrollo esquelético. Meta no ha revelado públicamente las tasas de precisión específicas de su sistema, lo que dificulta que los observadores externos evalúen si distinguirá de manera confiable entre usuarios menores y adultos. La posibilidad de que se produzcan falsos positivos y falsos negativos podría tener consecuencias importantes para los usuarios legítimos.

Los competidores en el espacio de las redes sociales están observando de cerca el lanzamiento de esta tecnología por parte de Meta, ya que soluciones similares podrían convertirse en estándares de la industria si demuestran ser efectivas. TikTok, YouTube, Snapchat y otras plataformas con importantes audiencias juveniles también enfrentan presión para implementar mejores sistemas de verificación de edad. El éxito o el fracaso del enfoque de Meta podría influir en cómo otras empresas abordan el desafío de mantener a los usuarios menores de edad fuera de plataformas y contenidos restringidos por edad.

La expansión de Meta a Facebook apunta específicamente a una plataforma que durante mucho tiempo ha tenido problemas con usuarios menores de edad a pesar de su requisito de edad mínima establecido de 13 años. A los usuarios más jóvenes les ha resultado relativamente fácil crear cuentas de Facebook utilizando fechas de nacimiento falsas, y la plataforma tiene sistemas automatizados limitados para detectar y eliminar dichas cuentas. La integración del análisis de estructura ósea mediante IA en Facebook podría mejorar significativamente la aplicación de las restricciones de edad en una plataforma que sirve como puerta de entrada al ecosistema de Meta.

La empresa ha indicado que este sistema de detección funcionará junto con las medidas de seguridad existentes en lugar de reemplazarlas por completo. La revisión humana, los informes comunitarios y otros métodos de verificación seguirán desempeñando un papel importante en la identificación de usuarios menores de edad. El enfoque de múltiples niveles refleja la complejidad de la verificación de la edad a escala, donde ninguna solución tecnológica puede ser completamente confiable o apropiada para todas las situaciones.

En el futuro, Meta necesitará equilibrar su compromiso con la protección infantil con los derechos de privacidad de los usuarios y los desafíos de implementación práctica que supone implementar sistemas complejos de IA a nivel mundial. La voluntad de la empresa de invertir en tecnología avanzada para este fin demuestra el reconocimiento de que la verificación de la edad es un componente fundamental de la gestión responsable de la plataforma. Queda por ver si este enfoque se convierte en un modelo para la industria o enfrenta importantes desafíos regulatorios o técnicos a medida que el sistema se somete a pruebas e implementación más amplias en las plataformas de Meta.