Meta 的人工智能系统分析身体结构

Meta 部署人工智能来检查身高和骨骼成分,以检测未成年用户。该安全功能目前正在特定地区进行测试。
Meta 推出了一种创新方法,通过部署旨在分析用户身体特征的人工智能技术来保护其平台上的未成年人。该系统检查包括身高和骨骼结构在内的视觉指标,以确定访问该平台的个人是否未成年,这代表了数字安全措施的重大进步。
这个可视化分析系统代表了 Meta 为打击未成年人访问官方限制 13 岁及以上用户的平台而做出的最新努力。该公司已确认该技术目前已在全球部分国家/地区投入使用,但高管表示,更广泛的扩张仍然是未来几个月的首要任务。推出策略表明 Meta 正在采取谨慎、谨慎的方法来实施这一有争议的新筛选机制。
这项年龄验证技术的实施正值社交媒体平台面临来自全球监管机构、家长和儿童安全倡导者越来越大的压力之际。许多司法管辖区已开始对平台实施更严格的要求,以展示强大的年龄限制机制和儿童保护协议。 Meta 对人工智能驱动的物理分析的投资代表了解决这些问题的尝试,同时维护用户隐私并最大限度地减少可能让合法成年用户感到沮丧的误报。
该系统的技术框架利用了先进的机器学习算法,这些算法已经在广泛的数据集上进行了训练,可以识别与不同年龄组相关的身体发育模式。这些算法分析通过用户提交的照片或视频内容捕获的各种生物特征标记,包括身体部位之间的比例关系、骨骼成熟度指标以及通常与特定年龄范围相关的生长特征。 AI 模型试图识别与童年或青春期早期统计相关的发育阶段。
Meta 表示,该系统作为综合年龄检测策略的一个组成部分,包含多个验证层。该公司强调,视觉分析并不是孤立运行的,而是与文档验证、行为模式分析和社交网络验证等其他方法结合使用。这种多层方法旨在提高准确性,同时减少对任何可能被规避或产生不准确结果的单一检测方法的依赖。
隐私倡导者和技术专家提出了有关该技术的几个重要考虑因素。生物识别数据的收集和分析,即使是出于保护目的,也代表了数据收集实践的显着扩展,一些人认为这可能会给所有用户带来隐私风险。此外,人们还担心潜在的歧视性结果,因为不同种族、地理区域和个人情况之间的身体发育差异很大,可能导致误报或漏报。
当前在选定国家/地区进行的试点计划允许 Meta 测试系统的有效性并收集有关其实际性能的数据,然后再扩展到更广泛的用户群。这种分阶段的方法使公司能够识别和解决技术问题、完善算法并开发处理边缘情况和模糊结果的协议。据报道,Meta 的工程团队正在收集早期部署的反馈,以提高准确性并最大限度地减少系统错误标记成人用户或无法识别未成年用户的情况。
多个国家的监管机构对 Meta 的公告做出了谨慎的反应,尽管有些人对视觉分析本身是否构成充分的年龄验证表示怀疑。欧洲监管机构特别强调,有效的年龄验证应涉及可验证的身份识别,并且仅使用生物识别方法可能无法满足数字环境中儿童保护的新兴法律标准。 《数字服务法案》和类似的监管框架正在推动平台走向更强大、记录在案的年龄验证机制。
行业观察家指出,这一发展反映了主要社交媒体平台向人工智能驱动的内容审核和用户安全系统的更广泛转变。 TikTok、YouTube 和 Snapchat 等竞争对手也同样投资了人工智能技术,旨在识别和管理与未成年人相关的内容。然而,通过目视检查对身体特征分析的具体关注比许多竞争平台公开采用的方法更具侵入性,引发了对行业标准和最佳实践的质疑。
Meta 对扩展这项技术的承诺表明该公司将年龄验证创新视为关键的竞争和监管优势。在大量报告记录了未成年人使用社交媒体带来的危害(包括心理健康影响、接触不当内容和网络欺凌)后,该平台受到了严格审查。通过展示对检测技术的积极投资,Meta 旨在将自己定位为致力于儿童保护的负责任的参与者,并可能影响对公司合规工作的监管评估。
更广泛推出的时间表尚未明确,Meta 仅表示,随着系统成熟并证明其在不同用户群体中的有效性,将会进行扩展。该公司尚未透露目前哪些国家正在参与该试点计划,也没有提供有关系统准确率或误报百分比的详细指标。这些操作细节的更大透明度可能会解决隐私倡导者和监管技术部署的监管机构的担忧。
展望未来,Meta 视觉分析系统的成功可能会影响其他科技公司应对年龄验证挑战的方式。如果该技术被证明有效且易于监管,其他平台可能会采用类似的方法,从而有可能为人工智能驱动的年龄检测创建全行业标准。相反,如果实施过程中发现严重的准确性问题或隐私问题,监管机构可能会实施限制措施,限制此类技术在社交媒体行业的部署。
Meta 的公告反映了该公司认识到传统的年龄验证方法已被证明不足以保护其平台上的未成年人。文件验证仍然受到用户抵制和隐私问题的限制,而仅靠行为分析无法可靠地区分青少年和具有年轻特征的成年人。将可视化分析集成到 Meta 的安全基础设施中表明,解决未成年人访问问题需要采用复杂的技术、多方面的方法,而不是简单地依赖用户在帐户创建过程中的诚实性。
来源: TechCrunch

