专家要求 Meta 加强人工智能视频监管

Facebook 的母公司

Meta 面临着来自其顾问委员会的越来越大的压力，要求其改进其平台上人工智能生成视频的监管方法。董事会警告称，Meta 目前的方法是不够的，特别是在危机或活动频繁的时期。

随着技术变得更加复杂和易于使用，深度伪造和其他受操纵的人工智能媒体的问题多年来一直受到越来越多的关注。这些捏造的视频可用于传播错误信息、冒充公众人物并煽动社会不和，对 Facebook、Instagram 和 WhatsApp 等平台构成重大挑战。

在最新报告中，Meta 的监督委员会强调，公司需要加强人工智能生成内容的政策和执行机制。董事会指出，Meta 当前的系统经常难以检测和删除这些被操纵的视频，尤其是在引人注目的事件或危机时刻。

监督委员会发现的关键问题之一是 Meta 依赖用户报告来识别有问题的 AI 生成内容。这种方法可能缓慢且无效，特别是当恶意行为者快速创建和传播虚假视频时。董事会建议 Meta 投资于更主动、更复杂的检测工具，以在深度伪造品和其他人工智能操纵的媒体广泛传播之前识别它们。

此外，监督委员会还呼吁 Meta 围绕人工智能生成内容的标签和处理制定更清晰、更一致的政策。目前，该公司的方法可能不一致，导致混乱，并有可能漏掉有害的错误信息。

人工智能驱动的虚假信息的威胁日益严重，引起了世界各地立法者和监管机构的关注。一些国家已经出台或正在考虑立法来解决这一问题，并呼吁进行全球协调以建立共同标准和最佳实践。

Meta 承认了这一挑战，并表示正在努力提高其人工智能检测和内容审核能力。然而，监督委员会的报告表明，该公司需要采取更多措施来应对受操纵媒体迅速发展的威胁。

随着人工智能技术的使用不断进步，打击深度伪造和其他形式的合成媒体可能会成为社交媒体平台和更广泛的数字生态系统日益重要的优先事项。监督委员会的建议强调 Meta 和其他科技巨头需要采取更积极主动、更全面的方法来应对这一挑战。