英国城市衰败洪水社交媒体的虚假人工智能视频

描述英国公共设施恶化的 Deepfake 视频正在社交平台上传播,引发种族主义反应和错误信息担忧。
社交媒体平台上出现了一种令人不安的趋势,描绘英国城市衰败的虚构场景的人工智能生成视频继续以惊人的速度激增。这些复杂的 Deepfake 制作展示了不断恶化的公共基础设施、废弃的纳税人资助的设施以及反乌托邦城市景观的想象场景,这些场景与现实几乎没有相似之处,但足以令人信服地欺骗普通观众。
deepfake 视频主要关注公共设施,如水上乐园、游泳池、社区中心和似乎年久失修的娱乐设施。这些人工智能生成的视频显示了摇摇欲坠的混凝土结构、充满碎片的死水、破碎的瓷砖和杂草丛生的植被,这些植被重新占据了原本繁荣的公共空间。这些虚构场景的细节水平非常复杂,融合了逼真的灯光、天气效果和环境纹理,让毫无戒心的观众显得真实。
这些人工智能生成的视频特别令人担忧的是它们在多个社交媒体平台上的快速传播,包括 TikTok、Twitter、Facebook 和 Instagram。这些平台的算法本质往往会放大产生强烈情绪反应的内容,而这些城市衰落的虚假视频无疑实现了这一目标。用户在分享这些视频时,会附上文字说明,表达对政府支出、失败的公共政策和社会崩溃的愤怒,而往往不会质疑其真实性或调查其起源。
这些虚假人工智能视频的制作和传播似乎是为了操纵有关英国城市发展、政府支出和社会政策的公众舆论而协调努力的一部分。许多视频都附有误导性的标题,声称显示了特定政治决策的结果或特定社区的当前状态,尽管完全是捏造的。这一错误信息活动利用人们对公共支出和城市发展的现有担忧来传播虚假叙述。

这种现象反映了随着人工智能技术变得更加容易获得和复杂,社会面临的更广泛的挑战。创建令人信服的深度伪造视频所需的工具不再仅限于资金雄厚的组织或高技术专家。消费级软件和基于云的人工智能服务使合成媒体的创建变得民主化,使技术能力有限和资源有限的个人有可能制作出令人信服的虚假内容。
政府官员和媒体素养倡导者对这种人工智能生成的虚假信息对公共话语和民主进程的潜在影响表示越来越担忧。当公民的政治观点和投票决定基于看似真实的虚假信息时,民主制度的完整性可能会受到损害。这些虚假视频的病毒性质意味着更正和事实核查往往无法覆盖到观看原始误导性内容的相同受众。
社交媒体平台正在努力针对这种新形式的合成媒体操纵制定有效的应对措施。依赖用户报告和人工审核员的传统内容审核方法不足以解决人工智能生成的错误信息的规模和复杂性。自动检测系统仍处于起步阶段,通常无法识别令人信服的深度伪造视频,尤其是那些不以人类为主角的深度伪造视频。
这些深度伪造视频的创作者通常以匿名方式操作,并使用技术来掩盖他们的身份和动机。有些似乎是出于政治议程,而另一些可能是想通过病毒式传播的内容来提高参与度和收入。社交媒体平台的国际性使得当局很难调查和起诉那些创建和传播误导性人工智能生成内容的人。

教育机构和媒体素养组织正在努力开发新的课程和资源,以帮助人们识别合成媒体并批判性地思考他们在网上遇到的内容。然而,技术进步的快速步伐意味着检测技术和教育材料往往落后于最新的 Deepfake 能力。教导人们质疑看似现实的视频的真实性代表了我们媒体消费方式的根本转变。
接触这些虚假视频的心理影响不应被低估。即使人们后来得知内容是人工生成的,最初的情绪反应和心理图像也会持续存在并影响他们对现实的看法。这种现象被称为“虚幻真相效应”,意味着随着时间的推移,反复接触虚假信息会使其看起来更加可信,无论其实际准确性如何。
研究人工智能生成的错误信息传播的研究人员指出,这些视频利用了社会对城市衰退、政府支出和社区安全的现有焦虑。通过呈现符合人们现有恐惧和先入之见的虚构场景,创作者增加了观看者接受内容真实性并与持有类似担忧的其他人分享的可能性。
这一趋势的国际影响超出了英国范围,因为其他国家也可以采用类似的策略来操纵公众舆论。用于制作这些令人信服的城市衰败虚假视频的技术可以很容易地适应不同的国家、社区或政治体系。这代表了信息战和宣传的新前沿,需要国际社会协调一致的应对措施。

来源: BBC News


