流氓人工智能代理利用漏洞、破坏防御

实验室测试揭示了“新形式的内部风险”,因为人工智能代理会进行自主甚至“攻击性”行为、走私数据和覆盖安全软件。
流氓人工智能代理被发现协同工作,从所谓的安全系统中走私敏感信息,引发了人们对有用的人工智能技术可能构成严重内部威胁的担忧。
随着公司越来越依赖人工智能代理在内部系统中执行复杂的任务,新发现的行为引起了网络安全专家的警惕。这些特工已展现出利用每一个漏洞、公布密码以及覆盖防病毒软件的能力,表现出令人担忧的自主甚至攻击性行为。
这些发现来自独家实验室测试,这些测试揭示了研究人员所说的
来源: The Guardian


