BBC 记者因人工智能编码平台缺陷遭到黑客攻击

流行的人工智能编码工具中的安全漏洞使用户面临黑客风险,BBC 记者成为平台缺陷受害者就证明了这一点。
快速扩展的人工智能编码平台世界暴露了重大安全漏洞,给用户带来了严重风险,BBC 记者成为通过这些工具进行的复杂黑客攻击的受害者就生动地说明了这一点。该事件凸显了人们对旨在为非技术用户实现应用程序开发民主化的平台的安全基础设施日益增长的担忧。随着这些无代码人工智能工具在各行业获得广泛关注,网络安全专家对可能影响全球数百万用户的潜在漏洞敲响了警钟。
受影响的记者正在使用一种流行的可视化编码平台,该平台在过去一年中人气飙升,允许没有编程背景的个人通过人工智能辅助创建功能应用程序。这些平台通常使用拖放界面与人工智能驱动的代码生成相结合,将用户的想法转化为工作软件。然而,该事件表明,此类平台的底层安全协议可能不够强大,无法保护用户免受了解如何利用人工智能驱动的开发流程的恶意行为者的侵害。
分析此次黑客攻击的安全研究人员发现,该漏洞源于人工智能代码生成系统内的输入验证不足。该平台的人工智能旨在解释自然语言请求并将其转换为功能代码,但缺乏足够的保护措施来防止注入伪装成合法开发请求的恶意命令。这使得攻击者能够从根本上欺骗 AI 生成可以访问敏感用户数据和系统资源的代码,超出了正在开发的应用程序的预期范围。

此事件的网络安全影响远远超出了单个受感染帐户的范围。行业分析师估计,全球有超过 1500 万用户正在积极使用各种人工智能驱动的编码平台,采用率同比增长约 300%。该领域的主要平台包括微软的 Power Platform、谷歌的 AppSheet 等老牌企业,以及众多总共筹集了数十亿风险投资资金的初创公司。这些平台的可访问性和易用性不仅吸引了非技术用户,也为网络犯罪分子创造了更广泛的攻击面。
网络安全公司 CyberArk 的最新研究表明,人工智能驱动的开发工具代表了传统网络安全框架尚未充分解决的一类新的安全风险。该公司的首席技术官解释说,这些平台带来了独特的挑战,因为它们模糊了用户输入和可执行代码之间的界限,使得很难在不妨碍用户体验的情况下实施传统的安全措施,从而使这些工具首先变得有价值。
BBC 记者的经历为这些技术的更广泛采用提供了警示。据熟悉该事件的消息人士透露,当记者试图使用该平台的人工智能助手创建一个简单的数据可视化应用程序时,攻击就开始了。攻击者显然发现了一种在看似无辜的开发提示中嵌入恶意指令的方法,导致人工智能生成代码,建立未经授权的网络连接并将敏感信息传输到外部服务器。

事件发生后,几个主要的人工智能编码平台提供商已宣布立即进行安全审核并加强保护措施。这些平台正在实施改进的输入清理、增强对人工智能生成代码的监控以及更严格的权限模型,以限制授予通过其工具创建的应用程序的系统访问权限。然而,安全专家警告说,这些措施可能只能解决已知的攻击媒介,而人工智能技术快速发展的性质可能会比识别和修补漏洞的速度更快地引入新漏洞。
这些安全问题的经济影响已经在市场上变得显而易见。据报道,在无代码和人工智能编码领域进行了大量投资的风险投资公司正在对其投资组合公司进行紧急安全评估。一些企业客户已暂时停止使用某些平台,等待全面的安全审查,这可能会影响这个快速增长行业中公司的收入预测。
Dr.斯坦福大学专门研究人工智能安全漏洞的网络安全研究员 Sarah Chen 强调,这一事件只是网络威胁新时代的开始。她的研究团队已识别出 20 多种特定于 AI 编码平台的不同潜在攻击媒介,从提示注入攻击到可能大规模损害生成代码完整性的模型操纵技术。

围绕人工智能开发工具的监管环境也在不断发展,以应对这些变化安全挑战。欧盟拟议的人工智能法案包括针对人工智能驱动的软件开发工具的具体规定,要求增强平台的透明度和安全措施,使非专家能够创建应用程序。美国正在进行类似的监管讨论,国会委员会正在审查现有的网络安全框架是否足以管理人工智能驱动的开发平台。
行业领导者呼吁建立专门为人工智能编码平台设计的标准化安全协议。该提案包括强制性安全审计、标准化漏洞披露流程以及全行业共享与人工智能特定攻击方法相关的威胁情报。然而,在人工智能编码工具的多样化生态系统中实施此类标准面临着重大的技术和后勤挑战。
该事件还引发了关于软件开发中可访问性和安全性之间权衡的更广泛讨论。虽然民主化编码工具使无数个人和小型企业能够在没有广泛技术专业知识的情况下创建有价值的应用程序,但安全风险可能需要从根本上重新思考这些平台如何在易用性与强大的保护措施之间取得平衡。

作为对 BBC 记者黑客攻击的调查网络安全专业人士正在利用该事件作为案例研究,为人工智能编码平台制定更好的保护策略。从这次泄露中吸取的教训预计将影响下一代安全框架的开发,该框架专门用于解决软件开发环境中人工智能带来的独特挑战,最终有助于确保编码的民主化不会以牺牲用户安全和隐私为代价。
来源: BBC News


