康奈尔大学研究人员发现“代码中毒”攻击

首页 / 快讯 /  正文
发布于:2个月前
根据康奈尔大学技术团队在USENIX 安全会议上发布的一项研究,该团队发现了一种新型的后门攻击,这种攻击可以“操纵自然语言建模系统以产生错误的输出并逃避任何已知的防御”,这类攻击被命名为“代码中毒”。该团队表示,通过代码中毒攻击,攻击者不再需要观察代码的执行,也不需要在训练期间或训练后观察后门模型的权重。攻击在模型训练时“即时”合成中毒输入,并使用多目标优化,以在主任务和后门任务上同时实现高精度。