Prompt Injection漏洞可绕过Meta的Llama防火墙

Trendyol的应用程序安全团队最近发现了一系列绕过漏洞，导致Meta的Llama防火墙保护无法可靠地抵御复杂的快速注入攻击。在输入部分指令之后，该漏洞能使原本处于Llama防火墙屏蔽范围内的组件能够不被屏蔽。这是因为防火墙的规则集很大程度上取决于英语关键词和精确模式匹配，而对语言或字符替换的变化视而不见。这种技术在协作环境中构成了特别严重的威胁，因为提示在开发人员之间复制粘贴，而自动扫描仪无法看到隐藏的字符。目前仍在研究当中。