通过令牌系统绕过ChatGPT聊天内容保护措施

据外媒报道，一位名为Kyledude95的用户已经找到一种方法来绕过ChatGPT的编程控制，此方法将突破被认为过于暴力、非法等的内容的限制。根据CNBC的一份报告，这个名为DAN（Do Anything Now）的提示使用ChatGPT的令牌系统进行攻击，该命令为ChatGPT创建了一个场景，允许DAN绕过ChatGPT中的内容限制。