OpenAI推出锁定模式以保护敏感数据免受即时注入攻击

OpenAI宣布推出一项新功能，据称该功能将针对即时注入攻击提供额外的保护，其中恶意聊天机器人指令隐藏在网页和其他内容源中。

除此之外，锁定模式将禁用实时网页浏览（因此您只能访问缓存的内容）、从网络检索和显示图像（您仍然可以生成图像）、深入研究和代理模式。

该公司表示，即使打开锁定模式，ChatGPT仍然可能容易受到提示注入的影响，例如，这可能“出现在缓存的网页内容或上传的文件中，并且仍然可能影响响应的行为或准确性。”

但目标是减少敏感数据在此过程中共享的可能性。

“锁定模式并不适合所有人，”OpenAI说。 “它是为处理敏感数据并希望更严格地保护免受与即时注入相关的数据泄露风险的个人和组织而设计的。”

该公司表示，目前正在将锁定模式推广到自助服务ChatGPT企业帐户以及符合条件的个人帐户。