特拉维夫大学的研究人员推出了一种名为GASLITE的基于梯度优化的方法，用于生成对抗性段落，以评估密集嵌入检索系统的脆弱性。与以往简单的内容修改技术不同，GASLITE专注于检索模型的嵌入空间，通过优化触发器和选择前缀来生成高可见性的对抗性段落，成功率在特定查询中达到61-100%。该方法不仅有效地揭示了现有系统的漏洞，还强调了在设计检索系统时理解嵌入空间特性的必要性。
参考：
https://github.com/matanbt/gaslite
点个分享、点赞与在看，你最好看~
特拉维夫大学的研究人员推出了一种名为GASLITE的基于梯度优化的方法，用于生成对抗性段落，以评估密集嵌入检索系统的脆弱性。与以往简单的内容修改技术不同，GASLITE专注于检索模型的嵌入空间，通过优化触发器和选择前缀来生成高可见性的对抗性段落，成功率在特定查询中达到61-100%。该方法不仅有效地揭示了现有系统的漏洞，还强调了在设计检索系统时理解嵌入空间特性的必要性。
参考：
点个分享、点赞与在看，你最好看~
