用猫干扰推理大模型:面向推理模型的查询无关对抗触发方法

用猫干扰推理大模型:面向推理模型的查询无关对抗触发方法
论文提出:即使添加无关文本(如“猫一生大部分时间在睡觉”),也可能导致模型错误率显著上升。
LLM 大语言模型人工智能应用十大安全威胁(OWASP)

LLM 大语言模型人工智能应用十大安全威胁(OWASP)
清单的制定创建OWASP LLM申请前 10 名列表是一项艰巨的任务,它建立在由近 500 名专家和超过125 名积极贡献者组成的国际团队的集体专业知识的基础上。我们的贡献者来自不同的背景,包括人工智能公司、安全公司、ISV、云超大规模提供商、硬件提供商和学术界。