国家知识产权局信息显示,中国联合网络通信集团有限公司、联通数据智能有限公司、浙江大学申请一项名为“大语言模型越狱后置防御方法、电子设备及存储介质”的专利,公开号CN122221246A,申请日期为2026年2月。
专利摘要显示,本申请提供一种大语言模型越狱后置防御方法、电子设备及存储介质。涉及计算机技术领域。该方法包括:将初始文本转化为文本矩阵,初始文本为大语言模型输出的文本;根据预设的提取规则,从文本矩阵中提取特定位置的分词,将分词进行组合,得到语义片段,提取规则定义了在文本行维度与文本行内分词位置维度上的至少一种组合模式;对语义片段进行风险判定,得到判定结果,判定结果用于指示初始文本是否为通过内容空间分布隐藏有害信息的攻击文本。本申请能够准确识别并拦截将攻击内容以空间分布的形式嵌入输出文本的攻击方式,提高大语言模型输出内容的安全性。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。