2.发明专利授权:基于注意力归因的动态检索增强生成方法及系统

2026年03月26日 14:00  点击:[]

本发明创新性地提出了一种基于注意力归因的动态检索增强生成方法,以幻觉得分作为核心判断指标,直接反映大语言模型生成内容与内部注意力分布的关联强度,当大语言模型生成的候选答案序列存在注意力分散或错误聚焦时(如注意力归因矩阵显示模型过度关注无关上下文),幻觉得分会显著升高,表明生成内容可能超出模型固有知识范围,存在“虚构事实”的风险,通过设定阈值,系统能自动区分“可信输出”与“潜在幻觉”,低于阈值时直接采纳最优答案,确保高效输出;高于阈值时则触发动态检索机制,通过拼接问题与初步回答、分句筛选低分句子、构建语义图等步骤,精准定位知识缺口,并生成针对性检索查询,这一过程不仅实现了对模型知识边界的量化判断(通过幻觉得分动态评估生成可靠性),还通过迭代检索弥补了模型在知识边界外的信息缺失,最终在保证生成效率的同时,显著提升了答案的准确性和可信度。



下一条:1.文章发表:Few-shot Medical Anomaly Detection through Centroid Consultation Back and Test-Time Self-Calibration

关闭