UC Riverside 研究发现可调节大语言模型内部特征以标记可疑答案

UC Riverside 主导的研究发现，大语言模型的置信度与正确性来自不同内部特征，模型可能自信地答错，也可能犹豫地答对。研究分析 Llama-3.1-8B 和 Gemma-2-9B，用 sparse autoencoders 识别出主要关联不确定性、主要关联错误答案，以及同时关联两者的特征。