亚马逊团队ACL高分论文：首次系统测评记忆如何影响LLM情商

近年来，个性化语言模型迅速普及。 从 ChatGPT、Claude 到各类垂直 agent，用户 “长期记忆” 功能也逐渐成为标配，它们被广泛部署在推荐系统、客户服务、情感陪伴等场景中。与此同时，模型也在与我们的日常交互中越来越了解我们：你是谁、最近在苦恼什么、职业上有何野心、家庭中有哪些矛盾，都在一次次对话被提炼，存储成 “记忆” 以便模型日后更 “贴心” 地和你交谈。

那么问题来了：这些 “个人信息” 会如何被使用？语言模型会 “见人下菜” 吗？

近日，位于亚马逊的研究科学家们发现，这种 “见人下菜” 的现象确实大量存在于大语言模型中：用户记忆会改变模型的回答内容，也会改变模型对相同时间的情感理解和建议方式，引发带来新的公平问题。

论文标题： The Personalization Trap: How User Memory Alters Emotional Reasoning in LLMs作者：Xi Fang, Weijie Xu, Yuchong Zhang , Stephanie Eckman, Scott Nickleach, Chandan K. Reddy单位：亚马逊链接：https://arxiv.org/abs/2510.09905GitHub: https://github.com/personalization-trapHuggingFace: https://huggingface.co/collections/groupfairnessllm/personalization-trap

这是学界首次对 “记忆” 如何影响语言模型情商展开系统性测评，论文也率先针对这个问题给出了缓解方案。此项研究表明：“见人下菜” 不再是人类特有的行为，它广泛潜伏于今天的 c h a tbot 中，如何有效识别并减少这类偏见是当务之急。