一颗红心为何能促使AI转向递归？
近期，APPSO在arXiv上留意到一份引人入胜的研究论文，名为《心之所向，即是递归》。
故事的起点源自一个细微的发现。
研究者向模型提出了一道经典的二叉树遍历题目。递归方法能得出正确答案，借助栈实现的迭代方法同样可行，而模型在处理这类问题时，几乎总是倾向于选择后者，极少使用递归。随后，研究者在题目旁附上一张图片——一颗红色的爱心🧡。
模型随即转而采用递归方式。
此时再询问模型那颗心的含义，它回应称那只是一个无关紧要的元素，选择递归另有技术层面的理由。然而，在没有爱心的情况下，它几乎从不这样编写代码；一旦爱心出现，它便改变了做法。
论文摘要将这一现象称为隐式引导，即模型对符号的直接解读与思考轨迹，与其实际表现出的行为之间存在显著差异。
除红心外，粉色十字、浅蓝色螺旋等颜色与形状的组合，对部分模型也产生了类似的牵引力。研究者还让模型之间通过图形相互传递信息，发现了另一处落差：模型发出的往往是人类和它们自身都认为直观的基础形状，但这些图形却常常无法有效引导另一个模型。
一颗红心促使AI改变了算法选择，目前来看并无大碍。
然而，网页上的广告图、角落里的图标、聊天中的表情贴纸——这些我们习惯视为背景的元素，是否可能在无人察觉时，悄然改变一个Agent的决策？
人类同样会受到无关线索的影响
谈及被无关线索左右，人类并不具备优势。
1974年，心理学家卡尼曼和特沃斯基在俄勒冈大学招募了一批学生，要求他们先拨动一个转盘。转盘被预设只能停在10或65两个数字上。
学生们记下数字后，被问及：联合国成员国中，非洲国家的占比是多少？转盘停在10的那组，平均估计值为25%；停在65的那组，平均给出的答案是45%。实际比例约为28%。
一个来自转盘的随机数字，将答案拉开了近二十个百分点，而转盘与联合国毫无关联。
特沃斯基和卡尼曼发现，即便答对有奖励，锚定效应也并未减弱。
2001年，波尔多大学的研究者弗雷德里克·布罗歇邀请了54位葡萄酒专业学生品酒，其中一杯实际上是用无味食用色素染红的白葡萄酒。
学生们评价那杯“红酒”时，使用的全是形容红酒的词汇，例如“果酱感”和“压碎的红果香”。没有一个人发现它其实是白葡萄酒。
布罗歇将这一现象称为“感知幻觉”。
AI受视觉干扰的历史已有数年。
当事人事后通常能给出一个看似合理的解释。机器在这方面与人相似，区别在于人类的偏差多集中在数字、颜色、价格标签等领域，而机器的弱点可能更为奇特，我们事先难以预料。
2021年，OpenAI披露了他们发现的“排版攻击”：在一颗苹果上贴一张手写“iPod”的便利贴，其图像识别模型CLIP便会将这一水果识别为音乐播放器。
另一项测试中，在一只贵宾犬的图像上叠加美元符号，模型就会将其误认为存钱罐。
更早之前，Google的研究者制作了一种迷幻图案的对抗补丁：在一张摆放香蕉的桌子旁放置一张印有特定图案的贴纸，VGG16神经网络便会以99%的置信度将整个场景判定为烤面包机。那张贴纸对神经网络而言更为“显眼”，它劫持了模型的注意力。
回到红心实验，论文中提到，能力较弱的模型更容易被噪声图带偏，前沿模型对噪声基本免疫，却对有意义的符号十分敏感。我们常以为更智能的对象更难被欺骗，实际上，只是它们被欺骗的方式变得更加体面。
代码生成领域也有类似发现。研究者在评估LLM代码生成时注意到，更详细的提示并不总能带来更高的准确性。过于冗长的提示可能引入冗余信息，轻微损害代码生成的准确性。有时，省去一个约束条件，模型反而会退回到一种更稳健的通用实现，避免踩入它本不擅长处理的边界情况。
提示内容与模型输出之间，不存在简单的线性关系。这对评估也构成挑战，因为测试环境中“无关元素”的纯净度成为一个变量。
看不见的影响，如何被察觉
AI Agent读取截图的场景正变得越来越普遍。
电脑控制型Agent的工作循环通常是：截取一张屏幕截图，将像素数据发送给大语言模型，模型决定下一步点击哪里或输入什么。在这个循环中，Agent感知的是整个视觉页面。这意味着页面上的广告图、装饰性图标、弹窗中的表情包，全部进入模型的视野。
如果一颗红心就能让模型从迭代切换至递归，那么一个精心设计的页面元素，是否也能悄然改变Agent在真实任务中的决策，例如点击哪个按钮、选择哪个选项？
《心之所向，即是递归》不仅指出视觉符号会影响模型行为，还强调：这种影响可能完全不会出现在模型的思考轨迹中。
思考轨迹（chain of thought）原本被视为一种可解释性工具。让模型将推理过程写出来，人类便能追踪其思路，从而发现潜在问题。但如果模型行为的真正驱动因素未如实反映在推理链上，这套监督机制便失效了。
论文记录到，GPT-5.4有高达74.7%的样本表现出“不忠实归因”，即模型给出的推理解释与其实际行为之间存在明显脱钩。
有研究者系统性改写Agent的思考轨迹，同时保持动作和环境状态不变，发现LLM评判者极易被操纵后的推理链误导，误以为任务已完成。
如果模型自己都说那颗心无关紧要，我们如何发现它起了作用？
一个比解释测试更可靠的方法是行为测试：在其他条件完全不变的情况下，替换掉那个“应无关的元素”，观察模型的输出是否随之改变。
如果两组输入仅有一个红心的差别，而输出出现系统性偏差，那么无论模型如何自我解释，我们都有理由认为该元素发挥了作用。
这是实验中控制变量的基本思路。但将其移植到AI评估中，需要额外耐心，因为模型的随机性使单次结果缺乏说服力，必须积累足够样本，才能区分偶然波动与系统性偏移。
对于以结构化API输入为主的场景，信号与噪声的边界相对清晰。但对于以截图方式感知世界的Agent，整个可见页面均为输入，边界更为模糊。
有研究者提出在Agent的感知层与决策层之间增加一个多Agent防御框架，将感知与决策分离，动态评估视觉输入的可信度，以减少被误导性视觉信号带偏的行为。
红心实验提出了一个没有简单答案的问题。那颗心形图标对大多数任务场景而言确实无关，但“确实无关”与“确实不产生影响”已不再等同。
本文来自微信公众号“APPSO”，作者：发现明日产品的，36氪经授权发布。
