想象你训练了一个机器人,让它看一眼当前的画面,再看一眼目标画面,然后自己规划一串动作去实现这个目标。这套系统工作得挺好,直到你发现一个奇怪的现象:机器人给出的"这个动作方案离目标有多远"的打分,和它实际执行后离目标的真实距离,经常对不上号。
它觉得方案A比方案B更接近目标,但真正跑起来,B反而更成功。
这不是一个小故障。这篇来自首尔大学和梨花女子大学团队的论文,揭示的正是这样一个藏在主流方法里的系统性偏差,而且它藏得足够深,深到即便你的预测模型做得完美无缺,这个偏差依然存在。
被忽视的中间层:表征空间的几何形状
要理解这个问题，得先说清楚这类系统是怎么工作的。
这类系统叫做JEPA世界模型
JEPA世界模型:一种通过在学到的表征空间里预测未来状态来实现规划的模型架构,不直接预测原始像素,而是预测压缩后的特征向量
具体流程是这样的:一个编码器把摄像头拍到的画面(不管是机器人当前的样子还是目标的样子)压缩成一串数字,这串数字叫做潜在表征。然后有一个预测器,输入当前表征和候选动作,预测执行这个动作后会变成什么样的表征。最后用一把尺子,通常是最简单的欧几里得距离,量一下预测出来的表征和目标表征差多远,差得越小,这个动作方案就打分越高。
论文里重点分析的LeWorldModel(简称LeWM)就是这么设计的。它的规划打分公式极其简单:预测终点表征减去目标表征,取平方和。
问题恰恰出在这把"尺子"上。
这把尺子测量距离时用的坐标系,是编码器训练出来的表征空间。而编码器在训练时,除了要学会准确预测未来,还有一个任务是防止表征坍缩,也就是防止所有输入都被压缩成同一个点。为了防止坍缩,LeWM用了一种叫做SIGReg的正则化手段。
SIGReg(Sketched Isotropic Gaussian Regularization,稀疏化各向同性高斯正则化):一种训练技巧,强制让学到的特征分布尽量接近一个标准的、各个方向方差相等的高斯分布,来源于LeJEPA论文提出的理论
这种正则化要求学出来的表征在每个方向上都有大致相同的"散布程度
杨方策略提示：文章来自网络，不代表本站观点。
