arXiv stat.ML· Dai Shi, Andi Han, Xiaoyu Li, Luke Thompson, Jos\'e Miguel Hern\'andez-Lobato·· 19 天前AI 评分42
从柏拉图到亚里士多德:迈向表征假说的通用理论
From Plato to Aristotle: Toward a General Theory of Representation Hypotheses
AI 导读
研究人员提出晶格表征假说(LRH),将不同表征对齐标准统一在同一个格结构中,以解释关于模型表征收敛的不同观点。LRH 表明柏拉图表征假说主张的收敛处于格顶端,而其支持证据主要来自近底端的邻域重叠,并指出亚里士多德假说中排除全局收敛可能源于跨层最大值校准。该结论在数十个预训练视觉与语言模型及数千次理论模型运行中得到了实验验证。
来源:arXiv stat.ML · arxiv.org