2021-3-15 09:12 /
最近,人工神经网络在解决顺序处理和计划任务方面取得了许多成功。他们的成功通常归因于任务的低维潜在结构在网络活动中的出现,即在学习的神经表征中。在这里,我们探讨了一个假设,即通过学习预测对世界的观察来生成具有易于访问的低维潜在结构(可能反映潜在语义组织)的表征的方法。具体来说,我们问是否和何时网络机制感官预测与那些提取潜在变量。利用训练预测观察序列的递归神经网络模型,我们表明网络动力学表现出低维但非线性变换的感官输入表示,映射了感官环境的潜在结构。我们使用内在维度的非线性度量和潜在变量的线性可解性来量化这些结果,并为为什么会出现这种有用的预测表示提供数学依据。我们始终关注我们的结果如何帮助分析和解释实验数据。使用预测模型训练的神经网络生成表示,恢复数据中潜在的低维结构。在这里,作者证明了在空间导航任务中训练的网络会产生类似于在海马中观察到的位置相关的神经激活,并表明这些与潜在结构有关。
Tags: 三次元