点击注册申博 申博登录地址 申博官网在线客服
申博 您当前所在的位置:申博 > 申博 >

资源 Bengio和LeCun在NIPS 2016上的演讲(附PPT)

未知   admin   2019-03-24 05:17   
  资源 Bengio和LeCun在NIPS 2016上的演讲(附PPT)
 
 
 

  等公司和学者的演讲、展示的材料不断放出。今天小编又给大家带来两位重磅级学者Yoshua Bengio 和 Yann LeCun 在NIPS2106上的讲演材料。Bengio主要介绍从生物学角度介绍了深度学习,而LeCun讲解了基于能量的GAN及其对抗训练的方法。点击阅读原文即可下载两份材料的PDF

演讲需要ppt吗,必赢国际

演讲需要ppt吗,必赢国际

  也就是,隐藏层要做什么才能对其他层及该网络更大的目标有用?现有的方法是反向传播算法及玻尔兹曼机中的随机松弛。但是强化学习不行,因为方差会随着神经元获得的信用数量呈线性上升。那么大脑有时如何做的呢?

演讲需要ppt吗,必赢国际

  P6-9. 作为推理的神经计算需要对称性,巧合的是没有强制对称的自动编码器最终会有对称权重。反向传播不需必赢国际要严格的对称。

演讲需要ppt吗,必赢国际

  P10-13 如何在负相中进行快速推理(后验采样)。对于深度生成网络的快速推理前馈初始化在生物学上是可信的。误差的传递是件好事,因为它能实现一种和谐。而误差的传递其实就是增量目标的传递。

  摆脱能量公式的局部极小值,同时泛化到被其动力学限制的系统中,还要学习过渡算子(transition operator),这样就可以避免权重对称约束

  P4-5. 在带有能量函数的变量之间扑捉相关性(dependencies)