代码之家  ›  专栏  ›  技术社区  ›  user2576346

CNN中局部层和密集层之间的差异

  •  6
  • user2576346  · 技术社区  · 9 年前

    卷积神经网络中“局部”层和“密集”层的区别是什么?我试图理解TensorFlow中的CIFAR-10代码,我看到它使用“本地”层而不是常规的密集层。TF中有支持实现“本地”层的类吗?

    2 回复  |  直到 9 年前
        1
  •  5
  •   Dung Thai    9 年前

    引用自 cuda-convnet :

    具有非共享权重的局部连接层:这种层就像卷积层,但没有任何权重共享。也就是说,在输入图像中的每个(x,y)位置应用不同的滤波器组。除此之外,它的行为与卷积层完全相同。

    在TensorFlow CIFAR-10示例中,尽管两个层被命名为 local3 local4 ,它们实际上是完全连接层,而不是中指定的本地连接层 cuda convnet公司 (您可以看到 pool2 变为的输入 本地3 层)。

        2
  •  4
  •   Indie AI    9 年前

    我引用用户2576346在以下问题下的评论:

    正如我所理解的,要么它应该是密集连接的,要么是卷积层。。。

    不,这不是真的。更准确的说法是,层要么是完全连接的(密集的),要么是局部连接的。

    卷积层是局部连接层的示例。通常,局部连接层是其中每个单元仅连接到输入的局部部分的层。卷积层是一种特殊类型的局部层,当每个卷积特征检测器跨过局部接收窗口(例如,尺寸为3x3或5x5)中的整个图像时,它表现出空间平移不变性。