跳转到内容

卷积、感受野与残差连接

卷积通过局部连接和权重共享提取空间模式,多层网络逐步扩大感受野。残差块将输出写为 y=x+F(x),让分支学习相对输入的变化;相加要求张量形状兼容,必要时使用投影分支。

逐层计算输出尺寸与通道数。忽略空洞时,单维输出为 floor((n+2p−k)/s)+1,其中 n 是输入尺寸、p 是填充、k 是核尺寸、s 是步长;参数量和中间激活都影响资源需求。

输入 28×28×3,经 16 个 3×3 卷积核、步长 1、填充 1 后得到 28×28×16。含每个输出通道一个偏置时,参数量为 3×3×3×16+16=448。

参数少不一定推理快,算子实现、激活尺寸和内存访问都影响延迟。理论感受野覆盖整张图,也不代表模型能稳定利用所有位置的信息。