Peak

随笔-01其实很久没有写博客了。。。 网站是2021年运营的，但是能看到文章都是今年写的。因为之前文章的图片放在新浪图床里，之后新浪图床应该是不对外访问了，导致原本文章的图片全部崩掉了。 其实也未尝不是一件好事吧。暴雷早了还能少点损失，现在用自己的图床了，只要github不崩，图床就不会炸。 感觉大四好像一直在摆，虽然考上研了，但只能说是学校收留我，遇到了很好的导师。摆了这么久，玩累了，想想还是学习吧。毕竟导师比我还努力，没理由玩了啊。 计划是每周写一篇随笔记录反思一下，没对象只能写博客发发牢骚了QAQ。 研究生入学了。 室友是本科朋友，完美，开学一两周也没啥事儿，实验室氛围也挺好。 峰爷说的对：创造美好实验室条件让大家自愿来实验室才是正确的。我是非常自愿的，若是能把师兄传承给我的破椅子换了，我想我应该会更自愿了，毕竟，当我躺在椅子上的时候，旁人看我大抵是潇洒惬意的，但其实是椅子靠不住啊。 得多多反思。 感觉在学校呆久了，有时候已经变得不像自己了。学生思维限制了自己，应该多读读书才好。 多看多听多观察，跟导师出门还是不够狗腿啊，感觉自己情商还是不高。。。。倒不是说拉不下了，而是习惯了我 ...

膨胀卷积膨胀卷积视频 最大池化会导致特征信息丢失且难以上采样还原，而池化本身是增大感受野的。 而膨胀卷积可以增大我们的感受野 Gridding Effect 从设置的膨胀卷积参数来看，若是参数设置的不对，虽然增大了感受野，但有很多的特征信息并没有得到利用 Hybrid Dilated Convolution（HDC） 膨胀卷积的参数上设置成锯齿形 公约数不能大于1

FCN网络FCN网络讲解 整个网络架构以卷积为核心，整体下采样得到特征层，最后对每个像素的通道使用softmax预测像素分类。 使用卷积层替换全连接层可以放宽对输入图片大小尺寸的要求 FCN-32S 此处经过VGG16过后，将图像的宽和高缩小了32倍。将padding设置成100，以适应不同大小的图片输入。通过两个FC卷积操作后进入到我们的分类卷积，通道数为$num_{cls}$,将通道数降低为分类数。之后经过我们的转置卷积，将图片上采样恢复到原来的图像，对像素使用softmax得到分类结果并与原图对比。 FCN-16S 该网络利用了原本经过池化的特征图信息进行融合 FCN-8S 该网络融合了两次池化的特征图结果 损失计算（Cross Entropy Loss）交叉熵损失 对于每一个类别使用softmax给出预测概率，与真实标签进行交叉熵计算，最后对所有像素的交叉熵损失进行求平均操作得到损失结果。

转置卷积视频链接：转置卷积 运算步骤 计算原理(卷积核翻转原理)传统卷积采用滑动窗口的机制，现在的计算框架采用等效矩阵提高计算效率。 将等效矩阵展平后拼接 使用原始的特征矩阵展平后与等效矩阵做矩阵乘法得到最后的卷积结果。 由于卷积操作中的矩阵$C^{16\times4}$不是方阵，不存在可逆矩阵，因此无法通过计算还原出我们的原始特征矩阵 想要恢复到原特征矩阵的大小，我们可以再等式两边乘上矩阵$C$的转置$C^T$ 将矩阵$O$和转置矩阵$C^T$的每一列做成等效矩阵$2\times2$的形式 我们发现等效矩阵的运算结果恰与绿色卷积核对原始特征卷积后的结果进行卷积的结果相同。 进一步发现该卷积核与原始卷积上下、左右翻转得到的卷积核相同。 这也是我们转置卷积计算过程中翻转卷积核的原理。

CMTFNet卷积神经网络提取局部信息能力强大，但缺乏全局信息的利用。本网络采用encoder-decoder结构，使用多尺度注意力构建Transformer-decoder，增强全局特征的提取。 网络结构 编码器编码器部分采用ResNet50结构作为主体，经过4层主体不断降维，之后将语义特征送入解码器中，在解码器中将ResBlock的特征与经过MTF模块处理后的特征进行权重融合。 解码器 解码器由三级多尺度Transformer块和语义头组成。 M2SA模块 M2SA模块结合了通道注意力机制，多尺度特征机制，多尺度自注意力机制。 采用了双分支结构来提取全局特征和通道信息。 多注意力尺度分支经过1x1卷积降维后，分别进入三个空洞卷积中进行特征提取，之后将三分支的特征相加融合，最后使用1x1卷积结果和残差连接。之后进行多头注意力计算。 在另一分支中，首先进行平均池化操作降维，之后卷积降低通道数，经过Relu6和卷积升维后使用sigmoid函数得到每个通道的注意力得分，最后与原始输入特征相乘得到数据特征。 E-FFN模块 与传统的FFN相比，E-FFN采用了1x1卷积操作来替代了原本的两个 ...