个中,一种经典的把稳力机制算法是Squeeze-and-Excitation Network,它通过一个小型的子网络,自动得到一组权重,对各个特色通道进行加权。

若何写人工智能方面的学术论文?_阈值_算法 AI快讯

其他大部分的把稳力机制算法,也都是特色加权的形式。

数据含有较多噪声时,可以考虑把“特色加权”给换成“软阈值化”。
软阈值化是旗子暗记降噪算法的常用步骤,其公式如下:

而且,软阈值化的梯度,要么为0,要么为1,这是和ReLU一样的,也有利于避免梯度消逝和爆炸:

深度残差紧缩网络便是一种“把稳力机制”+“软阈值化”的深度学习方法。

不仅如此,深度残差紧缩网络还设计了一个独特的子网络,来自动设置软阈值化所涉及的阈值。

末了,怎么写新论文呢?

——现在把稳力机制方面的算法那么多,可以把它们的特色加权,改换成软阈值化的形式,说不定在强噪数据上的表现会有所提升。

参考文献:

M. Zhao, S. Zhong, X. Fu, B. Tang, M. Pecht, Deep residual shrinkage networks for fault diagnosis, IEEE Transactions on Industrial Informatics, vol. 16, no. 7, pp. 4681-4690, 2020. https://ieeexplore.ieee.org/document/8850096Github https://github.com/zhao62/Deep-Residual-Shrinkage-Networks