概述
自编码也称自动编码器,是一种人工神经网络,在无监督学习中用于有效编码。自编码的目的是对一组数据学习出一种表示(也称表征,编码),通常用于降维。最近,自编码的概念广泛地用于数据的生成模型[1,2] 。自2010年以来,一些先进的人工智能在深度学习网络中采用了采用堆叠式稀疏自编码[3] 。
工作原理
自编码器是一个输入和学习目标相同的神经网络,其结构分为编码器和解码器两部分。给定输入空间和特征空间,自编码器求解两者的映射使输入特征的重建误差达成最小 :
求解完成后,由编码器输出的隐含层特征,即“编码特征(encoded feature)”可视为输入数据的表征。按自编码器的不同,其编码特征可以是输入数据的压缩(收缩自编码器)、稀疏化(稀疏自编码器)或隐变量模型(变分自编码器)等[4]。
图 1一种典型的自编码器结构
缺点
该滤波函数的缺点是在一般情况下,滤波后的空间域图像边缘会产生振铃效应。
参考文献
[1] Auto-Encoding Variational Bayes, Kingma, D.P. and Welling, M., ArXiv e-prints, 2013 arxiv.org/abs/1312.6114
[2] Generating Faces with Torch, Boesen A., Larsen L. and Sonderby S.K., 2015 torch.ch/blog/2015/11/13/gan.html
[3] Domingos, Pedro. 4. The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World. Basic Books. 2015. "Deeper into the Brain" subsection. ISBN 978-046506192-1.
[4] Goodfellow, I., Bengio, Y., Courville, A..Deep learning (Vol. 1).Cambridge:MIT press,2016:Chapter 14, pp. 499-507
参阅:非线性降维