玻尔兹曼机
外观
玻尔兹曼机(英語:Boltzmann machine)是随机神经网络和循环神经网络的一种,由加拿大計算機科學家杰弗里·辛顿和美國計算機科學家特里·谢泽诺斯基在1985年发明。
玻尔兹曼机可被视作随机过程的,可生成的相应的霍普菲尔德神经网络。它是最早能够学习内部表达,并能表达和(给定充足的时间)解决复杂的组合优化问题的神经网络。但是,没有特定限制连接方式的玻尔兹曼机目前为止并未被证明对机器学习的实际问题有什么用。所以它目前只在理论上显得有趣。然而,由于局部性和训练算法的赫布性质,以及它们和简单物理过程相似的并行性,如果连接方式是受约束的(即受限玻爾茲曼機),学习方式在解决实际问题上将会足够高效。
延伸阅读
[编辑]- Hinton, G. E.; Sejnowski, T. J. D. E. Rumelhart, J. L. McClelland, and the PDP Research Group , 编. Learning and Relearning in Boltzmann Machines (PDF). Parallel Distributed Processing: Explorations in the Microstructure of Cognition. Volume 1: Foundations (Cambridge: MIT Press). 1986: 282–317. (原始内容 (PDF)存档于2010-07-05).
- Hinton, G. E. Training Products of Experts by Minimizing Contrastive Divergence (PDF). Neural Computation. 2002, 14 (8): 1771–1800 [2015-11-29]. PMID 12180402. doi:10.1162/089976602760128018. (原始内容存档 (PDF)于2016-03-03).
- Hinton, G. E.; Osindero, S.; Teh, Y. A fast learning algorithm for deep belief nets (PDF). Neural Computation. 2006, 18 (7): 1527–1554 [2015-11-29]. PMID 16764513. doi:10.1162/neco.2006.18.7.1527. (原始内容存档 (PDF)于2015-12-23).