本頁使用了標題或全文手工轉換

AlexNet

維基百科,自由的百科全書
跳至導覽 跳至搜尋

AlexNet是一個卷積神經網路,由亞歷克斯·克里澤夫斯基(Alex Krizhevsky)設計[1],與伊爾亞‧蘇茨克維(Ilya Sutskever)和克里澤夫斯基的博士導師傑弗里·辛頓共同發表[2][3],而辛頓最初抵制他的學生的想法[1][4]

AlexNet參加了2012年9月30日舉行的ImageNet大規模視覺辨識挑戰賽[5],達到最低的15.3%的Top-5錯誤率,比第二名低10.8個百分點。原論文的主要結論是,模型的深度對於提高效能至關重要,AlexNet的計算成本很高,但因在訓練過程中使用了圖形處理器(GPU)而使得計算具有可行性[5]

背景[編輯]

AlexNet並不是卷積神經網路(CNN)第一次利用快速GPU實現而贏得圖像辨識競賽。K. Chellapilla等人(2006)在GPU上的CNN比同等的CPU實現速度快4倍[6]。Dan Ciresan等人(2011)的深層CNN在IDSIA上已經快了60倍[7],並在2011年8月取得了超過人類的表現[8]。從2011年5月15日到2012年9月10日,他們的CNN贏得了不少於四場圖像競賽[9][10]。他們還極大提高了文獻中多個圖像資料庫的最佳效能[11]

根據AlexNet的論文[5],其與Ciresan的早期網路「有些相似」。兩者最初都用CUDA編寫,可在GPU支援下執行。實際上,兩者都是楊立昆等人(1989)介紹的CNN設計的變體[12][13],他將反向傳播演算法應用於福島邦彥(福島 邦彦)最初提出的CNN架構「neocognitron」的一個變種[14][15]。後來J. Weng提出的最大池化方法修改了該架構[16][10]

網路設計[編輯]

AlexNet包含八層。前五層是卷積層,之後一些層是最大池化層,最後三層是全連接層[5]。它使用了非飽和的ReLU啟用功能,顯示出比tanhsigmoid更好的訓練效能[5]

影響[編輯]

AlexNet被認為是電腦視覺領域最有影響力的論文之一,它刺激了更多使用卷積神經網路和GPU來加速深度學習的論文的出現[17]。截至2020年,AlexNet論文已被參照超過54,000次。

亞歷克斯·克里澤夫斯基[編輯]

亞歷克斯·克里澤夫斯基(出生於烏克蘭,在加拿大長大)是一名電腦科學家,以在人工神經網路深度學習方面的工作而著稱。在通過AlexNet贏得ImageNet 2012挑戰賽後不久,他和同事將他們的創業公司DNN研究公司(DNN Research Inc.)賣給了Google[1]。克里澤夫斯基對這項工作失去興趣後,於2017年9月離開了Google[1]。在Dessa公司,克里澤夫斯基將為新的深度學習技術提供建議和幫助[1]。研究人員經常參照他的許多有關機器學習電腦視覺的論文[18]

參考資料[編輯]

  1. ^ 1.0 1.1 1.2 1.3 1.4 Dave Gershgorn. The inside story of how AI got good enough to dominate Silicon Valley. Quartz. 2018-06-18 [2018-10-05]. (原始內容存檔於2019-12-12). 
  2. ^ The data that transformed AI research—and possibly the world. [2020-01-17]. (原始內容存檔於2017-07-27). 
  3. ^ ILSVRC2012 Results. [2020-01-17]. (原始內容存檔於2020-01-16). 
  4. ^ Krizhevsky, Alex. ImageNet Classification with Deep Convolutional Neural Networks (PDF). [2013-11-17]. (原始內容存檔 (PDF)於2013-05-12). 
  5. ^ 5.0 5.1 5.2 5.3 5.4 Krizhevsky, Alex; Sutskever, Ilya; Hinton, Geoffrey E. ImageNet classification with deep convolutional neural networks (PDF). Communications of the ACM. 2017-05-24, 60 (6): 84–90 [2020-01-17]. ISSN 0001-0782. doi:10.1145/3065386. (原始內容存檔 (PDF)於2017-05-16). 
  6. ^ Kumar Chellapilla; Sid Puri; Patrice Simard. High Performance Convolutional Neural Networks for Document Processing. Lorette, Guy (編). Tenth International Workshop on Frontiers in Handwriting Recognition. Suvisoft. 2006 [2020-01-17]. (原始內容存檔於2020-05-18). 
  7. ^ Ciresan, Dan; Ueli Meier; Jonathan Masci; Luca M. Gambardella; Jurgen Schmidhuber. Flexible, High Performance Convolutional Neural Networks for Image Classification (PDF). Proceedings of the Twenty-Second International Joint Conference on Artificial Intelligence-Volume Volume Two. 2011, 2: 1237–1242 [2013-11-17]. (原始內容存檔 (PDF)於2013-11-16). 
  8. ^ IJCNN 2011 Competition result table. OFFICIAL IJCNN2011 COMPETITION. 2010 [2019-01-14]. (原始內容存檔於2019-01-21). 
  9. ^ Schmidhuber, Jürgen. History of computer vision contests won by deep CNNs on GPU. 2017-03-17 [2019-01-14]. (原始內容存檔於2018-12-19). 
  10. ^ 10.0 10.1 Schmidhuber, Jürgen. Deep Learning. Scholarpedia. 2015, 10 (11): 1527–54 [2020-01-17]. CiteSeerX 10.1.1.76.1541可免費查閱. PMID 16764513. doi:10.1162/neco.2006.18.7.1527. (原始內容存檔於2016-04-19). 
  11. ^ Ciresan, Dan; Meier, Ueli; Schmidhuber, Jürgen. Multi-column deep neural networks for image classification. New York, NY: Institute of Electrical and Electronics Engineers (IEEE). June 2012: 3642–3649. CiteSeerX 10.1.1.300.3283可免費查閱. ISBN 978-1-4673-1226-4. OCLC 812295155. arXiv:1202.2745可免費查閱. doi:10.1109/CVPR.2012.6248110.  |journal=被忽略 (幫助)
  12. ^ Y. LeCun, B. Boser, J. S. Denker, D. Henderson, R. E. Howard, W. Hubbard, L. D. Jackel, Backpropagation Applied to Handwritten Zip Code Recognition頁面存檔備份,存於網際網路檔案館); AT&T Bell Laboratories
  13. ^ LeCun, Yann; Léon Bottou; Yoshua Bengio; Patrick Haffner. Gradient-based learning applied to document recognition (PDF). Proceedings of the IEEE. 1998, 86 (11): 2278–2324 [2016-10-07]. CiteSeerX 10.1.1.32.9552可免費查閱. doi:10.1109/5.726791. (原始內容 (PDF)存檔於2017-12-15). 
  14. ^ Fukushima, K. Neocognitron. Scholarpedia. 2007, 2 (1): 1717. doi:10.4249/scholarpedia.1717. 
  15. ^ Fukushima, Kunihiko. Neocognitron: A Self-organizing Neural Network Model for a Mechanism of Pattern Recognition Unaffected by Shift in Position (PDF). Biological Cybernetics. 1980, 36 (4): 193–202 [2013-11-16]. PMID 7370364. doi:10.1007/BF00344251. (原始內容存檔 (PDF)於2014-06-03). 
  16. ^ Weng, J; Ahuja, N; Huang, TS. Learning recognition and segmentation of 3-D objects from 2-D images. Proc. 4th International Conf. Computer Vision. 1993: 121–128. 
  17. ^ Deshpande, Adit. The 9 Deep Learning Papers You Need To Know About (Understanding CNNs Part 3). adeshpande3.github.io. [2018-12-04]. (原始內容存檔於2018-11-21). 
  18. ^ Alex Krizhevsky. Google Scholar Citations. [2020-01-17]. (原始內容存檔於2020-04-17).