迁移学习：修订间差异

维基百科，自由的百科全书
以互动方式浏览历史
←上一版本下一版本→
删除的内容 添加的内容
可视化wikitext
InternetArchiveBot（留言 | 贡献）
机器人
1,958,869次编辑
补救7个来源，并将0个来源标记为失效。) #IABot (v2.0.8.8
InternetArchiveBot（留言 | 贡献）
机器人
1,958,869次编辑
补救2个来源，并将0个来源标记为失效。) #IABot (v2.0.9.2
第3行： 第3行：


==历史==
==历史==
最早被引用的关于迁移学习的工作被认为属于Lorien Pratt。他在1993年制定了基于可辨识性的转移（DBT）算法。<ref>{{cite book|url={{google books|plainurl=y|id=6tGHlwEACAAJ|page=204}}|title=NIPS Conference: Advances in Neural Information Processing Systems 5|last=Pratt|first=L. Y.|publisher=Morgan Kaufmann Publishers|year=1993|pp=204-211|chapter=Discriminability-based transfer between neural networks|chapter-url=http://papers.nips.cc/paper/641-discriminability-based-transfer-between-neural-networks.pdf}}</ref>
最早被引用的关于迁移学习的工作被认为属于Lorien Pratt。他在1993年制定了基于可辨识性的转移（DBT）算法。<ref>{{cite book|url=https://books.google.com/books?id=6tGHlwEACAAJ&pg=PA204|title=NIPS Conference: Advances in Neural Information Processing Systems 5|last=Pratt|first=L. Y.|publisher=Morgan Kaufmann Publishers|year=1993|pp=204-211|chapter=Discriminability-based transfer between neural networks|chapter-url=http://papers.nips.cc/paper/641-discriminability-based-transfer-between-neural-networks.pdf|access-date=2022-12-23|archive-date=2022-07-02|archive-url=https://web.archive.org/web/20220702024746/https://books.google.com/books?id=6tGHlwEACAAJ&pg=PA204|dead-url=no}}</ref>


1997年，机器学习期刊发表了一期专门讨论迁移学习的期刊，<ref>{{Cite web|url=https://link.springer.com/journal/10994/28/1/page/1|title=Machine Learning - Special Issue on Inductive Transfer|last=Pratt|first=L. Y.|authorlink=|last2=Thrun|first2=Sebastian|date=July 1997|website=link.springer.com|publisher=Springer|language=en|access-date=2017-08-10|volume=28|issue=1|archive-date=2019-03-27|archive-url=https://web.archive.org/web/20190327085855/https://link.springer.com/journal/10994/28/1/page/1}}</ref> 而到了1998年，该领域已经发展到包括多任务学习，<ref>Caruana, R., "Multitask Learning", pp. 95-134 in {{Harvnb|Pratt|Thrun|1998}}</ref> 以及对其理论基础的更深入完善的分析。<ref>Baxter, J., "Theoretical Models of Learning to Learn", pp. 71-95 {{Harvnb|Pratt|Thrun|1998}}</ref> 1998年，由Pratt和Sebastian Thrun编辑的 ''Learning to Learn''{{sfn|Thrun|Pratt|2012}}便是对该主题的回顾。
1997年，机器学习期刊发表了一期专门讨论迁移学习的期刊，<ref>{{Cite web|url=https://link.springer.com/journal/10994/28/1/page/1|title=Machine Learning - Special Issue on Inductive Transfer|last=Pratt|first=L. Y.|authorlink=|last2=Thrun|first2=Sebastian|date=July 1997|website=link.springer.com|publisher=Springer|language=en|access-date=2017-08-10|volume=28|issue=1|archive-date=2019-03-27|archive-url=https://web.archive.org/web/20190327085855/https://link.springer.com/journal/10994/28/1/page/1}}</ref> 而到了1998年，该领域已经发展到包括多任务学习，<ref>Caruana, R., "Multitask Learning", pp. 95-134 in {{Harvnb|Pratt|Thrun|1998}}</ref> 以及对其理论基础的更深入完善的分析。<ref>Baxter, J., "Theoretical Models of Learning to Learn", pp. 71-95 {{Harvnb|Pratt|Thrun|1998}}</ref> 1998年，由Pratt和Sebastian Thrun编辑的 ''Learning to Learn''{{sfn|Thrun|Pratt|2012}}便是对该主题的回顾。
第20行： 第20行：


== 来源 ==
== 来源 ==
* {{cite book|url={{google books|plainurl=y|id=X_jpBwAAQBAJ}}|title=Learning to Learn|last1=Thrun|first1=Sebastian|last2=Pratt|first2=Lorien|date=6 December 2012|publisher=Springer Science & Business Media|isbn=978-1-4615-5529-2}}
* {{cite book|url=https://books.google.com/books?id=X_jpBwAAQBAJ|title=Learning to Learn|last1=Thrun|first1=Sebastian|last2=Pratt|first2=Lorien|date=6 December 2012|publisher=Springer Science & Business Media|isbn=978-1-4615-5529-2|access-date=2022-12-23|archive-date=2022-07-02|archive-url=https://web.archive.org/web/20220702024800/https://books.google.com/books?id=X_jpBwAAQBAJ|dead-url=no}}


== 引用 ==
== 引用 ==

2022年12月23日 (五) 02:02的版本

迁移学习 是属于机器学习的一种研究领域。它专注于存储已有问题的解决模型，并将其利用在其他不同但相关问题上。[1] 比如说，用来辨识汽车的知识（或者是模型）也可以被用来提升识别卡车的能力。计算机领域的迁移学习和心理学常常提到的学习迁移在概念上有一定关系，但是两个领域在学术上的关系非常有限。

历史

最早被引用的关于迁移学习的工作被认为属于Lorien Pratt。他在1993年制定了基于可辨识性的转移（DBT）算法。[2]

1997年，机器学习期刊发表了一期专门讨论迁移学习的期刊，[3] 而到了1998年，该领域已经发展到包括多任务学习，[4] 以及对其理论基础的更深入完善的分析。[5] 1998年，由Pratt和Sebastian Thrun编辑的 Learning to Learn[6]便是对该主题的回顾。

迁移学习也被应用于认知科学，比如《Connection》杂志就于1996年出版了一版特殊期刊，描述了如何通过使用迁移学习重新利用已有神经网络。[7]

应用

迁移学习的算法基础可以源自 马尔可夫逻辑网络[8] 和 贝叶斯网络.[9] 迁移网络还被利用与发现癌症种类 [10], 建筑物人员限额,[11] 普适智能游戏玩家,[12] 语句分类[13][14] 和 以及筛选垃圾邮件（短信）。[15]

相关概念

  • Domain adaptation
  • General game playing
  • Multi-task learning
  • Multitask optimization

来源

引用

  1. ^ West, Jeremy; Ventura, Dan; Warnick, Sean. Spring Research Presentation: A Theoretical Foundation for Inductive Transfer. Brigham Young University, College of Physical and Mathematical Sciences. 2007 [2007-08-05]. （原始内容存档于2007-08-01）. 
  2. ^ Pratt, L. Y. Discriminability-based transfer between neural networks (PDF). NIPS Conference: Advances in Neural Information Processing Systems 5. Morgan Kaufmann Publishers. 1993: 204–211 [2022-12-23]. （原始内容存档于2022-07-02）. 
  3. ^ Pratt, L. Y.; Thrun, Sebastian. Machine Learning - Special Issue on Inductive Transfer. link.springer.com. Springer. July 1997 [2017-08-10]. （原始内容存档于2019-03-27） （英语）.  |volume=被忽略 (帮助); |issue=被忽略 (帮助)
  4. ^ Caruana, R., "Multitask Learning", pp. 95-134 in Pratt & Thrun 1998
  5. ^ Baxter, J., "Theoretical Models of Learning to Learn", pp. 71-95 Pratt & Thrun 1998
  6. ^ Thrun & Pratt 2012.
  7. ^ Pratt, L. Special Issue: Reuse of Neural Networks through Transfer. Connection Science. 1996 [2017-08-10]. （原始内容存档于2019-03-27） （英语）.  参数|journal=与模板{{cite web}}不匹配（建议改用{{cite journal}}或|website=） (帮助); |volume=被忽略 (帮助); |issue=被忽略 (帮助)
  8. ^ Mihalkova, Lilyana; Huynh, Tuyen; Mooney, Raymond J., Mapping and Revising Markov Logic Networks for Transfer (PDF), Learning Proceedings of the 22nd AAAI Conference on Artificial Intelligence (AAAI-2007), Vancouver, BC: 608–614, July 2007 [2007-08-05], （原始内容 (PDF)存档于2019-11-13） 
  9. ^ Niculescu-Mizil, Alexandru; Caruana, Rich, Inductive Transfer for Bayesian Network Structure Learning (PDF), Proceedings of the Eleventh International Conference on Artificial Intelligence and Statistics (AISTATS 2007), March 21–24, 2007 [2007-08-05], （原始内容存档 (PDF)于2010-06-20） 
  10. ^ Hajiramezanali, E. & Dadaneh, S. Z. & Karbalayghareh, A. & Zhou, Z. & Qian, X. Bayesian multi-domain learning for cancer subtype discovery from next-generation sequencing count data. 32nd Conference on Neural Information Processing Systems (NIPS 2018), Montréal, Canada. https://arxiv.org/pdf/1810.09433.pdf （页面存档备份，存于互联网档案馆）
  11. ^ Arief-Ang, I.B.; Salim, F.D.; Hamilton, M. DA-HOC: semi-supervised domain adaptation for room occupancy prediction using CO2 sensor data. 4th ACM International Conference on Systems for Energy-Efficient Built Environments (BuildSys). Delft, Netherlands: 1–10. 2017-11-08. ISBN 978-1-4503-5544-5. doi:10.1145/3137133.3137146. 
  12. ^ Banerjee, Bikramjit, and Peter Stone. "General Game Learning Using Knowledge Transfer （页面存档备份，存于互联网档案馆）." IJCAI. 2007.
  13. ^ Do, Chuong B.; Ng, Andrew Y. Neural Information Processing Systems Foundation, NIPS*2005 (PDF). 2005 [2007-08-05]. （原始内容 (PDF)存档于2020-10-12）.  |contribution=被忽略 (帮助)
  14. ^ Rajat, Raina; Ng, Andrew Y.; Koller, Daphne. Twenty-third International Conference on Machine Learning (PDF). 2006 [2007-08-05]. （原始内容存档 (PDF)于2007-07-08）.  |contribution=被忽略 (帮助)
  15. ^ Bickel, Steffen. ECML-PKDD Discovery Challenge Workshop (PDF). 2006 [2007-08-05]. （原始内容 (PDF)存档于2017-08-10）.  |contribution=被忽略 (帮助)
取自“https://zh.wikipedia.org/w/index.php?title=迁移学习&oldid=75176472”