XGBoost

维基百科,自由的百科全书
跳到导航 跳到搜索
XGBoost
XGBoost logo.png
開發者The XGBoost Contributors
初始版本2014年3月27日,​8年前​(2014-03-27
穩定版本
0.70
(2017年12月30日 (2017-12-30)
源代码库 編輯維基數據鏈接
编程语言C++
操作系统Linux, macOS, Windows
类型机器学习
许可协议Apache License 2.0
网站xgboost.ai

XGBoost[1] 是一个开源软件库,它為 C++JavaPython[2] R[3]Julia[4]提供了一个梯度提升框架,适用于LinuxWindows[5]mac os[6] 根据项目的描述,它的目的在于提供一个"可擴展、可移植和分佈式梯度提升(GBM、GBRT、GBDT)庫"。 XGBoost除了可以在单一机器上运行,也支持運行在分布式框架Apache HadoopApache SparkApache Flink。 近几年,由于這個演算法受到许多在机器学习竞赛中获奖团队的青睐,因而受到了廣泛的歡迎和關注。[7]

历史[编辑]

XGBoost最初是一个研究项目,由当时在Distributed (Deep) Machine Learning Community (DMLC)组里的陈天奇[8] 负责。 它开始是作为一个可由libsvm配置文件进行配置的终端应用程序。当其在Higgs机器学习挑战中获胜之后,开始在机器学习竞赛圈子中被大家熟知。 不久之后,相应的Python和R的軟件包被开发了出来。XGBoost現在也已經為Julia、Scala、Java和其他語言提供了軟件包實現。 这使得更多的开发者认识了XGBoost,也让其在 Kaggle 社区大受欢迎,并用于大量的競賽[7]

很快地,XGBoost就与其他多个软件包一起使用,使其更易于在各自的社区中使用。 它现在已经与Python用户的scikit-learn以及与R的Caret軟件包集成在一起。它还可以使用抽象的Rabit [9]及XGBoost4J集成到像是Apache SparkApache HadoopApache Flink等数据流框架中。[10]XGBoost也可用於FPGAs的OpenCL。[11]陈天奇和Carlos Guestrin發表了一種高效、可擴展的XGBoost實現。[12]

获奖[编辑]

  • 约翰钱伯斯奖(2016) [13]
  • 高能物理学会议机器学习奖(HEP meets ML) (2016) [14]

参考文献[编辑]

  1. ^ GitHub project webpage. [2019-01-09]. (原始内容存档于2021-04-01). 
  2. ^ Python Package Index PYPI: xgboost. [2016-08-01]. (原始内容存档于2017-08-23). 
  3. ^ CRAN package xgboost. [2016-08-01]. (原始内容存档于2018-10-26). 
  4. ^ Julia package listing xgboost. [2016-08-01]. (原始内容存档于2016-08-18). 
  5. ^ Installing XGBoost for Anaconda in Windows. [2016-08-01]. (原始内容存档于2018-05-08). 
  6. ^ Installing XGBoost on Mac OSX. [2016-08-01]. (原始内容存档于2018-05-08). 
  7. ^ 7.0 7.1 XGBoost - ML winning solutions (incomplete list). [2016-08-01]. (原始内容存档于2017-08-24).  引用错误:带有name属性“xgboost-competition-winners”的<ref>标签用不同内容定义了多次
  8. ^ Story and Lessons behind the evolution of XGBoost. [2016-08-01]. (原始内容存档于2016-08-07). 
  9. ^ Rabit - Reliable Allreduce and Broadcast Interface. [2016-08-01]. (原始内容存档于2018-06-11). 
  10. ^ XGBoost4J. [2016-08-01]. (原始内容存档于2018-05-08). 
  11. ^ XGBoost on FPGAs. [2019-08-01]. (原始内容存档于2020-09-13). 
  12. ^ Chen, Tianqi; Guestrin, Carlos. Krishnapuram, Balaji; Shah, Mohak; Smola, Alexander J.; Aggarwal, Charu C.; Shen, Dou; Rastogi, Rajeev , 编. Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, San Francisco, CA, USA, August 13-17, 2016. ACM: 785–794. 2016. arXiv:1603.02754可免费查阅. doi:10.1145/2939672.2939785.  |contribution=被忽略 (帮助)
  13. ^ John Chambers Award Previous Winners. [2016-08-01]. (原始内容存档于2017-07-31). 
  14. ^ HEP meets ML Award. [2016-08-01]. (原始内容存档于2018-05-08).