特徵裂隙
外觀
在矩陣論中,特徵裂隙(eigen gap)指的是一組相鄰的特徵值(或奇異值)所構成的集合,與其它特徵值(或奇異值)之間的豪斯多夫距離。
特徵裂隙的概念,一般只在矩陣的全部特徵值(或奇異值)都是實數之語境下提出和研討。
定義
[編輯]假設矩陣 的特徵值(或奇異值)都是實數,從大到小排序如下: ,對任意給定的 ,考慮第 至第 個特徵值(或奇異值)構成的集合 ,那麼該集合 的特徵裂隙定義為:
其中為方便,不妨設 .
重要性
[編輯]特徵裂隙是對矩陣的線性子空間進行誤差分析的基礎。特徵裂隙較大的 ,其對應的特徵向量所張成的線性子空間,在矩陣元素被誤差項(往往是隨機誤差)所污染時,具有較好的穩定性。[2]反之,若特徵裂隙為0,則由線性代數知, 對應的特徵向量所張成的線性子空間不是唯一的。特徵裂隙較小的 不具有抗拒隨機誤差的穩定性。
在機器學習中,對譜聚類算法的理論性質進行研究時,建立足夠的特徵裂隙一般來說屬於理論分析的核心部分。[3][4]
需要注意的是,如果目標是估計矩陣的線性子空間,那麼特徵裂隙具有核心的重要地位。但如果目標是為矩陣本身降噪,那麼特徵裂隙是不重要的,流行的矩陣估計方法也並不需要任何特徵裂隙條件。[5][6][7]
參見
[編輯]參考文獻
[編輯]- ^ Yu, Y.; Wang, T.; Samworth, R. J. A useful variant of the Davis–Kahan theorem for statisticians. Biometrika. 2015-06, 102 (2): 315–323. ISSN 0006-3444. doi:10.1093/biomet/asv008 (英語).
- ^ Lei, Jing; Rinaldo, Alessandro. Consistency of spectral clustering in stochastic block models. The Annals of Statistics. 2015-02-01, 43 (1) [2021-12-14]. ISSN 0090-5364. doi:10.1214/14-AOS1274. (原始內容存檔於2021-12-14).
- ^ Qin, Tai; Rohe, Karl. Regularized Spectral Clustering under the Degree-Corrected Stochastic Blockmodel. NIPS. 2013-09-16 [2021-12-14]. arXiv:1309.4111
. (原始內容存檔於2021-12-14).
- ^ Xia, Dong. Confidence Region of Singular Subspaces for Low-Rank Matrix Regression. IEEE Transactions on Information Theory. 2019-11, 65 (11): 7437–7459 [2021-12-14]. ISSN 0018-9448. doi:10.1109/TIT.2019.2924900. (原始內容存檔於2021-12-14).
- ^ Chatterjee, Sourav. Matrix estimation by Universal Singular Value Thresholding. The Annals of Statistics. 2015-02-01, 43 (1) [2021-12-14]. ISSN 0090-5364. doi:10.1214/14-AOS1272. (原始內容存檔於2021-12-14).
- ^ Gao, Chao; Lu, Yu; Zhou, Harrison H. Rate-optimal graphon estimation. The Annals of Statistics. 2015-12-01, 43 (6) [2021-12-14]. ISSN 0090-5364. doi:10.1214/15-AOS1354. (原始內容存檔於2021-12-14).
- ^ Zhang, Yuan; Levina, Elizaveta; Zhu, Ji. Estimating network edge probabilities by neighbourhood smoothing. Biometrika. 2017-12-01, 104 (4): 771–783. ISSN 0006-3444. doi:10.1093/biomet/asx042 (英語).