因素分析

因子分析
type of statistical method
上级分类	统计方法
用途	seeking
發現者或發明者	查尔斯·斯皮尔曼

因素分析（英語：factor analysis）是一种统计方法，针对称为因素的潜在未观察变量的数量来描述观察到的相关变量之间的变异性。例如，六个观测变量的变化可能主要反映了两个未观测（基础）变量的变化。因素分析针对未观测到的潜在变量寻找此类共同变化，从而将观测到的变量建模，使之成为潜在因素以及误差项的线性组合。

因素分析起源于查尔斯·斯皮尔曼1904年关于一般智力因素（g因子）的开创性工作。此后由L·L·瑟斯通（多因素理论）、雷蒙德·卡特尔和卡尔·约瑞斯戈（验证性因素分析/结构方程模型）等人逐步发展完善。如今因素分析广泛应用于心理学、社会学、市场营销、地理学和生物学等众多领域。

统计模型

因素分析的基本模型可表示为：

$X-\mu =LF+\varepsilon$

其中$X$为观测变量向量，$\mu$为均值向量，$L$为因子载荷矩阵（loading matrix），$F$为公共因素向量，$\varepsilon$为唯一因素（误差）向量。每个观测变量被表示为公共因素的线性组合加上唯一因素的贡献。

观测变量的协方差矩阵可分解为：

$\Sigma =LL^{T}+\Psi$

其中$LL^{T}$代表公共因素贡献的方差部分，$\Psi$为唯一因素的对角方差矩阵。因素分析的目标是估计载荷矩阵$L$和对角矩阵$\Psi$。

实现方法

探索性与验证性因素分析

探索性因素分析（EFA）不预设因素结构，由数据驱动识别潜在维度；验证性因素分析（CFA）则在理论指导下预先指定因素模型，通过结构方程模型（SEM）检验其拟合优度。

因素提取

常用的提取方法包括主成分分析（PCA，常作为第一步）、主轴因素法（principal axis factoring）和最大似然估计法（maximum likelihood）。提取的目标是从相关矩阵中识别出能解释最大方差的因素。

因素数量的确定

确定保留多少因素是因素分析中的关键决策。常用标准包括：

• Kaiser准则：保留特征值大于1的因素。
• 碎石图检验（scree test）：根据特征值下降曲线的拐点确定因素数量。
• 平行分析（parallel analysis）：将实际数据的特征值与随机模拟数据的特征值进行比较。

因素旋转

提取初始因素后，通过因素旋转使因子载荷矩阵结构更简单、更易解释。方差最大旋转（varimax）是最常用的正交旋转方法，假设因素之间不相关；Promax和Oblimin是常用的斜交旋转方法，允许因素之间存在相关。

探索性因素分析与主成分分析的区别

因素分析与主成分分析（PCA）虽有相似之处，但目标和方法有本质区别。PCA旨在通过少数主成分解释数据中的总方差（包括唯一方差），是一种降维技术；而EFA旨在识别潜在于观测变量之下的潜在变量（公共因素），仅建模变量之间的共同方差。PCA不区分共同方差与误差方差，而EFA将误差项单独建模。

历史

因素分析的历史始于查尔斯·斯皮尔曼1904年的研究。斯皮尔曼发现学生在不同学科上的成绩之间存在正相关，由此提出了一般智力（g因子）理论，认为一种单一的潜在能力可以解释大部分测验分数之间的相关性。

1930年代，L·L·瑟斯通发展了多因素分析理论，提出了「简单结构」原则：每个变量应仅在少数因子上有高载荷，从而使因素结构更易解释。此后雷蒙德·卡特尔将因素分析应用于人格心理学，提出了十六种人格因素。1960至1970年代，卡尔·约瑞斯戈将因素分析与结构方程模型相结合，奠定了验证性因素分析（CFA）的理论基础。