[논문]주성분분석과 공통요인분석에 대한 비교연구: 요인구조 복원 관점에서

정선호; 서상윤

doi:10.5351/kjas.2013.26.6.933

[국내논문] 주성분분석과 공통요인분석에 대한 비교연구: 요인구조 복원 관점에서
A Comparative Study on Factor Recovery of Principal Component Analysis and Common Factor Analysis 원문보기

응용통계연구 = The Korean journal of applied statistics, v.26 no.6, 2013년, pp.933 - 942

초록
AI-Helper

본 연구에서는 시뮬레이션 방법을 사용해서 다양한 조건에서 주성분분석이 얼마나 잘 요인 구조를 복원할 수 있는지를 공통요인분석과 비교하여 체계적으로 평가하였다. 이 연구에서 요인 대 변수 비율, 공통성, 그리고 표본크기를 실험변수로 설정하였다. 주성분분석은 표본의 크기가 200개 이하인 경우 공통적으로 공통요인분석에 비해 더 우수한 요인구조의 복원력을 보여주었다. 특히, 요인 당 변수 수가 적은 경우, 주성분분석은 50개의 표본에서도 만족할 만한 수준의 요인복원능력을 보여주었다. 이와 더불어 공통성 수준 또한 낮은 경우 필요한 표본수는 100개로 늘어난다. 본 연구결과는 요인추출방법으로서 주성분분석의 선택의 근거를 제시하고 타당한 사용에 관한 가이드라인을 제시해 준다.

Abstract ▼ AI-Helper

Common factor analysis and principal component analysis represent two technically distinctive approaches to exploratory factor analysis. Much of the psychometric literature recommends the use of common factor analysis instead of principal component analysis. Nonetheless, factor analysts use principal component analysis more frequently because they believe that principal component analysis could yield (relatively) less accurate estimates of factor loadings compared to common factor analysis but most often produce similar pattern of factor loadings, leading to essentially the same factor interpretations. A simulation study is conducted to evaluate the relative performance of these two approaches in terms of factor pattern recovery under different experimental conditions of sample size, overdetermination, and communality.The results show that principal component analysis performs better in factor recovery with small sample sizes (below 200). It was further shown that this tendency is more prominent when there are a small number of variables per factor. The present results are of practical use for factor analysts in the field of marketing and the social sciences.

주제어

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

그런데 주성분분석이 요인구조 복원 측면에서 어떤 능력을 가지고 있는지에 대해서는 체계적인 평가가 이뤄지지 않았다. 따라서 본 연구에서는 공통요인분석과 비교해서 어떤 수준의 요인구조 복원능력을 가지고 있는지를 시뮬레이션 기법을 통해서 체계적으로 평가하고자 하였다. 이를 위해 요인구조 복원에 중요한 영향을 미치는 요인 대 변수 비율, 공통성, 표본수를 실험변수로 하여 각 조건하에서 주성분분석의 요인구조복원 능력을 공통요인분석과 비교 평가하였다.
하지만 이 관점에서 두 방법을 체계적으로 비교 평가한 연구는 여전히 찾아보기 어렵다. 따라서 본 연구에서는 요인구조 복원에 중요한 영향을 미치는 조건을 제시하고 각 조건 하에서 주성분분석이 공통요인분석과 비교해서 얼마나 잘 모집단과 유사한 요인구조를 생성해 낼 수 있는지를 몬테카를로(Monte Carlo) 시뮬레이션기법을 통해 체계적으로 평가해 보고자 한다. 이 연구 결과를 토대로 사회과학 연구자들은 어떤 상황에서 주성분분석이 올바른 요인 해석결과를 제공할 수 있는지를 이해할 수 있다.

가설 설정

1은 분산분석 결과를 보여준다. 모든 주효과(main effect)와 상호작용효과(interaction effect)는 통계적으로 유의미하다. 하지만 이 결과를 그대로 받아들이기 어렵다.

제안 방법

따라서 본 연구에서는 공통요인분석과 비교해서 어떤 수준의 요인구조 복원능력을 가지고 있는지를 시뮬레이션 기법을 통해서 체계적으로 평가하고자 하였다. 이를 위해 요인구조 복원에 중요한 영향을 미치는 요인 대 변수 비율, 공통성, 표본수를 실험변수로 하여 각 조건하에서 주성분분석의 요인구조복원 능력을 공통요인분석과 비교 평가하였다.

데이터처리

공통요인분석-최대우도법)을 독립변수로, 일치도 계수를 종속변수로 설정한다. 여기에 분산분석(ANOVA)을 적용하여 각 독립변수가 종속변수에 어떤 영향을 주는지를 체계적으로 조사해볼 수 있다.

이론/모형

낮은 요인 대 변수 비율(low overdetermination)에서 요인 수는 f = 7 그리고 변수 개수는 p = 20이다 (f : p = 1 : 3). Tucker 등 (1969)이 개발한 방식을 사용해서 6개의 모집단 상관행렬을 만들었다. 이는 공통성 세 수준(3) X 요인 대 변수 비율 두 수준(2)의 조합에 해당된다.
이는 공통성 세 수준(3) X 요인 대 변수 비율 두 수준(2)의 조합에 해당된다. 각각의 모집단 상관행렬에 Cholesky 분해법을 적용해서 상삼각행렬(upper triangular matrix)을 구하고 정규분포를 따르는 난수(random number)를 생성해서 이를 서로 곱해서 표본을 생성한다 (Wijsman, 1959). 총 30개의 실험 조건(5 Sample Sizes x 3 levels of communality x 2 degrees of overdetermination)에서 각각 표본 상관행렬을 200개 생성하였다.
공통요인분석은 측정오차를 설명하기 위해 상관행렬 대각선에 있는 요소를 1대신 공통분산(common variance)으로 대체한 후 요인적재량을 추정하기 위해 특이값 분해법(singular value decomposition; SVD)을 적용한다. 고유분산을 추정하는 방법은 어떤 평가함수(criterion function)을 적용하는가에 따라 최대우도법과 주축분해법으로 구분된다 (Briggs와 MacCallum, 2003).

성능/효과

마지막으로 요인 대 변수 비율과 공통성 수준이 모두 낮은 경우에는 두 방법 모두 모집단과 동일한 요인구조 복원을 위해 500 이상의 표본수를 필요로 하지만, 주성분분석은 100개의 표본에서도 만족할만한 수준의 요인복원능력을 보여주었다. 결론적으로 주성분분석은 전반적으로 공통요인분석보다 안정적이며 우수한 요인복원능력을 보여주었으며, 최대우도법을 이용한 공통요인 분석은 표본크기가 작은 경우 요인복원능력이 상당히 저조한 것으로 나타났다. 본 연구결과는 사회과학 및 행동과학에서 주로 사용하는 주성분분석의 타당한 사용에 관한 가이드라인을 올바른 요인해석 측면에서 제시해 준다.
세 번째, 요인 대 변수 수가 낮은 조건에서 주성분분석은 공통요인분석 훨씬 더 우수한 요인구조 복원력을 보여주었다. 공통요인분석은 표본의 크기에 따라 일치도 계수의 변화가 큰 반면에, 주성분분석은 표본크기에 관계없이 안정적인 일치도 계수 패턴을 보여주었다. 이 조건에서 주성분분석은 모집단과 동일한 요인구조 복원을 위해 평균적으로 최소한 200 개의 표본수를 필요로 한다.
그런데 주성분분석은 표본수 50인 경우에도 만족할만한 수준의 복원력을 보여주었다. 구체적으로 공통성 수준이 높으면 주성분분석의 경우 모집단과 동일한 요인구조 복원을 위해 필요한 표본수는 50으로 줄어든다. 이에 반해 공통성이 넓은(wide) 분포를 갖는 경우, 주성분분석과 공통요인분석은 동일한 요인구조 복원을 위해 300 이상의 표본수를 필요로 한다.
첫 번째, 표본수가 200보다 적은 경우 주성분분석이 공통요인분석보다 일관되게 요인구조 복원력이 뛰어났다. 두 번째, 요인 당 변수 수가 높은 조건에서는 표본수가 50인 경우에도 주성분분석과 공통요인분석 모두 모집단과 동일한 수준의 요인패턴을 산출할 수 있었다. 만약 이 조건에서 공통성 수준이 낮아지면 두 요인추출방법 모두 모집단과 동일한 요인구조를 산출하기 위해 100 이상의 표본수를 필요로 했다.
그런데 주성분분석은 표본수 50인 경우에도 만족할만한 수준의 복원력을 보여주었다. 마지막으로 요인 대 변수 비율과 공통성 수준이 모두 낮은 경우에는 두 방법 모두 모집단과 동일한 요인구조 복원을 위해 500 이상의 표본수를 필요로 하지만, 주성분분석은 100개의 표본에서도 만족할만한 수준의 요인복원능력을 보여주었다. 결론적으로 주성분분석은 전반적으로 공통요인분석보다 안정적이며 우수한 요인복원능력을 보여주었으며, 최대우도법을 이용한 공통요인 분석은 표본크기가 작은 경우 요인복원능력이 상당히 저조한 것으로 나타났다.
두 번째, 요인 당 변수 수가 높은 조건에서는 표본수가 50인 경우에도 주성분분석과 공통요인분석 모두 모집단과 동일한 수준의 요인패턴을 산출할 수 있었다. 만약 이 조건에서 공통성 수준이 낮아지면 두 요인추출방법 모두 모집단과 동일한 요인구조를 산출하기 위해 100 이상의 표본수를 필요로 했다. 세 번째, 요인 대 변수 수가 낮은 조건에서 주성분분석은 공통요인분석 훨씬 더 우수한 요인구조 복원력을 보여주었다.
만약 이 조건에서 공통성 수준이 낮아지면 두 요인추출방법 모두 모집단과 동일한 요인구조를 산출하기 위해 100 이상의 표본수를 필요로 했다. 세 번째, 요인 대 변수 수가 낮은 조건에서 주성분분석은 공통요인분석 훨씬 더 우수한 요인구조 복원력을 보여주었다. 공통요인분석은 표본의 크기에 따라 일치도 계수의 변화가 큰 반면에, 주성분분석은 표본크기에 관계없이 안정적인 일치도 계수 패턴을 보여주었다.
요인분석에서 요인을 추출하는 방법은 크게 전체변수의 분산을 이용하는 주성분분석과 변수들의 공통분산을 이용하는 공통요인분석방법으로 구분되는데, 공통요인분석은 변수의 측정오차를 고려한다는 측면에서 보다 타당한 방식으로 간주할 수 있다. 그렇지만 요인적재량 추정이 용이하다는 이유에서 주성분분석이 사회과학 및 행동과학 연구에서 더 빈번하게 사용되어 왔다 (Conway와 Huffcutt, 2003).
공통요인분석은 표본의 크기에 따라 일치도 계수의 변화가 큰 반면에, 주성분분석은 표본크기에 관계없이 안정적인 일치도 계수 패턴을 보여주었다. 이 조건에서 주성분분석은 모집단과 동일한 요인구조 복원을 위해 평균적으로 최소한 200 개의 표본수를 필요로 한다. 그런데 주성분분석은 표본수 50인 경우에도 만족할만한 수준의 복원력을 보여주었다.
구체적으로 공통성 수준이 높으면 주성분분석의 경우 모집단과 동일한 요인구조 복원을 위해 필요한 표본수는 50으로 줄어든다. 이에 반해 공통성이 넓은(wide) 분포를 갖는 경우, 주성분분석과 공통요인분석은 동일한 요인구조 복원을 위해 300 이상의 표본수를 필요로 한다. 그런데 주성분분석은 표본수 50인 경우에도 만족할만한 수준의 복원력을 보여주었다.
이 연구를 통해 다음과 같은 중요한 결과를 얻었다. 첫 번째, 표본수가 200보다 적은 경우 주성분분석이 공통요인분석보다 일관되게 요인구조 복원력이 뛰어났다. 두 번째, 요인 당 변수 수가 높은 조건에서는 표본수가 50인 경우에도 주성분분석과 공통요인분석 모두 모집단과 동일한 수준의 요인패턴을 산출할 수 있었다.

후속연구

결론적으로 주성분분석은 전반적으로 공통요인분석보다 안정적이며 우수한 요인복원능력을 보여주었으며, 최대우도법을 이용한 공통요인 분석은 표본크기가 작은 경우 요인복원능력이 상당히 저조한 것으로 나타났다. 본 연구결과는 사회과학 및 행동과학에서 주로 사용하는 주성분분석의 타당한 사용에 관한 가이드라인을 올바른 요인해석 측면에서 제시해 준다.

질의응답

핵심어	질문	논문에서 추출한 답변
	고객 정보를 다루는 데 있어 중요한 통계적 이슈는?	유통업계 및 금융업계 등에서 관찰할 수 있는 데이터는 많은 수의 고객으로부터 발생하는 방대한 고객 정보와 많은 양의 구매 및 거래 정보로 이루어져 있으므로 그 규모가 매우 크다. 수많은 고객 정보를 다루는데 있어서 제기되는 중요한 통계적 이슈 중 하나는 과연 이 정보를 효과적으로 어떻게 요약할 것인지에 관한 것이다 (Witten 등, 2011). 다변량 통계 분석법 중 주성분분석은 이러한 문제에 대한 답을 쉽게 할 수 있다.
	탐색적 요인분석을 사용할 때 어떻게 사용되는가?	탐색적 요인분석은 사회과학 연구에서 기본적인 분석도구로 사용되어 왔다 (Costello와 Osborne, 2005). 요인분석 사용자들은 탐색적 요인분석을 사용할 때 요인추출방법, 추출할 요인 수 결정, 요인 축의 회전방법에 대해 단계적으로 의사결정을 한다. 그런데 각 단계에서 다양한 방법들이 존재하고 특정 방법의 선택에 따라 요인분석 결과가 달라질 수 있다.
	요인구조 복원능력을 파악하기 위해 사용하는 척도는?	본 연구에서 요인구조 복원능력은 요인해석의 유사성(similarity of factor interpretations)을 의미한다. 이를 평가할 수 있는 척도로서 일반적으로 Tucker의 일치도 계수(congruence coefficient)를 사용한다. 이 계수를 활용해서 모집단과 표본의 요인적재량 행렬 패턴의 유사성을 평가한다.

참고문헌 (25)

Acito, F. and Anderson, R. D. (1980). A monte carlo comparison of factor analytic methods, Journal of Marketing Research, 17, 228-236.

상세보기
Bijmolt, T. H. A. and Van de V., M. (2012). Multiattribute perceptual mapping with idiosyncratic brand and attribute sets, Marketing Letters, 23, 585-601.

상세보기
Briggs, N. E. and MacCallum, R. C. (2003). Recovery of weak common factors by maximum likelihood and ordinary least squares estimation, Multivariate Behavioral Research, 38, 25-56.

상세보기
Carroll, J. D. and Green, P. E. (1997). Psychometric methods in marketing research: Part 2, multidimensional scaling, Journal of Marketing Research, 34, 193-204.

상세보기
Cohen, J. (1988). Statistical Power for the Behavioral Sciences, Hillsdale, Lawrence Erlbaum, NJ.
Conway, J. M. and Huffcutt, A. I. (2003). A review and evaluation of exploratory factor analysis practices in organizational research, Organizational Research Methods, 6, 147-168.

상세보기
Costello, A. and Osborne, J. (2005). Best practices in exploratory factor analysis: Four recommendations for getting the most from your analysis, Practical Assessment, Research and Evaluation, 10, 1-9.
Gagne, P. and Hancock, G. R. (2006). Measurement model quality, sample size, and solution propriety in confirmatory factor models, Multivariate Behavioral Research, 41, 65-83.

상세보기
Guilford, J. P. (1954). Psychometric Methods, McGraw Hill, New York.
Hair, J. F., Black, W. C., Babin, B. J. and Anderson, R. E. (2009). Multivariate Data Analysis, Upper Saddle River, Prentice-Hall, NJ.
Lorenzo-Seva, U. and ten Berge, J. M. F. (2006). Tucker's congruence coefficient as a meaningful index of factor similarity, Methodology: European Journal of Research Methods for the Behavioral and Social Sciences, 2, 57-64.

상세보기
MacCallum, R. C., Widaman, K. F., Zhang, S. and Hong, S. (1999). Sample size in factor analysis, Psychological Methods, 4, 84-99.

상세보기
MacCallum, R. C., Widaman, K. F., Preacher, K. and Hong, S. (2001). Sample size in factor analysis: The role of model error, Multivariate Behavioral Research, 36, 611-637.

상세보기
O'Connor, B. P. (2000). SPSS and SAS programs for determining the number of components using parallel analysis and Velicer's MAP test, Behavior Research Methods, Instruments, and Computers, 32, 396-402.

상세보기
Paxton, P., Curran, P. J., Bollen, K., Kirby, J. and Chen, F. (2001). Monte Carlo Experiments: Design and implementation, Structural Equation Modeling, 8, 287-312.

상세보기
Pennell, R. (1968). The influence of communality and N on the sampling distributions of factor loadings, Psychometrika, 33, 423-439.

상세보기
Preacher, K. J. and MacCallum, R. C. (2002). Exploratory factor analysis in behavior genetics research: Factor recovery with small sample sizes, Behavior Genetics, 32, 153-161.

상세보기
Rammstedt, B., Goldberg, L. R. and Borg, I. (2010). The measurement equivalence of big-five factor markers for persons with different levels of education, Journal of Research in Personality, 44, 53-61.

상세보기
Snook, S. C. and Gorsuch, R. L. (1989). Component analysis versus common factor analysis: A Monte Carlo study, Psychological Bulletin, 106, 148-154.

상세보기
Tucker, L. R., Koopman, R. F. and Linn, R. L. (1969). Evaluation of factor analytic research procedures by means of simulated correlation matrices, Psychometrika, 34, 421-459.

상세보기
Velicer, W. F. and Fava, J. L. (1998). Effects of variable and subject sampling on factor pattern recovery, Psychological Methods, 3, 231-251.

상세보기
Velicer, W. F., Peacock, A. C. and Jackson, D. N. (1982). A comparison of component and factor patterns: A Monte Carlo approach, Multivariate Behavioral Research, 17, 371-388.

상세보기
Velicer, W. F. and Jackson, D. N. (1990). Component analysis vs. Common factor analysis: Some issues in selecting an appropriate procedure, Multivariate Behavioral Research, 251, 1-28.
Wijsman, R. A. (1959). Applications of a certain representation of the Wishart matrix, Annals of Mathematical Statistics, 30, 597-601.

상세보기
Witten, I. H., Frank, E. and Hall, M. A. (2011). Data Mining: Practical Machine Learning Tools and Techniques, Morgan Kaufmann, Burlington, MA.

저자의 다른 논문 :

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증