구조방정식모형(SEM) 입문 2026: 측정·구조모형, 적합도 지수(CFI·RMSEA) 해석과 AMOS 흐름
학위논문 방법론 챕터를 작성하다 보면 지도교수로부터 “이 연구는 구조방정식모형(SEM)으로 분석해야 한다”는 조언을 받는 순간이 옵니다. 매개효과나 조절효과를 회귀분석만으로 검정하기에는 측정오차를 통제하지 못하고, 여러 잠재변수 사이의 경로를 동시에 다루기 어렵기 때문입니다. 구조방정식모형 SEM은 관측변수 뒤에 숨겨진 잠재변수(latent variable)를 명시적으로 모형화하면서, 경로 계수를 한 번에 추정해 주는 강력한 다변량 기법입니다.
그러나 SEM은 진입 장벽이 높습니다. AMOS 다이어그램을 처음 열면 경로 화살표를 어디서부터 그려야 할지 막막하고, CFI·RMSEA 같은 적합도 지수가 기준에 미달하면 어떻게 수정해야 하는지 감을 잡기 어렵습니다. 이 가이드는 SEM의 개념적 기초부터 AMOS 실행 흐름, 적합도 지수 해석 기준, 결과 보고 방법까지 연구방법론 교수의 시각으로 체계적으로 정리합니다.
SEM은 잠재변수와 관측변수의 관계를 동시에 추정하는 통계 기법입니다. ① 측정모형(CFA)으로 잠재변수가 관측변수를 얼마나 잘 측정하는지 확인하고, ② 구조모형으로 잠재변수 간 경로를 추정합니다. 적합도 판정은 CFI ≥ 0.90, RMSEA ≤ 0.08, SRMR ≤ 0.08을 기본 기준으로 사용합니다.
SEM이란: 잠재변수와 경로 동시추정
구조방정식모형 SEM(Structural Equation Modeling)은 크게 두 층위로 이루어집니다.
- 잠재변수(Latent Variable): 직접 관찰할 수 없는 심리적·사회적 구성 개념. 예컨대 “번아웃”, “직무만족”, “학업성취동기”는 단일 문항으로 측정할 수 없습니다. 대신 여러 설문 문항(관측변수)을 묶어 잠재변수를 구성합니다.
- 관측변수(Observed / Manifest Variable): 실제 설문에서 응답자가 답한 개별 문항 또는 측정값. 잠재변수의 지표(indicator) 역할을 합니다.
- 측정오차(Measurement Error): 관측변수가 잠재변수를 완벽하게 포착하지 못하는 부분. SEM은 이 오차를 모형에 명시적으로 포함합니다.
SEM은 이 두 층위를 동시에 다룹니다. 측정오차를 명시적으로 모형에 포함하기 때문에, 단순 회귀분석에서 발생하는 감쇠 편향(attenuation bias)을 교정할 수 있습니다. 또한 잠재변수 간 직접효과·간접효과·총효과를 하나의 모형 안에서 동시에 추정하므로, 여러 경로가 얽힌 복잡한 이론 모형을 검정하기에 적합합니다.
SEM은 공분산 구조 분석(Covariance Structure Analysis)이라고도 불립니다. 표본 공분산 행렬이 연구자가 제안한 모형에서 도출되는 이론적 공분산 행렬과 얼마나 일치하는지를 최대우도(Maximum Likelihood, ML) 추정으로 평가합니다.
다중회귀·PROCESS와 SEM의 차이
SEM이 왜 필요한지 이해하려면 기존 회귀 기반 접근과 비교하는 것이 가장 빠릅니다.
| 구분 | 다중회귀 / PROCESS 매크로 | 구조방정식모형(SEM) |
|---|---|---|
| 측정오차 처리 | 변수 완전 측정 가정 (오차 없음) | 측정오차를 모형에 명시적 포함 |
| 잠재변수 | 불가 (합산 점수 사용) | 가능 (CFA로 구성) |
| 경로 동시 추정 | 단계적·개별 회귀 방정식 | 모든 경로 동시 추정 |
| 모형 적합도 평가 | R² 중심 | CFI, RMSEA, SRMR 등 다양한 지수 |
| 복잡한 이론 모형 | 제한적 | 복수 매개·조절 동시 검정 가능 |
Hayes PROCESS 매크로로 매개효과·조절효과를 분석하는 방법은 매개효과·조절효과 분석 완전 가이드 2026에서 Baron & Kenny 방법부터 부트스트랩 신뢰구간 해석까지 상세히 다루고 있습니다. SEM은 PROCESS보다 복잡하지만, 잠재변수를 활용해 측정오차를 통제해야 할 때 또는 이론 모형의 전반적 적합도를 평가해야 할 때 선택하는 기법입니다.
측정모형(CFA)과 구조모형: 2단계 접근
Anderson & Gerbing(1988)이 제안한 2단계 접근법(Two-Step Approach)은 현재도 SEM 분석의 표준 절차로 자리 잡고 있습니다.
1단계: 측정모형 — 확인적 요인분석(CFA)
CFA는 각 잠재변수가 관측변수를 얼마나 잘 반영하는지 검증합니다. 측정모형 단계에서는 구조 경로(잠재변수 간 단방향 화살표)를 그리지 않고, 잠재변수들 사이를 공분산 화살표(양방향 곡선)로 연결합니다. 이 단계에서 확인해야 할 사항은 다음과 같습니다.
- 요인 부하량(Factor Loading): 각 관측변수의 표준화 계수가 0.50 이상(이상적으로는 0.70 이상)인지 확인합니다.
- 수렴 타당도(Convergent Validity): AVE(평균분산추출) ≥ 0.50, CR(구성신뢰도) ≥ 0.70.
- 판별 타당도(Discriminant Validity): 두 잠재변수 간 상관의 제곱이 각 잠재변수의 AVE보다 작아야 합니다(Fornell & Larcker 기준).
신뢰도·타당도 확보 방법 전반은 신뢰도와 타당도 완전 가이드 2026에서 Cronbach’s α부터 수렴·판별 타당도까지 상세히 다룹니다.
2단계: 구조모형 (Structural Model)
측정모형이 양호한 적합도를 보이고 타당도가 확인된 후에만 구조모형으로 넘어갑니다. 이 단계에서는 잠재변수 간에 연구가설에 따른 방향성 경로(단방향 화살표)를 추가합니다. 구조모형은 독립(외생) 잠재변수, 종속(내생) 잠재변수, 그리고 각 내생 잠재변수에 연결된 잔차(disturbance)로 구성됩니다.
적합도 지수 기준과 해석
SEM에서 모형이 데이터를 얼마나 잘 재현하는지 평가하는 데 여러 적합도 지수를 사용합니다. 아래 기준은 방법론 문헌(Hu & Bentler, 1999; Kline, 2023)에서 널리 인용되는 참고치이며, 연구 맥락과 표본 크기에 따라 유연하게 적용해야 합니다.
| 지수 | 의미 | 권고 기준 | 해석 방향 |
|---|---|---|---|
| χ²/df (CMIN/DF) | 카이제곱 대 자유도 비율 | ≤ 3.00 (엄격: ≤ 2.00) | 작을수록 좋음 |
| CFI | 비교 적합지수 (Comparative Fit Index) | ≥ 0.90 (이상적: ≥ 0.95) | 클수록 좋음 (최대 1.00) |
| TLI (NNFI) | Tucker-Lewis 지수 | ≥ 0.90 | 클수록 좋음 |
| RMSEA | 근사 오차 평균 제곱근 | ≤ 0.08 (엄격: ≤ 0.05) | 작을수록 좋음 |
| SRMR | 표준화 잔차 평균 제곱근 | ≤ 0.08 | 작을수록 좋음 |
| GFI / AGFI | 절대 적합지수 (참고용) | ≥ 0.90 (참고치) | 클수록 좋음 |
수정지수(Modification Index, MI) 활용
적합도가 기준에 미달할 때 AMOS는 수정지수를 제공합니다. MI 값이 큰 경로나 오차 공분산을 추가하면 χ²가 크게 감소한다는 의미입니다. 그러나 이론적 근거 없이 MI를 무분별하게 적용하면 모형이 데이터에 과적합(overfitting)됩니다. 수정은 반드시 이론적 설명이 가능한 경우에만, 한 번에 하나씩 적용한 후 전체 적합도를 재확인하는 방식으로 진행해야 합니다.
AMOS 분석 흐름 단계별 가이드
아래는 IBM SPSS AMOS를 기준으로 한 일반적인 SEM 분석 흐름입니다.
- 데이터 준비: SPSS .sav 파일을 준비합니다. AMOS는 결측치 처리에 FIML(Full Information Maximum Likelihood)을 지원하지만, 사전에 기술통계로 결측 패턴을 파악해 두세요. 설문 데이터 정리 절차는 설문조사 방법 완벽 가이드를 참고하세요.
- AMOS 다이어그램 구성: 잠재변수는 타원(ellipse), 관측변수는 직사각형(rectangle), 측정오차는 작은 원으로 표시합니다. 각 잠재변수마다 하나의 요인 부하량을 1로 고정해 척도를 확인합니다.
- 측정모형 실행(CFA): 잠재변수 간 공분산 화살표(양방향)를 연결하고 Analyze → Calculate Estimates 실행. Model Fit 요약 결과를 확인합니다.
- 측정모형 평가: CFI, RMSEA, SRMR 기준 충족 여부 확인. 표준화 요인 부하량 검토. AVE, CR은 AMOS 기본 출력에 포함되지 않으므로 별도로 계산합니다.
- 구조모형 전환: 잠재변수 간 공분산 화살표를 연구가설에 따른 방향성 경로(단방향)로 교체. 내생 잠재변수에 잔차(disturbance) 오차원을 추가합니다.
- 구조모형 실행 및 평가: 전체 적합도 지수, 각 경로의 비표준화·표준화 계수, CR(critical ratio = z통계량), p값을 확인합니다.
- 간접효과 검정: AMOS Analysis Properties → Bootstrap 옵션에서 반복 횟수 2,000회 이상, Bias-Corrected Percentile Method(BC 부트스트랩)를 선택해 간접효과의 95% 신뢰구간을 산출합니다. 신뢰구간이 0을 포함하지 않으면 유의한 간접효과(매개효과)로 판단합니다.
결과 보고 예시
아래는 가상의 연구(번아웃 → 직무만족 → 이직의도 구조모형)를 예로 든 보고 문장 양식입니다.
아래 수치는 설명 목적으로 작성된 예시이며, 실제 연구 데이터에서 도출된 값이 아닙니다.
[측정모형 보고 예시]
확인적 요인분석 결과 측정모형은 χ²/df = 예시값, CFI = 0.XX, TLI = 0.XX, RMSEA = 0.0XX [90% CI: 0.0XX, 0.0XX], SRMR = 0.0XX로 양호한 적합도를 보였다. 모든 관측변수의 표준화 요인 부하량은 0.XX∼0.XX 범위로 수렴 타당도가 확인되었으며, 각 잠재변수의 AVE는 0.50 이상, CR은 0.70 이상으로 나타났다.
[구조모형 경로 보고 예시]
구조모형 분석 결과, 번아웃은 직무만족에 유의한 부적 영향을 미쳤으며(β = −0.XX, p < .001), 직무만족은 이직의도에 유의한 부적 영향을 미쳤다(β = −0.XX, p < .001). 번아웃이 이직의도에 미치는 간접효과는 부트스트랩 95% 신뢰구간이 0을 포함하지 않아(β = −0.XX, 95% CI [−0.XX, −0.XX]) 유의하게 나타났다.
흔한 오류 5가지
- 측정모형 확인 없이 구조모형 바로 실행: 측정 타당도가 확보되지 않으면 구조모형의 경로 계수 자체를 신뢰할 수 없습니다. 반드시 2단계 접근을 따르세요.
- 요인 부하량 0.40 미만 관측변수 방치: 부하량이 낮은 관측변수는 잠재변수를 제대로 반영하지 못합니다. 이론적 검토 후 제거 또는 문항 수정을 고려해야 합니다.
- 표본 크기 부족: SEM은 일반적으로 잠재변수당 관측변수 3개 이상, 최소 표본 200명 이상을 권고합니다. 표본 설계 단계에서 SEM 사용 여부를 사전에 감안해야 합니다. 표본 추출 계획은 표본 추출 방법 완전 가이드 2026을 참고하세요.
- 수정지수(MI) 과도 적용: 이론적 근거 없이 MI를 반복 적용하면 원래 연구가설 모형과 전혀 다른 탐색적 모형이 됩니다. 수정은 이론적 근거가 있을 때만 1회씩 적용 후 재검토합니다.
- 적합도 지수 하나만 보고: χ²만으로 결론 내리거나 CFI만 보고하면 학술지 심사에서 지적을 받습니다. χ²/df, CFI(또는 TLI), RMSEA(90% CI 포함), SRMR을 세트로 보고하는 것이 표준입니다.
SEM 결과표 작성이나 방법론 챕터 서술에 막히셨나요? Tesify는 연구 설계부터 분석 결과 서술까지 학위논문 작성의 핵심 구간을 AI와 함께 완성할 수 있도록 지원합니다. 양적 연구 방법론 전반의 심층 내용은 양적 연구 방법 완전 가이드 2026도 함께 참고하세요.
자주 묻는 질문(FAQ)
SEM과 CFA는 어떻게 다른가요?
CFA(확인적 요인분석)는 SEM의 한 구성 요소입니다. CFA는 잠재변수와 관측변수 간의 관계(측정모형)만 다루는 반면, SEM은 CFA를 포함해 잠재변수 간 경로(구조모형)까지 함께 추정합니다. 즉, SEM = 측정모형(CFA) + 구조모형의 통합입니다.
RMSEA가 0.08을 넘으면 논문에서 어떻게 처리하나요?
RMSEA 0.08∼0.10 구간은 “수용 가능한 적합도(Acceptable Fit)”로 보는 연구자도 있습니다. CFI ≥ 0.90, SRMR ≤ 0.08이 함께 충족된다면, RMSEA 수치와 함께 “CFI 등 증분 적합도 지수가 기준을 충족하며, RMSEA의 90% 신뢰구간 상한이 0.10 미만”임을 명시해 방어할 수 있습니다. 0.10을 초과하면 모형 재명세(re-specification)가 필요합니다.
AMOS 없이 SEM을 분석할 수 있나요?
네. R의 lavaan 패키지, Mplus, SmartPLS(PLS-SEM), LISREL 등이 대안입니다. 특히 lavaan은 무료 오픈소스로 AMOS와 동일한 CB-SEM(공분산 기반 SEM)을 구현합니다. SmartPLS는 PLS-SEM 방식으로 소표본 연구에 유리하지만 CB-SEM과 결과 해석이 다릅니다. 국내 학위논문에서는 AMOS가 여전히 가장 널리 사용됩니다.
잠재변수당 관측변수는 몇 개가 적당한가요?
최소 3개(모형 식별을 위해), 이상적으로는 4∼5개를 권고합니다. 관측변수가 2개뿐이면 모형이 과식별되지 않아 요인 부하량과 오차분산을 동시에 추정하기 어렵습니다(모형 불식별 문제). 반대로 10개 이상이면 오차 간 공분산이 복잡해질 수 있으므로, 이론적 중요도에 따라 핵심 문항을 선별합니다.
SEM으로 매개효과를 검정할 때 부트스트랩이 필요한가요?
네, 현재 표준 방법입니다. AMOS Analysis Properties → Bootstrap 옵션에서 샘플 수 2,000∼5,000회, Bias-Corrected Percentile Method(BC 부트스트랩)를 선택해 간접효과의 95% 신뢰구간을 산출합니다. 신뢰구간이 0을 포함하지 않으면 간접효과(매개효과)가 유의하다고 판단합니다. 과거에 주로 쓰이던 Sobel 검정은 정규분포 가정에 민감해 현재는 부트스트랩 방식이 선호됩니다.
AVE와 CR은 어떻게 계산하나요?
AMOS는 AVE와 CR을 직접 출력하지 않습니다. AMOS에서 표준화 요인 부하량(λ)과 오차분산(ε)을 추출한 후, AVE = Σλ² / (Σλ² + Σε), CR = (Σλ)² / [(Σλ)² + Σε] 공식으로 수동 계산합니다. 엑셀 또는 R로 계산하는 것이 편리합니다. AVE ≥ 0.50, CR ≥ 0.70을 충족해야 수렴 타당도가 확보된 것으로 봅니다.