Statistics

I. 연구모델 개발과 가설 설정

• 교재에서는 스마트폰 프로젝트의 연구모델 데이터를 기반으로 작성하였지만, 이번 포스트 이후 부터는 필자의 학위논문 데이터를 기반으로 책 내용과 병행하려고 한다.

(1) 연구모델 개요

• 학위논문 주제: The Mediating Effect of Entrepreneurial Performance on the Relationship between Entrepre-neurial Orientation and Social Capital: The cases from the Philippines
• 주요요인은 기업가적지향성, 사회적자본이며, 종속변수는 기업의 성과로 구성되어 있다.
• 설문지 공개관련:
  • 설문지 Sample이 필요하신 분들은 2021년 2월 이후에 요청하기를 바란다. (졸업이후)
  • 교재는 스마트폰 프로젝트의 연구 모델이라는 주제로 Sample 설문지 문항에 대한 내용이 있다. (p 127)

(2) 연구모델 개발

• 연구모델은 아래와 같다.

I. PLS-SEM 통계 기초

• 교재를 참고하여 통계 기초에 대한 간단한 설명을 서술한다.
  • 이는 다른 통계 책에도 있는 내용이기는 하다.
  • 지난 시간에, PLS-SEM의 분포, 유의 수준과 신뢰수준의 관계, 신뢰도와 타당도, 탐색적 요인분석과 확인적 요인분석, 회귀분석에 대해 설명함
    • 참조: PLS-SEM 통계 분석기법(1)

(1) 추정과 신뢰구간

• 추정(estimation)이란 모집단에 대한 어떠한 정보도 없는 상태에서 모집단을 대표할 수 있는 표본 추출하여 표본의 통계량을 구한 다음 이를 이용해서 모집단의 모수 예측
  • 점추정(Point Estimation): 추정하고자 하는 모수를 하나의 수치로 추정
  • 신뢰구간 추정(Confidence Interval Estimation): 추정하고자 하는 모수가 존재하리라고 예상되는 신뢰구간을 정하여 추정하는 방법
    • 신뢰구간에서는 보통 t분포 이용.
• 신뢰구간의 결정방법은 다음과 같음
  • 첫째, 추출된 표본평균($\bar{x}$)를 구한다.
  • 둘째, 표본평균($\bar{x}$)의 표준편차인 표준오차(standard error)를 산출한다.
  • 셋째, 신뢰수준($1-\alpha$)에 따른 $t$값을 구한다.
  • 마지막으로, 표본평균($\bar{x}$)을 중심으로 표준오차와 $t$값을 곱한 값만큼 좌우($\pm$)로 떨어진 값$\bar{x}\pm t\left (\alpha/2, n-1\right)S/\sqrt{n}$으로 이루어진 구간이 신뢰구간이 됨

(2) SmartPLS에서 PLS 알고리즘

• PLS Algorithm을 실행 시, 잠재변수 점수는 물론 이를 이용해 측정모델의 외부가중치(outer weights), 외부적재치(outer loadings)와 구조모델의 경로계수(path coefficients), 내생잠재변수의 $R^2$ 등의 추정이 가능함.

(3) 부트스트래핑

• PLS-SEM은 데이터가 정규분포를 이룬다고 가정하지 않음
• 무소적 검증을 통해 유의성을 검증하지 않음
• 대신, 부트스트래핑을 통해 계수의 유의성 검증 진행
  • 비모수적 접근을 통해서 각 계수들에 대한 검증통계량인 t값을 추정.
• 절차는 원데이터(raw data)로부터 많은 수의 부표본(subsamples)인 부트스트랩 표본을 복원추출하여 반복적인 회귀분석과정을 통해 t값 산출
  • 보통 부트스트랩 표본은 5,000개 필요
• 예를 들면, 산출된 t값을 이용하여 계수의 유의성을 판단할 수 있음.
  • 5% 유의수준(양측검증)에서 특정 경로계수에 대해 산출된 t값이 $\pm1.96$보다 크면 통계적으로 유의한 차이를 나타낸다고 해석 가능

(4) 외부가중치, 외부적재치 및 경로계수

• 경로계수(path coefficient)는 $P_{12}, P_{23}$와 같이 표시되며, 이는 표준화된 회귀계수
• 외부가중치(outer weight)는 잠재변수와 형성적 측정변수 간 표준화 회귀계수 의미
  • ($W_{11},W_{12}$)와 같이 표시됨
• 외부적재치(outer loading)는 잠재변수와 반영적 측정변수 간 표준화 회귀계수 의미
  • ($L_{35},W_{36}$)와 같이 표시됨
• 모든 표준화 계수는 -1과 +1사이의 값을 가짐

(5) 블라인드 폴딩과 예측적 적합성

• 예측적 적합성(predictive relevance)에 대한 기준으로 $R^2$과 함께 Stone-Geisser의 $Q^2$값을 확인할 필요가 있다.
  • 이 값은 누락거리 D(omission distance)에 의한 블라인드폴딩(Blindfolding) 절차를 통해 얻을 수 있다.
  • 0보다 큰 $Q^2$은 외생잠재변수가 내생잠재변수에 대해 예측적 적합성을 가지고 있음 의미
  • 반대로 0보다 작다면, 예측적 적합성이 부족하다고 봄

(6) 효과크기($f^2$)

• 효과크기 $f^2$은 외생잠재변수의 내생잠재변수에 대한 $R^2$에 기여하는 정도를 평가하는 척도
• 효과크기 $f^2$에 대한 평가는 다음과 같다.
  • 0.02: 작은 효과
  • 0.15: 중간 효과
  • 0.35: 큰 효과
• 효과크기에 대한 수치는 다음과 같다.

$f^{2}=\frac{R_{선택된\ 외생잠재변수\ 포함}^{2}-R_{선택된\ 외생잠재변수\ 제거}^{2}}{1-R_{선택된\ 외생잠재변수\ 포함}^{2}}$

I. PLS-SEM 통계 기초

• 교재를 참고하여 통계 기초에 대한 간단한 설명을 서술한다.
  • 이는 다른 통계 책에도 있는 내용이기는 하다.

(1) PLS-SEM의 분포

• PLS-SEM은 검증 통계량으로 t분포와 t값을 활용함.
  • t분포는 평균이 0, 표준편차가 1인 종모양의 좌우대칭인 분포
  • 유의수준 확인 지표는 p값을 활용함. (사회과학 분야에서는 유의수준 5% 이내)

(2) 유의수준과 신뢰수준의 관계

• 유의수준이 $\alpha$ 이면 신뢰수준은 $1−\alpha$ 가 됨.
  • 즉, 신뢰수준은 허용오차수준인 유의수준에 따라 결정됨.

(3) 신뢰도(Reliability)와 타당도(Validity)

• PLS-SEM은 측정모델과 구조모델을 동시에 분석함.
  • 반영적 측정모델과 형성적 측정모델에 대한 신뢰도와 타당도검증이 이루어져야 함.
  • 측정 모델에 대한 검증 결과 신뢰도와 타당도가 입증되지 않으면 구조모델의 결과도 신뢰할 수 없음

I. SmartPLS 설치

• SmartPLS는 구조방정식모델링을 위한 전용 통계분석 프로그램으로 다양한 학문 분야에서 광범위하게 사용됨.
• 편이성, 친숙성, 안정성 면에서 매우 우수함.
• 매우 적은 소표본에서도 활용할 수 있음.
• 정규분포 등의 엄격한 가정 조건에 구애받지 않고 사용할 수 있음.
• 프로그램 설치는 아래 링크를 클릭한다.
  • Download latest version - SmartPLS 3.3.2
• 학생용 버전은 평생 무료이며, 약간의 사용상 제약이 존재한다.

II. SmartPLS 관련 자료

• 교제 추천

  • 원서 - A Primer on Partial Least Squares Structural Equation Modeling(PLS-SEM) (2013)
  • 번역서 - PLS 구조모델의 이해 (2014)
  • 국내저서 - 석박사학위 및 학술논문 작성 중심의 SmartPLS 3.0 구조방정식모델링 (2018)

• 온라인 강의도 존재하지만, 무료는 아니다.

개요

• 수집된 데이터에 대해 정규성 검증을 하는 것은 중요하다.
• 그런데, CB-SEM과 PLS-SEM의 기준 조건은 조금 상이하다.

정규성 분포 확인

• Kolmogorov-Smirnov Test 또는 Shapiro-Wilk Test를 통해서 검증한다.
  • 귀무가설: 데이터분포를 정규분포를 이룬다, p-value > 0.05
• 데이터가 치우쳐 있는 정도를 나타내는 왜도(skewness: S)와 첨도(Kurtosis: K)를 검토한다.
  • 첨도와 왜도가 -1보다 작거나 또는 +1 보다 크지 않으면 변수는 정규분포를 하고 있다고 판단한다.
• 그러나, 이 부분은 분석 방법에 대해 조금 상이하다.
  • 회귀 분석: 엄밀하게는 2, 관용적으로 3을 사용함. (이일현, 2014)
  • SEM: 왜도가 2 이상이고, 첨도가 7 이상이면 비졍규분포로 봄 (West, Finch & Curran, 1995)

결측치

• 설문문항에 의도적으로 혹은 부주의로 하나 이상의 문항에 대한 답을 하지 않았을 때 발생함.
• PLS-SEM에서는 (1) 평균값대체(mean value replacement)와 (2) 사례별 제거 등이 있다.
  • 측정변수(지표변수)별로 5% 미만인 경우에는 평균값 대체를, 5% 초과시에는 사례별 제거방법을 사용한다.
  • 사례별 제거 방법은 권장하지 않는다. 설문지가 많으면 상관이 없지만, 대개의 경우 그렇지 못하기 때문에, 가급적이면 삭제는 권장하지 않는다.
  • 단, 결측치가 사례별로 15%를 초과하는 경우에는 데이터 파일에서 삭제하는 것이 좋다.

이상치

• 이상치는 특정 설문 혹은 모든 설문에 대한 극단적인 응답값을 말한다.
  • 일반적인 기준으로는 표준화 변량값인 Z값과 표준편차가 $\pm$ 3 이상인 경우는 극단치에 해당한다.
  • 마할라노비스 거리 통계량$D^2$을 이용하여 판단할 수 있음. 만약, $D^2$값이 유의수준 0.01보다 작으면 해당 관측변수는 다변량 이상치로 판단할 수 있다.
  • 이상치는 PLS-SEM을 시행하기 전에 반드시 확인하고 문제가 되는 응답치가 포함되어 있는 경우네느 데이터 파일에서 삭제해야 한다.
  • 가장 일반적인 경우는 이상치가 소수인 경우로 이 때는 해당 이상치를 데이터 파일에서 제거한다.
  • 영향력이 큰 이상치가 있는 경우에는 PLS-SEM에서 OLS 회귀에 영향을 미치기 때문에 면밀한 검토와 평가가 필요하며 조치해야 한다.

다중공선성

• 측정변수(지표)들 간에 다중공선성(Multicollinearity)가 있는지를 확인한다.
• 완벽한 공선성(Collinearity)가 나타나는 경우는 거의 없으며 일반적으로 높은 공선성이 나타난다.
• SmartPLS에서는 분산팽창인자(Variance Inflation Factor: VIF)를 이용하여 평가한다.
  • 모든 측정변수에 대해 VIF값이 임계치인 5보다 작으면 공선성은 존재하지 않는다.
  • VIF값이 5 이상인 경우 잠재적인 공선성 문제(Collinearity Problem)를 지니게 된다.

PLS-SEM vs. CB-SEM

• PLS-SEM과 CB-SEM의 차이점은 아래와 같이 서술 할 수 있다.

구분	PLS-SEM	CB-SEM
사용목적	예측	이론 검증
표본 수	30-100개 가능	200-800개
데이터 파일	CSV 파일	모든 파일 가능
분포 가정	분포 가정이 없음, 비모수적 기법	엄격한 분포 가정(다변량 정규성이 있어야 함)
모델 복잡성	수백 개의 측정 변수 있어도 가능	측정변수의 수가 100개 미만
잠재변수당 측정변수 의 수	1개 이상	3~4개 이상
반영적 지표 + 형성적 지표	매우 용이(모두 사용)	주로 반영적 지표 사용
반영적 지표 + 형성적 지표	매우 용이(모두 사용)	주로 반영적 지표 사용
모델 적합도	모델 적합도 보고 없음	상세한 모델 적합도 보고 필요
오차항의 고려	모델 구축 시 오차항(측정오차와 구조 오차)를 표시하지 않음	오차항(측정오차와 구조오차)을 모델 구축 시 표시함
재귀모델과 비재귀모델	재귀모델(일방향 인과관계)만 가능	재귀모델과 비재귀모델 가능
잠재변수 산출	잠재변수 점수의 산출 가능, 이 점수를 후속연구에 사용	잠재변수 점수의 직접적인 추정이 불가능
모델 평가	측정모델과 구조모델 동시에 설정하고 평가(동시분석법)	측정모델을 이용해 개별 측정변수와 잠재변수의 신뢰도와 타당도를 분석한 후 구조모델을 통해 가설검증을 시행 (2단계 분석법)

Reference

신건권. (2018). 석박사학위 및 학술논문 작성 중심의 SmartPLS 3.0 구조방정식모델링. 서울: 청람.

개요

• PLS-SEM은 작은 표본 크기에 의해 식별 문제가 발생하지 않으며 모델이 복잡하고 표본크기가 작은 상황에서도 높은 수준의 통게적 검증력을 가짐

• 일반적으로 CB-SEM의 경우 표본 크기가 200개 이상이 필요한 것으로 알려짐

• 반대로 PLS-SEM은 30-100개 정도의 소표본인 경우에도 적용할 수 있다.

  • 표본크기를 증가시키면 모델 추정의 정확성이 높아지나 표본이 250개 이상이 넘어가면 CB-SEM과 차이점이 없어진다.

최소 표본 크기

Chin(1988)과 Barclay, Higgins & Thompson(1995)는 최소표본크기 결정에 있어서 10배수 규칙(10 times rule)을 제안함.

• 단일 잠재변수(구성개념)을 측정하는 데 사용된 형성적 지표 최대수의 10보다 커야 함
• 구조모델에서 특정 잠재변수(구성개념)로 향하는 경로 최대수의 10배 보다 커야 함
• 이러한 10배수 규칙에 의하면 PLS-SEM을 사용하는 데 있어서 최소한의 표본크기는 형성적 측정 모델과 반영적 측정모델이 모두 구조모델 속에 포함되어 있는 경우에는 두 기준 모두 적용해 판단한다.

개요

• 데이터의 유형에는 크게 4가지가 있다.
  • 명목척도, 서열척도, 등간척도, 비율척도
• 그중에서 PLS-SEM 분석 시에 필요한 척도는 등간척도와 비율척도이다.
  • 간혹, 범주형 변수의 경우 더미변수(Dummy Variable)로 변환하여 투입하기도 한다.

데이터의 유형

(1) 명목척도

• 범주형 데이터로 측정된 측정대상으로 단순히 범주로 분류하기 위한 목적으로 숫자를 부여한 척도
  • 예시: 성별, 종교, 직업, 혈액형, 만족여부(예/아니오)

(2) 서열척도

• 범주형 데이터로 명목척도의 기능뿐 아니라 각 범주 간의 대소관계, 순위(서열성)에 관하여 숫자를 부여한 척도(수학적 가감승제 계산 안 됨)
  • 예시: 학력, 건강상태 등

(3) 등간척도

• 연속형 데이터로 절대적 영점(Absolute Zero)이 없으며 대상이 갖는 양적인 정도의 차이에 따라 등간격으로 숫자를 부여한 척도(수학적 가감승제 계산 가능)
  • 예시: 온도, 만족도(리커트척도), 충성도(리커트척도), 물가지수, 생산지수 등

(4) 비율척도

• 연속형 데이터로 절대적 영점이 존재하며, 비율계산이 가능한 숫자를 부여한 척도(수학적 가감승제 계산 가능)
  • 매출액, 무게, 가격, 소득, 길이, 부피 등

통계기법의 선택

• 변수의 성격에 따라 다른 통계기법이 선택될 수 있다.

(1) 범주형(종속변수) + 범주형 변수(독립변수)

• 교차분석(카이제곱검증)

(2) 범주형(종속변수) + 연속형 변수(독립변수)

• 판별분석, 군집분석, 로지스틱회귀분석

(3) 연속형(종속변수) + 범주형 변수(독립변수)

• t-검증, 분산분석, 다변량분산분석

(4) 연속형(종속변수) + 연속형 변수(독립변수)

• 상관분석, 회귀분석, 경로분석/구조방정식모델링분석

Reference

신건권. (2018). 석박사학위 및 학술논문 작성 중심의 SmartPLS 3.0 구조방정식모델링. 서울: 청람.

개요

• 인과방향에 따라 지표를 반영적 지표(reflective indicator) 형성적 지표(formative indicator)로 구분한다. -반영적 지표는 잠재변수가 원인이 되고 측정변수들이 결과가 되는 지표로 잠재변수가 측정변수를 야기하는 것으로 가정함
• 형성적 지표는 측정변수가 원인이 되고 잠재변수가 결과가 되는 지표로 측정변수가 잠재변수를 야기하는 것으로 가정함.
• 화살표의 방향은 측정변수에서 잠재변수로 표시됨.

I. 반영적 지표와 형성적 지표

(1) 인과관계(화살표)의 방향

• 반영적 지표: 잠재변수 $\rightarrow$ 측정변수(지표들)
• 형성적 지표: 측정변수(지표들) $\rightarrow$

(2) 측정변수(지표)간 상관

• 반영적 지표: 설문지법 적용 시, 각 설문문항은 유사한 것들로 구성되어 있어야 함

개요

• PLS-SEM의 주요 개념 및 유사용어에 대해 살펴본다.
• 영어로 논문을 써야하기 때문에, 한국어와 영어를 같이 표기했다.

주요개념

• 잠재변수(Latent Variable): 직접 측정되지 않는 비관측변수(Unobserved Variable)로 측정변수를 통해 간접적으로 측정.
  • 잠재변인, 구인, 구성개념(construct), 차원(dimension), 요인, 이론변수라고도 하며 경로도에는 circle로 표시됨
• 측정변수(Measured Variable): 직접 측정되는 관측변수(Observed Variable)로 잠재변수를 측정하기 위해 사용된 변수를 말함. (설문문항이 여기에 해당됨
  • 지표변수(Indicator Variable), 명시변수(Manifest Variable), 측정항목(Items)로 표기되며 직사각형 또는 정사각형으로 표시함
• 외생변수(Exogenous Variable): 독립변수의 개념으로 다른 변수의 변화에 원인(Causes)이나 동기의 역할을 하는 변수로 경로도에서 화살표가 시작이 되는 모든 변수 말함
  • 잠재변수 개념과 결합되면 외생잠재변수(Exogenous Latent Variable)가 됨
• 내생변수(Endogenous Variable): 종속변수의 개념으로 다른 변수에 의해 영향을 받는 변수이며 화살표를 받는 변수를 말함. 이는 잠재변수 개념과 결합되면 내생잠재변수(Endogenous Latent Variable)가 됨
• 측정오차(Measurement Error): 측정변수에 포함되어 있는 오차로 잠재변수가 관측변수(측정변수)를 설명하고 난 나머지 즉 설명되지 않은 부분을 말함.
  • 오차항(error term), 잔차(residual)이라고 함. 보통 e로 표시됨.
• 구조오차(Structural Error): 외생변수로 내생변수를 예측할 때 내생잠재변수에 발생하는 오차로 외생변수가 내생변수를 설명하고 난 나머지를 말함.
  • 방해오차(Disturbance, 방정식오차(Equation Error), 설명오차라고 함), 보통 d로 표시됨
• 측정모델(Measurement Model, Outer Model): 잠재변수가 측정변수(지표)에 어떻게 연결되어 있는가를 나타내는 모델을 말한다. 이는 측정변수나 잠재변수의 신뢰도와 타당도를 분석하는 데 목적이 있음.
• 반영적 측정모델(Reflective Measurement Model): 잠재변수가 원인이 되고 측정변수가 결과가 될 때의 측정모델을 말한다.
• 형성적 측정모델(Formative Measurement Model): 측정변수가 원인이 되고 잠재변수가 결과가 될 때의 측정모델을 말한다.
• 구조모델(Structural Model): 잠재변수 간의 인과관계를 나타내는 모형으로 가설을 검증하기 위한 모델.
• 반영적 지표(Reflective Indicators): 특정모델에서 측정변수가 잠재변수로부터 화살표를 받는 측정변수들(혹은 지표들)을 말함.
  • 이 변수에는 측정오차가 존재하며 결과지표(effect indicator)라고도 함.
• 형성적 지표(Formative Indicators): 측정모델에서 잠재변수가 측정변수들(지표들)에 의하여 영향을 받는 지표를 말한다. 이 변수에는 측정오차가 존재하지 않으며 원인지표(cause indicator)라고도 한다.
• 인과관계(causation): 원인변수가 결과변수에 미치는 영향관계를 말하며 단방향 화살표로 표시한다.
• 쌍방향적 인과관계(Reciprocal Causation): 쌍방향적 인과관계는 변수 서로 간 원인-결과를 반복하는 관계를 말함. 상관은 서로 관련되어져 있는 변수 간의 상관을 표시함.

Reference

신건권. (2018). 석박사학위 및 학술논문 작성 중심의 SmartPLS 3.0 구조방정식모델링. 서울: 청람.

개요

• 기본적으로 다변량 분석
• 1세대 분석 방법론
  • 군집분석, EFA, 분산분석, 다항회귀, 로지스틱 회귀분석
• 2세대 분석 방법론
  • PLS-SEM and CB-SEM
• 간단한 용어 정리
  • SEM - Structural Equation Modeling
  • CB - Covariance Based SEM
  • PLS - Partial Least Squares SEM (= PLS path Modeling)
• CB-SEM의 주 목적은 실증적으로 검증 가능한 다중 변수들 간의 체계적 관계 확인
• PLS-SEM은 주로 탐험적 연구에서의 이론발전에 주로 사용되며, 종속변수의 분산을 설명하는데 주 초점을 맞준다.
• 본 논문에서는 필리핀에서의 스타트업 등에 관련된 논문 및 자료 수집에 한계가 있기 때문에 PLS-SEM 분석방법론을 채택하여 탐험연구에 준하여 분석을 진행한다.

There are two types of SEM: covariance-based SEM (CB-SEM) and partial least squares SEM (PLS-SEM; also called PLS path modeling). CB-SEM is primarily used to confirm (or reject) theories (i.e., a set of systematic relationships between multiple variables that can be tested empirically). It does this by determining how well a proposed theoretical model can estimate the covariance matrix for a sample data set. In contrast, PLS-SEM is primarily used to develop theories in exploratory research. It does this by focusing on explaining the variance in the dependent variables when examining the model. We explain this difference in more detail later in the chapter.