BookmarkSubscribeRSS Feed

[Mixed Model 1.5.1] Introduction to the Theory of General Linear Mixed Models

Started ‎06-18-2020 by
Modified ‎06-18-2020 by
Views 268

[Mixed Model 1.5.1] Introduction to the Theory of General Linear Mixed Models

 

 

안녕하세요^^

 

 

이번 시간부터는 General linear mixed model에 대해 알아볼텐데요,

우선일반적으로 알고 있는 general linear models general linear mixed model에 대한 비교와 기본적인 이론에 대해 알아보도록 하겠습니다.

 

 

▶ 목차

▷ General linear models 과 General linear mixed model 에 대한 기본 이론

▷ Toy 예제로 보는 정의

▷ ML 방법과 REML 방법 비교

▷ 고정효과에 대한 GLS 추정 방법

 

 

 

 

▶ GLM vs GLMM

▷ GLM Procedure Model

 2.PNG

 

1.PNG

 

7TVxAAAAQElEQVQYV2NgIBeIczMyMnEySPKziDAIszAwCABpMBBiZ_QDUoKsYL4YO4jDwCDBxSbCIM7DwCDKwcjIzEusrQB84gG6.png는 평균 0과 분산 _XGCEhQiWO_Ojk2Sb61laJaGIvtpzcnHiU8izXcxDI0r2529lqASFEFeSGncjN0XhFmBSXGJYKVyLWbeWZyCyTgbHyOcfk4LR4ll.png을 갖는 정규분포를 따르며 독립적이라고 가정합니다.

 

그러므로 general linear model의 경우,

 

ARe5GEWQaGUgAAAAAElFTkSuQmCC.png and 0wAAAAABJRU5ErkJggg__.png 이며, hWCEWBkkuQbhrgQrFmUX4oXwpXh4GCVZ2MbSgAQCfWwPigPcr8AAAAABJRU5ErkJggg__.png는 IPGgnAeCP8qjaBlW1Z3eIKRnUPdeH41XekUkmYdj10ojDsLIAQ5hjMTyWgotzRWApIh2Hbwg1mfzrDaHahv2bnh8ixyuc7k7InHF.png 단위행렬 4jOLgr03ZXOyIBmXldahlxAj854kROnEgSZhglO3Kg3ETqVeHp44kboxKmE08mJW0inTiWcTk7cKD1062Tp1KmUpVOnUpoeOpWyd.png 입니다.

 

또한, qdihf9Da1zIUq9WfROAAAAAElFTkSuQmCC.png and 9QcP5DIcT0vQIQAAAABJRU5ErkJggg__.png이며,  hWCEWBkkuQbhrgQrFmUX4oXwpXh4GCVZ2MbSgAQCfWwPigPcr8AAAAABJRU5ErkJggg__.png는 IPGgnAeCP8qjaBlW1Z3eIKRnUPdeH41XekUkmYdj10ojDsLIAQ5hjMTyWgotzRWApIh2Hbwg1mfzrDaHahv2bnh8ixyuc7k7InHF.png 단위행렬입니다.

 

 

 

 

 

▷ MIXED Procedure Model

 

3.PNG

 

qzUQAAAABJRU5ErkJggg__.png 와 7TVxAAAAQElEQVQYV2NgIBeIczMyMnEySPKziDAIszAwCABpMBBiZ_QDUoKsYL4YO4jDwCDBxSbCIM7DwCDKwcjIzEusrQB84gG6.png 는 독립적이고, 아래와 같은 평균과 분산을 갖는 정규분포를 따른다.

 

w9o7LdekyS02QAAAABJRU5ErkJggg__.png

 

PROC MIXED를 사용하면 G, R행렬에 대해 다양한 공분산 구조를 지정할 수 있습니다.

 

앞서 사용하였던 Toy 예제에서는, ihpdfHqxcev6GKW7dEf6Y0tHsliKC2RXvqnGTzLUInHfRY_NXWILX41OkJNKw3SvEFYVMqX6n4g4gAAAAASUVORK5CYII_.png와 7HObP_AeQ8FGIbJWYgAAAAAElFTkSuQmCC.png이고 분산은 default값으로 사용되는 기본 구조가 사용되었습니다.

 

또한, 반응변수 y에 대해서는 0.PNG and 9r4_at7Bv75Pjo7b5De6jSGPkzvCAAAAAAElFTkSuQmCC.png입니다.

 

 

 

 

 

▷ MIXED Procedure Model

 

5.PNG

 

PROC MIXED에서 MODEL문을 사용하여 fixed effects를 지정하고

 

RANDOM문을 사용하여 특정 random effects를,

 

REPEATED문을 사용하여 특정 분산-공분산 행렬을 가진 errors을 지정할 수 있습니다.

 

 

 

PROC MIXED에서 RANDOM 및 REPEATED 문을 지정할 때 주의할 점은

 

경우에 따라 특정 분산-공분산 행렬구조와 함께 쓰인 statements(예를 들면, REPEATED statement)는 사용된 데이터의 모든 분산을 포함하여, 또 다른 statements(예를 들면, RANDOM statement)가 필요하지 않게 될 때가 있습니다.

 

 

 

 

 

 

▷ Linear Mixed Model Assumption

 

 

 

Linear mixed model에 대한 가정은 다음과 같습니다.

 

 

 

▪ Random effects와 잔차는 평균이 0이고 공분산 행렬은 각각 G 와 R을 갖는 정규분포를 따른다.

▪ Random effects 잔차는 서로 독립이다.

▪ 반응변수의 평균(기대값) 독립변수와 선형관계이다.

 

 

 

 

 

 

▶ Toy 예시

▷ Define the Mixed Model

 

앞에서 사용되었던 Toy 예시의 mixed model 구조에 대해 살펴보겠습니다.

 

이 예제에서 사용된 fixed effects(고정효과) 매개변수는 총 4개 입니다. (전체 평균 + 3종류 접착제)

또한 random effects 매개변수는 7개 (7개의 장난감(blocks)) 이므로, 총 3x7=21개의 관측치가 사용되고,

각 관측치에 해당하는 21개의 random errors가 존재합니다.

 

따라서 fixed effects(X)와 random effects(Z)에 대한 mixed model은 아래와 같은 벡터 및 행렬 구조를 갖게 됩니다.

 

6.PNG

 

bsSdrv159LWWzieU9PDzOk6WZcvHgxH9ozxv1yJTmuSKCVzfIRYD7e8ePHmZzGcdddd2WsGlv_y2Jz4cKF5Pry5cuXLl166623yh.png

 

 

 

▷ Covariance Matrices

 

Random effect 벡터와 random error 벡터의 분산-공분산 행렬과 그에 따른 y에 대한 분산-공분산행렬은 아래와 같이 정의 됩니다.

 

 

10.PNG

 

 

 

위의 각 행렬은 아래와 같이 구성되어 있습니다.

 

 

 

11.PNG

 

 

 

 

[출처]

 

- ‘Applied Mixed Models for Processors Course Notes’

Version history
Last update:
‎06-18-2020 01:07 AM
Updated by:
Contributors

sas-innovate-wordmark-2025-midnight.png

Register Today!

Join us for SAS Innovate 2025, our biggest and most exciting global event of the year, in Orlando, FL, from May 6-9. Sign up by March 14 for just $795.


Register now!

Article Labels
Article Tags