1 CONSTRUÇÃO DE MODELOS ESTATÍSTICOS BASE-

ADOS NA VEROSSIMILHANÇA

O paradigma da verossimilhança consiste em escrever a função que define o quão plausível é cada valor do parâmetro. O melhor parâmetro para um dado modelo e um conjunto de dados é aquele que maximiza L(θ | dados; modelo). A curvatura da função de verossimilhança ao redor de θ está relacionado com a incerteza sobre θ (variância de θ̂).

θ̂  θ L(θ)  curvatura ao redor de θ̂ que é equivalente a var(θ̂)

Em suma, este paradigma consiste em escrever a função L(θ) ≡ f(y_{i}| θ, modelo) (distribuição marginal de y_{i}), e então o problema estatístico está concluído e passa a ser um problema matemático de otimização. Nesta função, y_{i} são quantidades observáveis, f(·) ≡ [Y] a distribuição marginal de y e Y é o vetor de todas as v.a. observáveis. [Y] é dita a distribuição marginal (ou modelo marginal).

1.1 VEROSSIMILHANÇA PARA MODELOS DE EFEITOS ALEATÓRIOS (HIERÁRQUICOS)

Dizemos que um modelo tem efeitos aleatórios quando possui variáveis latentes (ou variáveis não observáveis). Esse modelo é representado esquematicamente como

M : θ; Y; U; ϕ

onde θ são parâmetros associados às variáveis observáveis Y e ϕ são parâmetros associados às variáveis não observáveis U (ou efeitos aleatórios).

O modelo é constituído pela distribuição conjunta [Y, U]. Assim, a verossimilhança para este problema será dada por L(θ; ϕ) que irá também coincidir com a distribuição marginal de Y obtida pela fatoração da distribuição conjunta de Y e U, ou seja, [Y, U] = [Y |U][U]. Assim,

L(θ; ϕ) ≡ [U] = ∫ [Y, U]du = ∫ [Y |U][U]du  (1)

A integral da distribuição conjunta de Y e U em relação a U retira o efeito aleatório do modelo. Sem o efeito aleatório, basta especificar a matriz de covariância, ou seja, especificar a distribuição de Y. Um modelo geoestatístico, por exemplo, é um modelo de efeitos aleatórios onde o processo S corresponde aos efeitos aleatórios não observáveis. Outros exemplos podem ser levantados onde (a) ou os elementos (quantidades) não observadas de U são independentes entre si ou (b) são correlacionados (caso geoestatístico).

Certos modelos de efeitos aleatórios implicam em um modelo marginal (caso do modelo geoestatístico normal), mas a recíproca não é verdadeira. No caso geoestatístico, podemos estimar o modelo tanto especificando-o como modelo marginal quanto como modelo de efeitos aleatórios. Entretanto, deve-se tomar cuidado com a interpretação. Se você especificar um modelo marginal (para um modelo de efeitos aleatórios) este pode dar um componente de variância negativo. Isto significa que a interpretação do efeito aleatório não fará sentido. Diferentes modelos de efeitos aleatórios podem levar a um mesmo modelo marginal. Estaremos, aqui, interessados em inferência de modelos aleatórios. A especificação dada pela equação (1) serve para qualquer modelo de efeitos aleatórios, desde o mais simples ao mais complicado.

Quando se especifica um modelo estatístico e se quer fazer inferência baseada na verossimilhança (bayesiana ou não), devemos no final obter [Y] diretamente, integrando ou fatorando, como é o caso de modelos de transição [Y_{1}, ..., Y_{n}] = [Y_{n}|Y_{1}, ..., Y_{n−1}][Y_{n−1}|Y_{1}, ..., Y_{n−2}] ⋯ [Y_{2}|Y_{1}][Y_{1}], vai depender de como o modelo é declarado.

Seja Y ∼ N_{k}(μ, Σ) uma distribuição normal multivariada de ordem k onde sua f.p. é dada por:

f(y) = (\frac{1}{2π} )^{−k/2} |Σ|^{−1/2}exp \{−\frac{1}{2}(Y − μ)′ Σ^{−1}(Y − μ)\}

onde |Σ| é o determinante da matriz de covariâncias.

A quantidade (\frac{1}{2π} )^{−k/2} |Σ|^{−1/2} é irrelevante na distribuição de probabilidade (mas é irrelevante para a verossimilhança) por ser constante, (pois não depende de Y), restando somente a quantidade exp\{−\frac{1}{2}(Y − μ)′ Σ^{−1}(Y − μ)\}, dita Kernel da distribuição.

1.2 FATOS DE PROBABILIDADE NA NORMAL MULTIVARIADA

Seja Y_{n} ∼ MV N(μ_{Y} , Σ_{Y Y}) um vetor de variáveis observáveis de tamanho n e seja U_{m} ∼ MV N(μ_{U}, Σ_{UU}) um vetor de variáveis não observáveis e de efeitos aleatórios de tamanho m. Então a distribuição conjunta de Y_{n} e U_{m} será dada por:

[ \begin{matrix}Y_{n} \\ U_{m} \end{matrix} ] ∼ MV N_{n+m} ([ \begin{matrix}μ_{Y} \\ μ_{U} \end{matrix} ]; [ \begin{matrix}Σ_{Y Y} & Σ_{Y U} \\ Σ_{UY} & Σ_{UU} \end{matrix} ])

Caso 1: Obtendo a Distribuição Marginal de Y a Partir da Distribuição Conjunta de Y e U As distribuições marginais são definidas por:

[Y_{n}] = ∫ [Y_{n}; U_{m}] du  e  [U_{m}] = ∫ [Y_{n}; U_{m}] dy

onde Y_{n} ∼ MV N(μ_{Y} , Σ_{Y Y}) e U_{m} ∼ MV N(μ_{U}, Σ_{UU})

Caso 2: Obtendo a Distribuição Condicional de Y dado U a Partir da Distribuição Conjunta de Y e U Neste caso,

[Y_{n}|U_{m}] ∼ MV N_{n+m} (μ_{Y} − Σ_{Y U}Σ_{UU}^{−1}(U − μ_{U}); Σ_{Y Y} − Σ_{Y U}Σ_{UU}^{−1}Σ_{UY} )

Este resultado é análogo ao usado para obter o estimador de krigagem simples obtido em modelos geoestatísticos. Se as variáveis Y_{n} e U_{m} forem independentes, então a distribuição marginal de Y_{n} será igual a distribuição condicional de Y_{n}|U_{m} pois Σ_{Y U} = Σ_{UY} = 0.

Caso 3: Obtendo a Distribuição Marginal de Y_{n} Induzida pelo Modelo de Efeitos Aleatórios Neste caso, não dispomos da distribuição conjunta de Y_{n} e U_{m}. Se especificarmos a distribuição dos efeitos aleatórios U_{m} e a distribuição condicional de Y_{n} dado U_{m} poderemos derivar a distribuição conjunta e da distribuição conjunta de Y_{n} e U_{m} extraímos a distribuição marginal de Y_{n}. Então, se especificarmos o seguinte modelo de efeitos aleatórios

[U_{m}] ∼ MV N_{m}(μ_{U}1; Σ_{UU})  e  [Y_{n}|U_{m}] ∼ MV N_{n}(DU; Σ_{Y |U})

onde D é uma matriz de operacionalização (Delineamento de efeitos aleatórios) (por exemplo, com valores unitários) de dimensão n × m e U = μ_{Y} + u_{i} tem dimensão m × 1, Σ_{Y |U} é a matriz de covariâncias de Y_{n} condicionada a U_{m}.

Poderemos obter a distribuição conjunta [Y_{n}; U_{m}] = [U_{m}][Y_{n}|U_{m}] como segue:

[ \begin{matrix}Y_{n} \\ U_{m} \end{matrix} ] ∼ MV N_{n+m} ([ \begin{matrix}D_{n×m}μ_{Y} \\ 1_{n}μ_{U} \end{matrix} ]; [ \begin{matrix}DΣ_{Y Y} D′ + Σ_{Y |U} & DΣ_{UU} \\ Σ_{UU}D′ & Σ_{UU} \end{matrix} ])

Assim, podemos obter a distribuição marginal de Y_{n} integrando-se a distribuição conjunta com respeito à U, ou seja, [Y_{n}] = ∫ [Y_{n}|U_{m}]du, que resulta em

[Y_{n}] ∼ MV N_{n} (Dμ_{U}; DΣ_{UU}D′ + Σ_{Y |U})  (2)

A expressão (2) representa a distribuição marginal de Y_{n} induzida pelos efeitos aleatórios U_{m} de onde construímos a função de verossimilhança L(θ; ϕ) ≡ [Y_{n}].

Seja Y_{ij} = μ + B_{j} + ε_{ij} a representação de um modelo onde cada uma das y_{i}-ésima observação tem o efeito do j-ésimo bloco e um efeito aleatório ε_{ij} ∼ N(0, τ^{2}) associado. Ou seja, estamos interessados em um modelo onde os efeitos aleatórios estão especificados pelos efeitos de Bloco.

Desejamos escrever para esse modelo hierárquico a função de verossimilhança.

1.3 Modelo Linear com Intercepto Aleatório

Temos k grupos com cada grupo com r_{i} elementos, ou seja, Y_{ij} : i = 1, ..., k; j = 1, ..., r_{i}.

Usando o fato de que, uma distribuição conjunta de grupos independentes pode ser obtida pelo produto de outras distrições, podemos escrever então

[Y] = ∏_{i=1}^{k}[Y_{i}] = [Y_{1}][Y_{2}] ⋯ [Y_{k}]

A Especificação do modelo hierárquico de variáveis gaussianas é dada por:

• [Y_{i}|b_{i}] ∼ MV N_{r_{i}}(1_{r_{i}}b_{i}; σ^{2}I) onde b_{i} é a média do i-ésimo grupo (com dimensão 1) que caracteriza o modelo como sendo linear de intercepto aleatório, ou seja, cada grupo tem um único efeito aleatório (só no intercepto).

• [b_{i}] ∼ N_{1}(μ; τ^{2}) é o efeito aleatório não observável.

Naturalmente, a distribuição conjunta de Y_{i} e b_{i} da qual iremos derivar a distribuição de Y_{i} (e a função de verossimilhança) será dada, num caso geral, por [Y, b] = [Y |b][b]. Como as observações dentro do i-ésimo grupo são independentes e [Y_{i}|b_{i}] implica que Y_{i} não dependerá de b_{i} na condicional então podemos escrever:

[Y_{i}, b_{i}] = (∏_{j=1}^{r_{i}} f(y_{ij}|b_{i})) f(b_{i})

E a distribuição marginal de Y_{i} será dada por:

[Y_{i}] = ∫ [Y_{i}, b_{i}]db_{i} = ∫ [∏_{j=1}^{r_{i}} f(y_{ij} | b_{i})] f(b_{i})db_{i} = ∫ [∏_{j=1}^{r_{i}}[y_{ij}|b_{i}]] [b_{i}]db_{i}

[Y_{i}] = E_{b_{i}} [∏_{j=1}^{r_{i}} f(y_{ij}|b_{i})]

Se o modelo especificado for linear com variáveis gaussianas, a distribuição conjunta será dada por:

[ \begin{matrix}Y \\ b \end{matrix} ] ∼ MV N_{r_{i}+1} ([ \begin{matrix}1μ \\ μ \end{matrix} ]; [ \begin{matrix}τ^{2}11′ + Σ^{2}I & 1τ^{2} \\ τ^{2}1 & τ^{2} \end{matrix} ])

onde [Y_{i}] ∼ MV N_{r_{i}}(1_{μ}; σ^{2}1 1′ + τ^{2}I)

Se o modelo envolver variáveis não gaussianas, teremos que resolver a integral dada pela equação (2).