Regressão linear e correlação

lorem ipsum dolor sit amet

Lorem ipsum dolor sit amet, consectetur adipiscing elit. Nunc dignissim euismod urna tincidunt sagittis. Vivamus id vehicula eros, non scelerisque eros.

Fonte: Shutterstock.

Deseja ouvir este material?

Áudio disponível no material digital.

Praticar para aprender

Caro aluno, nesta seção iremos entender os conceitos de dispersão, correlação e regressão. Com esses conceitos em mente, você entenderá que boa parte dos resultados é baseada nesses conceitos. Como exemplo dessa abordagem, você pode considerar um estudo que deseja avaliar a resistência de uma viga de acordo com o tipo de material. Para atingir tal objetivo, você irá trabalhar com o que chamamos de modelo de regressão, que lhe trará todas as conclusões necessárias a respeito do seu experimento com as vigas, permitindo um melhor entendimento e a interpretação do experimento em questão. 
Suponha que você, um engenheiro ambiental com especialidade em poluição atmosférica, decida trabalhar com análise da qualidade do ar. Como você ainda está iniciando nessa área, decidiu utilizar um banco de dados de prática chamado “airquality” do software R, cujas primeiras linhas são:
Ozone Solar.R Wind Temp Month Day
1  41   190 7.4  67   5  1
2  36   118 8.0  72   5  2
3  12   149 12.6  74   5  3
4  18   313 11.5  62   5  4
5  NA   NA 14.3  56   5  5
6  28   NA 14.9  66   5  6
Para trabalhar com esses dados, você necessita de um modelo de regressão. Assumindo que a variável resposta, Y, seja a concentração de ôzonio, qual modelo de regressão você montaria? Como você estima os parâmetros desse modelo? E as interpretações desses parâmetros, como faria?
Que tal começar esse entendimento agora? Você será acompanhado em todo o processo! Iniciaremos com os conceitos de dispersão e correlação, que são necessários para a construção do modelo de regressão, objetivo principal desta seção!

conceito-chave

Você já parou para pensar em como podemos visualizar a relação entre dados? Não? Ora, para isso, podemos utilizar diagramas de dispersão. Mas o que é um diagrama de dispersão? Podemos dizer que diagrama ou gráfico de dispersão é uma ferramenta estatística que indica a existência, ou não, de relações entre variáveis. Em geral, esse tipo de gráfico é utilizado quando desejamos saber o que acontece com uma variável quando a outra se altera, como uma espécie de causa e efeito.
Por exemplo, um engenheiro mecânico deseja avaliar o consumo de combustível (milhas por galão) de carros de acordo com o tipo de transmissão (automática ou manual). Em geral, acredita-se que o tipo de transmissão causa um maior consumo de combustível, especialmente se o carro for automático. Mas será que isso é verdade? Vamos verificar o diagrama de dispersão (Figura 3.1) para ver o que acontece.

Baseando-se nesse diagrama, podemos observar dois fatos. O primeiro, as milhas por galão dos carros automáticos parecem estar todas próximas ao mesmo limiar e menos dispersas quando comparadas aos carros manuais. O segundo fato é que alguns dos carros manuais analisados parecem tem um consumo duas vezes menor do que alguns carros automáticos.
Assim, podemos concluir que, sem nenhum tipo de inferência estatística, os carros manuais parecem ser mais econômicos. É claro que somente o tipo de transmissão não é suficiente para determinar o consumo, isto é, precisamos de uma análise mais detalhada para tal. Esse exemplo serve para reforçar que devemos ter muito cuidado ao analisar informações, dado que muitas delas são necessárias para chegar a uma conclusão e não apenas um olhar superficial, considerando o mínimo de informações.
Uma outra medida importante sobre relação entre variáveis é o coeficiente de correlação. Em 1896, Karl Pearson propôs o tão famoso coeficiente de correlação ρ (ou produto-momento) de Pearson. Esse coeficiente tem por objetivo estudar a relação entre duas variáveis e tem como vantagem ser um número puro, isto é, não tem uma unidade de medida definida.
Para trabalhar com esse coeficiente, considere $x_1, \dots , x_n$ as observações de uma variável X (por exemplo, milhas por galão) e $y_1, \dots , y_n$ as observações de uma variável Y (por exemplo, cilindradas de um motor). Sendo $\overline{x}, \overline{y}, s_x$ e $s_y$, respectivamente, as médias e os desvios-padrão amostrais de ambas as variáveis, podemos escrever o coeficiente da correlação de Pearson da seguinte forma:
$r =\frac{s_{xy}}{s_x{s}_y}$
em que
$s_{xy}=\frac{\sum x_i y_i - n\overline{x}\overline{y}}{n - 1}$
representa a covariância entre $X$ e $Y$.
Dessa equação, tiramos as duas principais propriedades do coeficiente de correlação: o sinal e a magnitude. O sinal se relaciona com o tipo de relacionamento: crescente (sinal positivo) e decrescente (sinal negativo). Quando se estuda a relação entre duas ou mais variáveis, é importante levar em conta essa informação, pois ela nos diz, por exemplo, se X está crescendo, então Y está decrescendo ou crescendo, dependendo do sinal. Por exemplo, considerando carros, se tivemos um aumento nas cilindradas, espera-se que o veículo gaste mais combustível e consequentemente fará menos milhas por galão. Mas como verificamos essa informação? Inicialmente com o coeficiente de correlação.
Por outro lado, a magnitude do coeficiente de correlação varia no intervalo de (-1,1) e indica, no gráfico de dispersão, um formato visual mais próximo de uma reta. Por exemplo, valores próximos de -1 indicam uma correlação negativa perfeita (praticamente uma reta decrescente), e valores próximos de +1 indicam uma correlação positiva perfeita (praticamente uma reta crescente). Em ambos os casos, a dispersão dos dados é extremamente baixa, o que é desejável em quase todos os tipos de análises estatísticas. Além disso, temos o caso em que a magnitude é igual a 0, que nos indica que não há, no gráfico de dispersão, uma forma definida e os dados se apresentam mais dispersos mostrando que as variáveis podem não ter nenhum tipo de relação.
Certo, entendemos o que é coeficiente de correlação e também o que é gráfico de dispersão, mas ainda falta um certo conceito que vai nos dar um norte para nosso objetivo principal dessa seção: o modelo de regressão linear. Mas então, qual é o conceito restante? Ora, é o que chamamos de coeficiente de determinação $R^2$, que é simplesmente definido como sendo $R^2={\rho }^2$, isto é, o coeficiente de determinação é o quadrado do coeficiente de correlação. Esse coeficiente é útil, em particular, para explicar a proporção da nossa variável resposta, dada a variabilidade das outras variáveis, chamadas de preditoras.
Vamos a um exemplo prático de como interpretamos esse coeficiente. Para isso, suponha que ao avaliar a correlação entre as variáveis Y = “milhas por galão” e X = “cilindradas do veículo”, obtivemos um valor $\rho = -\mathrm{0,079}$ para o coeficiente de correção. Nesse caso, a partir da definição do coeficiente de determinação, temos que $R^2 = \mathrm{0,62}$ ou 62%. Mas o que isso quer dizer? Ora, dizemos que cerca de 62% da variabilidade da variável Y é explicada pela variável X, isto é, 62% da variação de consumo é explicado pelas cilindradas do veículo e vice-versa. Em geral, procuramos sempre por um coeficiente de determinação superior a 90% para uma melhor interpretação, porém isso nem sempre é possível, como vimos nesse exemplo.

Agora temos todas as ferramentas para o prato principal da nossa seção: o modelo de regressão linear. Mas antes, vamos entender a origem desse modelo. Em um estudo para trabalhar a relação entre a altura dos pais e dos filhos ($X_i$ e $Y_i$), a fim de verificar como a altura do pai influenciava a altura do filho, Galton deu origem, no século XIX, ao que conhecemos hoje como teoria de regressão. O termo regressão veio pelo fato de que no experimento de Galton as medidas estudadas tendiam a regredir à média. De modo geral, os modelos de regressão têm como objetivos:

• Predição – consiste em predizer valores de Y por meio de valores de X não presentes entre os dados originais. Isto é, trabalhamos com possíveis valores de X e obtemos valores de Y, desde que boa parte da variabilidade de Y seja, de fato, explicada por X.
• Seleção de variáveis – consiste em selecionar as variáveis que têm algum impacto significante em relação à variável de interesse (variável resposta).
• Estimação de parâmetros – encontrar valores que são utilizados para inferir resultados sobre os parâmetros da população, por exemplo, cálculo de doses letais, tempo até a cura de uma doença, porcentagem de falha de uma máquina industrial, etc.
• Inferência – após encontrar os valores dos parâmetros, o processo de inferência serve para discutir/inferir resultados sobre uma dada população e estabelecer critérios como intervalo de confiança sobre tais resultados.

No que tange aos modelos de regressão, algumas nomenclaturas são importantes. Por exemplo, as variáveis Xs são chamadas variáveis independentes ou explanatórias, enquanto que a variável Y é chamada de variável dependente ou resposta. Com esses nomes em mãos, vamos estabelecer o modelo de regressão linear simples. Suponha que a relação verdadeira entre X e Y pode ser escrita pode uma equação de reta. Então, o valor esperado de Y para cada valor de X é dado por:
$E\left(YX\right)= {\beta }_0+ {\beta }_{1}X$
sendo que os parâmetros da equação da reta $\mathbb{Q}=\{\frac{p}{q}\text{ ; }p,q\in \mathbb{Z},q\ne 0\}$ e $\mathbb{Q}=\{\frac{p}{q}\text{ ; }p,q\in \mathbb{Z},q\ne 0\}$ são constantes desconhecidas. Quando X = 0, ${\beta }_0$ representa o ponto onde a reta corta o eixo dos Ys. Esse parâmetro é chamado de intercepto. Por outro lado, ${\beta }_1$ é chamado coeficiente de regressão ou declive da reta e ter interpretação descrita como “a cada aumento de 1 unidade em X, temos que $E\left(Y\mid X\right)$ aumenta ${\beta }_1$ unidades”. 
Agora, dados $\left(X_1,Y_1\right),\dots ,\left(X_n,Y_n\right)$, se for admitido que Y é uma função linear de X, o modelo de regressão linear simples é dado por:
$Y_i= {\beta }_0+ {\beta }_1{X}_i+ {ϵ}_i, i = \mathrm{1,2,}\dots , n$
sendo ${\beta }_0$ e ${\beta }_1$ os parâmetros do modelo e ${ϵ}_i$ é o erro aleatório do modelo. Alguns pressupostos desse modelo devem ser levados em consideração (HENRIQUES, 2011): 
(i)  A relação entre Y e X é linear.
(ii)  A média do erro aleatório é nula, isto é, $E\left({ϵ}_i\right) = 0$.
(iii)  Para um dado valor de X, a variância do erro ${ϵ}_i$ é sempre ${\sigma }^2$, isto é, $Var\left({ϵ}_i\right)= E\left({ϵ}_i^2\right)– {\left[E\left({ϵ}_i\right)\right]}^2 = E\left({ϵ}_i^2\right)={\sigma }^2$, o que implica que $Var\left(Y_i\right)=E{\left[Y_i –E\left(Y_i{X}_i\right)\right]}^2 = E\left({ϵ}_i^2\right)={\sigma }^2$. 
(iv)  O erro de uma observação é independente do erro de outra observação, isto é, $Cov\left({ϵ}_i, {ϵ}_{i^{\text{'}}}\right)=E\left({ϵ}_i{ϵ}_{i^{\text{'}}}\right)-E\left({ϵ}_i\right)E\left({ϵ}_{i^{\text{'}}}\right)=E\left({ϵ}_i{ϵ}_{i^{\text{'}}}\right)=0;i\ne j$.
(v)  Os erros têm distribuição normal, isto é, ${ϵ}_i~N\left(\mathrm{0,} {\sigma }^2\right)$ e, portanto, $Y_i~N\left({\beta }_0+{\beta }_1{X}_i, {\sigma }^2\right)$. 
Agora nosso problema é, necessariamente, estimar os parâmetros ${\beta }_0$ e ${\beta }_1$ do modelo. Para isso, trabalhamos com o método dos mínimos quadrados, que é baseado em um minimizar o comprimento do vetor $ϵ=c\left({ϵ}_1,\dots , {ϵ}_n\right)\text{'}$. Pela definição da norma Euclidiana, temos que:
$Z = {\left|\left|ϵ\right|\right|}^2= {\sum }_{i = 1}^n{ϵ}_i^2= {\sum }_{i = 1}^n{\left[Y_i- E\left(Y_i{X}_i\right)\right]}^2= {\sum }_{i = 1}^n{\left[Y_i- {\beta }_0- {\beta }_1{X}_i\right]}^2$
Deseja-se, portanto, estimar ${\beta }_0$ e ${\beta }_1$, tal que Z seja mínimo. Esse método é chamado método dos mínimos quadrados. Para isso, obtém-se as derivadas parciais:
$\frac{\partial Z}{\partial {\beta }_0}= - 2 {\sum }_{i = 1}^n\left[Y_i- {\beta }_0- {\beta }_1{X}_i\right]$
$\frac{\partial Z}{\partial {\beta }_1}= - X_i{\sum }_{i = 1}^n\left[Y_i- {\beta }_0- {\beta }_1{X}_i\right]$
Igualando ambas as derivadas a zero, obtemos as equações normais:
${\sum }_{i = 1}^n{Y}_i= n\widehat{{\beta }_0} +\widehat{{\beta }_1} {\sum }_{i = 1}^n{X}_i$
${\sum }_{i = 1}^n{X}_i{Y}_i=\widehat{{\beta }_0} {\sum }_{i = 1}^n{X}_i+\widehat{{\beta }_1} {\sum }_{i = 1}^n{X}_i^2$.
de onde tiramos que $\widehat{{\beta }_0}=\overline{Y}-\widehat{{\beta }_1}\overline{X}$. Por outro lado, substituindo a expressão de $$\begin{gathered} \widehat{{\beta }_0 \\ } \end{gathered}$$ no sistema das equações normais, obtemos que o estimador de ${\beta }_1$ é dado por:
$\widehat{{\beta }_1}=\frac{{\sum }_{i = 1}^n\left(X_i- \overline{X}\right)\left(Y_i- \overline{Y}\right)}{{\sum }_{i = 1}^n{\left(X_i- \overline{X}\right)}^2}$

E com isso encerramos nossa seção sobre análise de regressão, viu como é importante essa ferramenta? Deixo também como encerramento a seguinte reflexão.

Faça valer a pena

Referências

AMARAL, G. D.; SILVA, V. L.; REIS, E. A. Análise de Regressão Linear no Pacote R. Relatório Técnico Série Ensino RTE 001/2009. Universidade Federal de Minas Gerais, Belo Horizonte, 2009. Disponível em: http://www.est.ufmg.br/portal/arquivos/rts/RT-SE-2009.pdf. Acesso em: 12 abr. 2021.
HENRIQUES, C. Análise de regressão linear simples e múltipla. Departamento de Matemática. Escola Superior de Tecnologia de Viseu. Portugal, 2011.
MAGALHÃES, M. N.; LIMA, A. C. P. Noções de probabilidade e estatística. Editora da Universidade de São Paulo, 2002.
NETO, P. L. O. C. Estatística. São Paulo: Blucher, 2006.
THE R Project for Statistical Computing. Disponível em: https://www.r-project.org. Acesso em: 12 abr. 2021.
VIRGILITO, S. B. Estatística Aplicada. São Paulo: Saraiva, 2017.