Dois dos seus preditores têm correlação de 0.95. Isso importa, e o que você faz a respeito?

Depende do seu objetivo. Para predição pura, colinearidade quase não atrapalha a acurácia; o modelo só divide o peso entre os gêmeos. Para inferência é sério: os coeficientes ficam instáveis e os erros padrão inflam, então os sinais podem inverter entre amostras e você não consegue dizer qual variável dirige o resultado. Cheque os fatores de inflação de variância e então descarte uma, combine as duas, ou use ridge.

Minha primeira pergunta é para que serve o modelo. Se estamos pontuando leads e ninguém lê os coeficientes, uma correlação de 0.95 é praticamente inofensiva. O ajuste está bom, as previsões estão boas, o peso só é dividido entre as duas variáveis de alguma forma arbitrária. Onde isso morde é quando alguém pretende agir sobre os coeficientes. Aí é um problema real, porque essa divisão é instável: refaça o ajuste em uma amostra um pouco diferente e um coeficiente vai para positivo enquanto o outro vai para negativo, e os erros padrão ficam largos o bastante para nenhum dos dois parecer significativo, mesmo que o par claramente importe. Eu checo o VIF, e qualquer coisa acima de mais ou menos dez eu trato como suspeita. A correção depende do par. Se são a mesma coisa medida duas vezes, como receita e receita em moeda local, eu descarto uma. Se são de fato duas facetas de algo, eu combino em uma razão ou em um único componente. Se eu preciso das duas e só me importo com qualidade de predição, o ridge resolve isso de forma limpa, dividindo o peso de um jeito estável em vez de arbitrário.