APRENDIZADO DE MÁQUINA

O equilíbrio viés-variância é a tensão fundamental em machine learning: modelos complexos têm baixo viés mas alta variância; modelos simples têm alto viés mas baixa variância.

Correlação e regressão descrevem uma relação entre duas variáveis, mas respondem a perguntas diferentes e se comportam de forma muito distinta.

A regressão linear simples ajusta uma reta a duas variáveis contínuas usando mínimos quadrados, quantifica a relação com o R², e testa se a inclinação é significativamente diferente de zero.

O R quadrado mede a proporção de variância que um modelo de regressão explica. O R quadrado ajustado corrige esse número de acordo com quantos preditores foram necessários para alcançá-lo.

A regressão linear múltipla modela uma variável resposta como combinação linear de vários preditores, estimada por MQO. Aprenda sobre o R² ajustado, a multicolinearidade, o VIF e o teste F.

A regressão polinomial ajusta uma relação curva adicionando potências de x como preditores extras. Ela continua sendo um modelo linear, mas um grau alto causa overfitting e extrapola mal.

Os diagnósticos de regressão verificam se as suposições LINE se mantêm, identificam outliers e observações influentes, e detectam multicolinearidade antes de confiar nos resultados do modelo.

A regressão não linear ajusta modelos em que os parâmetros aparecem de forma não linear, exigindo algoritmos iterativos. Aprenda os principais modelos, métodos de ajuste, e como escolher valores iniciais.

A regressão logística modela a probabilidade de um resultado binário usando a função sigmoide, estimada por máxima verossimilhança. Aprenda sobre odds ratios, avaliação de modelo e extensões multiclasse.

Os splines ajustam curvas suaves não lineares unindo polinômios por partes em nós. Aprenda sobre splines de regressão, splines cúbicos naturais, splines de suavização, e como selecionar o parâmetro de suavização.

Os GAMs substituem preditores lineares por funções suaves, combinando a flexibilidade da regressão não paramétrica com a interpretabilidade dos modelos aditivos.

O GAMLSS modela a média, a variância, a assimetria e a curtose da resposta como funções dos preditores, em vez de assumir que apenas a média muda.

A ANCOVA ajusta comparações de médias de grupos por uma covariável contínua, aumentando o poder estatístico e removendo confundimento. Aprenda a suposição-chave de inclinações homogêneas e como calcular médias ajustadas.

A multicolinearidade ocorre quando preditores de uma regressão são altamente correlacionados entre si. O VIF quantifica o quanto isso infla o erro padrão de cada coeficiente.

A regressão quantílica modela como um percentil do resultado, não apenas sua média, muda com um preditor, revelando padrões que os mínimos quadrados ordinários escondem.

A regularização adiciona uma penalidade à função de perda para evitar overfitting. O Ridge encolhe todos os coeficientes em direção a zero; o Lasso pode encolhê-los a exatamente zero, realizando seleção de variáveis.

A regressão Ridge adiciona uma penalidade L2 ao MQO, encolhendo todos os coeficientes em direção a zero sem eliminar nenhum. Ela estabiliza estimativas sob multicolinearidade e tem solução em forma fechada.

O Lasso usa uma penalidade L1 que encolhe coeficientes a exatamente zero, realizando seleção automática de variáveis. Aprenda o operador de soft-thresholding, a descida de coordenadas, e quando usar o ElasticNet em vez disso.

O ElasticNet combina as penalidades L1 e L2, herdando a seleção de variáveis do Lasso e a estabilidade do Ridge com preditores correlacionados. O parâmetro de mistura alpha controla a combinação.

O KNN classifica novas observações por voto majoritário entre os k pontos de treinamento mais próximos. Aprenda como k controla a complexidade, qual métrica de distância usar, e por que o KNN tem dificuldades em altas dimensões.

O Naive Bayes classifica aplicando o teorema de Bayes com uma suposição de independência condicional. Rápido, interpretável, e surpreendentemente eficaz para classificação de texto e filtragem de spam.

A LDA e a QDA classificam observações modelando distribuições Gaussianas condicionais à classe. A LDA assume covariâncias iguais e dá fronteiras lineares; a QDA permite covariâncias diferentes e dá fronteiras quadráticas.

A SVM encontra o hiperplano que maximiza a margem entre classes. O kernel trick mapeia os dados para dimensões mais altas implicitamente, permitindo fronteiras não lineares sem cálculo explícito de atributos.

Redes neurais aprendem representações hierárquicas por meio de camadas de conexões ponderadas. O backpropagation calcula gradientes via regra da cadeia; funções de ativação introduzem a não linearidade que torna as redes profundas poderosas.

Árvores de decisão particionam o espaço de atributos em regiões retangulares dividindo recursivamente pelo atributo mais informativo. São interpretáveis, não exigem escalonamento de atributos, e são o bloco de construção das random forests e do gradient boosting.

A random forest constrói muitas árvores profundas em amostras bootstrap, cada uma usando um subconjunto aleatório de atributos em cada divisão. Calcular a média de árvores descorrelacionadas reduz drasticamente a variância sem aumentar o viés.

O gradient boosting ajusta árvores sequencialmente aos resíduos do modelo atual, convertendo aprendizes fracos em um preditor forte. O XGBoost adiciona otimização de segunda ordem, regularização e velocidade.

O k-médias particiona os dados em K clusters atribuindo iterativamente os pontos ao centroide mais próximo e atualizando os centroides. Aprenda sobre k-means++, método do cotovelo, análise de silhueta, e quando o k-médias falha.

O agrupamento hierárquico constrói uma árvore de clusters aninhados sem exigir K com antecedência. O dendrograma mostra o histórico completo de mesclagens; cortá-lo em qualquer altura dá um agrupamento plano.

O DBSCAN encontra clusters de forma arbitrária agrupando pontos em regiões densas. Ele detecta outliers automaticamente e não exige K com antecedência. Epsilon e minPts controlam o limiar de densidade.

O PCA projeta os dados sobre as direções de máxima variância, reduzindo a dimensionalidade enquanto retém o máximo de informação possível. Aprenda sobre autodecomposição, SVD, biplots e gráficos de sedimentação.

A análise de correspondência mapeia linhas e colunas de uma tabela de contingência em um espaço compartilhado de baixa dimensão usando distâncias qui-quadrado. É o equivalente do PCA para dados categóricos.

O t-SNE e o UMAP reduzem dados de alta dimensão para 2D para visualização, preservando a estrutura de vizinhança local. Eles revelam clusters invisíveis ao PCA, mas exigem interpretação cuidadosa.

A validação cruzada estima o quão bem um modelo generaliza para dados novos. Aprenda k-fold, LOOCV, VC estratificada, VC aninhada para seleção de hiperparâmetros sem viés, e VC para séries temporais.

A matriz de confusão é a base da avaliação de classificadores: precisão, recall, F1-score e acurácia são todos calculados diretamente a partir de suas quatro células.

A curva ROC plota sensibilidade vs (1-especificidade) em todos os limiares de classificação. A AUC mede a capacidade discriminativa geral: P(escore de positivo > escore de negativo).

O SHAP usa os valores de Shapley da teoria dos jogos para explicar previsões individuais de qualquer modelo. Cada atributo recebe uma contribuição que leva em conta de forma justa todas as combinações possíveis de atributos.

MAE, RMSE, MAPE e WAPE todos medem o quanto erradas estão as previsões de um modelo, mas eles discordam bastante quando os valores reais são pequenos ou próximos de zero.