GLOSSÁRIO DE TERMOS ESTATÍSTICOS

AIC (Critério de Informação de Akaike) e BIC (Critério de Informação Bayesiano) são critérios usados para seleção de modelos. O AIC minimiza a perda de informação, enquanto o BIC penaliza mais fortemente a complexidade do modelo, favorecendo modelos mais simples quando o tamanho amostral é grande.

O agrupamento hierárquico constrói uma árvore de clusters aninhados (dendrograma), seja mesclando clusters pequenos de baixo para cima (aglomerativo) ou dividindo grandes de cima para baixo (divisivo). O critério de ligação (simples, completo, médio, Ward) determina como a distância entre clusters é medida. O número de clusters é escolhido após inspecionar o dendrograma.

A amostragem aleatória simples seleciona n observações de uma população de N de modo que toda amostra possível de tamanho n tenha probabilidade igual de seleção. É o método de referência em relação ao qual outros desenhos amostrais são avaliados. Na prática, exige um cadastro amostral completo.

A amostragem estratificada divide a população em subgrupos homogêneos (estratos) e extrai uma amostra aleatória simples de cada um. Ela garante a representação de todos os subgrupos e normalmente produz estimativas mais precisas do que a amostragem aleatória simples quando os estratos são internamente homogêneos.

A amostragem por conglomerados divide a população em grupos (conglomerados), seleciona aleatoriamente alguns conglomerados, e pesquisa todos os membros dentro desses conglomerados. É mais prática do que a amostragem aleatória simples quando a população está geograficamente dispersa, embora normalmente produza estimativas menos precisas.

A amostragem sistemática seleciona cada k-ésimo elemento de uma população ordenada após um início aleatório. É mais simples de implementar do que a amostragem aleatória simples e frequentemente produz precisão semelhante. Pode ser problemática se a população tiver um padrão periódico com período igual ao intervalo de amostragem.

A ACP encontra uma representação de menor dimensão dos dados projetando-os nas direções de máxima variância (componentes principais). Os componentes são ortogonais e ordenados pela variância explicada. É usada para redução de dimensionalidade, visualização, e remoção de ruído antes da modelagem.

A Análise de Variância (ANOVA) é um teste estatístico usado para comparar as médias de três ou mais grupos simultaneamente. Ela testa se pelo menos uma média de grupo difere significativamente das demais, particionando a variância total em componentes entre grupos e dentro dos grupos.

ARIMA (Média Móvel Integrada Autorregressiva) combina componentes de autorregressão, diferenciação, e média móvel para modelar séries temporais estacionárias e não estacionárias. Os parâmetros (p, d, q) representam a ordem AR, o grau de diferenciação, e a ordem MA. É o modelo de referência padrão para previsão de séries temporais univariadas.

Uma árvore de decisão particiona o espaço de atributos em regiões retangulares, dividindo recursivamente de acordo com o atributo e o limiar que melhor separam as classes. É altamente interpretável, mas tem alta variância: pequenas mudanças nos dados de treinamento podem produzir uma árvore completamente diferente.

A assimetria mede a falta de simetria de uma distribuição em torno de sua média. Assimetria positiva significa uma cauda longa à direita (média > mediana); assimetria negativa significa uma cauda longa à esquerda (média < mediana). Distribuições simétricas, como a normal, têm assimetria zero.

A autocorrelação mede a correlação de uma série temporal com uma versão defasada de si mesma. Autocorrelação positiva significa que valores consecutivos tendem a ser semelhantes; autocorrelação negativa significa que tendem a alternar. É a primeira verificação diagnóstica para qualquer modelo de série temporal.

O bootstrap é um método de reamostragem que estima a distribuição amostral de uma estatística extraindo repetidamente amostras com reposição dos dados observados. É usado para calcular erros padrão e intervalos de confiança sem assumir uma distribuição paramétrica.

O coeficiente de variação (CV) é a razão entre o desvio padrão e a média, expressa como porcentagem. Ele mede a variabilidade relativa e permite comparar a dispersão entre conjuntos de dados com diferentes unidades ou escalas.

O conjunto de treinamento é usado para ajustar o modelo; o conjunto de teste é usado para estimar seu desempenho de generalização. O conjunto de teste não deve influenciar nenhuma decisão de modelagem. Um conjunto de validação é uma terceira divisão usada para ajuste de hiperparâmetros, reservando o conjunto de teste apenas para a avaliação final.

A correlação mede a força e a direção da relação linear entre duas variáveis contínuas. O r de Pearson varia de -1 (negativa perfeita) a +1 (positiva perfeita), com 0 indicando ausência de relação linear. Correlação não implica causalidade.

A correlação de Pearson mede a relação linear entre duas variáveis contínuas; é sensível a outliers. A correlação de Spearman mede a relação monotônica usando postos; é robusta a outliers e se aplica a dados ordinais. Use Spearman quando a normalidade não puder ser assumida.

A covariância mede a variabilidade conjunta de duas variáveis aleatórias. Uma covariância positiva significa que ambas as variáveis tendem a aumentar juntas; negativa significa que uma tende a diminuir quando a outra aumenta. A correlação é a versão padronizada da covariância, limitada entre -1 e 1.

A curtose mede o peso das caudas de uma distribuição em relação à distribuição normal. Curtose em excesso = curtose - 3. Curtose em excesso positiva (leptocúrtica) indica caudas pesadas e mais valores extremos; negativa (platicúrtica) indica caudas leves.

A curva ROC plota a sensibilidade (TPR) contra 1-especificidade (FPR) em todos os limiares de classificação. A AUC (área sob a curva) a resume: AUC = 0,5 é aleatório; AUC = 1 é perfeito. A AUC é igual à probabilidade de o modelo classificar um caso positivo aleatório acima de um caso negativo aleatório.

O V de Cramér mede a força da associação entre duas variáveis categóricas, derivado da estatística qui-quadrado. Varia de 0 (nenhuma associação) a 1 (associação perfeita) e é comparável entre tabelas de tamanhos diferentes.

DBSCAN (Agrupamento Espacial Baseado em Densidade com Ruído) agrupa pontos que estão densamente conectados dentro de um raio de vizinhança ε, classificando pontos esparsos como ruído. Diferentemente do K-means, ele descobre clusters de forma arbitrária e não exige especificar o número de clusters antecipadamente.

A descida do gradiente minimiza uma função diferenciável movendo-se iterativamente na direção do gradiente negativo (descida mais acentuada). A taxa de aprendizado controla o tamanho do passo. É o algoritmo fundamental para treinar redes neurais e ajustar a regressão logística.

O desvio padrão é a raiz quadrada da variância: a distância média das observações em relação à média. Está nas mesmas unidades dos dados, diferentemente da variância. O desvio padrão amostral usa n-1 no denominador (correção de Bessel) para ser um estimador não viesado do desvio padrão populacional.

Um diagrama de caixa (boxplot) exibe o resumo de cinco números de um conjunto de dados: mínimo, primeiro quartil (Q1), mediana, terceiro quartil (Q3), e máximo. A caixa abrange o intervalo interquartil (IIQ = Q3 - Q1), e pontos além de 1,5 × IIQ da caixa são plotados como outliers.

A distribuição amostral de uma estatística é a distribuição de probabilidade dessa estatística calculada sobre todas as amostras possíveis de um determinado tamanho da população. O desvio padrão da distribuição amostral é o erro padrão. O teorema central do limite descreve a distribuição amostral da média.

A distribuição de Bernoulli modela um único ensaio com dois resultados: sucesso (1) com probabilidade p e fracasso (0) com probabilidade 1-p. Sua média é p e sua variância é p(1-p). É a distribuição discreta mais simples e o bloco de construção da distribuição binomial.

A distribuição de Poisson modela o número de eventos que ocorrem em um intervalo fixo de tempo ou espaço quando os eventos acontecem a uma taxa constante λ, independentemente uns dos outros. Sua média e variância são ambas iguais a λ. Ela se aproxima da binomial quando n é grande e p é pequeno.

A distribuição de Weibull é uma distribuição contínua flexível usada extensivamente em engenharia de confiabilidade e análise de sobrevivência. Seu parâmetro de forma β determina a taxa de risco: β < 1 significa risco decrescente (mortalidade infantil), β = 1 se reduz à exponencial (risco constante), e β > 1 significa risco crescente (envelhecimento).

A distribuição beta é uma distribuição contínua em [0,1] parametrizada pelos parâmetros de forma α e β. É amplamente usada como priori para probabilidades na inferência bayesiana, para modelar proporções, e como a distribuição das estatísticas de ordem de uma distribuição uniforme.

A distribuição binomial modela o número de sucessos em n ensaios de Bernoulli independentes, cada um com probabilidade p. Sua média é np e sua variância é np(1-p). Converge para a distribuição normal quando n é grande e para a distribuição de Poisson quando n é grande e p é pequeno.

A distribuição binomial negativa modela o número de ensaios necessários para alcançar r sucessos, com probabilidade p por ensaio. Ela generaliza a distribuição geométrica (r=1) e também é usada para modelar dados de contagem superdispersos, em que a variância excede a média, como alternativa à Poisson.

A distribuição exponencial modela o tempo entre eventos em um processo de Poisson, com parâmetro de taxa λ. Sua média é 1/λ e ela não tem memória: a probabilidade de um evento no próximo instante não depende de quanto tempo você já esperou. É amplamente usada em confiabilidade e análise de sobrevivência.

A distribuição F é uma distribuição de probabilidade contínua que surge como a razão entre duas distribuições qui-quadrado independentes divididas por seus respectivos graus de liberdade. É usada em testes F da ANOVA, testes de igualdade de variâncias, e testes de significância geral em regressão.

A distribuição gama generaliza a distribuição exponencial para modelar o tempo de espera até o k-ésimo evento em um processo de Poisson, com forma k e taxa λ. Ela inclui a distribuição qui-quadrado (k=ν/2, λ=1/2) e a distribuição exponencial (k=1) como casos especiais.

A distribuição geométrica modela o número de ensaios necessários para obter o primeiro sucesso, com probabilidade de sucesso p por ensaio. Sua média é 1/p e é a única distribuição discreta sem memória. É usada em controle de qualidade, teoria de filas, e modelagem de fenômenos de primeiro sucesso.

A distribuição hipergeométrica modela o número de sucessos ao extrair n itens sem reposição de uma população de N itens contendo K sucessos. Diferentemente da binomial, extrações sucessivas são dependentes. É usada em controle de qualidade, genética, e no teste exato de Fisher.

A distribuição normal é uma distribuição contínua simétrica em forma de sino, totalmente descrita por sua média μ e desvio padrão σ. Cerca de 68% dos valores estão dentro de 1σ da média, 95% dentro de 2σ. Ela surge naturalmente por meio do teorema central do limite e é central para a inferência estatística clássica.

A distribuição t é uma distribuição simétrica em forma de sino, com caudas mais pesadas do que a distribuição normal. Ela surge ao estimar a média de uma população normalmente distribuída com variância desconhecida. Conforme os graus de liberdade aumentam, ela converge para a distribuição normal padrão.

O ElasticNet combina as penalidades L1 (Lasso) e L2 (Ridge) em uma mistura convexa controlada por um parâmetro de mistura. Ele realiza seleção de variáveis como o Lasso, enquanto retém o efeito de agrupamento do Ridge, tornando-o preferível quando os preditores são correlacionados e o modelo é esparso.

A entropia (entropia de Shannon) mede a incerteza média ou o conteúdo de informação de uma distribuição de probabilidade. Entropia alta significa que os resultados são quase igualmente prováveis; entropia baixa significa que um resultado domina. É usada em árvores de decisão como critério de divisão e em teoria da informação.

O equilíbrio viés-variância descreve como o erro de previsão se decompõe em viés (erro sistemático por suposições incorretas), variância (sensibilidade a flutuações nos dados de treinamento), e ruído irredutível. Reduzir o viés tende a aumentar a variância e vice-versa. Regularização e métodos de ensemble gerenciam esse equilíbrio.

O erro padrão (EP) é o desvio padrão da distribuição amostral de uma estatística. Para a média amostral, EP = σ/√n. Ele mede com que precisão a estatística amostral estima o parâmetro populacional. Intervalos de confiança e testes t usam o erro padrão.

O erro quadrático médio (EQM) é a média das diferenças ao quadrado entre valores previstos e observados. EQM = Viés² + Variância, o que o torna uma medida natural do equilíbrio viés-variância. A raiz do EQM (REQM) está nas mesmas unidades da resposta e é mais fácil de interpretar.

Um erro tipo I (falso positivo, α) rejeita uma hipótese nula verdadeira. Um erro tipo II (falso negativo, β) não rejeita uma hipótese nula falsa. Poder = 1 - β. Reduzir α (exigir evidências mais fortes) aumenta β. O equilíbrio entre eles depende dos custos relativos de cada erro.

Um escore-z (escore padrão) mede quantos desvios padrão uma observação está da média: z = (x - μ) / σ. Ele padroniza variáveis para uma escala comum, permitindo comparação entre unidades diferentes. Escores-z seguem uma distribuição normal padrão quando os dados são normalmente distribuídos.

Uma série temporal é estacionária se sua média, variância, e estrutura de autocovariância não mudam ao longo do tempo. A maioria dos modelos de séries temporais (ARIMA, VAR) exige estacionariedade. Séries não estacionárias são transformadas por meio de diferenciação, transformação logarítmica, ou remoção de tendência. O teste ADF testa formalmente a presença de uma raiz unitária (não estacionariedade).

A estatística descritiva resume e descreve os dados observados usando medidas como média, variância, e gráficos. A estatística inferencial usa dados amostrais para tirar conclusões sobre uma população maior, quantificando a incerteza por meio de intervalos de confiança e testes de hipóteses.

A estimação de máxima verossimilhança (EMV) encontra os valores dos parâmetros que maximizam a probabilidade de observar os dados amostrais. Estimadores de EMV são consistentes e assintoticamente eficientes. Para dados normais, a EMV coincide com o MQO para a média; para dados binários, ela dá origem à regressão logística.

Um estimador é uma função dos dados amostrais usada para estimar um parâmetro populacional desconhecido. Um bom estimador é não viesado (o valor esperado é igual ao verdadeiro parâmetro), consistente (converge para o valor verdadeiro conforme n cresce), e eficiente (tem variância mínima entre os estimadores não viesados).

Dois eventos A e B são independentes se a ocorrência de um não afeta a probabilidade do outro: P(A∩B) = P(A)·P(B). Independência implica P(A|B) = P(A). É uma condição mais forte do que mutuamente exclusivo e é fundamental para definir variáveis aleatórias independentes.

Um falso positivo (erro tipo I) ocorre quando uma hipótese nula verdadeira é rejeitada. Um falso negativo (erro tipo II) ocorre quando uma hipótese nula falsa não é rejeitada. Em classificação, um falso positivo prevê incorretamente a classe positiva; um falso negativo perde um caso verdadeiramente positivo.

A função de densidade de probabilidade (FDP) f(x) de uma variável aleatória contínua dá a probabilidade relativa de a variável assumir um determinado valor. A probabilidade de a variável cair em um intervalo [a, b] é a integral de f(x) de a a b. A área total sob a FDP é igual a 1.

A função de distribuição acumulada (FDA) F(x) dá a probabilidade de uma variável aleatória X assumir um valor menor ou igual a x. Para variáveis discretas, é uma função escalonada; para variáveis contínuas, é suave e estritamente crescente. A FDA caracteriza completamente uma distribuição de probabilidade.

A função de massa de probabilidade (FMP) de uma variável aleatória discreta dá a probabilidade de cada valor possível. P(X = x) ≥ 0 para todo x, e a soma sobre todos os valores possíveis é igual a 1. É a contraparte discreta da função de densidade de probabilidade.

A função de verossimilhança L(θ; x) dá a probabilidade de observar os dados x em função do parâmetro θ. A estimação de máxima verossimilhança (EMV) encontra o valor do parâmetro que maximiza L. Diferentemente da probabilidade, a verossimilhança não é normalizada e não pode ser interpretada como uma probabilidade sobre θ.

Graus de liberdade são o número de valores independentes em um cálculo que são livres para variar. Ao estimar k parâmetros a partir de n observações, os graus de liberdade residuais são n - k. Eles determinam a forma das distribuições t, qui-quadrado, e F usadas em testes de hipóteses.

A hipótese alternativa (H₁) afirma que existe um efeito ou relação estatisticamente significativa na população. É o que o pesquisador tenta encontrar evidências para comprovar, e é aceita quando a hipótese nula é rejeitada.

A hipótese nula (H₀) é a suposição padrão de que não há efeito, diferença, ou relação na população. O teste de hipóteses tenta encontrar evidências suficientes para rejeitá-la em favor da alternativa. Não rejeitar H₀ não prova que ela seja verdadeira.

Um histograma exibe a distribuição de uma variável contínua dividindo seu intervalo em faixas e mostrando a frequência ou densidade de observações em cada faixa. Diferentemente de um gráfico de barras, as faixas são contíguas. A escolha da largura da faixa afeta fortemente a aparência visual.

A importância de atributos mede o quanto cada preditor contribui para as previsões de um modelo. A importância baseada em impureza soma a redução de impureza em todas as divisões de uma variável. A importância por permutação mede o quanto o erro aumenta quando os valores de um atributo são embaralhados aleatoriamente.

A inferência frequentista trata os parâmetros como fixos e desconhecidos, fazendo afirmações sobre a probabilidade dos dados dado o parâmetro. A inferência bayesiana trata os parâmetros como variáveis aleatórias com distribuições a priori, atualizando-as com os dados para obter uma distribuição a posteriori.

Um intervalo de confiança é uma faixa de valores calculada a partir de dados amostrais que, sob amostragem repetida, conteria o verdadeiro parâmetro populacional uma porcentagem especificada das vezes. Um IC de 95% não significa que há 95% de probabilidade de que o parâmetro esteja nesse intervalo específico.

Um intervalo de confiança quantifica a incerteza sobre a resposta média em um determinado valor do preditor. Um intervalo de previsão é mais amplo porque também inclui a variabilidade das observações individuais em torno da média. Intervalos de previsão são sempre mais amplos do que intervalos de confiança.

O intervalo interquartil (IIQ) é a diferença entre Q3 (percentil 75) e Q1 (percentil 25). Ele mede a dispersão dos 50% centrais dos dados e é robusto a outliers. O IIQ é usado para definir limiares de outliers em boxplots: pontos além de Q1 - 1,5×IIQ ou Q3 + 1,5×IIQ.

O jackknife é um método de reamostragem que estima viés e variância deixando repetidamente uma observação de fora por vez. Para n observações, produz n amostras jackknife de tamanho n-1. É computacionalmente mais barato do que o bootstrap e particularmente útil para correção de viés.

O K-means particiona n observações em K clusters atribuindo iterativamente cada ponto ao seu centroide mais próximo e recalculando os centroides como as médias dos clusters. Ele minimiza a soma de quadrados dentro dos clusters. K deve ser especificado antecipadamente; o K-means++ melhora a inicialização para evitar mínimos locais ruins.

O KNN classifica uma nova observação por votação majoritária entre seus k pontos de treinamento mais próximos, sob uma métrica de distância escolhida. É um método não paramétrico baseado em instâncias, sem fase de treinamento. O desempenho se degrada em altas dimensões devido à maldição da dimensionalidade.

A lei dos grandes números afirma que, conforme o tamanho da amostra aumenta, a média amostral converge para a média populacional. A lei fraca dá convergência em probabilidade; a lei forte dá convergência quase certa. Ela fornece a justificativa teórica para usar estatísticas amostrais para estimar parâmetros populacionais.

Uma matriz de confusão é uma tabela que resume o desempenho de um modelo de classificação. As linhas representam as classes reais e as colunas representam as classes previstas. Ela mostra verdadeiros positivos, falsos positivos, verdadeiros negativos, e falsos negativos, a partir dos quais acurácia, precisão, recall, e o escore F1 são derivados.

A SVM encontra o hiperplano que maximiza a margem entre duas classes. Apenas os vetores de suporte (pontos no limite da margem) determinam sua posição. O truque do kernel permite fronteiras não lineares mapeando implicitamente os dados para um espaço de maior dimensão.

A média aritmética é a soma de todos os valores dividida pelo número de observações. É a medida de tendência central mais comum, mas é sensível a outliers, que podem afastá-la muito do centro da distribuição. Para dados assimétricos, a mediana costuma ser mais representativa.

A mediana é o valor central de um conjunto de dados ordenado, dividindo a distribuição em duas metades iguais. É robusta a outliers e uma medida de tendência central melhor do que a média para distribuições assimétricas. Para um número par de observações, é a média dos dois valores centrais.

A moda é o valor mais frequente em um conjunto de dados. Uma distribuição pode ser unimodal, bimodal, ou multimodal. É a única medida de tendência central aplicável a dados nominais e é usada para descrever a categoria mais comum.

A multicolinearidade ocorre quando dois ou mais preditores em um modelo de regressão são altamente correlacionados. Ela infla a variância das estimativas dos coeficientes, tornando-as instáveis e difíceis de interpretar. O VIF (fator de inflação da variância) a quantifica: VIF > 10 indica colinearidade problemática.

A simulação de Monte Carlo usa amostragem aleatória repetida para estimar quantidades numéricas difíceis de calcular analiticamente. É usada para aproximar integrais, estimar probabilidades, e propagar incerteza em modelos complexos. A precisão melhora na ordem de O(1/√n) com o número de amostras.

O Naive Bayes classifica aplicando o teorema de Bayes com a suposição de que todos os atributos são condicionalmente independentes dada a classe. Apesar disso raramente ser verdade, ele tem bom desempenho na prática, especialmente para classificação de texto. É rápido, interpretável, e funciona bem com conjuntos de treinamento pequenos.

O k-ésimo percentil é o valor abaixo do qual k% das observações caem. Os percentis 25, 50, e 75 são Q1, Q2 (mediana), e Q3. Percentis descrevem a posição relativa de um valor dentro de uma distribuição e são usados em curvas de crescimento, pontuações de testes, e distribuições de renda.

Uma população é o conjunto completo de indivíduos que compartilham uma característica de interesse comum. Uma amostra é um subconjunto selecionado da população para estudo. Como estudar populações inteiras geralmente é impraticável, a inferência é feita a partir de amostras usando métodos estatísticos.

O poder de um teste de hipóteses é a probabilidade de rejeitar corretamente a hipótese nula quando ela é falsa (1 - β). O poder aumenta com tamanhos de amostra maiores, tamanhos de efeito maiores, e níveis de significância mais altos. Um poder de 0,80 (80%) é convencionalmente considerado adequado.

A probabilidade condicional P(A|B) é a probabilidade do evento A dado que B ocorreu, definida como P(A∩B)/P(B). Ela atualiza as probabilidades quando informação parcial está disponível. Probabilidades condicionais são o fundamento do teorema de Bayes e das árvores de probabilidade.

O valor-p é a probabilidade de observar uma estatística de teste tão extrema quanto, ou mais extrema do que, a calculada a partir da amostra, assumindo que H₀ é verdadeira. Um valor-p pequeno (tipicamente < 0,05) é considerado evidência contra H₀. O valor-p não mede a probabilidade de H₀ ser verdadeira.

O R² (coeficiente de determinação) mede a proporção de variância na resposta explicada pelo modelo, variando de 0 a 1. Adicionar preditores sempre aumenta o R²; o R² ajustado penaliza a complexidade do modelo. R² na regressão linear simples é igual ao quadrado da correlação de Pearson.

O random forest constrói muitas árvores de decisão profundas em amostras bootstrap, usando um subconjunto aleatório de atributos em cada divisão para decorrelacionar as árvores. As previsões são calculadas pela média (regressão) ou por votação majoritária (classificação). Ele reduz substancialmente a variância em comparação com uma única árvore.

Uma rede neural é um modelo computacional composto por camadas de nós interconectados (neurônios) que aplicam transformações lineares ponderadas seguidas de funções de ativação não lineares. Redes profundas com muitas camadas ocultas aprendem representações hierárquicas de atributos e alcançam desempenho de ponta em dados de imagem, texto, e sequenciais.

O Lasso (regularização L1) adiciona uma penalidade proporcional à soma dos valores absolutos dos coeficientes à perda de MQO. Diferentemente do Ridge, o Lasso pode reduzir coeficientes exatamente a zero, realizando seleção automática de variáveis. É preferível quando o modelo verdadeiro é esparso.

A regressão linear modela o valor esperado de uma resposta contínua como uma combinação linear de preditores, estimada por MQO. Ela assume linearidade, independência dos erros, homocedasticidade, e normalidade. É o modelo de regressão mais simples e interpretável.

A regressão linear múltipla estende a regressão linear simples para k preditores. Cada coeficiente mede o efeito de um preditor mantendo todos os outros constantes. O MQO minimiza a soma dos quadrados dos resíduos e exige que a matriz de design tenha posto de coluna completo.

A regressão logística modela a probabilidade de um resultado binário usando a função logística (sigmoide) aplicada a uma combinação linear de preditores. É estimada por máxima verossimilhança e produz coeficientes interpretáveis como razões de log-odds. É a referência padrão para classificação binária.

A regressão Ridge (regularização L2) adiciona uma penalidade proporcional à soma dos coeficientes ao quadrado à perda de MQO. Ela tem uma solução de forma fechada, reduz todos os coeficientes em direção a zero sem eliminar nenhum, e estabiliza as estimativas sob multicolinearidade. Preferível quando se espera que todos os preditores contribuam.

A regularização adiciona uma penalidade à função de perda para reduzir a complexidade do modelo e prevenir overfitting. A regularização L1 (Lasso) incentiva a esparsidade; a L2 (Ridge) reduz todos os coeficientes em direção a zero. A regularização introduz viés, mas reduz a variância, melhorando o desempenho de generalização.

Um resíduo é a diferença entre um valor observado e seu valor ajustado por um modelo: eᵢ = yᵢ - ŷᵢ. Os resíduos devem ser aproximadamente normalmente distribuídos, com variância constante (homocedasticidade) e autocorrelação zero, para que o MQO seja válido. A análise de resíduos é a principal ferramenta de diagnóstico de regressão.

O sobreajuste (overfitting) ocorre quando um modelo aprende o ruído nos dados de treinamento em vez do padrão subjacente, levando a um erro de treinamento baixo, mas um erro de teste alto. É evitado por meio de regularização, validação cruzada, mais dados de treinamento, e modelos mais simples.

O subajuste (underfitting) ocorre quando um modelo é simples demais para capturar a estrutura subjacente dos dados, resultando em alto erro de treinamento e alto erro de teste. É causado por regularização excessiva, poucos parâmetros, ou uso da classe errada de modelo. O viés é a fonte dominante de erro.

Uma série temporal é uma sequência de observações registradas em pontos de tempo sucessivos igualmente espaçados. Propriedades-chave incluem tendência (direção de longo prazo), sazonalidade (padrões periódicos), e estacionariedade (média e variância constantes ao longo do tempo). Modelos ARIMA são o framework clássico para previsão de séries temporais.

A determinação do tamanho amostral calcula o número mínimo de observações necessárias para detectar um determinado tamanho de efeito com poder e nível de significância especificados. Amostras maiores reduzem a variância e aumentam o poder, mas custam mais. Estudos subdimensionados são uma fonte importante de pesquisa irreprodutível.

O tamanho do efeito quantifica a magnitude de um efeito independentemente do tamanho da amostra. O d de Cohen mede diferenças de médias padronizadas; o r de Pearson mede a força da correlação; o eta-quadrado mede a variância explicada na ANOVA. Diferentemente dos valores-p, os tamanhos de efeito refletem a significância prática.

O teorema central do limite afirma que a distribuição amostral da média amostral se aproxima de uma distribuição normal conforme o tamanho da amostra aumenta, independentemente da forma da distribuição populacional. Isso justifica o uso da inferência baseada na normal para amostras grandes e é o teorema mais importante da estatística aplicada.

O teorema de Bayes atualiza a probabilidade de uma hipótese dada uma nova evidência. A probabilidade posterior é proporcional à probabilidade priori multiplicada pela verossimilhança. É o fundamento da inferência bayesiana e de filtros de spam, diagnóstico médico, e classificadores de machine learning.

O teste de hipóteses é um procedimento estatístico para decidir entre duas hipóteses concorrentes sobre um parâmetro populacional. Envolve especificar H₀ e H₁, calcular uma estatística de teste, e compará-la a um valor crítico ou calcular um valor-p para tomar uma decisão em um nível de significância α escolhido.

O teste de Kolmogorov-Smirnov (KS) compara a distribuição de uma amostra com uma distribuição de referência (uma amostra) ou compara as distribuições de duas amostras (duas amostras). A estatística de teste é a diferença absoluta máxima entre as FDAs empíricas. É um teste geral de qualidade de ajuste, válido para distribuições contínuas.

O teste de Kruskal-Wallis é uma alternativa não paramétrica à ANOVA de um fator que testa se k grupos independentes vêm da mesma distribuição. Ele usa postos em vez de valores brutos e não assume normalidade. Resultados significativos podem ser seguidos por testes post-hoc de Dunn.

O teste de Shapiro-Wilk avalia se uma amostra vem de uma distribuição normal. Ele calcula a razão entre a melhor estimativa linear não viesada da escala e a variância amostral. É considerado o teste de normalidade mais poderoso para amostras pequenas a médias (n < 50) e é amplamente usado como verificação preliminar antes de aplicar testes paramétricos.

O teste de postos sinalizados de Wilcoxon é uma alternativa não paramétrica ao teste t pareado, testando se a mediana das diferenças pareadas é zero. O teste de soma de postos de Wilcoxon (U de Mann-Whitney) é uma alternativa não paramétrica ao teste t de duas amostras. Ambos os testes usam postos em vez de valores brutos.

O teste F compara dois modelos aninhados ou testa a igualdade de duas variâncias. Em regressão, o teste F avalia se pelo menos um preditor é significativo. Na ANOVA, ele testa se as médias dos grupos diferem. A estatística de teste segue uma distribuição F sob a hipótese nula.

O teste qui-quadrado avalia se as frequências observadas em uma tabela de contingência diferem significativamente das frequências esperadas sob independência. É usado para testar associações entre variáveis categóricas e para testar a qualidade do ajuste de uma distribuição teórica.

O teste t avalia se uma média amostral difere significativamente de um valor hipotetizado (uma amostra), se as médias de dois grupos independentes diferem (duas amostras), ou se as diferenças pareadas têm média zero (pareado). Ele assume normalidade; o teste t de Welch não assume variâncias iguais.

O teste z é usado para testar hipóteses sobre uma média populacional quando a variância populacional é conhecida ou o tamanho amostral é grande (n > 30). A estatística de teste segue uma distribuição normal padrão sob H₀. Na prática, o teste t é preferido porque a variância populacional raramente é conhecida.

Testes paramétricos assumem que os dados seguem uma distribuição específica (geralmente normal) e estimam os parâmetros da distribuição. Testes não paramétricos não fazem suposições distribucionais e usam postos em vez de valores brutos. Testes não paramétricos são mais robustos, mas geralmente menos poderosos quando as suposições paramétricas são válidas.

Um valor atípico (outlier) é uma observação que está incomumente distante do restante dos dados. Pode resultar de erros de medição, erros de entrada de dados, ou valores genuinamente extremos. Outliers distorcem médias, desvios padrão, e estimativas de regressão; a mediana e o IIQ são alternativas robustas.

A validação cruzada estima o desempenho de generalização do modelo dividindo repetidamente os dados em conjuntos de treinamento e validação. Na validação cruzada k-fold, os dados são divididos em k partes; o modelo é treinado em k-1 e avaliado na parte restante, repetindo-se k vezes. Ela fornece uma estimativa mais estável do que uma única divisão treino-teste.

Os valores de Shapley, da teoria dos jogos cooperativos, atribuem de forma justa a previsão de um modelo a atributos individuais. Eles satisfazem quatro axiomas: eficiência (os valores somam a previsão menos a linha de base), simetria, dummy, e aditividade. O SHAP os torna viáveis para modelos de machine learning, incluindo ensembles de árvores.

Uma variável aleatória é uma função que atribui um valor numérico a cada resultado de um experimento aleatório. Variáveis aleatórias discretas assumem valores contáveis; variáveis aleatórias contínuas assumem valores em um intervalo. Seu comportamento é descrito por distribuições de probabilidade.

Uma variável discreta assume valores distintos e contáveis (número de defeitos, número de filhos). Uma variável contínua pode assumir qualquer valor em um intervalo (altura, temperatura, tempo). Essa distinção determina quais distribuições de probabilidade e métodos estatísticos são apropriados.

A variância é o desvio quadrático médio das observações em relação à sua média. A variância amostral divide por n-1 para corrigir o viés. Alta variância significa que os pontos de dados estão amplamente dispersos em torno da média. Em machine learning, variância se refere à sensibilidade de um modelo a flutuações nos dados de treinamento.

O viés é o erro sistemático de um estimador: a diferença entre seu valor esperado e o verdadeiro valor do parâmetro. Um estimador viesado superestima ou subestima consistentemente a verdade. O viés pode ser reduzido usando estimadores não viesados ou corrigindo erros sistemáticos conhecidos.

O XGBoost é um algoritmo otimizado de gradient boosting que constrói árvores sequencialmente, cada uma corrigindo os erros do ensemble anterior. Ele usa expansão de Taylor de segunda ordem da perda, regularização explícita L1/L2 nos pesos das folhas, e subamostragem de colunas. Ele domina competições de dados tabulares.