Fundamentos das Máquinas de Comitê e Técnicas de Ensemble

Apuntes

Máquinas de Comitê Prof. MSc. Daniel Cavalcante Centro Universitário Fundação Santo André Prof. MSc. Daniel Cavalcante Máquinas de Comitê 1 / 33 Objetivos da Aula Compreender a fundamentação teórica das Máquinas de Comitê. Analisar matematicamente o dilema Viés-Variância (Bias-Variance Trade-off). Diferenciar as arquiteturas de combinação: Bagging vs. Boosting. Estudar métodos de agregação: Votação majoritária e médias ponderadas. Avaliar o impacto dos Ensembles na capacidade de generalização de Redes Neurais. Prof. MSc. Daniel Cavalcante Máquinas de Comitê 2 / 33 1. Introdução: Por que combinar modelos? Conceito Base: De acordo com Haykin, uma máquina de comitê baseia-se na estratégia de "dividir para conquistar". Premissa: A combinação de especialistas independentes tende a superar o desempenho de um único especialista isolado. Aggarwal (Cap. 5): Ensembles são fundamentais para reduzir a variância em modelos de alta capacidade (como Redes Neurais Profundas). Prof. MSc. Daniel Cavalcante Máquinas de Comitê 3 / 33 2. Fundamentos: O Erro de Generalização O erro esperado de um modelo pode ser decomposto em três componentes: Equação de Decomposição do Erro MSE E [MSE ] = Bias 2 + Vari...