Deep learning research for long-tailed distribution
Pesquisa em aprendizado profundo para distribuições de cauda longa
| dc.comments | EE/2026/2380 | |
| dc.contributor.advisor | Tavares, Adriano | |
| dc.contributor.advisor | Pinto, Sandro | |
| dc.contributor.advisor | Xu, Hao | |
| dc.contributor.author | Meng, Ziyao | |
| dc.date.accessioned | 2026-06-18T09:30:59Z | |
| dc.date.embargo | 2028-05-21 | |
| dc.date.issued | 2026-05-21 | |
| dc.date.submitted | 2026-01 | |
| dc.description.abstract | As distribuições de cauda longa são comuns no reconhecimento visual do mundo real, onde algumas classes principais dominam os dados, enquanto muitas classes de cauda sofrem de uma grave escassez de amostras. Este desequilíbrio produz modelos tendenciosos ou enviesados que apresentam um desempenho inferior em classes minoritárias, representando um desafio fundamental para a imparcialidade, a generalização e a robustez do modelo instalado. Esta dissertação responde a como otimizar o pipeline de aprendizagem completo abordando a escassez de amostras de classes de cauda e evitando modelos enviesados. Ao fazê-lo, apresenta uma estrutura sistemática e multi-perspectiva para o reconhecimento visual de cauda longa, na qual são desenvolvidos seis métodos complementares para abordar o problema a partir de ângulos distintos, mas sinérgicos. MoE-Diffusion emprega um modelo de difusão generativo que integra vários modelos especialistas para sintetizar características condicionais de classe de alta qualidade, permitindo um treino equilibrado sem depender da insuficiência de amostras da cauda. H2T-FAST transfere pistas estilísticas das classes principal para as classes de cauda, proporcionando um aumento de características eficiente e universal. O DCEF introduz perdas contrastivas duplas que alinham os pesos do classificador com os protótipos de classe, ao mesmo tempo que melhoram a consistência das características através da aprendizagem contrastiva em amostras aumentadas. O AttDiv-Fuse vai além da seleção de modelos especialistas, utilizando a fusão de atenção cruzada e objetivos com foco na diversidade para a colaboração dinâmica entre modelos especialistas. Para mitigar o desequilíbrio geométrico, o F3C aplica uma estratégia de compressão de grupos em dois estágios, expandindo e contraindo grupos de características para ampliar as margens de classificação. Por fim, o BSDC fornece uma estratégia de inferência post-hoc que refina os limites de decisão no momento do teste, utilizando critérios de menor distância. Experiências extensivas com CIFAR-10/100-LT, STL-10-LT, SVHN-LT, ImageNet-LT e iNaturalist2018 demonstram que estes métodos alcançam consistentemente um desempenho de alto nível, particularmente na precisão da classe de cauda e na robustez geral. | por |
| dc.description.abstract | Long-tailed distributions are common in real-world visual recognition, where a few head classes dominate the data while many tail classes suffer from severe sample scarcity. This imbalance produces biased models that underperform on minority classes, posing a key challenge to fairness, generalization, and deployment robustness of the model. This dissertation answers how to optimize the full learning pipeline by addressing tail classes sample scarcity and avoiding biased models, while ensuring fairness, generalization, and deployment robustness. In doing so, it presents a systematic and multi-perspective framework for long-tailed visual recognition, in which six complementary methods are developed to tackle the problem from distinct yet synergistic angles. MoE-Diffusion employs a generative mixture-of-experts diffusion model to synthesize high-quality class-conditional features, enabling balanced training without relying on scarce tail samples. H2T-FAST transfers stylistic cues from head to tail classes, providing efficient and universal feature augmentation. DCEF introduces dual contrastive losses that align classifier weights with class prototypes while enhancing feature consistency through contrastive learning on augmented samples. AttDiv-Fuse moves beyond expert selection, using cross-head attention fusion and diversity-aware objectives for dynamic collaboration among expert models. To mitigate geometric imbalance, F3C applies a two-stage cluster compression strategy, expanding and contracting feature clusters to enlarge classification margins, further refined via knowledge distillation. Finally, BSDC provides a post-hoc inference strategy that refines decision boundaries at test time using shortest-distance criteria, requiring no retraining. Extensive experiments on CIFAR-10/100-LT, STL-10-LT, SVHN-LT, ImageNet-LT, and iNaturalist2018 demonstrate that these methods consistently achieve state-of-the-art performance, particularly in tail-class accuracy and overall robustness. | eng |
| dc.identifier.tid | 101681097 | |
| dc.identifier.uri | https://hdl.handle.net/1822/102107 | |
| dc.language.iso | eng | |
| dc.rights | embargoedAccess (2 Years) | |
| dc.rights.uri | http://creativecommons.org/licenses/by-nc-sa/4.0/ | |
| dc.subject | Aprendizagem Constrativa | |
| dc.subject | Aumento de Características | |
| dc.subject | Colaboração Multi-Especialistas | |
| dc.subject | Reconhecimento Long-Tail | |
| dc.subject | Transferência de EstiloContrastive Learning | |
| dc.subject | Feature Augmentation | |
| dc.subject | Long-tailed Recognition | |
| dc.subject | Multi-Expert Collaboration | |
| dc.subject | Style Transfer | |
| dc.subject.fos | Engenharia e Tecnologia::Engenharia Eletrotécnica, Eletrónica e Informática | |
| dc.title | Deep learning research for long-tailed distribution | por |
| dc.title.alternative | Pesquisa em aprendizado profundo para distribuições de cauda longa | por |
| dc.type | doctoralThesis | |
| dspace.entity.type | Publication | |
| sdum.degree.grade | Muito bom | |
| sdum.uoei | Escola de Engenharia | |
| thesis.degree.grantor | Universidade do Minho | por |
| thesis.degree.name | Doutoramento em Engenharia Eletrónica e de Computadores |
Ficheiros
Pacote original
1 - 1 de 1