Advanced machine learning techniques in rare events research at the Large Hadron Collider

Abstract

Há ainda várias questões acerca do universo às quais ainda não temos resposta. É fundamental estudarmos e melhorarmos as técnicas já conhecidas, bem como desenvolver novas técnicas, de forma a investigar e descobrir novos fenómenos de física. Neste trabalho, foram utilizadas técnicas de machine learning tais como boosted decision trees e autoencoders. As boosted decision trees foram utilizadas como métodos de machine learning supervisionado, enquanto que os autoencoders foram utilizados como métodos de deteção de anomalias. Foi feita uma comparação entre a AUC dos resultados da boosted decision tree, dos autoencoders e das features, sem estas terem passado por nenhum modelo. Já com os autoencoders foi feito outro estudo - a dimensão do espaço latente afeta a deteção do sinal? Foi feito um estudo em várias dimensões do espaço latente e foi calculada a AUC para visualizar este efeito. Os resultados da boosted decision tree foram melhores que os resultados dos autoencoders, porém utilizar autoencoders foi melhor do que não utilizar nada - a AUC dos autoencoders foi melhor que a AUC das features. Além disso, a escolha do espaço latente tem que ser tomada em conta visto que há dimensões mais sensíveis a certos tipos de sinais.

There are still many questions about our universe to which we do not know the answer yet. The devel opment of new techniques and the improvement of techniques that we already developed is fundamental to investigate and discover new physics phenomena. In this work, machine learning techniques were studied such as boosted decision trees and autoen coders. Boosted decisions trees were used as a supervised technique and the autoencoders as an anomaly detection technique. It was done a comparison between the AUC of the results from the boosted decision tree, the autoencoders and from the features without going through any model. With the autoencoders, another study was done - does the latent space dimension affect the signal detection? For different latent space dimensions, the AUC was performed to visualize this effect. The results from the boosted decision tree were better than the results coming from the autoencoders but, using autoencoders was better than using nothing - the AUC of the autoencoders were better than the AUC of the features. Furthermore, it was seen that the choice of the latent space dimension must be taken into consideration since some dimensions are sensitive to certain kind of signals.