Interweaving irregular numeric simulation workloads with ray forwarding techniques for in-situ visualization use case

Abstract

For many decades, post hoc processing was the base of scientific analysis and visualization. In this approach, the simulation program saves the generated data into permanent storage so the visualization program can posteriorly load it. This practice demands costly checkpoints that consume a lot of time and energy. Consequently, in situ processing has been gaining popularity to the detriment of post hoc processing. In situ solutions do not depend on checkpoints, so they require fewer I/O operations when compared to post hoc ones. Nevertheless, they usually execute the simulation and visualization in distinct computing resources, conducting to a higher power consumption. LOOM is a task-scheduling framework that tries to solve this problem. It enables tightly coupled in situ visualization without substantially increasing the simulation execution time by applying an “interweaving” method. This method performs the visualization in the idle times of the simulation. However, the framework is still incapable of handling large-scale problems. The goal of this thesis was to upgrade LOOM so it can deal with large-scale problems and to ally it with a ray-forwarding technique to try to overcome the distributed memory obstacles. For that, special primitives were created to handle efficient communication across multiple nodes while maintaining the philosophy behind the framework. The enhanced version of LOOM was tested on VADIS, a CFD model conceived to simulate the dispersion of air pollutants on urban morphologies. The results presented in this thesis show performance improvements of 2.64 for VADIS using multiple computing nodes.

Durante várias décadas, o processamento post hoc foi a base da análise e visualização científica. Neste método, o programa de simulação guarda os dados gerados em memória permanente, de modo a que o programa de visualização os possa carregar posteriormente. Este comportamento exige que sejam efetuados checkpoints que conduzem ao consumo de grandes quantidades de tempo e energia. Consequentemente, o processamento in situ tem ganho popularidade em detrimento do processamento post hoc. As soluções in situ não dependem de checkpoints, por isso requerem menos operações de I/O comparativamente com as soluções post hoc. Contudo, estas costumam executar a simulação e a visualização em recursos computacionais distintos, levando a um grande consumo de energia. O LOOM é uma framework de scheduling de tarefas que tenta solucionar este problema. Esta permite a execução de visualização in situ tightly coupled sem aumentar substancialmente o tempo de execução da simulação através da utilização de um método de “interweaving”. Este método executa a visualização nos tempos inutilizados pela simulação. Apesar disso, esta framework ainda é incapaz de lidar com problemas em grande escala. O objetivo desta tese é melhorar o LOOM, de modo a que este consiga lidar com problemas em grande escala, bem como aliá-lo a uma técnica de ray-forwarding para ultrapassar os obstáculos da memória distribuída. Para isso, foram criadas primitivas especiais para estabelecer uma comunicação eficiente entre diversos nodos, mantendo a filosofia por detrás da framework. A versão melhorada do LOOM foi testada no VADIS, um modelo de dinâmica de fluídos computacional concebido para simular a dispersão de poluentes em áreas urbanas. Os resultados apresentados nesta tese demonstram melhorias de performance de 2.64 quando o VADIS é executado em múltiplos nodos computacionais.