Novo ambiente produção disponível para usuários do LIneA

26 de fevereiro de 2015 | LIneA

A equipe técnica do LIneA projetou e implementou um novo ambiente de produção que será dedicado a análises científicas com ênfase no lote de dados do primeiro ano do levantamento Dark Energy Survey (DES Y1A1). O Hardware disponível inclui um cluster com 912 cores, um servidor de banco dados de catálogos dedicado ao DES com capacidade de 20TB, servidores otimizados para transferência de dados, uma unidade de armazenamento de 500TB e um Lustre cluster para I/O de alto desempenho (ver figura abaixo). Uma nova instância do portal científico foi instalada neste ambiente (des-portal.linea.gov.br) sincronizada com a instância de produção em funcionamento no Fermilab (USA) – disponibilizada para a colaboração internacional desde março de 2014. O foco deste novo ambiente de produção é a operação voltada a execução dos workflows científicos desenvolvidos pelo consórcio DES-Brazil.

Os desafios computacionais para processar as ~4000 tiles (2000 sq deg) do DES Y1A1 já são grandes. Testes iniciais apontaram serias limitações de I/O no modelo atual (que ainda depende de bases de dados centralizadas) quando os 912 cores disponíveis são utilizados simultaneamente. O problema é tão importante que vem sendo estudado há algum tempo por parceiros do LIneA no LNCC e motivou a criação de uma força tarefa envolvendo especialistas de processamento de alto desempenho do LNCC e UFRGS para buscar soluções em conjunto com a equipe técnica do LIneA. O DES já concluiu o segundo ano de observações e o lote de dados do segundo ano está previsto para ser liberado no segundo semestre de 2015. Este cobrirá uma área de 4000 sq deg contendo ~8000 tiles o que representará ainda neste ano 80% do volume de dados (imagens) que serão produzidos ao cabo dos 5 anos do levantamento.


LIneADataCenterInfrastructure

Deixe um comentário