HPC-Statuskonferenz 2024
Hoch- und Höchstleistungsrechnen in Deutschland

In modern high-throughput biomedicine, huge and complex data sets are being generated, in particular from the 'omics and imaging fields. The analysis and integration of these data sets is daunting but crucial not only for research but also for envisioned clinical use e.g. for precision medicine. The vision of a truly data-based medicine is thus enabled by data science techniques, in particular machine learning and artificial intelligence. With generative AI revolutionizing many fields of science by allowing researchers to explore uncharted territories, generate novel hypotheses, and simulate complex phenomena, we ask how it has been enabling biomedical research in general, and cellular representations in particular.

In this talk I will give an overview of applications from more classical supervised prediction to unsupervised machine learning and generative problems. I will draw examples mostly from my research on cellular assays, explaining interpretable generative modeling of perturbations, in particular effect of drug responses as well as multiscale readouts such as disease state across patients. I will finish with an outlook towards foundation models and their potential impact in spatial omics and more generally biomedical representation, and discuss challenges in compute, scaling and data engineering.

Das gemeinsame Ziel dieser SCALEXA Projekte ist die Erweiterung und Effizienzsteigerung von extrem großen Simulationen mit Foki auf u.a. Partikelsimulationen unter Berücksichtigung komplexer Wechselwirkungen oder der Kopplung an Kontinuumsmodelle. In allen Fällen wird durch die Forschungsarbeit sowohl eine fundamentale Erweiterung hin zur Nutzung von Exascale-Computern als auch die realistische Beschreibung von synthetischen oder anwendungsnahen (bspw. biomolekular, geodynamisch) Prozessen angestrebt.

Das Projekt "3xa: Simulationssoftware für Exascale-Supercomputer zur Berechnung von Dreikörperwechselwirkungen" erforscht in einem interdisziplinären, holistischen Ansatz von Core- bis Supercomputer-Ebene skalierbare Methoden für Dreikörperwechselwirkungen in Partikelsystemen. Insgesamt werden Dreikörperwechselwirkungen in drei verschiedenen Partikelcodes mit verschiedenen Einsatzgebieten eruiert.

Die Black-Box Auto-Tuning Partikelbibliothek AutoPas, welche u.a. in der Molekulardynamiksimulation ls1 mardyn für NVT-Ensembles genutzt wird, wurde um ein Interface für kurzreichweitige Dreikörperwechselwirkungen erweitert. Verschiedene Backends, insbesondere Shared-Memory-Implementierungen für den Linked Cell-Algorithmus als auch ein Verlet-Listen-Verfahren, wurden bereits implementiert.
Ebenfalls in ls1 mardyn wurde eine erste Version des Adaptive Resolution-Schemas entwickelt, welches es ermöglicht, lokal zwischen günstigen und sehr rechenintensiven Potenzialmodellen umzuschalten.
Mit der Software ms2, die die Untersuchung verschiedener thermodynamischer Ensembles ermöglicht, und unter Nutzung des Axilrod-Teller-Muto-Potenzials wurden bereits Äquilibriumseigenschaften und Selbstdiffusionskoeffizienten von Krypton erfolgreich berechnet.
Performanzoptimierungen auf Core-, Knoten- und Inter-Knotenebene in einer Monte Carlo-Simulation für hoch komplexe Dreikörperinteraktionspotenziale führten zu signifikanten Laufzeitreduktionen.

Zusammen mit darüber hinaus gehenden Untersuchungen zu MPI4.0-Features wie bspw. Partitioned Communication werden diese Arbeiten in hocheffiziente Simulationssoftware auf massiv parallelen Systemen münden.

CoMPS: Ziel des Vorhabens ist die Entwicklung einer Simulationsumgebung für die Modellierung physikalischer Phänomene in der Geodynamik über mehrere Größenskalen hinweg. Dafür sollen mehrere hochskalierbare Simulationsprogramme miteinander gekoppelt werden, die sowohl auf kontinuierlichen als auch auf diskreten Modellen beruhen. Neben der Entwicklung neuartiger Techniken zur Codegenerierung liegt der methodische Schwerpunkt auf der Untersuchung von fortschrittlichen numerischen Algorithmen mit variabler Berechnungsgenauigkeit. Dies ermöglicht effiziente Lösungen für komplexe physikalische Schnittstellenprobleme.

Website: terraneo.fau.de

Ziel des FlexFMM Projektes ist die Durchführung hoch-realistischer MD
Simulationen unter Verwendung einer flexiblen fast multipole-basierten
Elektrostatik in GROMACS. Damit werden Biomoleküle in komplexen
chemischen Umgebungen äußerst realistisch modelliert, indem sie
dynamische Protonierungen mittels Kopplung an einen konstanten pH-Wert
erlaubt. Zudem ermöglicht die Verwendung der FMM neue Anwendungen dank
gitterfreier Darstellung inhomogener und nicht-periodischer Systeme.
Zusammen mit Sipearl wird im Co-Design prototypische Exascale Hardware
der ARM-Architektur mit SVE-Vektoreinheiten und HBM-Speicher im
Entwicklungszyklus berücksichtigt. Das Projekt erlaubt damit ein
tiefgreifenderes Verständnis biomolekularer Prozess und die
Beschleunigung biomedizinische Entwicklungen auf modernsten,
europäischen HPC Systemen.

MExMeMo: Marcus Müller, Institut für Theoretische Physik, Georg-August-Universität Göttingen (Vortrag GA Tagung), Volker Abetz, Institut für Physikalische Chemie, Universität Hamburg, Christian Cyron, Institut für Werkstoffsystem-Modellierung, Helmholtz-Zentrum Hereon GmbH, Geesthacht, Andreas Herten, Jülich Supercomputing Centre, Forschungszentrum Jülich, Simon Pickartz, ParTec AG, Jülich und München

Herstellungsverfahren weicher Materialien – hier: isoporöser Polymermembrane – mittels digitaler Zwillinge rechnergestützt zu planen und zu optimieren ist eine große Herausforderung da komplexe Nichtgleich-gewichtsprozesse von der makromolekularen Struktur bis zur Membranmorphologie auf der Skala von Mikrometern gekoppelt sind [1,2]. Unser Projektziel ist es, unser teilchenbasiertes Simulationsprogramm SOMA mit einer Kontinuumsbeschreibung und Machine-Learning Techniken nahtlos und effizient zu koppeln, um damit die großen Zeit- und Längenskalen der Membranmorphologie zu erfassen und gleichzeitig den durch das Teilchenmodell hergestellten und für das Materialdesign essentiellen Bezug zu molekularen Eigenschaften beizubehalten. Einerseits ermöglichte die Erweiterung und Optimierung von SOMA, die Prozesse der Lösemittelverdampfung [1,2] und der Nichtlösemittel-induzierten Phasenseparation [2] zu untersuchen. Andererseits wurde die Kopplung zwischen dieser teilchenbasierten Simulation und einer Kontinuumsbeschreibung anhand des Beispiels einer sich bewegenden Ordnungsfront in einer Kopolymerschmelze erprobt. Beide, Teilchen- und Kontinuumsmodell, stellen unterschiedliche Anforderungen an die Computer-Hardware. Dies ist ein idealtypischer Anwendungsfall für das Konzept der modularen Supercomputerarchitektur (MSA), wie dem JUWELS-Cluster-Booster-System in Jülich. Ein Koordinator orchestriert die Kopplung der beiden Modellierungsebenen und verwaltet die Zuteilung der Ressourcen auf der MSA. Der Informationsaustausch erfolgt via MPI im hdf5-Format. Über die konkrete Anwendung hinaus wird der Koordinator eine effiziente Nutzung von MSA-Systemen und einen vereinfachten Zugang durch minimalen Portierungsaufwand der zu koppelnden Anwendungen ermöglichen.

[1] Evaporation-induced self-assembly of diblock copolymer films in an electric field: a simulation study, O. Dreyer, L. Schneider, M. Radjabian, V. Abetz, and M. Müller, Macromolecules 56, 6880 (2023)
[2] Simulation of membrane fabrication via solvent evaporation and nonsolvent induced phase separation,N. Blagojevic and M. Müller, ACS Appl. Mater. Interfaces 15, 57913 (2023) Err 16, 12115 (2024)

The collaborative research project PDExa aims to advance algorithms for solving partial differential equations on exascale supercomputers, with the main focus on developing efficient iterative solvers for challenging application problems in fluid dynamics discretized with high-order finite element methods. The talk will present progress of the project along three pillars. Fast matrix-free evaluation of the discretized PDE, computing the cell and face integrals on general curved meshes on the fly with sum-factorization techniques, implements the action of linear or non-linear operators. For competitive iterative solvers, a second ingredient are preconditioners that balance low iteration counts with fast operator evaluation, for which either matrix-free and matrix-based ingredients are both attractive, including multigrid, fast diagonalization algorithms and incomplete matrix factorizations. As a third pillar, node-level performance engineering results will be shown to make good use of modern GPU and CPU hardware. Our research builds on three main libraries developed in the project, the deal.II library for finite element abstractions and HPC abstractions, Ginkgo for preconditioners and batched linear algebra, and ExaDG as our CFD application solver.

ScalNEXT - the project explores novel ways to take advantage of recent smart network devices for HPC, with the idea to put the control of HPC applications into these devices. This talk will present the strategies we explore, as well as a status update of ongoing work.

targetDART: Dynamically adaptive and reactive task distribution on heterogeneous exascale architectures

The project targetDART explores a task-based approach that extends the widely adopted MPI+OpenMP programming model to mitigate non-predictable load imbalances on heterogeneous supercomputing architectures. It has developed a runtime that employs dynamically adaptive and reactive (re-)distribution of tasks between compute nodes. We extended OpenMP's omp target functionality by allowing to define migratable tasks that may be dynamically scheduled on CPUs or GPUs on local or remote compute nodes. In this presentation, we will present the targetDART runtime extensions and demonstrate first results achieved with benchmark applications.

EXASIM: This talk will present recent updates of the EXASIM project. In particular updates on the implementation and performance results of the Ginkgo linear solver integration into OpenFOAM via OGL using Ginkgos distributed capabilities are presented. Additionally, first steps towards offloading the matrix assembly process to GPUs via a modern OpenFOAM core implementation named NeoFOAM are discussed.

The high publication rate in science and the resulting information overload for researchers makes research increasingly haphazard and unmanageable, while it brings at the same time the great potential to mine publications for AI-assisted research. However, the scientific key information (e.g., methods, datasets) is hidden in the unstructured full-texts of publications, making an explicit modeling, an interlinking to other databases, as well as a recommendation of this information challenging. Existing scholarly information systems typically allow users to search for publications given keywords or to ask for publications as recommendations. In both cases, the systems only provide the publications’ full-texts, requiring the users to skim through a vast amount of publications. In addition, state-of-the-art recommender systems are based on opaque deep neural networks, which hinders their applicability in science as a field with a high need for transparency. In this talk, I present how knowledge graphs and language odels can be used for solving these issues, paving the way toward AI-assisted research that allows researchers to obtain comprehensive overviews and hidden links between research topics.

AI based workloads are focused primarily on small size I/O which is often bottleneck of the system. We are noticing a change in the workload of researchers which affects planning for new storage system and I/O patterns. We present the case of the ml cloud and how researchers workflow influences our storage configuration decisions.

In der Optimierungsforschung werden regelmäßig neue Methoden und Algorithmen entwickelt, die zu einer gegebenen Instanz eines Optimierungsproblems (Routenoptimierung, kontinuierliche Optimierung, Hyperparameter-Optimierung, etc.) möglichst effizient das jeweils inhärente Optimum ermitteln. Auf Grund der vielfältigen Strukturen der betrachteten Probleme, gibt es dabei für gewöhnlich nicht einen dominanten Optimierungsalgorithmus pro Problemklasse, der stets am schnellsten die ideale Lösung ermittelt. Die Wahl des "richtigen" Algorithmus hat somit einen großen Einfluss auf die Rechenressourcen, die erforderlich sind, um das entsprechende Optimum zu ermitteln. Daraus ergibt sich ein weiteres, vorgelagertes Problem der Algorithmenauswahl, welches sich jedoch dank maschineller Lernverfahren stark automatisieren lässt. Das zugehörige Forschungsgebiet "Automated Algorithm Selection" basiert auf umfangreichen HPC-Benchmark-Studien und ermöglicht deutliche Effizienzsteigerungen.
Im Rahmen des Vortrags wird ein Einblick in das Themengebiet "Automated Algorithm Selection" gegeben und es wird exemplarisch aufgezeigt, in welchen Bereichen dieses Forschungsfelds HPC-Studien erforderlich sind, um letztlich möglichst performante Algorithmenselektoren zu erhalten.

In 2000 the SIAM Guest-Editors Jack Don-Garra and Francis Sullivan put together a list they call the “Top Ten Algorithms of the Century.” It is no surprise that two algorithms of that prominent list are the heart of fast (pseudo) spectral methods:

Fast Fourier Transform (FFT) 1965: James Cooley and John Tukey
Fast Multipole Methods (FMMs) 1987: Leslie Greengard and Vladimir Rokhlin

The article closes by: ”What new insights and algorithms will the 21st century bring? The complete answer obviously won’t be known for another hundred years. One thing seems certain, however.”...”The new century is not going to be very restful for us, but it is not going to be dull either!”

In this talk, I will present recent developments in the field of pseudo-spectral methods and show how these techniques accelerate and extend classical HPC and AI simulation techniques, contributing to the 21st-century endeavor of freeing sciences from their computational limitations.

Quantum computers are one of the most promising new technologies that may significantly affect the HPC community. In order to develop proper quantum algorithms, dedicated software tools and, eventually, software stacks are required. In the conventional realm, corresponding solutions are standard and well-established. In the quantum realm, however, developments are at the beginning (although great accomplishments have been made in the recent years). In this talk, we discuss how software can and must provide a "bridge" between end users as well as the HPC community on one side and platform providers as well as actual quantum computers on the other. To this end, we use examples from the Munich Quantum Toolkit (https://www.cda.cit.tum.de/research/quantum/ ) and well as developments towards the Munich Quantum Software Stack.

Die in großen Simulationen benötigten Datenmengen tragen immer mehr zu Performanceproblemen bei. Große Datenmengen sind nicht nur bei I/O problematisch, sondern auch während der Simulationsläufe, z.B. in MPI-Kommunikationsroutinen. Darüber hinaus bevorzugt die auf KI fokussierte Hardwareentwicklung kleinere Datenformate mit einfacher oder auch halber Präzision, im Gegensatz zur derzeit im wissenschaftlichen Rechnen üblichen doppelten Präzision. Im DaREXA-F Projekt werden, basierend auf Simulationsprogrammen für die Fusionsforschung (gyrokinetische Plasmaturbulenz mit GENE) Datenkomprimierungstechniken innerhalb der Simulationsläufe sowie der Einsatz von Datenformaten mit geringerer Präzision untersucht. Wir fokussieren dabei auf die Auswirkung auf die Genauigkeit der statistischen Eigenschaften der Turbulenz, auf die Stabilität der Algorithmen und die Performancegewinne auf verschiedenen Hardwarearchitekturen (CPU, GPU, FPGA, SmartNICs).

Im MCSE Projekt wird Hauptspeicher und nichtflüchtiger Speicher in einem verteilten Rechensystem unter einer einheitlichen Schnittstelle zusammengeführt. Dieser Vortrag fokussiert auf der Vorstellung der IO-Verbs, eine alternative (low-level) Schnittstelle, welche explizit Parallelität abbildet. Verschiedene Anwendungsbeispiele und deren Umsetzung werden zur Illustration vorgestellt.

Das vom Bundesministerium für Bildung und Forschung geförderte Projekt TopIO hat zum Ziel, die Lese- und Schreibgeschwindigkeiten des Open-Source-Bodensystemmodells MPAS (Model for Prediction Across Scales) zu optimieren. Zu diesem Zweck soll ein Auto-Tuning-Ansatz verfolgt werden, um die Komplexität mehrerer I/O-Schichten vor den Nutzern zu verbergen und die I/O-Leistung zu verbessern. Darüber hinaus werden Komprimierungsverfahren angewandt, um eine deutliche Reduzierung der Datenmenge ohne signifikanten Informationsverlust zu erreichen. Unter der Leitung des HLRS wurde bisher eine Analyseumgebung unter Verwendung bestehender Profiler-Tools wie Darshan und Vampire eingerichtet und Kennzahlen zur I/O-Leistung der UHOH-Anwendung ausgewertet. Darüber hinaus wurde eine API für die am HLRS entwickelte Kompressionsbibliothek formalisiert und eine Fehler- und Kompressionsartefaktanalyse bei Verwendung verlustbehafteter Kompressionsverfahren durchgeführt.

Die ICON-Software ist der zentrale Baustein der nationalen Initiative für Erdsystemmodellierung und wird sowohl vom Deutschen Wetterdienst (DWD) für die operationelle Wettervorhersage als auch zur Erstellung von Klimaprognosen sowie generell in der Forschung verwendet. Das vom DWD und dem Max Planck Institut für Meteorologie gemeinsam entwickelte ICON-Modell basiert auf physikalischen Grundlagen für die Beschreibung der Atmosphäre und der Ozeane und spannt dafür ein Netz aus Dreiecksgittern um die Erde. So divers wie die besonders gesellschaftsrelevanten Anwendungsfelder von ICON sind auch die verschiedenen HPC-Architekturen, auf denen ICON Anwendung findet. Daraus entstehen für die erfolgreiche Zusammenarbeit zwischen den Computerwissenschaften und der geowissenschaftlichen Forschung besondere Herausforderungen. Die SCALEXA Projekte IFCES2 und ExaOcean tragen zur Bewältigung dieser bei und zielen darauf ab, mit neuartigen Ansätzen die Performanz des ICON Modells auf zukünftigen Exascale-Rechnern sicherzustellen. IFCES2 implementiert und optimiert zu diesem Zwecke neuartige Methoden der parallelen Ausführung, Kommunikation und der dynamischen Lastbalancierung für ICON. ExaOcean kombiniert numerische Algorithmen mit Techniken des Maschinellen Lernens in einem “super-resolution” Ansatz, um effektiv hohe Auflösung auch mit größeren Gitterweiten zu erzielen und somit den Durchsatz des Modells zu verbessern. Die entwickelten Techniken sind eine notwendige Voraussetzung für die effiziente Nutzung zukünftiger Exascale-Rechner, ermöglichen eine erhebliche Erhöhung des Detailgrades von Erdsystemmodellen und tragen damit zur Verringerung der Unsicherheiten zukünftiger Klimaprojektionen bei.