Die Vorlesung findet in Präsenz statt. Es können maximal 40 Personen im Seminarraum Platz finden. Für alle, die nicht teilnehmen können, stehen aufgezeichnete Videos des letzten Jahres zur Verfügung. Die Übungen werden von uns nicht und dürfen von keinem anderen aufgezeichnet werden. Die Weitergabe der Login-Daten für eine Veranstaltung ist ausdrücklich verboten!

Die gesamte Kommunikation findet über die Mailingliste statt. Schauen Sie im Mailinglistenarchiv nach, falls Sie die Mail mit den Zugangsdaten verpasst haben.

• 12./14.10.21 Ablauf und Einführung Linux-Cluster
  • Abgabe: 16.10.21, 23:59 Uhr
  • Organisatorisches: Folien
• 19./21.10.21 Debugging
  • Abgabe: 23.10.21, 23:59 Uhr
• 26./28.10.21 Leistungsoptimierung sequentieller Anwendungen
  • Abgabe: 30.10.21, 23:59 Uhr
• 02./04.11.21 OpenMP
  • Abgabe: 06.11.21, 23:59
  • Zusätzliche Informationen: OpenMP Cheat Sheet
• 09./11.11.21 POSIX-Threads
  • Abgabe: 13.12.21, 23:59
• 16./18.11.21 Einführung MPI
  • Abgabe: 20.11.21, 23:59
  • Zusätzliche Informationen: MPI 3.1 Specification
• 23./25.11.21 PDE-Parallelisierungsschema (Jacobi)
  • Abgabe: 23.11.21 - 27.11.21, 23:59
• 30.11./02.12.21 PDE-Parallelisierung (Jacobi)
  • Abgabe: 30.11.21 - 04.12.21, 23:59
• 07./09.12.21 PDE-Parallelisierungsschema (Gauß-Seidel)
  • Abgabe: 07.12.21 - 11.12.21, 23:59
• 14./16.12.21 PDE-Parallelisierung (Gauß-Seidel)
  • Abgabe: 14.12.21 - 05.01.22, 23:59
• 04./06.01.22 fällt aus
• 11./13.01.22 PDE-Auswertung und PDE-Spurdatenanalyse
  • Abgabe: 11.01.22 - 22.01.22, 23:59
• 18./20.01.22 Klausur-Fragerunde (freiwillig)
• 25./27.01.22 Besprechung PDE-Auswertung und PDE-Spurdatenanalyse

Die in der Vorlesung dargestellten Konzepte und Mechanismen des Hochleistungsrechnens werden jeweils inhaltlich abgeschlossen in einer Vorlesungsstunde präsentiert. Einen genauen und verbindlichen Zeitplan finden Sie beim Themenplan.

Die Vorlesung findet in Teilpräsenz statt, die Video-Aufzeichnungen vom Vorjahr finden Sie hier.

Die Folien werden fortlaufend aktualisiert (Stand 12.10.): Folien Folien (mit Notizen)

Kursiv markierte Themen sind nicht klausurrelevant. Änderungen vorbehalten.

Stand 14.10.

• 12.10. Einleitung
• 14.10. Hochleistungsrechnen in der Klimaforschung
• 19.10. Leistungsoptimierung sequentieller Anwendungen
• 21.10. Hardware-Architekturen
• 26.10. Parallele Programmierung
• 28.10. Betriebssystemaspekte
• 02.10. Programmierung mit OpenMP
• 04.11. Programmierung mit POSIX-Threads
• 09.11. Vernetzungskonzepte
• 11.11. Programmiermodell Nachrichtenaustausch
• 16.11. Wissenschaftliche Visualisierung - Michael Böttinger, DKRZ
• 18.11. Werkzeugarchitekturen
• 23.11. Die TOP500-Liste
• 25.11. Kosten-Nutzen-Analyse
• 30.11. Maschinelles Lernen - Christopher Kadow, DKRZ Folien
• 02.12. Fehlersuche
• 07.12. Leistungsanalyse
• 09.12. Leistungsoptimierung und Reproduzierbarkeit
• 14.12. Hybride Programmierung - Panagiotis Adamidis, DKRZ
• 16.12. Historische Betrachtungen
• 04.01. entfallen
• 06.01. Hochleistungs-Eingabe/Ausgabe
• 11.01. Mathematische Bibliotheken - Philipp Neumann, HSU (Q&A, liegt rechtzeitg als Video vor) Folien
• 13.01. Parallele Eingabe/Ausgabe
• 18.01. Fehlertoleranz
• 20.01. Rechnerbeschaffung
• 25.01. Zukünftige Entwicklungen
• 27.01. Nachbesprechung

• Online-Live Hybride Programmierung (Vortragender: Panos Adamidis)
• Online-Q&A Mathematische Bibliotheken (Vortragender: Philipp Neumann)
• Online-Live Visualisierung in der Klimaforschung (Vortragender: Michael Böttinger)
• Online-Live Maschinelles Lernen (Vortragender: Christopher Kadow)

Vorläufige Termine für mündliche Prüfung:

• 10.02.22: 09:00-11:00 / 12:00-14:00 / 15:00-17:00
• 16.02.22: 09:00-11:00 / 12:00-14:00
• 17.02.22: 09:00-11:00 / 12:00-14:00 / 15:00-17:00

• Prof. Dr. Thomas Ludwig
• Anna Fuchs (Ansprechpartner Übungen)
• Jannek Squar

Hochleistungsrechnen ist eine wichtige Technik der Informatik, mit deren Hilfe in den Natur- und Ingenieurwissenschaften neue Erkenntnisse gewonnen werden. Insbesondere die durch das Hochleistungsrechnen ermöglichte computergestützte Simulation wird neben der Theorie und dem Experiment zum dritten Standbein vieler Wissenschaften. Neue Einsichten z. B. im Bereich der Klimaforschung, der Bioinformatik, der Teilchenphysik und des Automobilbaus werden durch Simulationen mit computerbasierten Modellen gewonnen und sind ohne Hochleistungsrechnen schon seit vielen Jahren nicht mehr möglich.

Gleichzeitig verändern sich die Rechnerarchitekturen in Arbeitsplatzrechnern: Durch den Einsatz von Mehrkern-Prozessoren finden wir auch hier Strukturen von Hochleistungsrechnern und die Programmierer müssen hierauf eingehen, wenn sie den Prozessor effizient nutzen wollen.

Die Vorlesung bietet einen Einstieg in die Konzepte des Hochleistungsrechnens und vermittelt grundlegende Kenntnisse, um mit diesen Systemen zu arbeiten.

Die Vorlesung ist inhatlich in mehrere Themenblöcke gegliedert, die aufeinander aufbauen, bei entsprechenden Vorkenntnissen aber auch einzeln gehört werden können.

Im ersten Block werden Fragen der Hardware- und Software-Architektur der Systeme erläutert. Hierzu gehören auch die Vernetzung der Rechnerknoten und die E/A-Systeme. Anhand der TOP500-Liste wird die Leistungsentwicklung der vergangenen Jahre dargestellt.

Der zweite Block befaßt sich mit der Programmierung der Systeme. Nach einer allgemeinen Einführung werden die Programmierparadigmen des Nachrichtenaustausches und der Nutzung gemeinsamer Speicherbereiche eingeführt. Auch moderen Ansätze, die von Experten genutzt werden, sollen in der Vorlesung präsentiert werden.

Im dritten Block befassen wir uns mit der Frage, wie wir das implementierte Programm auf dem Hochleistungsrechner effizient zum Laufen bekommen. Hierzu gehört zunächst die Frage, wie wir Fehler im Programm entfernen. Danach befassen wir uns mit der Leistungsanalyse und der Leistungsoptimierung dieser Programme.

Im vierten Abschnitt werden als Ausblick verschiedene Einzelaspekte des modernen Hochleistungsrechnens diskutiert werden.

Die Reihenfolge der Virträge in der Vorlesung verzahnt die Inhalt dieser Themenblöcke, um einen reibungslosen Übungsbetrieb zu gewährleisten. Zu übende Inhlte werden rechtzeitig in der Vorlesung behandelt.

Die Vorlesung eignet sich für Studierende der Informatik in den höheren Semestern des Bachelor, für alle Studierenden mit Nebenfach Informatik sowie Doktoranden in den Natur- und Ingenieurwissenschaften, die Hochleistungsrechnen als Werkzeug verwenden.

Voraussetzungen:

Notwendige Voraussetzung für die Vorlesung:

• Praktische Kenntnis einer Programmiersprache und die Fähigkeit, einfache Programme zu erstellen

Erwünschte Vorkenntnisse:

• Kenntnis der Grundmechanismen von Betriebssystemen
• Grundkenntnisse in Rechnerarchitektur

Die Teilnehmer werden in die Lage versetzt, parallele Programme mit verschiedenen Programmierkonzepten zu erstellen, zur Ausführung zu bringen und im Ablauf zu optimieren. Konzepte paralleler Rechnerarchitekturen werden gelehrt. Die Teilnehmer können die gewonnenen Kenntnisse auch auf modernen Arbeitsplatzrechnern mit Mehrkern-Prozessoren zur Programmierung einsetzen.