Hochleistungsrechnen ist eine wichtige Technik der Informatik, mit deren Hilfe in den Natur- und Ingenieurwissenschaften neue Erkenntnisse gewonnen werden. Insbesondere dei durch das Hochleistungsrechnen ermöglichte computergestützte Simulation wird neben der Theorie und dem Experiment zum dritten Standbein vieler Wissenschaften. Neue Einsichten z. B. im Bereich der Klimaforschung, der Bioinformatik, der Teilchenphysik und des Automobilbaus werden durch Simulationen computerbasierter Modelle gewonnen und sind ohne Hochleistungsrechnen schon seit vielen Jahren nicht mehr möglich.

Gleichzeitig verändern sich die Rechnerarchitekturen in Arbeitsplatzrechnern: Durch den Einsatz von Mehrkern-Prozessoren finden wir auch hier Strukturen von Hochleistungsrechnern und die Programmierer müssen hierauf eingehen, wenn sie den Prozessor effizient nutzen wollen.

Die Vorlesung bietet einen Einstieg in die Konzepte des Hochleistungsrechnens und vermittelt grundlegende Kenntnisse, um mit diesen Systemen zu arbeiten.

Die Vorlesung ist in mehrere Themenblöcke gegliedert, die aufeinander aufbauen, bei entsprechenden Vorkenntnissen aber auch einzeln gehört werden können.

Im ersten Block werden Fragen der Hardware- und Software-Architektur der Systeme erläutert. Hierzu gehören auch die Vernetzung der Rechnerknoten und die E/A-Systeme. Anhand der TOP500-Liste wird die Leistungsentwicklung der vergangenen Jahre dargestellt.

Der zweite Block befaßt sich mit der Programmierung der Systeme. Nach einer allgemeinen Einführung werden die Programmierparadigmen des Nachrichtenaustausches und der Nutzung gemeinsamer Speicherbereiche eingeführt. Auch moderen Ansätze, die in Fachkreisen kontrovers dikutiert werden, sollen in der Vorlesung präsentiert werden.

Im dritten Block befassen wir uns mit der Frage, wie wir das implementierte Programm auf dem Hochleistungsrechner effizient zum Laufen bekommen. Hierzu gehört zunächst die Frage, wie wir Fehler im Programm entfernen. Danach befassen wir uns mit der Leistungsanalyse und der Leistungsoptimierung dieser Programme.

Im vierten Abschnitt werden als Ausblick verschiedene Einzelaspekte des modernen Hochleistungsrechnens diskutiert werden.

Die Vorlesung eignet sich für Studierende der Informatik in den höheren Semestern des Bachelor, für alle Studierenden mit Nebenfach Informatik sowie Doktoranden in den Natur- und Ingenieurwissenschaften, die Hochleistungsrechnen als Werkzeug verwenden.

Voraussetzungen:

Notwendige Voraussetzung für die Vorlesung:

• Praktische Kenntnis einer Programmiersprache und die Fähigkeit, einfache Programme zu erstellen

Erwünschte Vorkenntnisse:

• Kenntnis der Grundmechanismen von Betriebssystemen
• Grundkenntnisse in Rechnerarchitektur

Die Teilnehmer werden in die Lage versetzt, parallele Programme mit verschiedenen Programmierkonzepten zu erstellen, zur Ausführung zu bringen und im Ablauf zu optimieren. Konzepte paralleler Rechnerarchitekturen werden gelehrt. Die Teilnehmer können die gewonnenen Kenntnisse auch auf modernen Arbeitsplatzrechnern mit Mehrkern-Prozessoren zur Programmierung einsetzen.

• Prof. Dr. Thomas Ludwig
• Prof. Dr. Michael Kuhn
• Dr. Hermann Lenhart

Die in der Vorlesung dargestellten Konzepte und Mechanismen des Hochleistungsrechnens werden jeweils inhaltlich abgeschlossen in einer Vorlesungsstunde präsentiert. Ein genauer und verbindlicher Zeitplan erscheint hier zu Beginn der Vorlesungszeit.

Kursiv markierte Themen sind nicht klausurrelevant.

• Alte Folien: Folien (durchsuchbar) Folien mit Notizen (teilweise durchsuchbar)
• Neue Folien: Folien (durchsuchbar) Folien mit Notizen (teilweise durchsuchbar)

• 18.10. Einleitung
• 20.10. Hochleistungsrechnen in der Klimaforschung
• 25.10. Hardware-Architekturen
• 27.10. Betriebssystemaspekte
• 01.11. Leistungsoptimierung sequentieller Anwendungen
• 03.11. Parallele Programmierung
• 08.11. Programmierung mit OpenMP
• 10.11. Programmierung mit POSIX-Threads
• 15.11. Vernetzungskonzepte (Vortragender: Michael Kuhn)
• 17.11. Programmiermodell Nachrichtenaustausch (Vortragender: Michael Kuhn)
• 22.11. Werkzeugarchitekturen
• 24.11. Fehlersuche
• 29.11. Leistungsanalyse
• 01.12. Leistungsmessung Folien
• 06.12. Advanced Cluster Computing (Vortragender: Thomas Warschko) Folien
• 08.12. Energieeffizienz und Total Cost of Ownership
• 13.12. Hochleistungs-Eingabe/Ausgabe
• 15.12. Parallele Eingabe/Ausgabe
• 20.12. Die TOP500-Liste
• 22.12. Historische Betrachtungen
• 10.01. Grid- und Cloudcomputing
• 12.01. Fehlertoleranz
• 17.01. Hybride Programmierung (Vortragender: Panos Adamidis)
• 19.01. Datenmanagement am DKRZ (Vortragender: Hannes Thiemann)
• 24.01. Visualisierung in der Klimaforschung (Vortragender: Michael Böttinger)
• 26.01. Rechnerbeschaffung
• 31.01. Zukünftige Entwicklungen
• 02.02. Nachbesprechung

• 17.02. Klausur-Termin 1 (Phil A, 9:30–11:00 Uhr)
• 17.03. Klausur-Termin 2 (Phil B, 9:30–11:00 Uhr)

• 16.10. Ablauf und Einführung Linux-Cluster Übungsblatt 0 Übungsblatt 1
  • Abgabe: 22.10. 23:59
  • Zusätzliche Informationen: Folien
• 23.10. Debugging (Übungen in Raum 023) Übungsblatt 2
  • Abgabe: 29.10. 23:59
  • Zusätzliche Informationen: Makefile-Merkblatt
• 30.10. Leistungsoptimierung sequentieller Anwendungen Übungsblatt 3
  • Abgabe: 05.11. 23:59
  • Zusätzliche Informationen: GDB-Merkblatt
• 06.11. OpenMP Übungsblatt 4
  • Abgabe: 12.11. 23:59
  • Zusätzliche Informationen: OpenMP-Merkblatt
• 13.11. POSIX-Threads Übungsblatt 5
  • Abgabe: 19.11. 23:59
• 20.11. Einführung MPI (Montagsübung in Raum 023) Übungsblatt 6
  • Abgabe: 26.11. 23:59
• 27.11. PDE-Parallelisierungsschema Übungsblatt 7
  • Abgabe: 03.12. 23:59
• 04.12. PDE-Parallelisierung (Jacobi) Übungsblatt 8
  • Abgabe: 10.12. 23:59
• 11.12. PDE-Parallelisierung (Gauß-Seidel) Übungsblatt 9
  • Abgabe: 17.12. 23:59 und 06.01. 23:59
• 18.12. PDE-Parallelisierung (Gauß-Seidel) Zwischenbesprechung
• 08.01. PDE-Auswertung Übungsblatt 10
  • Abgabe: 14.01. 23:59
• 15.01. PDE-Spurdatenanalyse Übungsblatt 11
  • Abgabe: 21.01. 23:59
• 22.01. Entfällt
• 29.01. Nachbesprechung