Hochleistungsrechnen ist eine wichtige Technik der Informatik, mit deren Hilfe in den Natur- und Ingenieurwissenschaften neue Erkenntnisse gewonnen werden. Insbesondere die durch das Hochleistungsrechnen ermöglichte computergestützte Simulation wird neben der Theorie und dem Experiment zum dritten Standbein vieler Wissenschaften. Neue Einsichten z. B. im Bereich der Klimaforschung, der Bioinformatik, der Teilchenphysik und des Automobilbaus werden durch Simulationen mit computerbasierten Modellen gewonnen und sind ohne Hochleistungsrechnen schon seit vielen Jahren nicht mehr möglich.

Gleichzeitig verändern sich die Rechnerarchitekturen in Arbeitsplatzrechnern: Durch den Einsatz von Mehrkern-Prozessoren finden wir auch hier Strukturen von Hochleistungsrechnern und die Programmierer müssen hierauf eingehen, wenn sie den Prozessor effizient nutzen wollen.

Die Vorlesung bietet einen Einstieg in die Konzepte des Hochleistungsrechnens und vermittelt grundlegende Kenntnisse, um mit diesen Systemen zu arbeiten.

Die Vorlesung ist in mehrere Themenblöcke gegliedert, die aufeinander aufbauen, bei entsprechenden Vorkenntnissen aber auch einzeln gehört werden können.

Im ersten Block werden Fragen der Hardware- und Software-Architektur der Systeme erläutert. Hierzu gehören auch die Vernetzung der Rechnerknoten und die E/A-Systeme. Anhand der TOP500-Liste wird die Leistungsentwicklung der vergangenen Jahre dargestellt.

Der zweite Block befaßt sich mit der Programmierung der Systeme. Nach einer allgemeinen Einführung werden die Programmierparadigmen des Nachrichtenaustausches und der Nutzung gemeinsamer Speicherbereiche eingeführt. Auch moderen Ansätze, die in Fachkreisen kontrovers dikutiert werden, sollen in der Vorlesung präsentiert werden.

Im dritten Block befassen wir uns mit der Frage, wie wir das implementierte Programm auf dem Hochleistungsrechner effizient zum Laufen bekommen. Hierzu gehört zunächst die Frage, wie wir Fehler im Programm entfernen. Danach befassen wir uns mit der Leistungsanalyse und der Leistungsoptimierung dieser Programme.

Im vierten Abschnitt werden als Ausblick verschiedene Einzelaspekte des modernen Hochleistungsrechnens diskutiert werden.

Die Vorlesung eignet sich für Studierende der Informatik in den höheren Semestern des Bachelor, für alle Studierenden mit Nebenfach Informatik sowie Doktoranden in den Natur- und Ingenieurwissenschaften, die Hochleistungsrechnen als Werkzeug verwenden.

Voraussetzungen:

Notwendige Voraussetzung für die Vorlesung:

• Praktische Kenntnis einer Programmiersprache und die Fähigkeit, einfache Programme zu erstellen

Erwünschte Vorkenntnisse:

• Kenntnis der Grundmechanismen von Betriebssystemen
• Grundkenntnisse in Rechnerarchitektur

Die Teilnehmer werden in die Lage versetzt, parallele Programme mit verschiedenen Programmierkonzepten zu erstellen, zur Ausführung zu bringen und im Ablauf zu optimieren. Konzepte paralleler Rechnerarchitekturen werden gelehrt. Die Teilnehmer können die gewonnenen Kenntnisse auch auf modernen Arbeitsplatzrechnern mit Mehrkern-Prozessoren zur Programmierung einsetzen.

• Prof. Dr. Thomas Ludwig
• Prof. Dr. Michael Kuhn
• Dr. Hermann Lenhart

Die in der Vorlesung dargestellten Konzepte und Mechanismen des Hochleistungsrechnens werden jeweils inhaltlich abgeschlossen in einer Vorlesungsstunde präsentiert. Ein genauer und verbindlicher Zeitplan erscheint hier zu Beginn der Vorlesungszeit.

• Folien Folien (mit Notizen)

Kursiv markierte Themen sind nicht klausurrelevant.

• 15.10. Einleitung
• 17.10. Leistungsoptimierung sequentieller Anwendungen
• 22.10. Hardware-Architekturen
• 24.10. Parallele Programmierung
• 29.10. Betriebssystemaspekte
• 05.11. Programmierung mit OpenMP (Vortragender: Michael Kuhn)
• 07.11. Programmierung mit POSIX-Threads (Vortragender: Michael Kuhn)
• 12.11. Hochleistungsrechnen in der Klimaforschung
• 14.11. Vernetzungskonzepte
• 19.11. Programmiermodell Nachrichtenaustausch (Vortragender: Michael Kuhn)
• 21.11. Visualisierung in der Klimaforschung (Vortragender: Michael Böttinger)
• 26.11. Rechnerraumführung
• 28.11. Kosten-Nutzen-Analyse
• 03.12. Hybride Programmierung (Vortragender: Panos Adamidis)
• 05.12. Werkzeugarchitekturen
• 10.12. Fehlersuche
• 12.12. Leistungsanalyse
• 17.12. Leistungsoptimierung und Reproduzierbarkeit
• 19.12. Historische Betrachtungen
• 07.01. Hochleistungs-Eingabe/Ausgabe
• 09.01. Parallele Eingabe/Ausgabe
• 14.01. Die TOP500-Liste
• 16.01. Mathematische Bibliotheken (Vortragender: Philipp Neumann) Folien
• 21.01. Fehlertoleranz
• 23.01. Rechnerbeschaffung
• 28.01. Zukünftige Entwicklungen
• 30.01. Nachbesprechung

• 20.02. Klausur (9:30–11:30, ESA J)
• 23.03. Klausur (9:30–11:30, ESA C)

• 14./15.10. Ablauf und Einführung Linux-Cluster Übungsblatt 0 Übungsblatt 1
  • Abgabe: 19.10., 23:59
  • Zusätzliche Informationen: Präsentation
• 21./22.10. Debugging Übungsblatt 2
  • Abgabe: 26.10., 23:59
  • Zusätzliche Informationen: Makefiles
• 28./29.10. Leistungsoptimierung sequentieller Anwendungen Übungsblatt 3
  • Abgabe: 02.11., 23:59
• 04./05.11. OpenMP Übungsblatt 4
  • Abgabe: 09.11., 23:59
• 11./12.11. POSIX-Threads Übungsblatt 5
  • Abgabe: 16.11., 23:59
• 18./19.11. Einführung MPI Übungsblatt 6
  • Abgabe: 23.11., 23:59
• 25./26.11. PDE-Parallelisierungsschema Übungsblatt 7
  • Abgabe: 30.11., 23:59
• 02./03.12. PDE-Parallelisierung (Jacobi) Übungsblatt 8
  • Abgabe: 07.12., 23:59
• 09./10.12. PDE-Parallelisierung (Gauß-Seidel) Übungsblatt 9
  • Abgabe: 14.12. und 11.01., 23:59
• 16./17.12. PDE-Parallelisierung (Gauß-Seidel) Zwischenbesprechung
• 06./07.01. PDE-Parallelisierung (Gauß-Seidel) Zwischenbesprechung
• 13./14.01. PDE-Auswertung Übungsblatt 10
  • Abgabe: 18.01., 23:59
• 20./21.01. PDE-Spurdatenanalyse Übungsblatt 11
  • Abgabe: 25.01., 23:59
• 27./28.01. Letzter Termin