User Tools

Site Tools


publication

Publication details

  • Leistungsanalyse und -optimierung der Netzwerkkommunikation in dem HPC-Speichersystem JULEA unter Verwendung des OFI Frameworks (Arne Struck), Bachelor's Thesis, School: Universität Hamburg, 2020-12-01
    Publication details

Abstract

Netzwerkkommunikation ist ein klassischer Flaschenhals der modernen Datenverarbeitung, im Speziellen im Bereich des High Performance Computing (HPC). In dieser Arbeit soll ein Beitrag zur Beantwortung der Frage geliefert werden, ob ein Performanzgewinn im Bereich der Netzwerkkommunikation durch direkte Integration einer spezialisierten Kommunikationslösung in ein bereits existierendes HPC-Programm möglich ist. Diese Frage soll auch unter dem Aspekt beleuchtet werden, dass keine speziellen Vorkenntnisse des untersuchten Frameworks beim Durchführenden vorliegen. Als Referenzbeispiel dient das Open Fabrics Interface (OFI) als Vertreter der spezialisierten Netzwerkframeworks und JULEA exemplarisch als HPC-Anwendung. JULEA stellt ein flexibles Framework zur entfernten und lokalen Datenspeicherung dar und setzt für die Netzwerkkommunikation auf Berkley Sockets. OFI bietet eine Sammlung meist auf HPC spezialisierter Netzwerklösungen an. Libfabric ist hierbei eine Kernkomponente OFIs und stellt die API zur Zielanwendung dar. Die Ergebnisse zeigen, dass eine direkte Integration libfabrics in JULEA unter Verwendung des libfabric sockets Providers in einer geringeren Datendurchsatzrate resultiert als die bisher verwendete direkte socket Implementation unter Verwendung von angebotenen Optimierungen. Besonders stark ist der Unterschied bei geringen Dateigrößen (im KB-Bereich) pro Übertragungsvorgang, während bei Dateigrößen im MB-Bereich sich die Durchsatzraten angleichen. Allerdings existiert auch im MB-Bereich immer noch ein Performanzvorsprung vor der bisherigen Variante. Des weiteren wird demonstriert, dass auch eine direkte Integration bei komplexen Frameworks eine inhärente Komplexität und Fehleranfälligkeit mit sich bringt. Es wird gezeigt, dass eine direkte Integration prinzipiell möglich ist, allerdings werden Performanzgewinne hierdurch nicht zwingend erreicht. Gründe hierfür können darin gefunden werden, dass Speziallösungen unter Umständen durch eine etablierte Lösung angebotene Optimierungen fehlen. Dies wiederum kann dazu führen, dass die Speziallösung perfomanztechnisch einer etablierten Lösung unterlegen sind. Des weiteren wird gezeigt, dass eine direkte Integration ohne Anpassung des Referenzprogrammes an die Vorgehensweisen des Netzwerkframeworks zu Performanzverlusten führen und somit leichte Anpassungen des Kommunikationsschemas notwendig sein kann.

BibTeX

@misc{LUDNIDHUVD20,
	author	 = {Arne Struck},
	title	 = {{Leistungsanalyse und -optimierung der Netzwerkkommunikation in dem HPC-Speichersystem
			JULEA unter Verwendung des OFI Frameworks}},
	advisors	 = {Michael Kuhn and Kira Duwe},
	year	 = {2020},
	month	 = {12},
	school	 = {Universität Hamburg},
	howpublished	 = {{Online \url{https://wr.informatik.uni-hamburg.de/_media/research:theses:arne_struck_leistungsanalyse_und_optimierung_der_netzwerkkommunikation_in_dem_hpc_speichersystem_julea_unter_verwendung_des_ofi_frameworks.pdf}}},
	type	 = {Bachelor's Thesis},
	abstract	 = {Netzwerkkommunikation ist ein klassischer Flaschenhals der modernen Datenverarbeitung,
			im Speziellen im Bereich des High Performance Computing (HPC). In dieser Arbeit soll ein
			Beitrag zur Beantwortung der Frage geliefert werden, ob ein Performanzgewinn im Bereich der
			Netzwerkkommunikation durch direkte Integration einer spezialisierten Kommunikationslösung in
			ein bereits existierendes HPC-Programm möglich ist. Diese Frage soll auch unter dem Aspekt
			beleuchtet werden, dass keine speziellen Vorkenntnisse des untersuchten Frameworks beim
			Durchführenden vorliegen. Als Referenzbeispiel dient das Open Fabrics Interface (OFI) als
			Vertreter der spezialisierten Netzwerkframeworks und JULEA exemplarisch als HPC-Anwendung.
			JULEA stellt ein flexibles Framework zur entfernten und lokalen Datenspeicherung dar und setzt
			für die Netzwerkkommunikation auf Berkley Sockets. OFI bietet eine Sammlung meist auf HPC
			spezialisierter Netzwerklösungen an. Libfabric ist hierbei eine Kernkomponente OFIs und stellt
			die API zur Zielanwendung dar. Die Ergebnisse zeigen, dass eine direkte Integration libfabrics
			in JULEA unter Verwendung des libfabric sockets Providers in einer geringeren
			Datendurchsatzrate resultiert als die bisher verwendete direkte socket Implementation unter
			Verwendung von angebotenen Optimierungen. Besonders stark ist der Unterschied bei geringen
			Dateigrößen (im KB-Bereich) pro Übertragungsvorgang, während bei Dateigrößen im MB-Bereich
			sich die Durchsatzraten angleichen. Allerdings existiert auch im MB-Bereich immer noch ein
			Performanzvorsprung vor der bisherigen Variante. Des weiteren wird demonstriert, dass auch
			eine direkte Integration bei komplexen Frameworks eine inhärente Komplexität und
			Fehleranfälligkeit mit sich bringt. Es wird gezeigt, dass eine direkte Integration prinzipiell
			möglich ist, allerdings werden Performanzgewinne hierdurch nicht zwingend erreicht. Gründe
			hierfür können darin gefunden werden, dass Speziallösungen unter Umständen durch eine
			etablierte Lösung angebotene Optimierungen fehlen. Dies wiederum kann dazu führen, dass die
			Speziallösung perfomanztechnisch einer etablierten Lösung unterlegen sind. Des weiteren wird
			gezeigt, dass eine direkte Integration ohne Anpassung des Referenzprogrammes an die
			Vorgehensweisen des Netzwerkframeworks zu Performanzverlusten führen und somit leichte
			Anpassungen des Kommunikationsschemas notwendig sein kann.},
}

publication.txt · Last modified: 2019-01-23 10:26 by 127.0.0.1

Donate Powered by PHP Valid HTML5 Valid CSS Driven by DokuWiki