Skip to main content

Alistarh Group

Verteilte Algorithmen und Systeme

Verteilung war im letzten Jahrzehnt ein wesentlicher Trend der Informatik: Prozessorarchitekturen sind mehrkernig, während Großsysteme für maschinelles Lernen und Datenverarbeitung über mehrere Maschinen oder sogar Datenzentren verteilbar sind. Die Alistarh-Gruppe arbeitet an Algorithmen, die diese Entwicklung nutzen können, indem sie skalierbare Software entwickelt – diese verbessert die Performance, sobald mehr Rechenleistung verfügbar ist.


Diese fundamentale Veränderung zu verteiltem Rechnen bringt aufregende offene Fragen mit sich: Wie gestalten wir Algorithmen, die jedes letzte Stück Performance aus der derzeitigen Generation der Computer-Architektur nutzen können? Wie entwickeln wir zukünftige Architekturen, um skalierbarere Algorithmen zu unterstützen? Gibt es klare Abstraktionen, um Hochleistungs-Verteilung für Programmierer zugänglich zu machen? Die Forschung der Alistarh-Gruppe konzentriert sich auf die Beantwortung dieser Fragen. Insbesondere ist die Gruppe daran interessiert, effiziente und praktische Algorithmen für grundlegende Probleme der verteilten Datenverarbeitung zu entwickeln, die inhärenten Grenzen verteilter Systeme zu verstehen und neue Wege zur Überwindung dieser Grenzen zu entwickeln. Ein besonderer Fokus in den letzten Jahren war das verteilte maschinelle Lernen.




Team

Image of Alexander Fedorov

Alexander Fedorov

PhD Student

Image of Elias Frantar

Elias Frantar

PhD Student

Image of Eugenia Iofinova

Eugenia Iofinova

PhD Student


Image of Eldar Kurtic

Eldar Kurtic

Research Technician Machine Learning

+43 2243 9000 2081

Image of Ilia Markov

Ilia Markov

PhD Student


Image of Mahdi Nikdan

Mahdi Nikdan

PhD Student

Image of Aleksandr Shevchenko

Aleksandr Shevchenko

PhD Student


Laufende Projekte

Effizientes Training und Inferenz für massive Modelle | Verteiltes Machine Learning | Gleichzeitige Datenstrukturen und Anwendungen | Molekulare Berechnungen


Publikationen

Kurtic E, Hoefler T, Alistarh D-A. 2024. How to prune your language model: Recovering accuracy on the ‘Sparsity May Cry’ benchmark. Proceedings of Machine Learning Research. CPAL: Conference on Parsimony and Learning, PMLR, vol. 234, 542–553. View

Beznosikov A, Horvath S, Richtarik P, Safaryan M. 2023. On biased compression for distributed learning. Journal of Machine Learning Research. 24, 1–50. View

Aksenov V, Alistarh D-A, Drozdova A, Mohtashami A. 2023. The splay-list: A distribution-adaptive concurrent skip-list. Distributed Computing. 36, 395–418. View

Iofinova EB, Peste E-A, Alistarh D-A. 2023. Bias in pruned vision models: In-depth analysis and countermeasures. 2023 IEEE/CVF Conference on Computer Vision and Pattern Recognition. CVPR: Conference on Computer Vision and Pattern Recognition, 24364–24373. View

Markov I, Vladu A, Guo Q, Alistarh D-A. 2023. Quantized distributed training of large models with convergence guarantees. Proceedings of the 40th International Conference on Machine Learning. ICML: International Conference on Machine Learning, PMLR, vol. 202, 24020–24044. View

Zu Allen Publikationen

ReX-Link: Dan Alistarh


Karriere

Seit 2017 Assistant Professor, Institute of Science and Technology Austria (ISTA)
2016 – 2017 “Ambizione Fellow”, Computer Science Department, ETH Zurich, Schweiz
2014 – 2016 Researcher, Microsoft Research, Cambridge, UK
2014 – 2016 Morgan Fellow, Downing College, University of Cambridge, UK
2012 – 2013 Postdoc, Massachusetts Institute of Technology, Cambridge, USA
2012 PhD, EPFL, Lausanne, Schweiz


Ausgewählte Auszeichnungen

2018 ERC Starting Grant
2015 Awarded Swiss National Foundation “Ambizione” Fellowship
2014 Elected Morgan Fellow at Downing College, University of Cambridge
2012 Postdoctoral Fellowship of the Swiss National Foundation
2011 Best Paper Award at the International Conference on Distributed Computing and Networking


Zusätzliche Informationen

Dan Alistarhs Website



theme sidebar-arrow-up
Nach Oben