ERC Grant für mehr Datenschutz bei LLMs auf dem Handy

Wie man Datenschutz und Funktionalität bei der Verwendung von großen Sprachmodellen wie ChatGPT auf persönlichen Geräten unter einen Hut bringt – damit beschäftigen sich Wissenschafter:innen am Institute of Science and Technology Austria (ISTA). Jetzt hat dieses Forschungsteam um Professor Dan Alistarh und Doktorandin Eugenia Iofinova einen ERC Proof of Concept Grant in Höhe von 150.000 Euro bekommen, um die Kommerzialisierung ihrer Technologie voranzutreiben.

Das PersonalAI-Projekt will es Menschen ermöglichen, große Sprachmodelle (LLMs) wie ChatGPT auf ihren eigenen Geräten zu nutzen, ohne persönliche Daten weiterzugeben.

Dan Alistarh erklärt, warum das in einer Welt, in der immer mehr Leute ChatGPT, Gemini, Copilot, Claude & Co. nutzen, wichtig ist: „Um die Eingaben der Nutzer zu verarbeiten, werden Daten in die Cloud geschickt. Das hat zu einem Dilemma zwischen Funktionalität und Datenschutz geführt: Während Nutzer für ihre private und geschäftliche Kommunikation immer mehr auf diese Dienste setzen, müssen sie bei solchen Cloud-basierten Systemen die Kontrolle über sensible Daten an Drittunternehmen abgeben, die oft außerhalb der EU sind.“

Alistarh und sein Team gehen genau dieses Problem an: „Ich freue mich, dieses Projekt mit einem talentierten Team an meiner Seite leiten zu können, darunter Eugenia Iofinova, die ein Tool entwickelt hat, um ein System auf den Schreibstil eines Nutzers zu trainieren, und zwei Fachberater:innen vom MIT. Indem wir wissenschaftliche Entdeckungen in ein nutzbares Produkt umwandeln, hoffen wir, dass PersonalAI einen neuen Standard setzt, bei dem Nutzer ihre Daten sicher aufbewahren und dennoch hochwertige LLMs genießen können.“

Vier Schritte zur Kombination von Datenschutz und Leistung

Eugenia Iofinova erklärt, wie diese Lösungen mithilfe eines vierteiligen Systems funktionieren sollen: „Zuerst findet das System heraus, ob eine Aufgabe einfach oder komplex ist. Einfache Aufgaben werden lokal auf dem Gerät mithilfe von auf den Nutzer zugeschnittenen Modellen bearbeitet. Wenn die Aufgabe komplex ist und personenbezogene Daten entfernt werden können, macht es das, bevor die Anfrage an die Cloud geschickt wird. Nach der Antwort aus der Cloud passt das System dann den erhaltenen Text wieder an die Bedürfnisse und den Stil des Nutzers an.“ Damit eigne sich PersonalAI sehr gut für den europäischen KI-Markt, in dem es besonders wichtig sei, Daten vertraulich zu behandeln und Datenschutzgesetze wie die DSGVO einzuhalten. „Es ist die erste Lösung, die modernste Personalisierung bei vollständiger Wahrung der Datenprivatsphäre bietet,“ so Iofinova.

Das Team um Alistarh hat jetzt achtzehn Monate Zeit und 150.000 Euro, um diese Ziele in ihrem Projekt (vollständiger Titel: „PersonalAI: Efficient and Private Text Personalization with Large Language Models”) zu erreichen.

Die ERC Proof of Concept (PoC) Grants des Europäischen Forschungsrates (ERC) sollen Geförderten dabei helfen, die Lücke zwischen den Ergebnissen ihrer pionierhaften Forschung und den frühen Phasen ihrer Kommerzialisierung oder gesellschaftlichen Anwendung zu schließen. Diese Stipendien stehen daher nur Forschenden offen, die derzeit ERC Frontrier Grants erhalten oder zuvor erhalten haben. Dan Alistarh erhielt 2018 ein ERC Starting Grant sowie 2024 einen weiteren PoC Grant.

2025: Zwei von acht österreichischen ERC PoC Grants gehen an das ISTA

Im Jahr 2025 wurden zwei Runden von ERC PoC Grants ausgeschrieben. PersonalAI ist eine von fünf Förderungen, die im Rahmen der zweiten Ausschreibung – die heute bekannt gegeben wurde – an Forschende mit Sitz in Österreich gingen. Die erste Ausschreibung, die im Juli 2025 bekannt gegeben wurde, umfasste ebenfalls ein Gewinnerprojekt vom ISTA: Professor Johannes Fink und sein Team erhielten Fördermittel für ihr Projekt „Integrated optical coupling for low-loss electro-optic interconnects” (CoupledEOT) zur Kommerzialisierung einer Schlüsseltechnologie für ein zukünftiges optikbasiertes Quanteninternet. CoupledEOT war damals eines von drei österreichischen Projekten.