FORSCHUNG
Forschung
Findet ein LLM-Agent die Datenschutzrisiken in synthetischen Gesundheitsdaten, die Standardtests als sicher einstufen?
MSc-Abschlussarbeit · in Arbeit
Agentic Privacy Auditing of Synthetic Health Data: Evaluating LLM Audit Agents against Attack-Based Re-identification Metrics
Synthetische Gesundheitsdaten sollen die Muster echter Patientendaten behalten, ohne einen echten Patienten zu enthalten. Bevor man sie weitergibt, muss jemand prüfen, dass kein synthetischer Datensatz noch auf eine echte Person zeigt.
Ein verbreiteter Schnelltest misst, wie weit jeder synthetische Datensatz vom nächsten echten entfernt ist. Das zeigt die Abbildung. Strengere Prüfungen greifen die Daten tatsächlich an und zählen, wie oft sich eine Person wiedererkennen lässt.
Meine Arbeit fragt, ob ein LLM-Agent, der dieselben Daten prüft, Risiken findet, die solche angriffsbasierten Metriken als gering einstufen. Die Arbeit läuft noch, Ergebnisse gibt es bisher nicht.
Abb. 1 · Abstand zum nächsten Datensatz
Jeder Punkt ist ein synthetischer Datensatz. Jeder Ring ist der Datensatz einer echten Person. Ein Punkt, der auf einem Ring liegt, kann diese Person verraten. Solche Fälle zu finden, ist das Thema meiner Abschlussarbeit.
- Echter Datensatz
- Synthetischer Datensatz
- Zu nah: 7 von 92
Zeiger bewegen, um einen Datensatz zu prüfen. Beispieldaten, keine Studienergebnisse.
Bisherige Arbeit
Forschung und akademische Arbeit
- In Arbeit
Masterarbeit
Agentic Privacy Auditing of Synthetic Health Data: Evaluating LLM Audit Agents against Attack-Based Re-identification Metrics
- Fertig
KI-Agenten in Unternehmen
Vier Umfragen aus 2026 verglichen, in denen die gemeldete Adoption zwischen 17% und 65% lag, und den Gründen nachgegangen.
- Fertig
Agenten-Designmuster
ReAct, Reflection, Planning, Tool use und Multi-agent, abgeglichen mit echten Einsätzen und mit MCP und A2A.
Interessen
Wohin meine Neugier geht
- Gesundheits-KI und Datenschutz
- Software, die einer Praxis nützt, ohne dass Patientendaten das Haus verlassen. Mit Klindok habe ich gelernt, was das bedeutet.
- LLMs und Agenten evaluieren
- Prüfen, was ein Modell oder ein Agent wirklich tut, bevor man sich darauf verlässt. Und klar sagen, was nicht getestet wurde.
- Robotik
- Was sich ändert, wenn ein Modell auf einem echten Gerät läuft. Das Feld ist neu für mich, ich lerne es mit Kiko.
- Digitale Zwillinge
- Simulierte Kopien physischer Systeme, um Verhalten zu testen, bevor die Hardware existiert. Ein Interesse, das ich gerade erst beginne zu erkunden.
Paper-Analysen
Papers, die ich genau gelesen habe
Erscheint, wenn ich ein Paper gründlich gelesen habe. Kein fester Rhythmus.
- arXiv preprintMust read
The DCR Delusion: Measuring the Privacy Risk of Synthetic Data
The most popular privacy test for synthetic data passes datasets that membership inference attacks show are leaking.
Offen für Forschungskooperationen
LinkedIn