Zum Inhalt springen
KS

FORSCHUNG

Forschung

Findet ein LLM-Agent die Datenschutzrisiken in synthetischen Gesundheitsdaten, die Standardtests als sicher einstufen?

MSc-Abschlussarbeit · in Arbeit

Agentic Privacy Auditing of Synthetic Health Data: Evaluating LLM Audit Agents against Attack-Based Re-identification Metrics

Synthetische Gesundheitsdaten sollen die Muster echter Patientendaten behalten, ohne einen echten Patienten zu enthalten. Bevor man sie weitergibt, muss jemand prüfen, dass kein synthetischer Datensatz noch auf eine echte Person zeigt.

Ein verbreiteter Schnelltest misst, wie weit jeder synthetische Datensatz vom nächsten echten entfernt ist. Das zeigt die Abbildung. Strengere Prüfungen greifen die Daten tatsächlich an und zählen, wie oft sich eine Person wiedererkennen lässt.

Meine Arbeit fragt, ob ein LLM-Agent, der dieselben Daten prüft, Risiken findet, die solche angriffsbasierten Metriken als gering einstufen. Die Arbeit läuft noch, Ergebnisse gibt es bisher nicht.

Abb. 1 · Abstand zum nächsten Datensatz

Jeder Punkt ist ein synthetischer Datensatz. Jeder Ring ist der Datensatz einer echten Person. Ein Punkt, der auf einem Ring liegt, kann diese Person verraten. Solche Fälle zu finden, ist das Thema meiner Abschlussarbeit.

  • Echter Datensatz
  • Synthetischer Datensatz
  • Zu nah: 7 von 92

Zeiger bewegen, um einen Datensatz zu prüfen. Beispieldaten, keine Studienergebnisse.

Bisherige Arbeit

Forschung und akademische Arbeit

  • In Arbeit

    Masterarbeit

    Agentic Privacy Auditing of Synthetic Health Data: Evaluating LLM Audit Agents against Attack-Based Re-identification Metrics

  • Fertig

    KI-Agenten in Unternehmen

    Vier Umfragen aus 2026 verglichen, in denen die gemeldete Adoption zwischen 17% und 65% lag, und den Gründen nachgegangen.

  • Fertig

    Agenten-Designmuster

    ReAct, Reflection, Planning, Tool use und Multi-agent, abgeglichen mit echten Einsätzen und mit MCP und A2A.

Details auf der Seite Erfahrung

Interessen

Wohin meine Neugier geht

Gesundheits-KI und Datenschutz
Software, die einer Praxis nützt, ohne dass Patientendaten das Haus verlassen. Mit Klindok habe ich gelernt, was das bedeutet.
LLMs und Agenten evaluieren
Prüfen, was ein Modell oder ein Agent wirklich tut, bevor man sich darauf verlässt. Und klar sagen, was nicht getestet wurde.
Robotik
Was sich ändert, wenn ein Modell auf einem echten Gerät läuft. Das Feld ist neu für mich, ich lerne es mit Kiko.
Digitale Zwillinge
Simulierte Kopien physischer Systeme, um Verhalten zu testen, bevor die Hardware existiert. Ein Interesse, das ich gerade erst beginne zu erkunden.

Paper-Analysen

Papers, die ich genau gelesen habe

Erscheint, wenn ich ein Paper gründlich gelesen habe. Kein fester Rhythmus.

Offen für Forschungskooperationen

LinkedIn