Unser wissenschaftlicher Artikel „Repeated Knowledge Distillation with Confidence Masking to Mitigate Membership Inference Attacks” wurde zur Veröffentlichung auf der ACM AISec 2022 akzeptiert! In dem Artikel beschreiben wir einen neuen Ansatz zum Schutz von Modellen des Maschinellen Lernens vor sogenannten "Membership Inference Attacks". Konkret kombiniert unser Ansatz den bekannten Abwehrmechanismus namens "Knowledge Distillation" mit der Maskierung von Konfidenz-Punkten. Unser Ansatz ist wesentlich flexibler als existierende Abwehrmechanismen, da er ein Fine-Tuning der Parameter erlaubt und dadurch genutzt werden kann, um einen maßgeschneiderten Trade-off zwischen der Genauigkeit des Modells und der Abwehrperformanz gegen Membership Inference Angriffen zu erreichen.
Kontakt
Sekretariat
Leitung
Herzlich willkommen auf den Webseiten der Abteilung für Safety-Security-Interaction!
Die Abteilung Safety-Security-Interaction ist eine forschungs- und lehraktive Gruppe, die sich mit der Entwicklung theoretisch fundierter Verfahren zur Wahrung der Sicherheit (security) von IT-Systemen im Kontext sicherheitskritischer Systeme und des Internets der Dinge beschäftigt. Schwerpunkt ist die Entwicklung von Sicherheitslösungen, welche auf die Kontext-spezifischen Rahmenbedingungen zugeschnitten sind, wodurch die Erforschung des Zusammenspiels (interaction) der IT-Sicherheit (security) mit der funktionalen Sicherheit (safety) der zu schützenden Systeme eine besondere Rolle einnimmt.
Stellenausschreibung
Promotionsstelle im Bereich der IoT Security; Bewerbungsfrist: 8. März 2026