Unser wissenschaftlicher Artikel „Repeated Knowledge Distillation with Confidence Masking to Mitigate Membership Inference Attacks” wurde zur Veröffentlichung auf der ACM AISec 2022 akzeptiert! In dem Artikel beschreiben wir einen neuen Ansatz zum Schutz von Modellen des Maschinellen Lernens vor sogenannten "Membership Inference Attacks". Konkret kombiniert unser Ansatz den bekannten Abwehrmechanismus namens "Knowledge Distillation" mit der Maskierung von Konfidenz-Punkten. Unser Ansatz ist wesentlich flexibler als existierende Abwehrmechanismen, da er ein Fine-Tuning der Parameter erlaubt und dadurch genutzt werden kann, um einen maßgeschneiderten Trade-off zwischen der Genauigkeit des Modells und der Abwehrperformanz gegen Membership Inference Angriffen zu erreichen.
Kontakt
Sekretariat
Leitung
Herzlich willkommen auf den Webseiten der Abteilung für Safety-Security-Interaction!
Die Abteilung für Safety-Security-Interaction beschäftigt sich mit der Entwicklung theoretisch fundierter Verfahren zur Wahrung der Sicherheit (security) von IT-Systemen im Kontext sicherheitskritischer Systeme und des Internets der Dinge. Schwerpunkt ist die Entwicklung von Sicherheitslösungen, welche auf die Kontext-spezifischen Rahmenbedingungen zugeschnitten sind und verschiedenartige Benutzerinteraktionen (interaction) sowie die funktionale Sicherheit (safety) der zu schützenden Systeme berücksichtigen.