Die Forschungsgruppe Privacy-Aware Trustworthy Artificial Intelligence (PATAI) unter der Leitung von Dr. Federico Mazzone ist in die Arbeitsgruppe Safety-Security-Interaction (SSI) am Department für Informatik der Universität Oldenburg eingebettet.

PATAI wurde im Rahmen des KI-Inkubators „Connected Health Nordwest“ gegründet, einer interdisziplinären Initiative, die die Universitätsmedizin Oldenburg, das Department für Informatik, OFFIS und das DFKI zusammenbringt, um Forschung und Zusammenarbeit im Bereich der Künstlichen Intelligenz im Gesundheitswesen zu stärken.

Ziel der Gruppe ist die Entwicklung von Methoden und Systemen des maschinellen Lernens, die Datenschutz, Sicherheit und Vertrauenswürdigkeit - insbesondere Eigenschaften wie Robustheit, Erklärbarkeit, Fairness und Auditierbarkeit - gemeinsam berücksichtigen. Ein besonderer Schwerpunkt liegt dabei auf angewandter Kryptographie und datenschutzfördernden Technologien wie homomorpher Verschlüsselung, sicherer Mehrparteienberechnung und Differential Privacy. Weitere Forschungsthemen umfassen sicheres und kollaboratives maschinelles Lernen sowie die Entwicklung praxisnaher Lösungen für verteilte Umgebungen und den Umgang mit sensiblen Daten. Das Gesundheitswesen ist der primäre Anwendungsbereich der Gruppe; die entwickelten Methoden und Technologien sind jedoch so konzipiert, dass sie auf ein breites Spektrum datenschutz- und sicherheitssensitiver KI-Szenarien übertragbar sind.