Maschinelle Lernalgorithmen finden zunehmend breite Anwendung in verschiedensten insbesondere auch sicherheitskritischen Anwendungsbereichen, doch die Qualität dieser Algorithmen wird in den seltensten Fällen systematisch untersucht. Der Schwerpunkt dieser Veranstaltung liegt auf verschiedensten Qualitätsdimensionen für maschinelle Lernalgorithmen, insbesondere tiefe neuronale Netzwerke, angefangen von der Messung der Leistungsfähigkeit, über Interpretierbarkeit/Erklärbarkeit (XAI), Robustheit (adversarial robustness, Robustheit gegen Störung im Input), Unsicherheitsquantifizierung, Distribution Shift, Domain Adaptation, Fairness/Bias bis hin zu Privacy. Die Methoden werden in der Vorlesung theoretisch eingeführt und in den Übungen praktisch implementiert und angewendet. Inhaltliche Voraussetzungen sind grundlegende theoretische Kenntnisse im Bereich des maschinellen Lernens, praktische Programmierkenntnisse in Python und im Idealfall Grundkenntnisse im Training tiefer neuronaler Netzwerke.

Diese Vorlesung bietet eine allgemeine Einführung in aktuelle Deep Learning Methoden mit besonderem Fokus auf praktischer Anwendbarkeit. Zur gleichen Zeit stellt die Vorlesung eine Einführung in das beliebte Deep Learning Framework PyTorch dar und setzt dabei nur Grundkenntnissen in Python voraus. Die Veranstaltung deckt ein großes Spektrum gängiger Aufgabenstellungen des maschinellen Lernens über verschiedene Datenmodalitäten hinweg ab: von Tabellendaten über Computer Vision (Bildklassifikation & Segmentierung) bis hin zu Zeitreihen und der Verarbeitung von Textdaten (Natural Language Processing). Dabei werden die wichtigsten aktuellen Modellarchitekturen in diesen Bereichen diskutiert, angefangen von Convolutional Neural Networks über Recurrent Neural Networks bis hin zu Transformer-Modellen. Die Vorlesung wird von Übungsgruppen begleitet in denen die Studenten praktische Erfahrungen in PyTorch und zugleich die nötigen Kenntnisse erwerben sollen, um aktuelle Deep Learning Verfahren in ihren jeweiligen Anwendungsgebieten zum Einsatz zu bringen.

Diese Vorlesung vermittelt einen Einblick in aktuelle Methoden Deep Learning Methoden zur Analyse von medizinischen Daten. Hierzu sollen ein breites Spektrum von Datenmodalitäten und Anwendungsbereichen diskutiert werden und neben methodischen Kenntnissen auch das für die jeweiligen Anwendungen erforderliche Hintergrundwissen vermittelt werden. Insbesondere sollen physiologische Zeitreihen (EKG, EEG), medizinische Bildgebung (Histopathologie, Röntgen-Thorax, CT/MRT), Audiodaten (z.B. dig. Stethoskop) bis hin zur Analyse von Electronic Health Records, medizinischen Textdaten, sowie multimodalen Kombinationen dieser Datentypen. Begleitend zur Vorlesung soll in Kleingruppen ein Projekt entwickelt werden.

Diese Vorlesung umfasst zwei Hauptthemen: selbstüberwachtes Lernen und moderne generative Modelle. Im ersten Teil werden wir die grundlegenden Designprinzipien (kontrastiv versus nicht-kontrastiv) untersuchen, die selbstüberwachte Lernalgorithmen zugrunde liegen. Im zweiten Teil werden wir Anwendungen dieser Prinzipien auf spezifische Datenmodalitäten wie Computer Vision, Natural Language Processing (einschließlich einer umfassenden Abdeckung großer Sprachmodelle) und Audio/Zeitreihen erkunden. Schließlich wird sich der dritte Teil auf generative Modelle konzentrieren, in dem wir eine Vielzahl von Modellen behandeln werden, von autoregressiven Modellen, variationalen Autoencodern und Normalisierungsflüssen bis hin zu generativen gegnerischen Netzwerken und (latenten) Diffusionsmodellen.

In diesem Seminar sollen aktuelle Publikationen/Themen im Bereich des Maschinellen Lernens behandelt werden mit besonderem Augenmerk auf Anwendungen im Bereich Gesundheitsdaten. Dabei sollen sowohl Bereiche mit hohem methodischen Fokus (wie z.B. self-supervised learning, Qualitätskriterien wie Interpretierbarkeit/Unsicherheitsquantifizierung) als auch medizinische Anwendungsthemen abgedeckt werden.

Dieses Seminar deckt verschiedene Aspekte der Interpretierbaren/Erklärbaren KI ab, von inhärent interpretierbaren Modellen über perturbations-basierte Methode, wie beispielsweise Shapley Values, bis hin zu gradienten-/bzw. zerlegungsbasierten Ansätzen sowie deren quantitative Evaluation. Über Einzel-Feature-Attributionsmethoden hinaus werden auch aktuelle Ansätze im Bereich der Konzept-basierten Erklärbarkeit, Wege zur Erklärung von Feature-Interaktionen sowie Beziehungen zwischen Interpretierbarkeit und Kausalität diskutiert.

Dieses Seminar beschäftigt sich mit aktuellen Ansätzen zur Verbesserung der Label-Effizienz von maschinellen Lernverfahren in verschiedenen Anwendungsbereichen, von Computer Vision über Sprachverarbeitung bis hin zur Verarbeitung von Textdaten. Ein besonderer Fokus wird auf Methoden des selbst-überwachten Lernens liegen, doch es werden auch Aspekte von Self-Training und Weak Supervision abgedeckt.