Ein interdisziplinärer Ansatz um kritische Infrastrukturen mit Methoden der Künstlichen Intelligenz (KI) sicher betreiben zu können, steht im Mittelpunkt einer neuen Forschungsgruppe geleitet von Eric Veith am Department für Informatik.
Kritische Infrastrukturen, wie Energienetze oder den öffentlichen Nahverkehr, vollautonom mit Methoden der Künstlichen Intelligenz (KI) zu steuern, ist eine große Herausforderung. Eine neue Nachwuchsforschungsgruppe an der Universität Oldenburg unter Leitung des Informatikers Dr. Eric Veith will einen interdisziplinären Ansatz entwickeln, der den besonderen Anforderungen des Betriebs kritischer Infrastrukturen mit KI gerecht wird. Das Bundesministerium für Bildung und Forschung (BMBF) fördert das Vorhaben „Adversarial Resilience Learning“, das nun gestartet ist, mit 757.000 Euro für drei Jahre.
„Der Ansatz der neuen Forschungsgruppe ist zukunftsweisend“, sagt Universitätspräsident Prof. Dr. Ralph Bruder. „Die interdisziplinäre Forschung wird direkten Nutzen für das Betreiben kritischer Systeme bringen und zur Cybersicherheit in diesem Bereich beitragen.“
Auf KI basierende Lernende Systeme, wie Roboter oder eine Software, erledigen Aufgaben selbstständig und lernen im laufenden Betrieb mit Hilfe von Algorithmen dazu. Auf diese Weise sind sie in der Lage, komplexe Aufgaben zu lösen und Strategien zu entwickeln, die über menschliche Fähigkeiten hinausreichen. Künftig wollen Fachleute Algorithmen des sogenannten Deep Learning und Deep Reinforcement Learning auch auf den Betrieb kritischer Infrastrukturen anwenden – etwa um diese nachhaltiger und effizienter zu betreiben. Ein weiteres wichtiges Ziel ist zudem, die Widerstandskraft der Infrastrukturen gegenüber unvorhergesehenen Ereignissen, wie etwa Cyber-Angriffe, zu erhöhen. „Das Problem allerdings ist, dass die Grenzen für Fehler, die ein lernendes System machen darf, beim Betreiben einer kritischen Infrastruktur sehr eng sind“, betont Informatiker Veith. Denn ein Fehler des Systems könnte potenziell katastrophale Folgen haben.
Ziel der Forschungsgruppe ist daher, einen interdisziplinären Ansatz zu entwickeln, der den aktuellen Forschungsstand der KI mit den notwendigen strikten Garantien für den sicheren und vertrauenswürdigen Betrieb zusammenbringt. „Hier gibt es bisher eine Forschungslücke“, erläutert Veith.
Um diese zu schließen, will das Team eine sogenannte hybride Architektur entwerfen, die aus zwei Teilen besteht. Der erste soll ein KI-basiertes System sein, das sich strategisch selbst weiterentwickelt und dessen Ergebnisse gegenüber dem zweiten Teil des Systems erklärbar, also nachvollziehbar sind, und in dieses einfließen. Der zweite Teil der Architektur soll auf klar definierten Regeln basieren, wie sie für die klassische Modellierung von kritischen Infrastrukturen üblich ist. „Auf diese Weise lernt das System letztlich, Wissen zu nutzen, das dem Menschen nicht zugänglich ist, und liefert dennoch ein garantiert sicheres Verhalten, das für das Betreiben von Infrastrukturen nötig ist.“
In dem Vorhaben kooperiert das Oldenburger Team mit Fachleuten der TU Delft (Niederlande), der Vanderbilt University in Nashville, Tennessee (USA), mit der Stiftung Neue Verantwortung (SNV) – einem Think Tank, der sich mit politischen und gesellschaftlichen Fragen neuer Technologien auseinandersetzt – sowie der Netze BW GmbH und der CEWE Stiftung.
Die Arbeitsgruppe von Dr. Eric Veith ist am Department für Informatik der Universität Oldenburg angesiedelt. Veith promovierte 2017 an der TU Bergakademie Freiberg mit einer Arbeit über Intelligente Stromnetze. Anschließend war er als Wissenschaftlicher Mitarbeiter am OFFIS e. V. – Institut für Informatik, Oldenburg, tätig und leitete dort ab 2018 das Competence Cluster „Applied Artificial Intelligence“ und seit 2020 die Forschungsgruppe „Power Systems Intelligence“ gemeinsam mit Prof. Dr. Sebastian Lehnhoff. Er ist zudem Mitglied der „Plattform Lernende Systeme“, der KI-Plattform des BMBF.
