Dass technische Systeme dem Menschen dienen sollen, muss bei der Gestaltung von Anfang mit bedacht werden, sagt die Informatikerin Susanne Boll.

„Wir müssen die Digitalisierung so gestalten, dass die Menschen wirklich teilhaben können. Wenn wir unsere digitalen Systeme anschauen, dann fühlen sich viele Nutzer*innen derzeit allerdings noch als Abhängige dieser Technologien. Es gibt viele Zitate, die das zum Ausdruck bringen: ‚Das ist mir zu kompliziert.‘ ‚Das verstehe ich nicht.‘ ‚Da mache ich bestimmt etwas kaputt.‘

Erst in den letzten 20 bis 30 Jahren hat man verstanden, dass die Interaktion des Menschen mit dem technischen System ein Teil der Gestaltung sein muss – und zwar von Anfang an. Im nutzerzentrierten Entwicklungsprozess beobachtet man daher schon von Beginn an Menschen und ihre Bedürfnisse in einer Situation und entwickelt daraufhin das System.

Diese nutzerzentrierte Entwicklung läuft schrittweise ab. Um etwa zu untersuchen, wie ein Lieferroboter gestaltet sein könnte, brauche ich keine 80.000 Euro teure Maschine, sondern es reicht eine kleine, fahrbare Kiste. Anhand dieses Modells kann ein Austausch dazu stattfinden, was Nutzer*innen erwarten: Machen sie Platz, wenn der Roboter an sie heranfährt? Rechnen sie mit einer Sprachnachricht? Oder wäre ein Schild besser: ‚Achtung, Lieferung von Medikamenten! Wichtig!‘?

Unternehmen haben mittlerweile ein großes Interesse, ihre Produkte an den zukünftigen Nutzer*innen auszurichten. Auf dem Endverbrauchermarkt ist schon lange klar: Wenn ein System nicht intuitiv bedienbar ist, ist es raus. Das hat sich in den letzten zehn Jahren auch auf den Arbeitsmarkt übertragen. Arbeitgeber*innen haben erkannt, dass sie die Arbeitswelten so einrichten müssen, dass die Menschen sich wertgeschätzt fühlen. Es geht darum, die Technik für den Menschen zu gestalten, nicht umgekehrt. Wenn wir uns technologische Entwicklungsprozesse ansehen, ist dieses Ziel noch nicht ganz erreicht. Aber wir werden dahinkommen.

Wir befinden uns immer häufiger in Umgebungen mit mehreren digitalen Systemen. Viele davon sind mit automatisch agierender Künstlicher Intelligenz (KI) und den sogenannten tiefen neuronalen Netzen ausgestattet. Mein Smart-Home-System könnte zum Beispiel selbständig meine ‚Wohlfühlzeiten‘ erkennen und sich dann von alleine konfigurieren. Und auf dem Amt könnte es künftig zu Interaktionen mit einer KI anstatt mit einer Sachbearbeiter*in kommen.  Sicherzustellen, dass Menschen solche pervasiven, also alltagsdurchdringenden, digitalisierten Umgebungen trotz ihrer Komplexität angemessen verstehen und selbstbestimmt nutzen können, ist eine große Herausforderung.

Aus meiner Sicht ist es notwendig, dass in KI-gestützten Systeme schon im Design bestimmte Werte implementiert werden, sodass Wertschätzung, Information, Widerspruch und Kontrolle sichergestellt sind. Ich glaube, von alleine wird es nicht kommen, dass in allen digitalisierten Prozessen der Mensch etwas zu sagen hat.

Grundsätzlich bin ich positiv eingestellt: Die neuen Technologien haben ein enormes Potenzial, unser Leben besser, menschlicher, gesünder, auch demokratischer und verbundener zu machen. Aber es braucht Wissenschaft, Wirtschaft, Gesellschaft und Politik, um dafür den richtigen Rahmen zu setzen.“