Ethik für Nerds

Sarah Sterz (25) machte den Bachelor in Informatik, wechselte zum Master in die Philosophie und steuert jetzt dort die Promotion an. Nikolai Käfer (25) blieb bei Informatik, steht vor dem Master und will später bei Tech-Unternehmen arbeiten, wenn sie sich ihrer "ethischen Verantwortung bewusst" sind. Sterz und Käfer haben zwei Dinge gemeinsam. Sie studierten Informatik an der Universität Saarbrücken und sie belegten "Ethics for Nerds". Die Vorlesung und die dazu gehörende Übung eröffnete den beiden neue Horizonte. Das dort vermittelte Wissen aus der Moralphilosophie, der Technikfolgenabschätzung, der Maschinenethik und der Argumentationstheorie änderte ihre Sichtweisen, ihr Bewusstsein und ihr Selbstverständnis.

"Bei Ethics for Nerds ist mir bewusst geworden, wie viel Macht wir haben und welche Verantwortung wir damit eben auch zu tragen haben", sagt Käfer. Und seine Kommilitonin meint: "Es kann nicht sein, dass Informatikerinnen und Informatiker ihre Hochschulen verlassen, ohne je etwas von Moral oder Verantwortung gehört zu haben." Die zwei Stimmen aus Saarbrücken stehen für einen weltweiten Trend. Inmitten der KI-Goldgräberstimmung stellen sich immer mehr Tekkies die Gewissensfrage: Wie soll ich arbeiten und was darf ich tun? Big Data, Algorithmen und Künstliche Intelligenz lassen die Grenzen zwischen Licht und Schatten verschwimmen, machen eine scharfe Trennung zwischen Gut und Böse schier unmöglich. Dual Use lauert überall, Unbedarftheit führt ins Off. Der rassistische Seifenspender zum Beispiel: Entwickelt mit weißen Testpersonen reagierten die Sensoren nicht, als eine nicht-weiße Person den Spender nutzen wollte.  

Die Initiatoren im Videointerview

Dilemmata begleiten die Ingenieur- und Technikwissenschaften seit jeher. "Wenn wir in der Software-Entwicklung Fortschritte erzielt haben, dann darin, Dinge nicht zu tun", sagt der US-amerikanische Begründer der Clean-Code-Bewegung, Robert C. Martin. "Uncle Bob", wie er von seinen Anhängern genannt wird, plädiert für höchste Sorgfalt bei der Software-Entwicklung und hält sehr erfolgreich Vorträge über Programmierung und Ethik, die bei Youtube millionenfach geklickt werden. 

Rote Linien und die Schärfung der Sinne

Welche Fliehkräfte die Sehnsucht nach einer Art hippokratischem Eid für die Informatik in Zeiten von Big Data und KI mobilisieren kann, war auch schon bei Google zu sehen. Die Beschäftigten erfahren dort seit Jahren, wie der Konzern seinen wolkigen Unternehmenskodex "Do the right thing" interpretiert: monetär. Technologien für die Machthaber in Peking und KI-gesteuerte Bilderkennungssoftware für Drohnen im Auftrag des Pentagon brachten Google-Angestellte jedoch so heftig gegen ihren Konzern auf, dass das US-amerikanische Technik-Magazin "Wired" im Sommer 2019 von einem "Bürgerkrieg" in Mountain View schrieb. Der Aufstand macht deutlich, dass es rote Linien gibt, die auch überzeugte Tech-Jünger zum Innehalten bringen: Dürfen wir alles tun, was wir tun können?  

Genau darauf zielt "Ethics for Nerds" in Saarbrücken. "Es geht darum, die Sinne zu schärfen und Studierende für den Umgang mit möglichen Problemen zu wappnen", erklärt Informatikprofessor Holger Hermanns. Vor rund fünf Jahren schon initiierte er die Lehrveranstaltung und fand an seiner Uni Verbündete. Im Januar 2019 lobte der Stifterverband das von Hermanns und Kevin Baum angebotene Modul als "Hochschulperle" und hob es damit unter den vielen Ethik-Veranstaltungen in KI-relevanten Fächern hervor.

Tatsächlich haben Ethik-Kurse in der Informatik Konjunktur an deutschen Hochschulen. Die Universitäten in Bamberg oder Potsdam sprangen genauso auf den Zug auf wie die Technischen Universitäten in Kaiserslautern oder München. Treiber der Bewegung war und ist die Gesellschaft für Informatik (GI): "Programmierende müssen die möglichen Auswirkungen ihrer Arbeit mitbedenken. Der Standpunkt, sich nicht für die gesellschaftlichen Folgen interessieren zu müssen, ist überholt", sagt GI-Präsident Hannes Federrath. Eine "Herzensangelegenheit" sei es ihm, das ethische Bewusstsein in der Informatik zu stärken.

So wie Federrath denken viele. In der GI gibt es ein Team zur Künstlichen Intelligenz, eines zu Informatik und Gesellschaft, und es gibt eine Fachgruppe Informatik und Ethik, die sich mit Forderungen nach der völkerrechtlichen Ächtung autonomer Waffensysteme auch politisch klar positioniert. In den "Gewissensbits" auf der GI-Webseite werden konkrete Problemfälle und Dilemmata beschrieben, in die Informatikerinnen und Informatiker in der Praxis geraten. Den vorläufig größten Meilenstein erreichte die GI im März 2016. Nach kontroversen Debatten reformierte sie ihre Curriculum-Empfehlungen. Seitdem sollte Ethik in Studiengängen der reinen Informatik enthalten sein. Eigentlich. Tatsächlich ist das längst nicht überall der Fall. Die Empfehlungen sind eben nur Empfehlungen, keine durchsetzbare Vorschrift.

In Saarbrücken gehört "Ethics for Nerds" zu den sogenannten Wahlpflichtangeboten. Studierende können den Kurs belegen und ECTS-Punkte erwerben, sie können es aber auch lassen. "Ethics for Nerds beruht auf Freiwilligkeit – und ist vielleicht deshalb so beliebt und erfolgreich", sagt Hermanns. Die Lehrenden seien intrinsisch motiviert, das spürten die Studierenden. "Sie zur Teilnahme zu verdonnern, wäre möglicherweise kontraproduktiv." Auch wenn sich Hermanns ein "verpflichtendes Ethik-Angebot" für reine Informatiker "gut vorstellen" kann, wirft die Umsetzung für ihn Fragen auf, auf die er selbst keine Antwort weiß. Eine davon: Welcher Pflichtstoff soll für die Ethik weichen? "Die klassische Informatik in Saarbrücken ist extrem erfolgreich, auch weil ihre Inhalte genau aufeinander abgestimmt sind", gibt Hermanns zu bedenken und steht damit nicht allein.  

"Ein Studium mit fachfremden Inhalten zu versehen, kann nach hinten losgehen", sagt Armin Grunwald. Der Technikphilosoph am KIT leitet das Büro für Technikfolgenabschätzung des Bundestags, verfolgt den Diskurs seit längerem, rät zur Gelassenheit und Arbeitsteilung: Studierende müssten in erster Linie gute Ingenieurinnen und Ingenieure werden, das dürfe "aber nicht heißen, sie nicht mit ethischen Fragestellungen und den Folgen ihrer Arbeit zu konfrontieren." Die "Nerd-Ethik", die Grunwald vorschwebt, lässt sich dort am besten verankern, wo Ethiker, Philosophen, Technik- und Ingenieurwissenschaftler "ihre Kompetenzen themenbezogen und punktuell in die Lehre" von Ingenieurwissenschaften und Informatik einbringen. Im Klartext: "Es geht um Kooperationen in der Lehre".

Brückenschlag durch Lehre

Genau das wäre eine wissenschaftspolitische Sensation. Während interdisziplinäre Kooperationen bislang vor allem über die Forschung laufen, könnte die KI-Entwicklung über die Lehre neue Brücken zwischen den Fakultäten schlagen. Doch das ist im real existierenden Hochschulalltag alles andere als einfach. Bringen Forschungskooperationen in der Regel Geld und Reputation, gibt es für interdisziplinäre Lehreinsätze bislang keinerlei Gratifikation. Die Zusammenarbeit in der Lehre steht und fällt mit dem guten Willen der Professorenschaft – und deren Kapazitäten. 

"Ethik in KI-relevanten Fächern zu lehren, ist wichtig", sagt der Vorsitzende des Philosophischen Fakultätentages, Michael Sommer. Die Expertise hätten nur die Philosophen, "die mit ihren Lehrstühlen in den philosophischen Fakultäten beheimatet" wären. Die steigende Nachfrage nach Ethik-Kursen müsste Sommer zufolge also zwangsläufig mit zusätzlichen Ethik-Professuren begegnet werden. Nur: "Innerhalb der Universitäten nehme ich im Moment leider die Tendenz wahr, Professuren der Philosophie bei Neubesetzungen umzuwidmen und in KI-relevanten Fächern anzusiedeln. Das schwächt die Philosophie – und macht die KI eben nicht stärker." 

So klar Sommers Position auch ist, die Logik überzeugt nicht alle. "Wir müssen sehr genau überlegen, wie "Ethik für Informatik" aussehen kann und wie sie am besten vermittelt werden kann", erklärt Martina Schraudner vom Vorstand der Akademie der Technikwissenschaften acatech. Es müsse darum gehen, die Studierenden "zu sensibilisieren", ihnen ethische Leitlinien und ein Wissen darüber zu vermitteln, wann ein interdisziplinärer Austausch notwendig und zielführend ist. "Ein Zweitstudium Philosophie für alle", macht Schraudner klar, könne jedenfalls "nicht das Ziel sein."

So sieht das auch Dominik Herrmann. Der Professor für Privatsphäre und Internetsicherheit an der Universität Bamberg sitzt im Präsidium der Gesellschaft für Informatik und gibt seit einiger Zeit schon Ethik-Kurse für Techies. "Ethik zählt bei Informatikern als Laberfach", sagt er. Um dabei zu bleiben, brauchten sie einen "besonders praxisnahen Zugang". Als Semester-Aufgabe sieht Herrmann deshalb vor, dass sie eine Personalauswahl-Software programmieren müssen. "Da landen sie ganz schnell in Dilemmata und stoßen auf Diskriminierungsrisiken."

Praxisnahe, aktuelle Fälle sind es auch, die die Studierenden bei "Ethics for Nerds" loben. Konzipiert werden die Programmieraufgaben von den Technikern um Holger Hermanns. Die Philosophen steuern die nötige Wissensdosis an Moralphilosophie, Argumentationstheorie und Ethik bei. Das alles klappt in Saarbrücken genauso reibungslos wie die Finanzierung. Das Geld für den Kurs geben Professoren wie Hermanns von ihren Lehrstuhlmitteln ab. 

"Hürden gab es nicht", erinnert er sich an die Anfänge. Heute schreiben Studierende der Informatik Bachelor- und Masterarbeiten bei den Philosophen und umgekehrt. Und manche promovieren über "Ethik und KI". "Ethics for Nerds", der kleine Kurs, erwies sich in Saarbrücken letztlich als Beginn einer interdisziplinären Forschungsfreundschaft. "Das ist richtig genial", sagt Hermanns. Interdisziplinäre Forschungsprojekte gibt es schon, weitere sind geplant.