Fünf Projekte in Förderinitiative "Künstliche Intelligenz" bewilligt

Im Feld der "Künstlichen Intelligenz" (KI) werden technologische Fortschritte in ungeahntem Tempo erzielt. Für die Wissenschaft gilt es dabei, sich folgende Fragen zu stellen: Welche Chancen bietet KI? Wo liegen Risiken? Was kann man nicht seriös vorhersagen? Und vor allem: Was bedeuten neue Technologien für die Gesellschaft – und für jeden einzelnen? Diese und weitere wichtige Fragestellungen, die neben den technischen auch die ethischen, moralischen und normativen Folgen der Entwicklungen betrachten, gilt es, zu beantworten. Technik- und Gesellschaftswissenschaften müssen von Beginn an ihre Kompetenzen bündeln: Um diesen Kollaborationsgedanken zu stärken, hat die VolkswagenStiftung 2018 ihre Förderinitiative "Künstliche Intelligenz – Ihre Auswirkungen auf die Gesellschaft von morgen" gestartet.

In der ersten Bewilligungsrunde der Initiative konnten fünf Projekte bewilligt werden, in denen sich interdisziplinäre Forschungsgruppen bspw. aus den Rechts-, Medien- und Sozialwissenschaften, aus Informatik, Computerwissenschaften, Molekularbiologie, Philosophie und Produktdesign zusammengefunden haben. Ihre Vorhaben sind jeweils auf drei bis vier Jahre angelegt und fokussieren neben Wissenschaft, Forschung und Entwicklung auch, wie sie ihrer Verantwortung gegenüber der Gesellschaft gerecht werden und diese in die Gestaltung der Zukunft mit einbeziehen können.

Beispielhaft werden im Folgenden die Bewilligungen vorgestellt:

Universität Duisburg-Essen, Universität Bielefeld, Evangelische Hochschule Nürnberg, Universität Kassel: "The implication of conversing with intelligent machines in everyday life on people’s beliefs about algorithms, their communication behavior and their relationship building" (rd. 1,5 Mio. Euro)

In dem Projekt untersuchen Expertinnen und Experten aus Informatik, Psychologie, Ethik und Recht unter anderem, wie die zunehmende Kommunikation mit Maschinen die menschliche Kommunikationskultur sowie das Knüpfen von Beziehungen beeinflusst. Was passiert, wenn Menschen mit einer Maschine kommunizieren? Kommt es zu einer Verrohung der Kommunikationskultur, da Maschinen immer höflich und serviceorientiert kommunizieren, die Nutzenden dies aber nicht tun müssen? Welche Arten von Beziehungen und Abhängigkeiten entstehen – und werden diese zumindest teilweise echten menschlichen Beziehungen vorgezogen? Besonderes Augenmerk wollen die Wissenschaftlerinnen und Wissenschaftler dabei auf besonders verletzliche Gruppen wie Kinder sowie Seniorinnen und Senioren legen. In drei Szenarien gehen sie Forschungsfragen nach: Im ersten Szenario untersuchen sie, wie sich ein System, das auf KI-Basis funktioniert, transparent und selbsterklärend für Kinder gestalten lässt. Im zweiten Szenario analysieren sie, wie Erwachsene mit einer App interagieren, die gesundheitsbezogene Vorschläge macht. Im dritten Szenario werden Seniorinnen und Senioren betrachtet, die mit einem virtuellen Agenten kommunizieren, der mit der Planung der täglichen Termine hilft. Ein Citizen-Science-Ansatz ergänzt die wissenschaftliche Arbeit.

Deutsches Krebsforschungszentrum Heidelberg, EMBL Europäisches Laboratorium für Molekularbiologie, Heidelberger Akademie der Wissenschaften, Charité – Universitätsmedizin Berlin: "Individualising and democratizing cancer patient care via Artificial Intelligence: transdisciplinary solutions and normative considerations" (rd. 1,4 Mio. Euro)

Patientinnen und Patienten profitieren abhängig von ihrem jeweiligen Wohnort unterschiedlich stark von individualisierter Gesundheitsversorgung. Beispielsweise können Patienten, die in der Nähe medizinischer Zentren leben, an Präzisionsonkologie-Programmen teilnehmen oder auch Sekundärmeinungen von Klinikern erhalten. In ländlichen Gebieten bestehen diese Möglichkeiten meist nicht. Daher sind vor allem für die ländliche Bevölkerung allgemein zugängliche Systeme, die mithilfe künstlicher Intelligenz und computergestützter Analytik eine evidenzbasierte medizinische Entscheidungsfindung ermöglichen, von entscheidender Bedeutung. Das Projekt zielt daher auf die Demokratisierung der Präzisionsmedizin, exemplarisch am Beispiel von Prostatakrebspatienten: Durch eine spezielle Internetplattform sollen Prostatakrebspatienten in Ballungszentren und in ländlichen Gebieten KI-basiert ihre Gesundheitsdaten und ihren Krankheitsstatus überwachen und Medizinerinnen und Mediziner dadurch ermächtigen, Entscheidungen zu treffen. Dabei werden auch die Interaktionen zwischen Patient, Medizinerin bzw. Mediziner und der KI-basierten Plattform sowie die rechtlichen Rahmenbedingungen betrachtet.

Technische Universität Kaiserslautern, Hans-Bredow-Institut für Medienforschung Hamburg, Zeppelin Universität Friedrichshafen, University of Birmingham: "Deciding about, by, and together with algorithmic decision making systems" (rd. 1,5 Mio. Euro)

In notorisch unterbesetzten Strafjustizsystemen, insbesondere denen der USA und Großbritanniens, werden Systeme auf Basis von "algorithmic decision making" (ADM) immer beliebter. Sie machen sich Algorithmen des maschinellen Lernens zunutze, um Regeln für Entscheidungen aus Daten abzuleiten. Mit steigender Datenmenge und Konsequenzen aus vorherigen Entscheidungen lernen die ADM-Systeme dazu. In der Strafjustiz kommen sie beispielsweise zum Einsatz, um das Rückfallrisiko von Angeklagten zu bewerten und dabei mögliche menschliche Vorurteile zu vermeiden. Die projektbeteiligten Wissenschaftlerinnen und Wissenschaftler unter anderem aus Informatik, Rechts- und Sozialwissenschaften wollen untersuchen, welche Limitierungen diese Art der Entscheidungsfindungssysteme haben. Sie gehen beispielsweise der Frage nach, wie Menschen über Menschen entscheiden und wie Maschinen über Menschen entscheiden, verglichen damit, wie Menschen zusammen mit Maschinen über Menschen entscheiden. Zudem wollen sie die Grenzen ausloten, in denen Maschinen überhaupt Entscheidungen über Menschen treffen sollten.

Bauhaus-Universität Weimar, Technische Universität Chemnitz, University of Southern Denmark: RethiCare – Re-thinking Care Robots (rd. 1,2 Mio. Euro)

Angesichts der alternden Bevölkerung sind robotische Assistenzsysteme ein zukunftsweisendes Thema, das für Forschung und Entwicklung gleichzeitig viele Fragen aufwirft: Welche Konsequenzen hat der Einsatz von (teil-)automatisierten Pflegesystemen für Lebensqualität und Würde der Betreuten? Wie lässt sich die Unterstützung durch Roboter adäquat und sorgfältig gestalten? Welche Herausforderungen ergeben sich daraus für die Robotik- und KI-Forschung? Im Rahmen des Projekts wollen Forscherinnen und Forscher aus den Ingenieur-, Gesundheits- und Wirtschaftswissenschaften Methoden und Ansätze für eine interdisziplinäre Zusammenarbeit erforschen, die zu angemesseneren Designs und technischen Lösungen von Robotern für die Pflege unter anderem in Bezug auf Aussehen und intelligentes Verhalten führen. Sie wollen Konzepte zur Unterstützung der Arbeit des Personals und des emotionalen und körperlichen Wohlbefindens der Bewohnerinnen und Bewohner entwickeln, die auch körperliche und geistige Aktivität, Unterhaltung und Zufriedenheit fördern können, sowie Steuerungssysteme entwickeln, die eine geteilte Kontrolle zwischen Mensch und Roboter ermöglichen.

Leibniz-Universität Hannover: Bias and Discrimination in Big Data and Algorithmic Processing. Philosophical Assessments, Legal Dimensions, and Technical Solutions (rd. 1,4 Mio. Euro)

Ob Auswahl von Bewerberinnen oder Bewerbern oder Kreditvergabe – immer mehr Entscheidungen werden mithilfe künstlicher Intelligenz getroffen. Die Grundlage dafür sind riesige Datenmengen. Über Suchmaschinen, Internet-Empfehlungsdienste und Social-Media-Bots beeinflussen KI-Techniken zudem unsere Wahrnehmung politischer Entwicklungen und sogar wissenschaftlicher Erkenntnisse. Allerdings wächst die Besorgnis hinsichtlich der Qualität dieser Bewertungen und Vorhersagen. Insbesondere gibt es starke Hinweise darauf, dass Algorithmen Voreingenommenheit und Diskriminierung in den Daten oftmals nicht beseitigen, sondern sogar verstärken und hierdurch negative Effekte auf den sozialen Zusammenhalt und die demokratische Öffentlichkeit ausüben können. In dem Forschungsprojekt werden sich Expertinnen und Experten aus Philosophie, Jura und Informatik gemeinsam der Frage widmen, wie die Normen unvoreingenommenen Zugangs und nichtdiskriminierender Praxis in Analysen und Algorithmen-basierter Entscheidungsfindung eingehalten werden können. Sie werden philosophische Analysen zu den relevanten Begriffen und Prinzipien im Kontext von KI liefern, ihre angemessene Rezeption in einschlägigen Rechtsregelungen untersuchen  sowie konkrete Lösungsansätze zu ihrer technischen Behandlung erarbeiten.

Hintergrund Förderinitiative "Künstliche Intelligenz – Ihre Auswirkungen auf die Gesellschaft von morgen"

Die Initiative "Künstliche Intelligenz – Ihre Auswirkungen auf die Gesellschaft von morgen" richtet sich an Wissenschaftlerinnen und Wissenschaftler, die sich in Konsortien aus Technik-, Gesellschafts- und/oder Geisteswissenschaften zusammenfinden und sich den Herausforderungen im Spannungsfeld "Künstliche Intelligenz" und Gesellschaft widmen.