Fünf Projekte bewilligt: "Künstliche Intelligenz und ihr Einfluss auf die Gesellschaft von morgen"

+++ Universität Duisburg-Essen, Universität Bielefeld, Evangelische Hochschule Nürnberg, Universität Kassel: The implication of conversing with intelligent machines in everyday life on people’s beliefs about algorithms, their communication behavior and their relationship building (rd. 1,5 Mio. Euro, Details s. u.)

+++ Deutsches Krebsforschungszentrum Heidelberg, EMBL Europäisches Laboratorium für Molekularbiologie, Heidelberger Akademie der Wissenschaften, Charité – Universitätsmedizin Berlin: Individualising and democratizing cancer patient care via Artificial Intelligence: transdisciplinary solutions and normative considerations (rd. 1,4 Mio. Euro, Details s. u.)

+++ Technische Universität Kaiserslautern, Hans-Bredow-Institut für Medienforschung Hamburg, Zeppelin Universität Friedrichshafen, University of Birmingham: Deciding about, by, and together with algorithmic decision making systems (rd. 1,5 Mio. Euro, Details s. u.)

+++ Bauhaus-Universität Weimar, Technische Universität Chemnitz, University of Southern Denmark: RethiCare – Re-thinking Care Robots (rd. 1,2 Mio. Euro)

+++ Leibniz-Universität Hannover: Bias and Discrimination in Big Data and Algorithmic Processing. Philosophical Assessments, Legal Dimensions, and Technical Solutions (rd. 1,4 Mio. Euro)

Im Feld der "Künstlichen Intelligenz" (KI) werden technologische Fortschritte in ungeahntem Tempo erzielt. Für die Wissenschaft gilt es dabei, sich folgende Fragen zu stellen: Welche Chancen bietet KI? Wo liegen Risiken? Was kann man nicht seriös vorhersagen? Und vor allem: Was bedeuten neue Technologien für die Gesellschaft – und für jeden einzelnen? Diese und weitere wichtige Fragestellungen, die neben den technischen auch die ethischen, moralischen und normativen Folgen der Entwicklungen betrachten, gilt es, zu beantworten. Technik- und Gesellschaftswissenschaften müssen von Beginn an ihre Kompetenzen bündeln: Um diesen Kollaborationsgedanken zu stärken, hat die VolkswagenStiftung 2018 ihre Förderinitiative "Künstliche Intelligenz – Ihre Auswirkungen auf die Gesellschaft von morgen" gestartet.

In der ersten Bewilligungsrunde der Initiative konnten fünf Projekte bewilligt werden, in denen sich interdisziplinäre Forschungsgruppen bspw. aus den Rechts-, Medien- und Sozialwissenschaften, aus Informatik, Computerwissenschaften, Molekularbiologie, Philosophie und Produktdesign zusammengefunden haben. Ihre Vorhaben sind jeweils auf drei bis vier Jahre angelegt und fokussieren neben Wissenschaft, Forschung und Entwicklung auch, wie sie ihrer Verantwortung gegenüber der Gesellschaft gerecht werden und diese in die Gestaltung der Zukunft mit einbeziehen können.

Beispielhaft werden im Folgenden drei Bewilligungen vorgestellt:

Universität Duisburg-Essen, Universität Bielefeld, Evangelische Hochschule Nürnberg, Universität Kassel: "The implication of conversing with intelligent machines in everyday life on people’s beliefs about algorithms, their communication behavior and their relationship building" (rd. 1,5 Mio. Euro)

In dem Projekt untersuchen Expertinnen und Experten aus Informatik, Psychologie, Ethik und Recht unter anderem, wie die zunehmende Kommunikation mit Maschinen die menschliche Kommunikationskultur sowie das Knüpfen von Beziehungen beeinflusst. Was passiert, wenn Menschen mit einer Maschine kommunizieren? Kommt es zu einer Verrohung der Kommunikationskultur, da Maschinen immer höflich und serviceorientiert kommunizieren, die Nutzenden dies aber nicht tun müssen? Welche Arten von Beziehungen und Abhängigkeiten entstehen – und werden diese zumindest teilweise echten menschlichen Beziehungen vorgezogen? Besonderes Augenmerk wollen die Wissenschaftlerinnen und Wissenschaftler dabei auf besonders verletzliche Gruppen wie Kinder sowie Seniorinnen und Senioren legen. In drei Szenarien gehen sie Forschungsfragen nach: Im ersten Szenario untersuchen sie, wie sich ein System, das auf KI-Basis funktioniert, transparent und selbsterklärend für Kinder gestalten lässt. Im zweiten Szenario analysieren sie, wie Erwachsene mit einer App interagieren, die gesundheitsbezogene Vorschläge macht. Im dritten Szenario werden Seniorinnen und Senioren betrachtet, die mit einem virtuellen Agenten kommunizieren, der mit der Planung der täglichen Termine hilft. Ein Citizen-Science-Ansatz ergänzt die wissenschaftliche Arbeit.

Deutsches Krebsforschungszentrum Heidelberg, EMBL Europäisches Laboratorium für Molekularbiologie, Heidelberger Akademie der Wissenschaften, Charité – Universitätsmedizin Berlin: "Individualising and democratizing cancer patient care via Artificial Intelligence: transdisciplinary solutions and normative considerations" (rd. 1,4 Mio. Euro)

Patientinnen und Patienten profitieren abhängig von ihrem jeweiligen Wohnort unterschiedlich stark von individualisierter Gesundheitsversorgung. Beispielsweise können Patienten, die in der Nähe medizinischer Zentren leben, an Präzisionsonkologie-Programmen teilnehmen oder auch Sekundärmeinungen von Klinikern erhalten. In ländlichen Gebieten bestehen diese Möglichkeiten meist nicht. Daher sind vor allem für die ländliche Bevölkerung allgemein zugängliche Systeme, die mithilfe künstlicher Intelligenz und computergestützter Analytik eine evidenzbasierte medizinische Entscheidungsfindung ermöglichen, von entscheidender Bedeutung. Das Projekt zielt daher auf die Demokratisierung der Präzisionsmedizin, exemplarisch am Beispiel von Prostatakrebspatienten: Durch eine spezielle Internetplattform sollen Prostatakrebspatienten in Ballungszentren und in ländlichen Gebieten KI-basiert ihre Gesundheitsdaten und ihren Krankheitsstatus überwachen und Medizinerinnen und Mediziner dadurch ermächtigen, Entscheidungen zu treffen. Dabei werden auch die Interaktionen zwischen Patient, Medizinerin bzw. Mediziner und der KI-basierten Plattform sowie die rechtlichen Rahmenbedingungen betrachtet.

Technische Universität Kaiserslautern, Hans-Bredow-Institut für Medienforschung Hamburg, Zeppelin Universität Friedrichshafen, University of Birmingham: "Deciding about, by, and together with algorithmic decision making systems" (rd. 1,5 Mio. Euro)

In notorisch unterbesetzten Strafjustizsystemen, insbesondere denen der USA und Großbritanniens, werden Systeme auf Basis von "algorithmic decision making" (ADM) immer beliebter. Sie machen sich Algorithmen des maschinellen Lernens zunutze, um Regeln für Entscheidungen aus Daten abzuleiten. Mit steigender Datenmenge und Konsequenzen aus vorherigen Entscheidungen lernen die ADM-Systeme dazu. In der Strafjustiz kommen sie beispielsweise zum Einsatz, um das Rückfallrisiko von Angeklagten zu bewerten und dabei mögliche menschliche Vorurteile zu vermeiden. Die projektbeteiligten Wissenschaftlerinnen und Wissenschaftler unter anderem aus Informatik, Rechts-  und Sozialwissenschaften wollen untersuchen, welche Limitierungen diese Art der Entscheidungsfindungssysteme haben. Sie gehen beispielsweise der Frage nach, wie Menschen über Menschen entscheiden und wie Maschinen über Menschen entscheiden, verglichen damit, wie Menschen zusammen mit Maschinen über Menschen entscheiden. Zudem wollen sie die Grenzen ausloten, in denen Maschinen überhaupt Entscheidungen über Menschen treffen sollten.

Hintergrund Förderinitiative Künstliche Intelligenz:

Die Initiative "Künstliche Intelligenz – Ihre Auswirkungen auf die Gesellschaft von morgen" richtet sich an Wissenschaftlerinnen und Wissenschaftler, die sich in Konsortien aus Technik-, Gesellschafts- und/oder Geisteswissenschaften zusammenfinden und sich den Herausforderungen im Spannungsfeld "Künstliche Intelligenz" und Gesellschaft widmen. Da solche transdisziplinären Konstellationen vielfach noch nicht ins Auge gefasst wurden, können neben Mitteln für konkrete Projekte über vier Jahre ("Full Grant", bis zu 1,5 Mio. Euro) auch solche für eine einjährige Findungsphase bewilligt werden ("Planning Grant", bis zu 150.000 Euro). Der nächste Stichtag für Anträge ist der 4. Juli 2019 (Planning Grant) und der 17. Oktober 2019 (Full Grant).