Robert Braun vom Institut für Höhere Studien im Gespräch: Die großen technischen Innovationen haben stets das Potenzial, der Gesellschaft zu nutzen oder zu schaden. Welchen Weg wir einschlagen, hängt von uns allen ab. Über Responsible Research & Innovation. [...]
Eine der Gretchenfrage des 21. Jahrhunderts lautet: Werden Maschinen einmal intelligenter sein als Menschen? „Die Antwort darauf hängt davon ab, welche Menschen die heutige Gesellschaft hervorbringt“, sagt Robert Braun, Senior Researcher am Wiener Institut für Höhere Studien (IHS), im Gespräch mit COMPUTERWELT. „Investieren wir vor allem in MINT-Fächer, wie vielerorts gefordert, dann werden Maschinen intelligenter sein. Bei Menschen hingegen, die etwas von Ethik, Geschichte, Kunst, Literatur in einer offenen, diskursiven Weise verstehen und wissen, wie sie ihre Kreativität einsetzen, sieht die Sache anders aus“, so seine These, die dem Mainstream in deutlicher Weise widerspricht.
Ähnlich verhält es sich bei der Frage nach dem gesellschaftlichen Segen bzw. Fluch des KI-Fortschritts – oder in den Worten von Stephen Hawking: „Die Entwicklung künstlicher Intelligenz könnte entweder das Schlimmste oder das Beste sein, was den Menschen passiert.“ Und wieder hängt die Antwort, ob KI sich zum Wohl der Menschen entwickelt oder nicht, davon ab, welche Menschen welche Entscheidungen treffen.
Hochrangige Expertengruppe
Derzeit sprießen ethische Kommissionen, die dafür sorgen sollen, dass sich KI nicht zum Fluch entwickelt, wie die Pilze aus dem Boden. Neuestes Produkt dieser Entwicklung ist ein Grundsatzpapier der „Hochrangigen Expertengruppe zur KI“, die die EU-Kommission vor einem Jahr ins Leben gerufen hat. Die sieben Anforderungen, die hier formuliert wurden, sind: Vorrang menschlichen Handelns und menschliche Aufsicht, technische Robustheit und Sicherheit, Schutz der Privatsphäre und Datenqualitätsmanagement, Transparenz, Vielfalt, Nichtdiskriminierung und Fairness, gesellschaftliches und ökologisches Wohlergehen sowie Rechenschaftspflicht.
Interessant ist, wer die Mitglieder der 52-köpfigen Expertengruppe waren. „Die Zusammensetzung der Gruppe ist Teil des Problems: Sie bestand aus vier Ethikern und 48 Nicht-Ethikern – nämlich Vertretern aus der Politik, den Universitäten, der Zivilgesellschaft und vor allem aus der Industrie. Das ist so, als würden Sie mit 48 Philosophen, einem Hacker und drei Informatikern (von denen zwei immer gerade in Urlaub sind) einen topmodernen, zukunftssicheren KI-Großrechner zur Politikberatung bauen“, schrieb Thomas Metzinger, Professor für theoretische Philosophie an der Universität Mainz und Mitglied der Expertengruppe, in einem Gastkommentar des Tagesspiegel. Unter dem Titel „Nehmt der Industrie die Ethik weg!“ kritisiert Metzinger die „unternehmerfreundlichen“ Ergebnisse der monatelangen Diskussionen.
Folgt man der Gedanken des Philosophen Robert Braun, der sich am IHS dem Thema „Politics of Science and Innovation“ verschrieben hat, erkennt man schnell, dass das Problem weit tiefer reicht als in einer Gegenüberstellung von Industrie versus Nicht-Industrie. Zum einen kritisiert er die Macht der Naturwissenschaften und der Technik, die sich unter anderem in einer für Nicht-Eingeweihte unverständlichen Sprache zeigt. „Ich habe vor kurzem versucht, einen Artikel über neue astronomische Erkenntnisse zu lesen und trotz meiner umfassenden akademischen Ausbildung, die mir ermöglicht, komplexe Dinge zu erfassen, kaum etwas verstanden. Da stimmt etwas am System nicht. Es überrascht mich immer wieder, wie wenig Aufmerksamkeit die Naturwissenschafter und Ingenieure den Erkenntnissen der Sozialwissenschaften widmen. Hier geht es um Fragen, wie die Gesellschaft oder wie Wissen konstruiert ist, wie kommuniziert wird und auf welche Weise Entscheidungen getroffen werden. All diese Fragen blenden die Naturwissenschaften aus.“ Zudem gehe es in der mathematisierten Weltsicht stets um richtig oder falsch, das einen exklusiven Wahrheitsanspruch impliziert, nicht aber um ethisch oder nicht-ethisch. Ein weiteres Problem sei, so Braun, dass technische Entwicklungen in der Regel sehr spät einem breiten Diskurs zugeführt werden und entschieden wird, ob sie den Menschen nutzen oder schaden – Stichwort: „Innovation Readyness Level“.
Der Ruf nach Demokratisierung
Die genannten Problemfelder sind Beispiele dafür, wie man heute mit Innovationen wie der künstlichen Intelligenz umgeht. Der Diskurs über die möglichen negativen Folgen bleibt einer kleiner Minderheit vorbehalten – siehe als aktuelles Beispiel die zuvor erwähnte „hochrangige Expertengruppe“ der EU-Kommission –, die meist in einer für Menschen mit Durchschnittsbildung unverständlichen Sprache kommuniziert – und das meist zu spät, um rechtzeitig eine Kehrtwende einzuleiten. Zudem sind es in der Regel die Naturwissenschafter, Techniker oder die Industrie, welche die Deutungshoheit innehaben.
So wundert es nicht, dass Robert Braun einen demokratischen Prozess postuliert, der die Betroffenen jeder großen technischen Entwicklung, also die Gesellschaft in all seinen Varietäten, an einen Tisch bringt.
Was in der Theorie einfach klingt, setzt einen Paradigmenwechsel in vielen Bereichen voraus, die wir heute als selbstverständlich ansehen. „Zunächst müssen Wissenschafter ihre Sprache überdenken und lernen so zu kommunizieren, dass diese auch von der breiten Masse verstanden wird. Wir sollten die Wissenschaft als Ganzes überdenken und erkennen, dass beispielsweise Mathematik nur eine von vielen Sprachen ist, die wir dazu nutzen, die Welt zu beschreiben und zu ordnen.“ Und am Ende des Tages gehe es nicht um richtig oder falsch im naturwissenschaftlichen Sinn sondern darum, ob eine bestimmte Innovation der Gesellschaft nutzt oder schadet.
Responsible Research and Innovation
Die eben genannten Aspekte bilden die Grundlagen für ein Konzept, das unter der Bezeichnung „Responsible Research and Innovation“ (RRI) bekannt ist und die Beziehungen zwischen Wissenschaft und Gesellschaft auf neue Beine stellen soll. Ziel ist es, die dramatisch zunehmende Vielfalt von technologischen Optionen in allen Bereichen des Lebens auf die Bedürfnisse, Erwartungen und Werte der Bürger abzustimmen. Als essentiell wird angesehen, mögliche Technologiefolgen abzuschätzen und strategisch die gesellschaftlich wünschenswerten Technologieoptionen auszuwählen.
Wie RRI in der Praxis funktionieren kann, zeigt etwa das Projekt „Shaping Future“ des Fraunhofer-Instituts für Arbeitswirtschaft und Organisation. Hier können Menschen ihre Wünsche und Anliegen an technische Zukunftslösungen artikulieren, Technologiebedürfnisse beschreiben und diese mit Experten der Fraunhofer-Gesellschaft austauschen. Diese haben die Möglichkeit, Ideen aufzunehmen, weiterzuentwickeln und für zukünftige Forschungsarbeiten zu nutzen. In Roadmaps zeigen die Wissenschaftler, welche technologischen Schritte erreicht und welche sozialen und juristischen Bedingungen erfüllt sein müssen, um die Ideen zu realisieren.
Ein wesentlicher Baustein dieses Vorgehensmodells ist, dass die Nicht-Wissenschafter sehr früh in den Entscheidungsprozess eingebunden werden, also wenn das Innovation Readyness Level noch niedrig ist und nicht erst knapp vor Markteinführung.
Damit Wissenschafter und Nicht-Wissenschafter einander verstehen, nutzen die Fraunhofer-Experten eine Reihe von modernen Kommunikations- und Visualisierungsmethoden, wie etwa Storytelling, Design Thinking und Prototyping. „Die Methode sieht vor, dass sich unterschiedliche Menschen austauschen: Einerseits hatten wir eine sehr heterogene Gruppe an Teilnehmenden, andererseits ein interdisziplinäres Projektteam, in dem Forschende an der Schnittstelle von Design und Sozialwissenschaft neue Methoden entwickeln“, fasst Projektverantwortliche Marie Heidingsfelder erste Erfahrungen zusammen.
Mobility auf dem Prüfstand
Neben der Fraunhofer-Gesellschaft fahren zahlreiche Institutionen den RRI-Ansatz, darunter das Institut für Höhere Studien in Wien. Robert Braun nennt als Beispiel das Thema Mobility: „Uns interessiert insbesondere, wie neue Technologien in der Mobilität neues Wissen und neue Wahrheiten hervorbringen und wie unterschiedliche Wahrheitsregime technologische Innovationen beeinflussen. Unser Ziel ist es, sozialwissenschaftliche und sozialphilosophische Perspektiven sowie partizipative Methoden, die die Stakeholder informiert und inkludiert, mit dem Responsible Research and Innovation-Ansatz zu kombinieren, um Transformationen in und von Mobilität voranzutreiben.“ Zu den Beschäftigungsfeldern gehören folgende Themen, die vor allem als soziales Phänomen begriffen werden: autonomes Fahren, Mobility-as-a-Service und On-demand-Mobility. Dazu kommen Änderungen bei der Unterscheidung zwischen öffentlich und privat, zwischen individuell und „shared“ sowie um Möglichkeiten zur Steigerung der Lebensqualität und des Wohlbefindens im städtischen Raum.
Auf die finale Frage der COMPUTERWELT, ob unter den heutigen Bedingungen der Innovator eher Gott oder Dr. Frankenstein ähnle, antwortet Robert Braun: „Die einfache Antwort heißt: Wir sind immer beides. Die komplexere Antwort lautet: Wir wissen es nicht. Daher braucht es die ständige Reflexion und Antizipation.“
Be the first to comment