Bürgerrat „KI und Freiheit“: Menschen zum Mitreden ermutigen

Etwa 40 Bürgerinnen und Bürger aus Baden-Württemberg, vier Sitzungen an vier verschiedenen Orten, und im Zentrum eine Frage: Wie können Wissenschaft und Gesellschaft gemeinsam die Zukunft der Forschung zu Künstlicher Intelligenz gestalten? Das ist der Bürgerrat “KI und Freiheit”, den die Universität Tübingen im Jahr 2024 initiiert hat. Das Projekt wird vom Rhet AI Center (Zentrum für rhetorische Wissenschaftskommunikationsforschung zur Künstlichen Intelligenz) durchgeführt, finanziert wird es über Mittel aus der Exzellenzstrategie der Universität Tübingen und der VolkswagenStiftung. Die Teilnehmenden des Bürgerrats wurden so ausgelost, dass ihre Zusammensetzung etwa der baden-württembergischen Bevölkerung entspricht. Dafür wurde auf Geschlecht, Alter, Bildungsabschluss und Migrationshintergrund geachtet. Am Ende soll ein Empfehlungspapier stehen, das der Rat der baden-württembergischen Wissenschaftsministerin Petra Olschowski übergibt.

Doch klappt das in der Praxis? Wie kann es gelingen, dass sich Bürgerinnen und Bürger mit einem so komplexen Thema in der Tiefe auseinandersetzen? Und wie kann der Bürgerrat eine Wirkung auf Wissenschaftspolitik und Forschung entfalten? Darüber haben wir mit Anika Kaiser und Patrick Klügel gesprochen. Klügel leitet das Bürgerratsprojekt. Kaiser ist Mitglied im Projektteam, zudem fließt ihre Forschung zum Bürgerrat in ihre Doktorarbeit zu epistemischer Ungerechtigkeit in deliberativen Kommunikationsformaten ein. Das heißt, sie untersucht, welche Hürden es erschweren, dass Bürgerinnen und Bürger ihr Wissen und ihre Alltagserfahrungen in den öffentlichen Austausch einbringen – und wie es gelingen kann, diese Hürden zu überwinden.

Machine Learning for Science: Von September bis November 2024 hat der von Ihnen initiierte Bürgerrat zum Thema „KI und Freiheit“ in Baden-Württemberg getagt. Warum braucht es dieses Gremium, und warum gerade jetzt? 

Patrick Klügel: Die Technologien, die hinter dem Schlagwort Künstliche Intelligenz stehen, entwickeln sich zurzeit so dynamisch, dass es sehr wichtig ist, dass die Gesellschaft über diese Entwicklungen informiert bleibt. Und da gibt es im Moment eine riesengroße Lücke zwischen Fortschritten in der KI-Forschung und KI-Entwicklung und der Information, die der Bevölkerung zur Verfügung steht.

„Die Meinungsbildung sollte nicht durch diejenigen beeinflusst werden, die primär wirtschaftliche Interessen verfolgen.“ – Patrick Klügel

Bestimmte Akteure sind im öffentlichen Diskurs über KI im Moment dominant – vor allem auch Großunternehmen, die in der KI-Entwicklung führend sind. Das heißt, grundsätzlich brauchen wir mehr Brückenbauer, die erstmal für Informationsfluss sorgen, die dann aber auch Hintergrundwissen zur Verfügung stellen, so dass sich die Bevölkerung eine Meinung zu Risiken, Chancen und Regulierung dieser Technologien bilden kann. Denn die Anwendungen mit künstlicher Intelligenz können unsere Freiheit ebenso einschränken wie auch vergrößern. Die Meinungsbildung sollte hier nicht über Gebühr durch diejenigen beeinflusst werden, die primär wirtschaftliche Interessen verfolgen. Und da können Projekte wie der Bürgerrat neue Wege eröffnen. 

Anika Kaiser: Man muss sich auch überlegen, in welchem Verhältnis die öffentlichen Informations- und Meinungsbildungsprozesse zu politischen Entscheidungen stehen. Es werden gerade sehr viele politische Entscheidungen zum Thema KI getroffen, EU-weit und in den einzelnen nationalen Parlamenten, auch in den Landesparlamenten. Und weil Politiker*innen das Volk vertreten, halte ich es für wichtig, dass aus dem öffentlichen Dialog heraus Argumente und Bedarfe abrufbar werden in dem Moment, in dem man sie braucht. Es ist überfällig, jetzt diese Debatten zu führen, sie öffentlichkeitswirksam zu führen und vor allen Dingen mit der breiten Gesellschaft. 

Trauen sich die Bürgerinnen und Bürger denn zu, in diesen Debatten mitzumischen?

Patrick Klügel: Tatsächlich haben wir in unserem Projekt eine Tendenz von Bürger*innen beobachtet, sich in diesem Thema zunächst überhaupt nicht als kompetent zu empfinden und zu sagen: „Dazu können wir uns keine Meinung bilden, weil wir keine Expert*innen sind.“ Insofern ist gerade so ein Projekt wichtig, weil es eine Chance zum Empowerment bietet, um zu sagen: Doch, es gibt durchaus Perspektiven, die Laien mit einbringen können, wenn es darum geht, in der Politik die Rahmenbedingungen für KI-Forschung zu gestalten.

Mit welchen Techniken kann ein solches Empowerment gelingen, wie haben Sie das im Rat gemacht?

Anika Kaiser: Wir haben zum Beispiel in der dritten Sitzung eine Fantasiereise gemacht. In den ersten beiden Sitzungen wurden die Teilnehmenden, überspitzt gesagt, mit fremden Informationen, also Fachwissen zu KI, beliefert. Und man hat schon gemerkt, sie waren überwiegend noch sehr dabei, etwas Fremdes verstehen zu wollen und eine Sprache dafür zu finden.

„Durch ihre individuelle Alltagswahrnehmung sind die Menschen in bestimmten Fragen bereits KI-Experten“ – Anika Kaiser

Die Fantasiereise war eine Idee, nochmal zehn Schritte zurückzugehen und zu sagen: „Okay, jetzt gehen Sie doch mal in Ihren Alltag. Was könnte automatisiert werden? Oder welches Problem sehen Sie immer wieder mit einer bestimmten Technologie, wo Sie sagen, das geht mir ständig auf die Nerven, das macht immer Fehler.“ Wir wollten den Menschen bewusst machen, dass sie bereits durch ihre eigene, ganz individuelle Alltagswahrnehmung in bestimmten Fragen KI-Experten sind, ohne KI-Forschung in jeder Hinsicht verstanden haben zu müssen. 

Patrick Klügel: Was dann passiert ist im Anschluss an dieses Format – und es war wirklich total augenfällig -, ist, dass sich Personen gemeldet haben, die davor im Ratsgeschehen überhaupt nicht gesprochen hatten. Das heißt, wir haben sofort einen Effekt beobachten können. Auf einmal wurden Themen aufgebracht, die neu waren, auf einmal fühlten sich Personen befähigt zu sprechen, die davor nichts beigetragen hatten. Interessanterweise waren es dann hauptsächlich Frauen. Und es kamen Care-Themen, also Themen der Sorgearbeit, zur Sprache.

Welche Themen kamen da genau auf?

Anika Kaiser: Die Organisation des Familienalltags, Kochpläne. Dass man für solche Aufgaben zum Beispiel Apps nutzt.  

Patrick Klügel: Erleichterungen bei Behördengängen und administrativen Tätigkeiten durch Automatisierung wurden auch genannt. 

Im Rat sollen die Bürgerinnen und Bürger diskutieren und sich eine Meinung bilden. Darüber hinaus hat der Rat aber noch ein weiteres großes Ziel: Er soll ein Policy Paper erstellen, also ein Papier mit Empfehlungen zur gesellschaftlichen Begleitung der KI-Forschung im Land an das baden-württembergische Wissenschaftsministerium. Den Inhalt des Papiers werden Sie bewusst erst im Februar mit der Öffentlichkeit teilen, wenn das Papier übergeben wird. Aber vielleicht könnten Sie beschreiben, welche Funktion das Papier hat? 

Patrick Klügel: Der Bürgerrat ist von der Universität Tübingen initiiert, das heißt, er ist nicht im politischen Auftrag durchgeführt worden. Grundsätzlich haben wir aber versprochen, dass der Rat sich als ein Gremium mit Wirkung versteht. Und deshalb sollten Empfehlungen an die Politik übergeben werden. Das Policy Paper ist die Stimme der Bürger*innen und erläutert die Entstehung der Empfehlungen. Damit ist es die Grundlage der folgenden Wirkungsarbeit. 

In der vierten und damit letzten Sitzung im November in Stuttgart war dann auch die baden-württembergische Wissenschaftsministerin Petra Olschowski zu Besuch im Rat.

Patrick Klügel: Das war ein wichtiges Signal an die Bürger*innen: Im Ministerium gibt es tatsächlich ein offenes Ohr, und ihr könnt das live erleben. Die Bürger*innen haben der Ministerin Fragen gestellt, etwa zur Bedeutung der Förderung von KI-Forschung in Baden-Württemberg, oder dazu, wieviel Geld dafür ausgegeben wird. Frau Olschowski hat sich sehr offen der Diskussion mit den Bürger*innen gestellt. Und sie hat sich nochmal darauf verpflichtet, dass sie die Empfehlungen des Rats entgegennehmen wird.

Letztendlich soll das Ratspapier auch Forschungsinstitutionen im Land, und auch KI-Forschenden selbst, vorgestellt werden. Wie sehen Sie das denn: Gibt es für die Forschenden eine Art moralische Pflicht, sich mit den Sorgen und Wünschen der Bevölkerung auseinanderzusetzen?

„Forschende sollten das Potential von partizipativer Forschung als Ergänzung sehen.“ – Patrick Klügel

Patrick Klügel: Nein, eine Pflicht gibt es nicht, öffentlich geförderte Forschung ist frei und das haben auch die Ratsteilnehmer*innen nicht in Frage gestellt. Forschende sollten aber das Potential von partizipativer Forschung als Ergänzung sehen. 

Anika Kaiser: Der Austausch zwischen Wissenschaft und Gesellschaft ist sehr wichtig. Aber eben in dem Sinne, dass gesellschaftliche Bedürfnisse, Wertvorstellungen, Argumente und Sichtweisen sichtbar werden in einer Weise, in der die Wissenschaft damit umgehen kann – und weniger als Handlungsanweisung.

Wie sollte sich das Ratsprojekt entwickeln, damit Sie in ein paar Jahren zurückschauen und sagen: „Das war ein erfolgreiches Projekt“?

Patrick Klügel: Für mich ist das Projekt erfolgreich, wenn in zwei bis drei Jahren viele KI-Forschungseinrichtungen und Förderer von KI-Forschung ganz konkrete Public-Engagement-Maßnahmen und -Strategien etabliert haben, die die Beteiligung von Bürger*innen an KI-Forschung auf eine sinnvolle Art und Weise organisieren. Und dafür soll das Policy Paper des Bürgerrats Inspiration bieten. 

„Im besten Fall wird das, was im Rat im Kleinen stattgefunden hat, in die Breite der Bevölkerung getragen.“ – Anika Kaiser

Anika Kaiser: Ich feiere ein Fest, wenn durch den Bürgerrat neue Argumente in den öffentlichen Diskurs Eingang finden und so der ganze KI-Diskurs angeregt und anschlussfähiger für unterschiedliche Lebensrealitäten wird. Im besten Fall wird das, was im Rat im Kleinen mit etwa 40 Teilnehmenden stattgefunden hat, in die Breite der Bevölkerung getragen und dort fortgesetzt. 

Das Interview führte Theresa Authaler.

Am Bürgerrat „KI und Freiheit“ ist auch das Internationale Zentrum für Ethik in den Wissenschaften (IZEW) der Universität Tübingen beteiligt. Ideelle Partner und Unterstützer des Bürgerrats sind der Exzellenzcluster „Maschinelles Lernen für die Wissenschaft“, die Cyber Valley GmbH sowie weitere Einrichtungen und Forschungsinstitute in Baden-Württemberg.

Weiterführende Literatur: 

Fricker, M. (2023). Epistemische Ungerechtigkeit: Macht und die Ethik des Wissens (A. Korsmeier, Übers.). C.H.Beck.
Schmude, H. & Gillerke, F. (31. Mai 2022). Mini-Publics als Treiber der großen Transformation. Tagesspiegel Background. https://background.tagesspiegel.de/smart-city-und-stadtentwicklung/briefing/mini-publics-als-treiber-der-grossen-transformation