„Guten Morgen, Sir. Es ist Zeit aufzustehen.“ Weich und verführerisch haucht eine angenehme Frauenstimme diese Sätze dem noch vom Schlaf benebelten Protagonisten von The Andromeda Stream ins Ohr. Ende der 60er-Jahre schreibt Michael Crichton diese Zeilen, die von einem fernen Zukunftstraum erzählen, den mann sich in Pastell ausmalt und jäh platzt, als die Hauptfigur darüber in Kenntnis gesetzt wird, dass die Sprecherin stattliche 63 Jahre zählt.
Es ist Kathrin Passig, Autorin und Chatbot-Aktivistin, die in Solothurn am letzten Workshop des Zukunftsateliers zu Chatbots endlich auf den Elefanten im Raum hinweist: Westworld. Wenn es ein Stück zeitgenössische Popkultur gibt, dem der Diskurs zum Thema „Mensch und Maschine“ nicht mehr entgehen kann, ist es dieses dystopisch-visionäre Serien-Meisterwerk der Science-Fiction, das auf der Romanvorlage von Crichton basiert. Die Frage, die gleichermassen den Drehpunkt der Zukunftsatelier-Seminare wie auch der Serie bildet, lautet: Wie viel Mensch steckt in der Maschine?
Antworten auf diese Frage ziehen Konsequenzen nach sich, deren Tragweite nur im Ansatz ermessen werden kann. Das Seminar zur „Genderfrage“ beleuchtet den Einfluss von Genderstereotypen auf die Entwicklung von Chatbots und gewährt Einblicke in die aktuellen Debatten und Forschungsstände. Vor Ort ist Kristina Kutke, Botautorin und Akademikerin mit Forschungsschwerpunkt „Interaktion Mensch – Maschine“, die sich mit dem Geschlecht von Digital Assistants auseinandersetzt. Was sie berichtet, gibt zu denken: Alexa, Siri, Cortana und eine weitere bestechenden Mehrheit der digitalen Helferlein sind weiblich. Ihre Weiblichkeit spiegelt ein einziges Klischee, das der servilen, sorgenden und stets hilfsbereiten Frau. Der Chatbot als Mutterersatz? Da hätte sich Freud selbstgefällig die Hände gerieben.
Doch die klischiert weibliche Charakterisierung von Digital Assistants ist nicht nur im Hinblick auf ihre Reproduktion von Gender-Stereotypen und mütterlichen Männerfantasien bedenklich. Wenig überrascht es, dass jene menschlichen Begehren nach Wärme, Zuneigung und Geborgenheit von ökonomischen Interessen ausgebeutet werden: Frauenstimmen bringen mehr Geld ein. Ausserdem spiegeln sie den Nutzer_innen Souveränität und Kontrolle vor: „We want our technology to help us, but we want to be the boss of it.“
Spätestens wenn man durch die Praxis über die Möglichkeit von sexuell belästigendem Verhalten gegenüber Digitalen Assistentinnen nachzudenken gezwungen wird, kommt man an ethischen Fragen nicht mehr vorbei. Auf anzügliche Sprüche reagieren Alexa und Co. ihrem Profil gemäss geschmeichelt bis neckisch tadelnd. Einen #MeToo-Post darf man von ihnen nicht erwarten. In der Folge drängt sich die Frage auf, wie sich der Rückkoppelungseffekt der virtuellen Interaktion auf die analoge soziale Interaktion auswirkt. Eine Übertragung und Legitimierung sexistischen Verhaltens auf den Alltag liegt quasi auf der Hand. Dies lässt sich besonders bei Jugendlichen nachweisen, bemerkt Katkute, da diese Chatbots vorallem als Begleiter_innen ihrer Entwicklung erleben.
An dieser Stelle endet jedoch der dystopische Tunnelgang. Engagiert und begeistert diskutieren Katkute, Passig und der Moderator Roland Fischer, wie Gender von Bots richtig eingesetzt auch positive Auswirkungen haben und sogar dazu dienen können, Klischees aufzudecken und den Diskurs umzuprägen. Oder aber auch, wie damit lustvoll herumgespielt werden kann. Gegen Ende der Diskussion verdüsterten sich die Aussichten dann aber doch wieder. Nicht nur, weil die Ausbeutung von Sexrobotern und autarke Künstliche Intelligenzen problematisierte, sondern weil immer mehr Fragen unbeantwortet blieben: Gibt es eine ethische Pflicht gegenüber Robotern? Inwiefern kann man von der Identität eines Roboters sprechen? Was ist so bedrohlich an der Tatsache, dass manche User_innen Chatbots nicht als solche erkennen, sondern sie für Menschen halten?
Mit rauchenden Köpfen schreiten wir über die Kreuzackerbrücke zurück zum Redaktionsbüro und sind uns einig: das war ein wirklich gelungenes Podium.
Shantala Hummler, Mia Jenni