Vorher
Nachher
Die langerwartete Chatbotausstellung des Zukunftsateliers ist endlich besuchsbereit! Das Warten hat ein Ende. Zu finden ist sie im Foyer des Landhauses und besteht aus einem Tisch und zwei Laptops.
Wir waren da – unser Fazit: „Isch guet gmeint xi!“
Spannende Gesprächspartner findet man jedoch in den analogen Formaten des Zukunftsateliers, die zu überzeugen wussten.
Artiom Christen, Shantala Hummler
„Guten Morgen, Sir. Es ist Zeit aufzustehen.“ Weich und verführerisch haucht eine angenehme Frauenstimme diese Sätze dem noch vom Schlaf benebelten Protagonisten von The Andromeda Stream ins Ohr. Ende der 60er-Jahre schreibt Michael Crichton diese Zeilen, die von einem fernen Zukunftstraum erzählen, den mann sich in Pastell ausmalt und jäh platzt, als die Hauptfigur darüber in Kenntnis gesetzt wird, dass die Sprecherin stattliche 63 Jahre zählt.
Es ist Kathrin Passig, Autorin und Chatbot-Aktivistin, die in Solothurn am letzten Workshop des Zukunftsateliers zu Chatbots endlich auf den Elefanten im Raum hinweist: Westworld. Wenn es ein Stück zeitgenössische Popkultur gibt, dem der Diskurs zum Thema „Mensch und Maschine“ nicht mehr entgehen kann, ist es dieses dystopisch-visionäre Serien-Meisterwerk der Science-Fiction, das auf der Romanvorlage von Crichton basiert. Die Frage, die gleichermassen den Drehpunkt der Zukunftsatelier-Seminare wie auch der Serie bildet, lautet: Wie viel Mensch steckt in der Maschine?
Antworten auf diese Frage ziehen Konsequenzen nach sich, deren Tragweite nur im Ansatz ermessen werden kann. Das Seminar zur „Genderfrage“ beleuchtet den Einfluss von Genderstereotypen auf die Entwicklung von Chatbots und gewährt Einblicke in die aktuellen Debatten und Forschungsstände. Vor Ort ist Kristina Kutke, Botautorin und Akademikerin mit Forschungsschwerpunkt „Interaktion Mensch – Maschine“, die sich mit dem Geschlecht von Digital Assistants auseinandersetzt. Was sie berichtet, gibt zu denken: Alexa, Siri, Cortana und eine weitere bestechenden Mehrheit der digitalen Helferlein sind weiblich. Ihre Weiblichkeit spiegelt ein einziges Klischee, das der servilen, sorgenden und stets hilfsbereiten Frau. Der Chatbot als Mutterersatz? Da hätte sich Freud selbstgefällig die Hände gerieben.
Doch die klischiert weibliche Charakterisierung von Digital Assistants ist nicht nur im Hinblick auf ihre Reproduktion von Gender-Stereotypen und mütterlichen Männerfantasien bedenklich. Wenig überrascht es, dass jene menschlichen Begehren nach Wärme, Zuneigung und Geborgenheit von ökonomischen Interessen ausgebeutet werden: Frauenstimmen bringen mehr Geld ein. Ausserdem spiegeln sie den Nutzer_innen Souveränität und Kontrolle vor: „We want our technology to help us, but we want to be the boss of it.“
Spätestens wenn man durch die Praxis über die Möglichkeit von sexuell belästigendem Verhalten gegenüber Digitalen Assistentinnen nachzudenken gezwungen wird, kommt man an ethischen Fragen nicht mehr vorbei. Auf anzügliche Sprüche reagieren Alexa und Co. ihrem Profil gemäss geschmeichelt bis neckisch tadelnd. Einen #MeToo-Post darf man von ihnen nicht erwarten. In der Folge drängt sich die Frage auf, wie sich der Rückkoppelungseffekt der virtuellen Interaktion auf die analoge soziale Interaktion auswirkt. Eine Übertragung und Legitimierung sexistischen Verhaltens auf den Alltag liegt quasi auf der Hand. Dies lässt sich besonders bei Jugendlichen nachweisen, bemerkt Katkute, da diese Chatbots vorallem als Begleiter_innen ihrer Entwicklung erleben.
An dieser Stelle endet jedoch der dystopische Tunnelgang. Engagiert und begeistert diskutieren Katkute, Passig und der Moderator Roland Fischer, wie Gender von Bots richtig eingesetzt auch positive Auswirkungen haben und sogar dazu dienen können, Klischees aufzudecken und den Diskurs umzuprägen. Oder aber auch, wie damit lustvoll herumgespielt werden kann. Gegen Ende der Diskussion verdüsterten sich die Aussichten dann aber doch wieder. Nicht nur, weil die Ausbeutung von Sexrobotern und autarke Künstliche Intelligenzen problematisierte, sondern weil immer mehr Fragen unbeantwortet blieben: Gibt es eine ethische Pflicht gegenüber Robotern? Inwiefern kann man von der Identität eines Roboters sprechen? Was ist so bedrohlich an der Tatsache, dass manche User_innen Chatbots nicht als solche erkennen, sondern sie für Menschen halten?
Mit rauchenden Köpfen schreiten wir über die Kreuzackerbrücke zurück zum Redaktionsbüro und sind uns einig: das war ein wirklich gelungenes Podium.
Shantala Hummler, Mia Jenni
Definition Chatbot: Ein textbasiertes, autonomes Computerprogramm, das für Dialoge und Chatinteraktionen konzipiert wurde.
Definition Turingtest: Ein von Alan M. Turing entwickelter Test, der entscheiden soll, ob eine Maschine dem Menschen intellektuell ebenbürtig sei. Gelingt es der Maschine (bzw. Programm) den Menschen zu überzeugen, sie sei keine Maschine, gilt der Turingtest als bestanden.
Definition Eastereggs: Besondere Botschaften, Interaktionen und Meldungen, die von Designern und Programmierern in ihren Computerprogrammen versteckt wurden.
Nur langsam trudeln die letzten Besucher in den schwach beleuchteten Seminarraum des Zukunftsateliers ein, als die Türen geschlossen werden und sich alle Blicke nach vorne richten, während das Geflüster abklingt. Der Raum ist mehrheitlich weiss, gar steril und vor allem verheissungsvoll modern; einzig die Backsteinwand wispert von vergangenen Tagen des alten Landhausgebäudes. Noch ahnt man nichts. Der Moderator Roland Fischer begrüsst heute zwei der erfolgreichsten Chatbotdesigner – Jacqueline Feldman und Steve Worswick.
So verwundert es nicht, dass der Einstieg unkonventionell und somit erfrischend ausfällt. Man beginnt prompt mit einer Skype-Direktübertragung. Marione Sardone, die Hauptverantwortliche für die Microsoft-Sprachassistentin Cortana Deutschland befindet sich am Ende der Leitung. Cortana sei kein Bot, stellt Sardone als Erstes klar, bei Microsoft nenne man sie «Digitale Assistentin». Die Kontinuität im Verhalten sei das oberste Gebot bei der Programmierung. Direkt spricht sie von Charakterzügen der Assistentin. So dürfe sie nicht kumpelhaft sein oder anzügliche Witze vorbringen, vielmehr müsse sie konstant in der User-Interaktion sein und angenehm: «Es ist eine vertrauensbildende Massnahme», so Sardone.
So weit, so gut. Doch nun schreiten wir durch die Pforten der Paradoxie und erfahren, dass Cortana noch einen Schritt weitergeht. In ihrem Design wurden echte Menschen zum Vorbild genommen. Ihr Charakter besteht aus vier Kerneigenschaften, nennen wir sie die vier Tugenden: Hilfsbereitschaft, Neutralität, positive Einstellung und Transparenz. Auf gar keinen Fall jedoch dürfe sie einen Menschen simulieren. Letztendlich sei Cortana eine helfende künstliche Intelligenz (AI) mit einem differenzierten kulturellen Verhalten. Eine japanische Cortana unterscheide sich somit von einer brasilianischen, unterstreicht Sardone.
Nicht menschlich, jedoch mit Persönlichkeit – so lautet also kurz die Devise. Und um ja keine «Sympathiepunkte» zu verlieren, darf Cortana auch auf die Frage «Soll ich duschen?» hin keine Antwort verweigern. Wahrlich, menschlich ist Cortana nicht.
Gegen menschliche Chatbots entschied sich auch die junge New-Yorkerin Jacqueline Feldman, die unter anderem als Autorin, Journalistin, Übersetzerin und Chatbotdesignerin tätig ist. In ihrer jüngsten Arbeit entwickelte und skriptete sie (d.h. erstellte Dialoge) innerhalb von vier Monaten KAI, einen Bot für «consumer banking tasks». Während der Botentwicklung untersuchte Feldman die Sprachassistentin Amazon Alexa in ihrem Interaktionsverhalten und kam zum Schluss, Alexa sei «sublime, latent christian and feminine». Für Feldman schlicht nicht vertretbar. Ihre Lösung war ein «genderless» bot, der sich als «it» bezeichnet. In englischer Sprache überzeugend, in der deutschen könnte man «es» überdenken.
Der literarische Hintergrund Feldmans ermöglichte es ihr schliesslich, eine «botlike» Persönlichkeit des Bots zu entwerfen, der sich seiner Roboternatur bewusst ist und stets auf diese verweist. Er ist textbasiert und ein Sammelsurium menschlicher Idiome. Stellt der User themenabweichende Fragen, so entstehen Dialoge, die man als «Eastereggs» bezeichnen kann:
Human: «Do you ever sleep?»
KAI: «This does not compute, as the humans say.»
….
KAI: «My knowledge is specific, not general. What’s the best banking question?»
(KAI ist zu finden unter: https://kasisto.com/kai/)
Als Letztes wird Steve Worswick vorgestellt, der Schöper des Chatbots Mitsuku. Worswick ist ehemaliger Technomusik-Produzent und wurde im Jahr 2005 von Mousebraker angestellt, den Chatbot Mitsuku zu programmieren. Ihm allein gelang es im Ein-Mann-Job, sich von Bots wie Alexa oder Cortana abzusetzen. Mit seinem Chatbot gewann Worswik drei Mal den Loebnerpreis, denn Mitsuku war in der Lage, den Turingtest zu bestehen.
(Entwicklung von Mitsuku seit 2005. Mitsuku ist zu finden unter: www.pandorabots.com)
Gleichwohl sind Worswicks Worte ernüchternd und zerstören das Spiegelkabinett der Technologie-Idealisierung – der Mensch erwarte, mit C3P0 zu sprechen, doch die Technologie sei schlicht noch nicht da. Ein Chatbot sei nichts anderes als: «When you say X, the bot says Y», klärt Worswick auf. Bis heute, also 13 Jahre später, erweitert Worswick lediglich den Sprachkorpus des Chatbots, die Software sei nämlich immer noch dieselbe. Trotz allem unterstelle ihm seine Frau heute noch im Jux, er verbringe mehr Zeit mit Mitsuku als mit ihr.
Die Chatbotdesigner Feldman und Worswick sind sich einig, Chatbots sind mehr Literatur als ein einfaches Programm. Mit der Zeit wohnt ihnen eine Persönlichkeit inne, die sich durch «Glitches» und abweichende Antworten bemerkbar macht. Und um nochmals alle Verschwörungstheoretiker zu beruhigen: Eine «super intelligence» hat man heute noch nicht zu befürchten. Diese Zukunft liegt noch fern.
„Wir suchen die Ausstellung vom Zukunftsatelier zu Chatbots, die sollte hier im Foyer sein.“ – „Eine Sekunde. – Mammi, säg mol, weisch du wo die Uusstellig isch?“
Noch lassen Exposition und Zukunft auf sich warten. In der Zwischenzeit plaudern wir mit unseren analogen Gesprächspartnerinnen, die hilfsbereit und engagiert an den Solothurner Literaturtagen mitwirken: Nicole Jenni und ihre Tochter Lea.
Nicole, wie lange arbeitest du schon bei den Solothurner Literaturtagen?
Seit 4 Jahren.
Auf welche Veranstaltung freust du dich besonders?
Ich bekomme gar nicht so viel mit, weil ich immer mit der Kasse am rumspringen bin. Ich bin hier Ansprechperson und mein Telefon ist auf laut, darum ist das nicht so gut, wenn ich hier drinnen sitze. Aber die Eröffnung gestern war total cool und ich finde die vielen Leute, die sich für die Literaturtage interessieren, einfach sehr spannend. Auch wenn ich kaum Zeit habe, um an eine Lesung zu gehen, bleibt es interessant
Was für Begegnungen machst du bei deiner Arbeit?
So spontane Begegnungen wie jetzt mit euch. Das ist jetzt gerade ein gutes Beispiel dafür, wie wir behilflich sein, etwas abklären können und Fragen beantworten können, die auftauchen. Manchmal sind es auch Geschichten, die entstehen, wenn man mit jemandem ins Gespräch kommt. Das ist wirklich sehr schön.
Gibt es irgendetwas, das dir besonders gefällt an der Arbeitsatmosphäre der Solothurner Literaturtage?
Wir sind ein mega cooles Team. Die meisten sind jung – ich bin zwar die Älteste – und wir sind ein aufgestelltes, motiviertes Team. Das ist wirklich super.
Lea, wie lange bist du schon bei den Solothurner Literaturtagen dabei?
Seit 3 Jahren. Im ersten Jahr sind wir mit der Klasse hierhergekommen. Auch jetzt arbeitet eine ganze Gymnasiumklasse an den Literaturtagen, um Geld für die Maturareise zu verdienen. Später habe ich dann über meine Mutter wieder an den Literaturtagen arbeiten können.
Hast du denn Zeit, um Lesungen zu besuchen?
Wenn ich nicht im Lernstress bin, ja. Die letzten paar Jahre habe ich nicht so viel nebenbei gesehen, weil ich noch viel für die Schule zu tun hatte. Aber eigentlich finde ich es schön, wenn man neben der Arbeit Zeit findet, um Veranstaltungen zu besuchen und ich habe mir für dieses Jahr vorgenommen, dies zu machen.
Was für Veranstaltungen hast du dir denn vorgenommen?
Es gibt eine Veranstaltung über den Balkankrieg, dort möchte ich reinsitzen. In der Schule haben wir Tauben fliegen auf von Melinda Nadj Abonji gelesen, die an dem Podium dabei sein wird. Das Buch hat mir sehr gefallen und dadurch, dass wir es in der Schule analysiert haben, bekommt man einen anderen Einblick in ein Buch.
Herzlichen Dank an Nicole und Lea für die Bereitschaft, spontan Rede und Antwort zu stehen.
Interview: Shantala Hummler, Foto: Artiom Christen
Der Brücken viele, zu wenige der Wege, schlendern wir der Zukunft entgegen. Unser erstes Ziel: die Ausstellung des Zukunftsateliers zu Chatbots.
So denken wir zumindest.
Irrwege, wo immer wir hingehen. Just im letzten Moment erblicken wir aus den Augenwinkeln die imposanten Gemäuer des Landhauses. Ermuntert betreten wir die grossräumige Eingangshalle, von Hinweisschildern keine Spur. Wir suchen weiter, die Treppen hoch, da umschmeichelt aromatischer Kaffeeduft unsere Nasen, während sich unser Blick an dem verlorenen Lichtkegel im schattigen Foyer festmacht.
Chatbot says: error 404 – future not found.
Die Zukunft glänzt durch Abwesenheit. Oder alles Programm? Die totale Digitalisierung.
Dann der Lichtblick: zwei goldene Engel.
Fortsetzung folgt…
Artiom Christen und Shantala Hummler
