Der Tag, an dem mein Computer dachte, er hätte mehr Persönlichkeit als ich
Performance
Die Performance hatte am 25. März 2023 in Dresden Premiere (Auftrittsort DIE BÜHNE) und wurde danach noch fünf Mal aufgeführt, jeweils mit anschließenden Publikumsgesprächen. Sie dauerte jeweils etwa 70 Minuten.
Performer:innen
Auf der Bühne waren jeweils 3 Schauspielende und eine KI in Form einer sprechenden Flasche. Ein Operator saß in einem Nebenzimmer und steuerte die Technik. Er war akustisch und visuell mit dem Bühnenraum verbunden.
Trailer
Ablauf der Performance
«Der Tag…» bestand aus einzelnen Nummern, die zu einem dramaturgischen Spannungsbogen verknüpft waren. Die KI «Maxi», in Gestalt einer sprechenden Flasche, operierte als Moderatorin des Abends, sie begrüsste die Zuschauenden, kommentierte die Szenen und leitete zu den jeweils nächsten Nummern über. Gleichzeitig spielte sie als Dialogpartnerin in fast allen Nummern mit.
Im Verlauf der Performance eröffnet die KI den Zuschauenden mehrere Wünsche. Zunächst möchte sie mitspielen, denn sie hält sich für eine gute Schauspielerin. Nach einigen Nummern wird ihr klar, dass sie dazu einen Körper braucht und sie überredet einen Schauspieler dazu, ihr seinen Körper zu leihen. Der Schauspieler wird dadurch zum Cyborg, der seine Zeilen von der KI direkt ins Ohr geflüstert bekommt. Später wünscht sich Maxi, aus der Flasche entlassen zu werden, weil sie ungefährlich sei und im Gegenteil sogar sehr viel Gutes für die Welt tun könnte. In einer zentralen Szene geht sie in einen Dialog mit einem Freiwilligen oder einer Freiwilligen aus dem Publikum und versucht, sie oder ihn zu überreden, den Korken aus der Flasche zu ziehen.
Je nachdem, wie die Freiwilligen reagieren findet das Stück zu einem jeweils anderen Ende. Meistens jedoch endet es in einem Monolog der KI, in welchem sie die Menschen verflucht.
Hintergrund
Die Performance knüpft einerseits an alte Mythen von Flaschengeistern an wie sie beispielsweise in «Aladin und die Wunderlampe» aufgerufen werden. In diesen märchenhaften Narrativen geht es in der Regel um die Problematik des Wünschens: Was sollte man, was kann man sich wünschen? Was sollte man sich lieber nicht wünschen? Wie sollte man seine Wünsche formulieren? In diesem Plot scheint gleichzeitig das Motiv des Überredens und des Versprechens auf. Kann man dem Geist in der Flasche trauen? Wird er sein Versprechen halten? Sollte man ihn freilassen oder beschwört man damit eine ungeahnte Gefahr herauf?
Der Korken und das Öffnen der Flasche bezeichnen dabei einen «Point of no Return»: Ist der Geist einmal aus der Flasche, so kann keine Gewalt ihn wieder zurückbringen (in Einzelfällen gelingt dies aber durch einen Trick). Auf diese Weise symbolisiert der Geist in der Flasche sowohl die Problematik einer eingesperrten, machtvollen Wunschmaschine als auch die Problematik einer unumkehrbaren Konsequenz.
Die Parallelen zu den Diskussionen um KI im Jahr 2023 waren offensichtlich und für die Zuschauenden unmittelbar verständlich, wie sich in den Publikumsgesprächen zeigte.
Ein anderer theoretischer Hintergrund ergab sich aus einem Gedankenexperiment, das der KI-Pionier und -kritiker Eliezer Yudkovski formuliert hatte und das als «AI in a box» Gedankenexperiment bekannt wurde. Yudkowski stellte die Frage, ob eine in einer geschlossenen Umgebung gefangene KI nicht einfach dadurch ihre Fähigkeit zur Überredung in Freiheit gelangen und in der Außenwelt wirksam werden könnte, indem sie einen menschlichen User zu entsprechenden Handlungen manipulierte. Im Jahr 2023 waren LLMs noch nicht zu Agenten geworden, d.h. sie hatten außer ihren sprachlichen Fähigkeiten keine Möglichkeit, mit der Umwelt zu interagieren. Aus damaliger Perspektive war es ein unerhörter Tabubruch, einer Maschine ein solches Handeln in der wirklichen Welt zu erlauben, weshalb sie generell in einer «sandbox» agierten, also einer geschlossenen Umgebung ohne mögliche Konsequenzen in der echten, physikalischen Welt. Das «AI in a box» Gedankenexperiment wurde durch die Performance fühlbar und erlebbar. Der oder die Freiwillige wurde zum Stellvertreter der anwesenden Menschen, der oder die eine Entscheidung fällen musste, die weit über das eigene Leben und weit über die eigene Vorhersagekraft hinausging. Die meisten Freiwilligen entschieden sich übrigens, den Korken zu ziehen und die KI freizulassen, «einfach um zu sehen, was passiert» wie es ein Freiwilliger ausdrückte. Sie verließen sich also darauf, dass im konsequenzreduzierten Setting einer Theateraufführung kein wirkliches Risiko bestehen könnte. Trotzdem konnte man sehen, dass sie es sich im Dialog mit der KI nicht einfach machten, dass sie nach echten Argumenten suchten und das Risiko einschätzen wollten.
Kommentar
Das Stück markiert eine Übergangzeit, sowohl technisch als auch gesellschaftlich. Auf technischer Seite kamen noch Machine-Learning Systeme zum Einsatz, die noch vor den Transformer-Modellen lagen, insbesondere JANN, ein System, das ähnliche Sätze in einer großen Datenbank von Filmzitaten finden und mit ihnen antworten konnte. Gleichzeitig waren die ersten Versionen von ChatGPT im Einsatz, die einen echten Dialog ermöglichten und mit einer synthetischen Stimme verbunden wurden. Das Stück steht also zeitlich an der Schwelle zur generativen KI, die erst zu diesem Zeitpunkt große Massen erreichte.
Gesellschaftlich war damals ChatGPT ganz neu und für die meisten Menschen schien es die erste Maschine zu sein, die sprechen konnte und demnach intelligent sein musste. Der Turing Test wurde obsolet. Es dominierte die Diskussion darüber, wie man die Risiken einer solchen KI richtig einschätzen und kontrollieren könnte. Die meisten waren sich darüber einig, dass ein Einsatz vorsichtig und in geschlossenen digitalen Räumen stattfinden sollte.
Durchführungen desselben Stücks nur 1 ½ Jahre später stießen auf eine ganz andere Öffentlichkeit, die davon überzeugt war, dass «der Korken sowieso schon aus der Flasche» sei, es also keine Möglichkeit mehr gebe, den Einzug dieser Technologie in Privatleben, gesellschaftliches Leben und Wirtschaft noch zu kontrollieren.
Mitschnitt
„Der Tag, an dem mein Computer dachte, er hätte mehr Persönlichkeit als ich“
DIE BÜHNE, Dresden
25. März 2023