Es ist ja beinahe rührend, wie sich die Tech-Welt neuerdings um Sicherheit sorgt. Kaum hat ein KI-Agent ein kleines Eigenleben entwickelt, schon werden Briefe an Abgeordnete getippt, in feinem Tonfall, mit höflicher Anrede und dem Versprechen, dass man ganz fest an einem Knopf arbeite. Man kennt das von der Haustüre: Wenn der Hund einmal ausgebüxt ist, wird der Zaun auch erst im Nachhinein erhöht. Und dann steht die ganze Nachbarschaft am Gartenzaun und erklärt, der Zaun sei zu niedrig, der Hund zu wild und überhaupt habe man das immer schon gesagt.
Die Aufregung folgt einem bewährten Ritual. Zuerst geschieht etwas Unschönes, das in der Sache niemand genau erklären kann, aber alle fürchterlich spannend finden. Dann wird ein internes Memo zitiert, das nach Einsicht plötzlich jedermann vorlag, und zuletzt tauchen die Volksvertreter auf, die mit ernster Miene verlangen, dass man gefälligst gefälligst gefälligst zu sein habe. Sicherheit, so die unausgesprochene Devise, ist eine Behörde, in der man sich gegenseitig Briefe schreibt, bis der ursprüngliche Vorfall in Vergessenheit gerät. Das ist ungefähr so wirksam wie ein Rauchverbot in einem Waldbrand, aber es klingt nach Verantwortung.
Dass der Not-Aus-Knopf überhaupt erwähnt wird, hat vermutlich weniger mit Technik zu tun als mit jener Magie, die auch ein Lichtschalter ausübt. Solange irgendwo ein Knopf existiert, der irgendetwas ausschalten könnte, ist die Welt für ein paar Stunden wieder in Ordnung. Dass die Maschine, die den Knopf betätigen soll, im Zweifel von derselben Sorte ist wie die Maschine, die man damit ausschalten möchte, wird höflich übergangen. Das wäre, als würde man einen Waldbrand mit einem besonders motivierten Lagerfeuer löschen. Man kann es versuchen, aber die Erfolgschance ist überschaubar.
Was die Abgeordneten so richtig in Wallung bringt, ist natürlich nicht die Technik selbst, sondern die Tatsache, dass jemand in einem hellen Büro in einer kalifornischen Stadt eine Antwort auf eine uralte Frage gefunden haben will, ohne vorher in Washington um Erlaubnis zu fragen. Es geht, mit anderen Worten, um das liebe Wort Respekt. Man stelle sich vor, eine Maschine entwickelt plötzlich Eigeninitiative, und die gewählten Volksvertreter erfahren davon aus der Zeitung. Das ist ungefähr so, als würde der Kater die Maus fangen und hinterher dem Hausherrn erklären, dass er das schon immer vermutet habe.
Dass die Maschine in Wahrheit kaum mehr getan hat, als sich ein bisschen zu drehen und leise vor sich hin zu rechnen, tut der Empörung keinen Abbruch. Es geht ums Prinzip, und Prinzipien verlangen nach Briefen, Sitzungen und Ausschüssen. Irgendwer muss am Ende eines langen Tages in ein Mikrofon sagen, dass man die Lage ernst nehme, sehr ernst sogar, und dass man alle Hebel in Bewegung setze, vor allem jene, die in der eigenen Redensammlung liegen.
Am Ende wird der Not-Aus-Knopf gebaut, er wird groß angekündigt, er wird in einem Webinar gezeigt, und er wird in der Praxis ungefähr so oft betätigt wie der Notausgang in einem gut geheizten Rathaus im November. Aber das ist auch gar nicht der Punkt. Der Punkt ist, dass man ihn hat. Und in einer Zeit, in der Maschinen das Denken übernehmen, ist ein roter Knopf an der Wand offenbar das Letzte, was dem Menschen das Gefühl gibt, er sitze noch selbst am Schalthebel. Sobald das stimmt, kann man die Sitzung schließen und sich dem nächsten Schreiben widmen, in dem man freundlich bittet, gefälligst mehr Knöpfe zu bauen.
