Du schaltest ab, und die Welt geht aus

Vom Paradox, durch Kontrolle die Kontrolle zu verlieren

Es ist Dienstagabend, 22:15 Uhr. Du liegst im Bett, das Buch ist zugeklappt, die Augen fallen zu. Dann fällt es dir ein: Die Lampe im Wohnzimmer brennt noch. Kein Problem. Du greifst nach dem Smartphone, wischst es wach, tippst auf die App. Die Kachel „Wohnzimmer – Deckenlicht“ reagiert nicht. „Gerät nicht erreichbar“, steht da. Du drückst nochmal. Nichts. Du schließt die App, öffnest sie neu – der Kreis dreht sich, verbindet, Fehlermeldung. Draußen brennt das Licht noch immer.

Du fluchst leise, stehst auf, stapfst die Treppe runter, drückst den Wandschalter – nichts. Das Licht ist smart, es gehorcht keinem dummen Schalter mehr. Es gehorcht nur noch der App, und die App gehorcht gerade nicht. Also stehst du da im Dunkeln, im Haus, das du so intelligent gemacht hast, dass es ohne dich nicht mehr kann. Du hast die Kontrolle. Eigentlich.

Das ist das Kontroll-Paradoxon. Wir bauen Technik, um mehr Macht über unsere Umgebung zu haben – und am Ende sitzen wir im Dunkeln, weil der Herstellerserver in Irland gerade nicht antwortet.

Die drei Gesichter des Kontrollverlusts

Was hier passiert, ist kein Einzelfall. Es ist ein Muster, das sich durch unsere ganze moderne Technikwelt zieht. Der Philosoph Ezio di Nucci von der Universität Kopenhagen hat dafür den Begriff „Control Paradox“ geprägt . Seine These: Wir führen neue Technologien ein, um die Kontrolle über bestimmte Aufgaben zu verbessern – aber genau dadurch entstehen Situationen, in denen wir die Kontrolle verlieren. Besonders deutlich wird das in drei Bereichen, die auf den ersten Blick nichts miteinander zu tun haben, aber vom gleichen Mechanismus gesteuert werden.

1. Das Haus, das nicht gehorcht

Das Smart Home ist der Ort, wo das Paradoxon jeden Abend neu inszeniert wird. Eine Studie der Georgia Tech aus dem Jahr 2007 – damals, als „smart“ noch neu war – identifizierte bereits das Phänomen des „home network control paradox“ . Schon vor fast zwanzig Jahren wussten Forscher: Wer sein Heim vernetzt, gewinnt nicht nur Kontrolle, sondern gibt sie auch ab.

Heute sieht das so aus: Deine Lampen, die Heizung, die Jalousien – sie alle telefonieren nach Hause. Wörtlich. In fast jedem smarten Gerät steckt die Anweisung: „Bevor ich etwas tue, frage ich meinen Hersteller, ob ich darf.“ Das ist kein Technik-Märchen, das ist Architektur. Die meisten Geräte funktionieren nicht mehr lokal, sondern nur noch über die Cloud des Herstellers. Ein User in einem Diskussionsforum brachte es vor einem Jahr auf den Punkt: „Sperrt man ihnen den Internetzugang am Router, funktionieren sie nicht mehr richtig“ .

Das bedeutet: Dein Lichtschalter ist nicht mehr mit der Lampe verbunden. Er ist mit einem Server in Frankfurt verbunden, der mit der Cloud in Irland verbunden ist, die dann der Lampe sagt, dass sie leuchten darf. Und wenn eine dieser Verbindungen reißt, stehst du im Dunkeln. Ein Portal für Smart-Home-Enthusiasten listet akribisch auf, was dann hilft: Router neustarten, App updaten, Firmware prüfen, Geräte zurücksetzen . Nirgendwo steht: „Den Lichtschalter drücken“. Weil der Lichtschalter nur noch ein Zettel im System ist, kein Stromkreis.

2. Der Algorithmus, der dich kennt – und lenkt

Das zweite Gesicht des Paradoxons trägst du in der Hosentasche. Du öffnest Instagram oder TikTok, weil du sehen willst, was deine Freunde machen. Du folgst ihnen, du hast die Kontrolle über deinen Feed. Denkst du.

In Wirklichkeit hast du das zweite, das „algorithmische Instagram“ betreten, wie der Publizist Sascha Lobo es nennt . Die Plattform zeigt dir nicht, was du sehen willst. Sie zeigt dir, was dich am längsten festhält. Und das sind selten die Urlaubsfotos deiner Schwester. Das sind die Inhalte, die dich aufregen, die dich wütend machen, die dich empören. „Empörung war der Traubenzucker sozialer Medien“, schreibt Lobo, „Empörung ist das Crack algorithmischer Medien“ .

Die Algorithmus-Forscherin Jana Lasser von der Uni Graz bestätigt das: Die Systeme sind darauf optimiert, unsere Aktivität zu erhöhen – und das tun sie am besten mit Inhalten, die „uns aufregen, uns stark emotionalisieren, die vielleicht reißerisch sind“ . Wir wollen kontrollieren, was wir sehen. Aber das System hat längst übernommen. Es weiß besser als wir selbst, welcher Knopf bei uns den größten Effekt erzielt.

Das Ergebnis ist eine „algorithmische Alltagsradikalisierung“, wie Lobo es nennt. Nicht, weil böse Menschen in Hinterzimmern uns manipulieren wollen. Sondern weil das System schlicht so gebaut ist: Wer Aufmerksamkeit maximieren will, muss polarisieren. Wer polarisiert, radikalisiert. Und wer radikalisiert, gewinnt – erst mal.

3. Das Auto, das dich nicht lassen kann

Das dritte Gesicht ist das gefährlichste. Es fährt auf unseren Straßen, noch als Versuch, bald vielleicht als Serie. Das autonome Auto.

Hier zeigt sich das Paradoxon in seiner reinsten Form: Wir bauen ein System, das dem Menschen die Kontrolle entziehen soll, weil der Mensch der unzuverlässigste Teil im Verkehr ist. Er wird müde, er ist abgelenkt, er reagiert zu langsam. Also übernimmt die Maschine. Sie bremst früher, lenkt präziser, sieht mehr. Wir geben Kontrolle ab, um sicherer zu sein.

Und dann kommt der Moment, den die Ingenieure fürchten. Die Situation, die das System nicht kennt. Die Baustelle mit den seltsamen Markierungen. Der plötzliche Wildwechsel. Der Unfall, den keine Trainingsdaten vorhersagen konnten. In diesem Moment muss das System die Kontrolle zurückgeben – an einen Menschen, der die letzten 45 Minuten nichts getan hat, als zuzusehen. Der vielleicht telefoniert hat. Der nicht mehr im „Fahrermodus“ ist. Der Sekunden braucht, um zu begreifen, was passiert.

Der Moment der Rückgabe ist der Moment der höchsten Gefahr. Wir haben die Kontrolle abgegeben, um sie zu behalten – und genau dann, wenn es darauf ankommt, haben wir sie verloren.

Die Mechanik des Paradoxons: Drei Fallen

Hinter alledem steckt kein böser Plan, keine Verschwörung der Hersteller. Es steckt etwas Einfacheres dahinter: eine falsche Annahme über die Welt. Die Annahme, dass Kontrolle etwas ist, das man delegieren kann, ohne es zu verlieren.

Die Philosophin Chiara Andreotti von der London School of Economics hat das am Beispiel des Smart Homes analysiert. Sie zeigt, wie sehr unsere Vorstellung vom vernetzten Zuhause aus der Kybernetik stammt – jener Wissenschaft der 1940er Jahre, die Regelkreise und Rückkopplungen erforschte . Das Haus als „Kommando- und Kontrollzentrum“, das alle Daten sammelt, alle Fäden zieht, alles im Griff hat. Aber dieses Bild übersieht etwas Entscheidendes.

Drei Fallen sind es, die uns immer wieder erwischen:

Erstens: Die Abhängigkeit vom System. Wer Kontrolle delegiert, wird abhängig vom Funktionieren des Systems. Das ist trivial, aber die Konsequenzen sind es nicht. Wenn du dein Thermostat selbst einstellst, kannst du es immer einstellen. Wenn du es per App steuerst, kannst du es nur einstellen, wenn die App läuft, das WLAN funktioniert, der Server antwortet und das Update keine neuen Fehler gebracht hat. Du hast gewonnen: Du kannst die Temperatur jetzt auch vom Flughafen aus regeln. Du hast verloren: Du kannst sie manchmal gar nicht regeln.

Zweitens: Die Intransparenz der Entscheidung. Bei TikTok weißt du nicht, warum dir ein Video gezeigt wird. Du siehst nur das Ergebnis, nicht die Logik. Und weil du die Logik nicht kennst, kannst du sie auch nicht korrigieren. Du kannst nicht sagen: „Zeig mir weniger Empörung, mehr Katzen.“ Du kannst nur weiterscrollen oder die App schließen. Aber schließen willst du nicht, weil ja vielleicht noch was Kommt. Das System hat dich im Regelkreis, nicht du es.

Drittens: Die kritische Lücke. Das ist die Hand-off-Problematik beim autonomen Fahren. Die Lücke zwischen dem Moment, in dem das System aufgibt, und dem Moment, in dem der Mensch übernimmt. In dieser Lücke passieren die Unfälle. Und je komplexer die Systeme werden, desto größer wird die Lücke – weil der Mensch immer weniger Übung hat, immer weniger im Loop ist, immer weniger versteht, was das System eigentlich tut.

Was bleibt? Die Kunst, nicht alles zu automatisieren

Ich sitze im Dunkeln, das Smartphone in der Hand, die App spinnt. Draußen brennt das Licht noch immer. Ich könnte jetzt aufstehen, in den Keller gehen, den Router neustarten, warten, bis alles hochgefahren ist, die App neu starten, das Licht ausschalten. Oder ich könnte einfach die Glühbirne rausschrauben. Die ist dumm. Die gehorcht.

Natürlich ist das keine Lösung. Ich will nicht zurück ins Mittelalter, ich will nicht auf Technik verzichten. Aber ich will verstehen, was ich tue, wenn ich sie einlasse. Jedes smarte Gerät ist ein Handel: Du gibst Kontrolle ab, um Kontrolle zu gewinnen. Die Frage ist nur: Ist der Handel fair? Bekommst du genug zurück für das, was du weggibst?

In den Akten des Deutschen Museums in München liegt ein Brief, den ein Ingenieur 1953 an seinen Sohn schrieb. Es geht um die ersten Automatikgetriebe, die damals aufkamen. Der Vater schreibt: „Du kannst jetzt fahren, ohne zu schalten. Aber vergiss nicht: Irgendwann musst du es doch. Und dann ist der Hebel nicht da, wo du ihn suchst.“

Ich finde, dieser Satz sagt alles über unser Verhältnis zur Technik. Wir können delegieren, automatisieren, optimieren. Aber wir können die Verantwortung nicht delegieren. Irgendwann kommt der Moment, in dem der Hebel nicht da ist, wo wir ihn suchen. Dann sitzen wir im Dunkeln – und fragen uns, wer eigentlich wen kontrolliert.

Das ist das Paradoxon: Wir bauen Maschinen, die uns dienen. Und am Ende merken wir, dass wir diejenigen sind, die sich anpassen müssen.