Essay
8 Min. Lesezeit

Der unsichtbare Beobachter

Persönliche Technologie richtet ihre Sinne nach außen. Wenn meine Brille andere beobachtet, geht es nicht nur um Privatsphäre, sondern darum, wer wirklich anwesend ist.

Mikkel Krogsholm står med mørke briller i en monumental betonhal, mens en varm figur anes i glassets refleksion.

Ich besitze selbst eine Meta-Brille mit Kamera. Ich bin froh, sie zu haben.

Mit ihr kann ich Fotos und Videos auf eine Weise aufnehmen, die mir früher nicht möglich war. Die Kamera zeigt in dieselbe Richtung wie mein Blick. Ich muss nicht erst das Telefon hervorholen, es zwischen mich und die Welt halten und den Augenblick durch einen Bildschirm betrachten. Das ist ein echter menschlicher Gewinn.

Deshalb erkenne ich mich in der eindeutigsten Kritik an KI-Brillen nur schwer wieder. Wenn sie ausschließlich als Überwachungs- oder Verletzungsbrillen bezeichnet werden, verschwindet der menschliche Gewinn. Die Kamera ist nicht nur ein Werkzeug, um andere heimlich zu filmen. Sie ist auch eine neue Art, die Welt zu sehen, sich an sie zu erinnern und sie zu teilen.

Aber die Kamera ist nicht auf mich gerichtet.

Sie ist auf alle anderen gerichtet.

Hier verändert sich etwas Wichtiges. Wir haben uns an persönliche Technologie gewöhnt, die ihren Besitzer kennenlernt. Das Telefon verfolgt meinen Standort. Die Uhr misst meinen Körper. Der Computer lernt meine Gewohnheiten, und der Assistent liest meine Nachrichten. Ich kann über die Datensammlung besorgt sein, doch das Verhältnis ist wenigstens erkennbar: Ich wähle das Produkt, erhalte den Nutzen und gebe Daten über mich selbst ab.

Wenn die Technologie ins Gesicht wandert und Augen und Ohren bekommt, richtet sie sich nach außen. Nun werden andere Menschen Teil des Inputs des Produkts. Sie haben die Brille nicht gekauft, den Bedingungen nicht zugestimmt und erhalten nicht den Komfort, den sie ermöglichen.

Vielleicht bin ich bereit, mich von meinem Smartphone verfolgen zu lassen. Aber bin ich auch bereit, mich vom Smartphone meines Nachbarn verfolgen zu lassen?

Die Brille ohne Kamera

Meta hat gerade Ray-Ban Meta Audio vorgestellt, eine neue Version der KI-Brille des Unternehmens ohne Kamera. Das wirkt wie eine direkte Antwort auf die Kritik an der Kameraversion. Keine Linse, kein heimliches Video.

Dennoch verschwindet die Frage nicht. Die Brille hat weiterhin Mikrofone und kann Ton aufnehmen. Laut Reuters gibt sie den Menschen in der Umgebung des Trägers dabei kein deutliches Signal. Die Kameraversion blinkt während einer Aufnahme. Das neue Modell sammelt weniger Arten von Sinneseindrücken und kann zugleich verdeckter sein.

Das zeigt, dass sich der Konflikt nicht nur um die Kamera dreht. Es geht darum, ob Menschen die Situation lesen können, in der sie sich befinden.

Wir können nicht bestimmen, welchen Menschen wir draußen in der Welt begegnen. Ein Fremder darf im Zug neben uns stehen und einen Teil unseres Gesprächs hören. Ein Gast am Nachbartisch kann sehen, mit wem wir zusammen sind. Wir hatten nie die Kontrolle über all die Augen und Ohren, an denen wir vorbeikommen.

Aber normalerweise können wir sie sehen.

Wir können die Stimme senken, wenn jemand näher kommt. Wir können mit einem vertraulichen Satz warten, bis der Kellner gegangen ist. Wir können ein anderes Thema wählen, wenn ein Kind den Raum betritt. Die sichtbare Anwesenheit gibt uns keine Kontrolle über andere Menschen, aber sie ermöglicht uns, die soziale Situation zu verstehen und in ihr zu handeln.

Die KI-Brille schafft eine neue Unklarheit. Ich kann den Menschen vor mir sehen, aber nicht unbedingt all die Systeme, die durch seine Ausrüstung sehen und hören. Das Gespräch sieht aus wie ein Gespräch zwischen zwei Menschen. Technisch kann ein Dritter dabei sein.

Es ist, als spräche man mit jemandem, der heimlich eine andere Person mithören lässt. Das Problem besteht nicht darin, dass ein Dritter das Gespräch unter keinen Umständen hören darf. Das Problem besteht darin, dass die Situation sich als etwas anderes ausgibt, als sie ist.

Der sichtbare Turm

Der französische Philosoph Michel Foucault nutzte Jeremy Benthams Panoptikum als Bild für die moderne Überwachung. Das Gebäude war als kreisförmiges Gefängnis mit einem Wachturm in der Mitte gedacht. Vom Turm aus konnte ein Wächter die Gefangenen in ihren Zellen sehen. Die Gefangenen konnten den Turm sehen, aber nicht feststellen, ob der Wächter sie tatsächlich beobachtete.

Entscheidend war daher nicht, dass alle ständig überwacht wurden. Entscheidend war, dass sie wussten, es könne geschehen. Wie Foucault es formulierte, sollte die Macht sichtbar, aber nicht überprüfbar sein. Der Turm war sichtbar. Der Blick war verborgen.

Die Unsicherheit verlagerte die Macht in den Überwachten selbst. Wenn der Gefangene nie wissen konnte, ob der Wächter hinsah, musste er sich so verhalten, als sei es immer der Fall.

Eine KI-Brille ist selbstverständlich kein Gefängnis, und ein Mensch mit einer Kamera ist kein Gefängniswärter. Foucaults Gedanke bezog sich auf institutionelle Macht, Disziplin und Menschen, die die Situation nicht verlassen konnten. Dieser Unterschied darf nicht eingeebnet werden, nur um die Metapher dramatischer zu machen.

Doch das Panoptikum zeigt die Bedeutung der Sichtbarkeit. Der Gefangene konnte den Turm sehen. Zumindest kannte er die Bedingung: Von hier aus kann ich beobachtet werden.

Bei körpernaher Technologie kann der Turm selbst unsichtbar werden. Das Mikrofon sieht aus wie eine gewöhnliche Brille. Die Kamera kann in ein Brillengestell oder einen Kopfhörer wandern. Die KI, die die Sinneseindrücke interpretiert, besitzt überhaupt keine körperliche Form, die wir lesen könnten.

Foucault beschrieb einen unsichtbaren Blick von einem sichtbaren Beobachtungsposten. Wir sind dabei, den unsichtbaren Beobachtungsposten zu bauen.

Das erzeugt nicht unbedingt dieselbe Selbstdisziplin. Im Gegenteil: Wir können uns völlig natürlich verhalten, weil wir nicht wissen, dass eine andere Form der Beobachtung anwesend ist. Wir verlieren unsere Freiheit nicht, weil wir uns überwacht fühlen. Wir verlieren die Möglichkeit, unser Verhalten zu wählen, weil die Situation vor uns verborgen ist.

Von der Selbstvermessung zur Vermessung der Umgebung

Privatsphäre bei Verbrauchertechnologie wurde lange als Vereinbarung zwischen Nutzer und Produkt behandelt. Welche Daten sammelt mein Telefon? Wie lange speichert das Unternehmen sie? Kann ich die Funktion abschalten? Habe ich zugestimmt?

Diese Fragen sind weiterhin notwendig. Aber sie reichen nicht mehr aus.

Wenn ein Produkt nach außen wahrnimmt, wird die Entscheidung des Besitzers zu einer Bedingung für alle Menschen um ihn herum. Ich kann meinem Gerät erlauben zuzuhören, doch die Worte im Raum gehören nicht nur mir. Ich kann meiner KI erlauben, sich an mein Leben zu erinnern, doch andere Menschen kommen in meinen Erinnerungen vor. Ich kann der Analyse meiner Bilder zustimmen, doch die Gesichter darauf haben nicht unbedingt dasselbe akzeptiert.

Meine Entscheidung über Privatsphäre endet damit nicht mehr bei mir. Mein Komfort wird durch Daten über Menschen ermöglicht, die selbst keine Nutzer sind.

Das endet nicht bei Brillen. Neue KI-Funktionen für die Apple Watch wurden als Möglichkeit beschrieben, Gespräche zusammenzufassen und ihre letzten Sekunden wieder hervorzuholen. Andere kleine Aufnahmegeräte können bereits Besprechungen transkribieren und ein persönliches Gedächtnis für ihren Träger aufbauen. Jede Funktion kann nützlich sein. Gemeinsam weisen sie auf eine Welt hin, in der der persönliche Computer nicht nur seinen Besitzer kennt. Er lernt auch alle Menschen kennen, denen der Besitzer begegnet.

In Als die Benutzeroberfläche optional wurde schrieb ich über Technologie, die in den Hintergrund tritt, weil KI unsere Absichten direkt in Handlungen übersetzen kann. Das ist oft ein Fortschritt. Wir müssen unsere Arbeit nicht mehr nach den Schaltflächen und Formularen der Maschine ausrichten.

Doch wenn die Benutzeroberfläche verschwindet, verschwinden auch einige der Zeichen, die der Umgebung verraten, was die Maschine tut. Ein vor das Gesicht gehaltenes Telefon ist umständlich, aber sozial lesbar. Man kann sehen, dass ein Bild aufgenommen wird. Die Brille kann dieselbe Funktion ohne Unterbrechung bieten — und ohne das Zeichen.

Für den Nutzer ist es reibungslos. Für den anderen ist es undurchsichtig.

Eine Benutzeroberfläche für jene, die das Produkt nicht gekauft haben

Die Lösung kann nicht darin bestehen, dass jeder Sensor immer alle Menschen in seiner Nähe unterbricht und um Zustimmung bittet. Das würde den Alltag unmöglich machen, und wir verlangen auch nicht für jedes Foto, jeden menschlichen Blick oder jedes Gespräch, das jemand mithören könnte, eine Erlaubnis.

Es gibt auch nicht das eine Signal, das das Problem löst. Ein kleines Licht kann übersehen, verdeckt oder missverstanden werden. Ein Ton kann stören und sagt nicht unbedingt, ob die Aufnahme gespeichert, lokal analysiert oder weitergesendet wird. Ein Symbol kann falsche Sicherheit erzeugen, wenn niemand weiß, was es bedeutet.

Doch unzureichende Signale sind kein Argument für gar keine Signale.

Wir brauchen eine soziale Benutzeroberfläche für die Menschen, denen das Produkt nicht gehört. Nicht unbedingt einen Bildschirm oder eine Warnung, sondern eine klare und gemeinsame Sprache dafür, wann die Technologie wahrnimmt, aufzeichnet, erinnert und teilt. Sie muss die zusätzliche Anwesenheit lesbar machen, ohne den Komfort zu zerstören, der die Technologie wertvoll macht.

Es geht nicht nur um Privatsphäre im juristischen Sinn. Es geht darum, dass eine Begegnung wahrhaftig sein muss.

Wenn zwei Menschen miteinander sprechen, sollten sie wissen können, ob sie tatsächlich zu zweit sind. Wenn eine Maschine mithört, das Gespräch interpretiert und später darauf reagieren kann, nimmt sie eine soziale Position ein, selbst wenn sie kein bewusstes Wesen ist. Sie ist mit im Raum.

In Als die Geschichten Hände bekamen schrieb ich über KI-Systeme, die nicht nur von der Welt erzählen, sondern beginnen, in ihr zu handeln. Hier kommt dieselbe Bewegung von der anderen Seite. Bevor die Maschine auf unsere Umgebung einwirken kann, muss sie sie wahrnehmen. Deshalb wird die Frage, wer anwesend ist, größer als die Frage, wer das Produkt trägt.

Ich will meine Meta-Brille nicht loswerden. Ich möchte weiterhin Fotos und Videos auf eine Weise aufnehmen können, die mir früher nicht möglich war. Technologie darf kleiner, leichter und stärker in unser Leben integriert werden.

Doch ihr Komfort sollte nicht davon abhängen, dass andere Menschen die Situation missverstehen, in der sie sich befinden.

Unsichtbare Technologie kann Fortschritt sein. Der unsichtbare Beobachter ist etwas anderes.


Quellen und weiterführende Lektüre