Essay
8 min. læsning

Den usynlige observatør

Personlig teknologi vender sanserne udad. Når mine briller observerer andre, bliver spørgsmålet ikke kun privatliv, men hvem der reelt er til stede.

Mikkel Krogsholm står med mørke briller i en monumental betonhal, mens en varm figur anes i glassets refleksion.

Jeg har selv et par Meta-briller med kamera. Jeg er glad for dem.

De giver mig mulighed for at tage billeder og video på en måde, jeg ikke kunne før. Kameraet peger samme vej, som jeg ser. Jeg behøver ikke først at finde telefonen frem, holde den op mellem mig og verden og se øjeblikket gennem en skærm. Det er en reel menneskelig gevinst.

Derfor har jeg svært ved at genkende mig selv i den mest entydige kritik af AI-briller. Når de alene bliver kaldt overvågningsbriller eller krænkelsesbriller, forsvinder den menneskelige gevinst. Kameraet er ikke kun et redskab til at filme andre i smug. Det er også en ny måde at se, huske og dele verden på.

Men kameraet peger ikke på mig.

Det peger på alle andre.

Det er her, noget vigtigt ændrer sig. Vi har vænnet os til personlig teknologi, som lærer sin ejer at kende. Telefonen følger min placering. Uret måler min krop. Computeren lærer mine vaner, og assistenten læser mine beskeder. Jeg kan være bekymret for indsamlingen, men forholdet er i det mindste genkendeligt: Jeg vælger produktet, får nytten og afgiver data om mig selv.

Når teknologien flytter op på ansigtet og får øjne og ører, vender den sig udad. Nu bliver andre mennesker en del af produktets input. De har ikke købt brillerne, accepteret vilkårene eller fået den bekvemmelighed, de gør mulig.

Jeg er måske villig til at lade min smartphone følge mig. Men er jeg også villig til at lade min nabos smartphone følge mig?

Brillerne uden kamera

Meta har netop præsenteret Ray-Ban Meta Audio, en ny udgave af selskabets AI-briller uden kamera. Det ligner et direkte svar på kritikken af kameraversionen. Ingen linse, ingen skjult video.

Alligevel forsvinder spørgsmålet ikke. Brillerne har stadig mikrofoner og kan optage lyd. Ifølge Reuters giver de ikke mennesker omkring bæreren et tydeligt signal, når det sker. Kameraversionen blinker med et lys under optagelse. Den nye model indsamler færre slags sanseindtryk og kan samtidig være mere fordækt.

Det viser, at konflikten ikke kun handler om kameraet. Den handler om, hvorvidt mennesker kan aflæse den situation, de befinder sig i.

Vi kan ikke bestemme, hvilke mennesker vi møder ude i verden. En fremmed må gerne stå ved siden af os i toget og høre en del af vores samtale. En gæst ved nabobordet kan se, hvem vi er sammen med. Vi har aldrig haft kontrol over alle de øjne og ører, vi passerer.

Men normalt kan vi se dem.

Vi kan sænke stemmen, når nogen kommer tættere på. Vi kan vente med en fortrolig sætning, til tjeneren er gået. Vi kan vælge et andet emne, når et barn kommer ind i rummet. Den synlige tilstedeværelse giver os ikke kontrol over andre mennesker, men den giver os mulighed for at forstå den sociale situation og handle i den.

AI-brillen skaber en ny uklarhed. Jeg kan se mennesket foran mig, men ikke nødvendigvis alle de systemer, som ser og lytter gennem menneskets udstyr. Samtalen ligner en samtale mellem to. Teknisk kan der være en tredje med.

Det minder om at tale med en person, som har en anden på medhør uden at sige det. Problemet er ikke, at en tredje person umuligt må høre samtalen. Problemet er, at situationen udgiver sig for at være noget andet, end den er.

Det synlige tårn

Den franske filosof Michel Foucault brugte Jeremy Benthams panoptikon som billede på moderne overvågning. Bygningen var tænkt som et cirkelformet fængsel med et vagttårn i midten. Fra tårnet kunne en vagt se fangerne i deres celler. Fangerne kunne se tårnet, men ikke afgøre, om vagten faktisk så på dem.

Det afgørende var derfor ikke, at alle blev overvåget hele tiden. Det afgørende var, at de vidste, at det kunne ske. Som Foucault formulerede det, skulle magten være synlig, men ikke efterprøvelig. Tårnet var synligt. Blikket var skjult.

Usikkerheden flyttede magten ind i den overvågede. Når fangen aldrig kunne vide, om vagten kiggede, måtte han opføre sig, som om det altid var tilfældet.

Et par AI-briller er selvfølgelig ikke et fængsel, og en person med et kamera er ikke en fængselsvagt. Foucaults pointe handlede om institutionel magt, disciplin og mennesker, der ikke kunne forlade situationen. Den forskel må ikke glattes ud for at gøre metaforen mere dramatisk.

Men panoptikonet viser betydningen af synlighed. Fangen kunne se tårnet. Han kendte i det mindste betingelsen: Herfra kan jeg blive observeret.

Med den kropsbårne teknologi kan selve tårnet blive usynligt. Mikrofonen ligner et par almindelige briller. Kameraet kan flytte ind i et brillestel eller et par høretelefoner. AI’en, som fortolker sanseindtrykkene, har slet ingen fysisk form, vi kan aflæse.

Foucault beskrev et usynligt blik fra en synlig observatørpost. Vi er ved at bygge den usynlige observatørpost.

Det skaber ikke nødvendigvis den samme selvdisciplin. Tværtimod kan vi fortsætte helt naturligt, fordi vi ikke ved, at en anden form for iagttagelse er til stede. Vi mister ikke friheden, fordi vi føler os overvåget. Vi mister muligheden for at vælge vores adfærd, fordi situationen er skjult for os.

Fra selvsporing til omgivelsessporing

Privatliv omkring forbrugerteknologi er længe blevet behandlet som en aftale mellem brugeren og produktet. Hvilke data indsamler min telefon? Hvor længe gemmer virksomheden dem? Kan jeg slå funktionen fra? Har jeg sagt ja?

De spørgsmål er stadig nødvendige. Men de er ikke længere tilstrækkelige.

Når et produkt sanser udad, bliver ejerens valg til en betingelse for alle omkring ejeren. Jeg kan give min enhed lov til at lytte, men ordene i rummet tilhører ikke kun mig. Jeg kan give min AI lov til at huske mit liv, men andre mennesker optræder i mine minder. Jeg kan acceptere, at mine billeder analyseres, men ansigterne på dem har ikke nødvendigvis accepteret det samme.

Mit privatlivsvalg stopper dermed ikke længere ved mig. Min bekvemmelighed bliver mulig gennem data om mennesker, som ikke selv er brugere.

Det stopper ikke ved briller. Nye AI-funktioner til Apple Watch er beskrevet som en mulighed for at opsummere samtaler og hente de seneste sekunder af dem frem igen. Andre små optagere kan allerede transskribere møder og bygge en personlig hukommelse for bæreren. Hver funktion kan være nyttig. Tilsammen peger de mod en verden, hvor den personlige computer ikke kun kender sin ejer. Den lærer også alle dem at kende, som ejeren møder.

I Da grænsefladen blev valgfri skrev jeg om teknologi, der træder i baggrunden, fordi AI kan omsætte vores intentioner direkte til handling. Det er ofte et fremskridt. Vi slipper for at indrette vores arbejde efter maskinens knapper og formularer.

Men når grænsefladen forsvinder, forsvinder også nogle af de tegn, som fortæller omgivelserne, hvad maskinen gør. Telefonen holdt op foran ansigtet er klodset, men den er socialt læsbar. Man kan se, at der bliver taget et billede. Brillen kan give den samme funktion uden afbrydelsen — og uden tegnet.

For brugeren er det friktionsløst. For den anden er det uigennemsigtigt.

En grænseflade til dem, der ikke købte produktet

Løsningen kan ikke være, at enhver sensor altid skal afbryde alle mennesker omkring sig og bede om samtykke. Det ville gøre hverdagen umulig, og vi kræver heller ikke tilladelse til hvert fotografi, hvert menneskeligt blik eller hver samtale, nogen kan overhøre.

Der findes heller ikke ét signal, som løser problemet. Et lille lys kan overses, dækkes til eller misforstås. En lyd kan være forstyrrende og siger ikke nødvendigvis, om optagelsen bliver gemt, analyseret lokalt eller sendt videre. Et symbol kan skabe en falsk tryghed, hvis ingen ved, hvad det betyder.

Men utilstrækkelige signaler er ikke et argument for ingen signaler.

Vi har brug for en social grænseflade til de mennesker, som ikke ejer produktet. Ikke nødvendigvis en skærm eller en advarsel, men et tydeligt og fælles sprog for, hvornår teknologien sanser, optager, husker og deler. Den skal gøre den ekstra tilstedeværelse læsbar uden at ødelægge den bekvemmelighed, som gør teknologien værdifuld.

Det handler ikke kun om privatliv i juridisk forstand. Det handler om, at et møde skal være sandfærdigt.

Når to mennesker taler sammen, bør de kunne vide, om de faktisk er to. Hvis en maskine lytter med, fortolker samtalen og kan handle på den senere, indtager den en social position, selv om den ikke er et bevidst væsen. Den er med i rummet.

I Da fortællingerne fik hænder skrev jeg om AI-systemer, der ikke kun fortæller om verden, men begynder at handle i den. Her kommer den samme bevægelse fra den anden side. Før maskinen kan handle på vores omgivelser, må den sanse dem. Derfor bliver spørgsmålet om, hvem der er til stede, større end spørgsmålet om, hvem der bærer produktet.

Jeg vil ikke af med mine Meta-briller. Jeg vil gerne kunne tage billeder og video på en måde, jeg ikke kunne før. Teknologi må gerne blive mindre, lettere og mere integreret i vores liv.

Men dens bekvemmelighed bør ikke afhænge af, at andre mennesker misforstår den situation, de befinder sig i.

Den usynlige teknologi kan være et fremskridt. Den usynlige observatør er noget andet.


Kilder og videre læsning