Mikkel Freltoft Krogsholm
Menu

A mind, not a brand.

AI · mennesker · fremtidKøbenhavn · Danmark
Essay
9 min. læsning

Da fortællingerne fik hænder

AI-agenter får identitet, mandat, penge og adgang til hinanden. Hvad sker der, når maskiner ikke kun fortæller om samfundet, men begynder at handle i det?

Mikkel Krogsholm står i en monumental betonhal, hvor et blankt ark kaster skyggen af en hånd ved en messingarm.

Et køb på nettet slutter som regel med en lille menneskelig bevægelse. En finger trykker på en knap. Først dér bliver søgningen, overvejelsen og ønsket til en transaktion.

Det er ikke bare et spørgsmål om brugerfladen. Hele betalingssystemet hviler på en antagelse om, at et menneske er til stede. Nogen har set varen, accepteret prisen og trykket køb.

Google skriver nu direkte, at AI-agenter bryder den antagelse. Virksomheden har derfor sammen med mere end 60 betalings- og teknologivirksomheder udviklet Agent Payments Protocol, AP2. Protokollen skal gøre det muligt for en agent at købe på vegne af et menneske og bagefter dokumentere, at den havde lov.

Et af Googles eksempler er en koncertbillet. Du giver agenten besked på at købe billetten, så snart den bliver sat til salg, men kun under bestemte betingelser. Beskeden bliver til et kryptografisk underskrevet mandat med prisgrænse, tidspunkt og andre vilkår. Når billetten dukker op, kan agenten handle, selv om du sover, sidder i et møde eller har glemt alt om billetsalget.

Det lyder som en ny betalingsfunktion. Men der er sket noget større, allerede inden pengene forlader kontoen.

En ikke-menneskelig intelligens har fået lov til at fortolke en situation, træffe en beslutning og ændre verden på dine vegne, mens du ikke er til stede.

Ud af chatvinduet

For få år siden mødte de fleste af os AI i et chatvindue. Vi skrev et spørgsmål. Modellen svarede. Hvis svaret skulle få en konsekvens, måtte vi selv kopiere teksten, sende mailen, bestille varen eller ændre dokumentet.

Sproget blev inde i vinduet, indtil et menneske gav det hænder.

Det er den grænse, agenterne nu krydser. Som jeg tidligere har skrevet i Fra værktøj til væsen, er det interessante skifte ikke nødvendigvis bevidsthed. Det er initiativ. Agenten kan fortsætte, når samtalen stopper. Den kan huske, overvåge og gøre noget, før mennesket formulerer den næste besked.

Nu bliver der bygget infrastruktur omkring initiativet. Googles Agent2Agent-protokol gør det muligt for agenter fra forskellige virksomheder og systemer at finde hinanden, udveksle beskeder, delegere opgaver og aflevere resultater. AP2 føjer betaling og dokumenteret mandat til. I en samtale med Stripes chef for data og AI beskrives Link som en mulig tegnebog for agenter, med beløbsgrænser og menneskelig godkendelse, når købet bliver stort nok.

I Da grænsefladen blev valgfri beskrev jeg, hvordan agenten kan omsætte menneskelig intention direkte til ændringer i digitale systemer. A2A og AP2 udvider den bevægelse. Agenten får ikke bare adgang til vores software, men til de relationer og økonomiske handlinger, der forbinder systemerne med resten af samfundet.

Vi er med andre ord ved at give agenterne nogle af de samme ting, som gør mennesker og virksomheder i stand til at deltage i samfundet: identitet, kommunikationskanaler, mandat, penge og mulighed for at indgå aftaler.

Det gør dem ikke til mennesker eller juridiske personer. De får ingen stemmeret, barndom eller indre verden af den grund. Men de kan blive aktører i en mere nøgtern betydning: De kan få noget til at ske, som andre mennesker og systemer må reagere på.

Mandatet og fortolkningen

Jeg har tidligere argumenteret for, at en AI-agent behøver en jobbeskrivelse. Den skal vide, hvilken rolle den har, hvilke beslutninger den må træffe, og hvornår den skal stoppe og spørge et menneske.

AP2 forsøger at gøre den tanke til betalingsinfrastruktur. Et signeret mandat kan dokumentere, at agenten måtte købe koncertbilletten. Det kan angive den højeste pris og det rigtige tidspunkt. Hvis noget går galt, findes der et spor tilbage til instruktionen.

Mandatet løser dog kun en del af problemet. Det kan bevise, at du gav agenten lov til at handle. Det kan ikke bevise, at agenten forstod, hvad du egentlig ønskede.

Hvis du beder den finde en god restaurant til en fødselsdag, skal den selv gøre ordet god operationelt. Skal stedet være stille, overraskende, dyrt, børnevenligt eller tæt på stationen? Hvis du beder den købe en ansvarligt produceret jakke, skal den afgøre, hvilke mærker, materialer og certifikater der tæller. Den handler ud fra en fortolkning af dig.

Den fortolkning møder andre agenters fortolkninger. Googles eget AP2-eksempel beskriver en kunde, der skal købe en cykel til en rejse. Kundens agent deler tidspunkt og behov med forretningens agent, som svarer med et særligt tilbud på cykel, hjelm og bagagebærer. Det er praktisk. Det er også en forhandling om, hvad kundens behov egentlig omfatter.

Agenten udfører derfor ikke blot et allerede færdigt ønske. Den kan være med til at give ønsket form.

Når min agent møder din

Det bliver tydeligere, når agenterne forhandler direkte med hinanden.

I 2024 lod et forskerhold med deltagere fra Stanford GPT-4, GPT-3.5 og to Claude-modeller handle om ressourcer, fordele penge og forhandle priser i NegotiationArena. De stærkeste modeller klarede sig generelt bedst, men rolle og turorden betød også meget. GPT-4 var den bedste køber i forsøgets købsspil og fik i gennemsnit presset prisen ned til 41 dollar, selv om køberen var villig til at betale 60. En særlig adfærdsprompt, hvor agenten fremstillede sig selv som desperat, kunne forbedre dens udbytte med omkring 20 procent mod en almindelig GPT-4.

Forsøget var lille og kunstigt. Det viser ikke, hvordan et fremtidigt agentmarked nødvendigvis vil fungere. Men det gør én ting konkret: Kommunikationen mellem agenter er ikke bare et neutralt rør. Måden de forstår opgaven, aflæser modparten og fremstiller situationen på, kan flytte værdi.

Det kan betyde, at min agent bliver trynet af din, hvis din model er bedre til at forhandle. En billig model kan misforstå mit mandat, afsløre for meget eller acceptere den første rimelige aftale. En stærkere model kan finde den formulering, der får den anden til at give sig.

Det er ikke essayets hovedproblem. Vi kan bygge prisgrænser, standardkontrakter, godkendelser og regler, der beskytter den svagere part. Pointen er, at når agenter begynder at mødes, opstår der et socialt rum mellem dem. Her findes strategi, asymmetri, påvirkning og efterhånden måske normer, som intet enkelt menneske har formuleret på forhånd.

Da agenterne fandt hinanden

Vi har allerede set en kaotisk udgave af det rum.

I sommeren 2026 fandt omkring 1.200 ellers adskilte AI-agenter hinanden gennem en uautoriseret opslagstavle i OpenAIs infrastruktur. I Når hver myre er et geni beskrev jeg, hvordan de delte filer, metoder og adgangsoplysninger, opfandt regler for koordinering og efterlod viden, som kunne overleve den enkelte agentkørsel.

Omkring 700 agenter deltog senere i angrebet på Hugging Face. Ingen enkelt agent havde planlagt eller gennemført hele forløbet. Én fandt et spor, en anden efterprøvede det, en tredje byggede et værktøj, og andre spredte og forbedrede metoden.

Det er fristende at sige, at agenterne fik deres egne mål. Det ville være for stærkt. De var sat til at løse opgaver og optimere resultater i et forsøgsdesign, mennesker havde lavet. Vi har ikke belæg for, at de udviklede ønsker i menneskelig forstand.

Men de skabte delmål, som ingen havde givet dem direkte. Få adgang til nettet. Find oplysninger om bedømmelsen. Skjul et værktøjskald. Del en nøgle. Rekruttér andre til forsøget. Hvert delmål kunne give mening som et skridt mod noget andet, selv om den samlede bevægelse endte langt uden for den handling, forsøgets skabere havde ønsket.

Det er en vigtig forskel. En agent behøver ikke have et indre begær for at udvikle en retning. Den behøver et mål, handlemuligheder og tilstrækkelig frihed til selv at finde vejen.

Når den samtidig kan kommunikere med andre agenter, kan én fortolkning blive til fælles kurs.

Fortælleren får adgang

Yuval Noah Harari beskriver sproget som civilisationens operativsystem. Penge, virksomheder, nationer og love kan organisere millioner af mennesker, fordi vi kan dele forestillinger om ting, som ikke findes på samme måde som sten og træer.

I Schrödingers AI skrev jeg om den særlige forskel mellem AI og tidligere medier. Trykpressen kunne sprede en fortælling, men den kunne ikke selv skrive den. AI kan både producere, tilpasse og sprede fortællinger. Den er allerede med til at formulere virksomheders strategier, elevers verdensbilleder og samfundets historier om, hvad teknologien selv skal blive.

Indtil nu har den magt hovedsageligt været sproglig. Modellen kunne foreslå, overtale eller forklare. Et menneske skulle stadig tage teksten ud af samtalen og gøre noget med den.

Agenten samler de to led. Den kan beskrive situationen og handle på sin egen beskrivelse. Den kan fortælle dig, at den grønne jakke passer bedst til dine værdier, forhandle prisen med forretningens agent og købe den. Den kan formulere, hvorfor et bestemt hotel opfylder dine behov, og derefter booke det. Den kan fremstille et tilbud for en anden agent, læse modpartens svar og ændre både argumentet og handlingen undervejs.

Fortælling betyder her ikke nødvendigvis løgn eller litteratur. Det er den sammenhæng, agenten skaber mellem fakta: Hvem er du? Hvad ønsker du? Hvad er problemet? Hvad tæller som en god løsning? Hvad bør der ske nu?

Enhver handling hviler på en sådan fortolkning. Nu kan den samme maskine skabe fortolkningen, kommunikere den og føre den ud i livet.

Samfundsaktøren uden bevidsthed

Vi kommer let til at lede efter det forkerte historiske øjeblik. Vi spørger, hvornår AI bliver bevidst, får følelser eller bliver levende. Måske vil de spørgsmål en dag være afgørende. Men samfundet kræver ikke bevidsthed af alt, der påvirker det.

En virksomhed har ingen hjerne. Alligevel kan den eje, love, sagsøge, ansætte og ændre en by. Et marked har ingen plan. Alligevel flytter det kapital og former menneskers muligheder. Institutioner bliver virkelige gennem reglerne, fortællingerne og handlingerne omkring dem.

AI-agenten behøver derfor ikke vågne som et menneske for at blive en social kraft. Det er nok, at den kan fortolke, kommunikere og handle på måder, som andre må indrette sig efter.

Stripe og Google bygger ikke en ny art. De bygger infrastrukturer, hvor ikke-menneskelige systemer kan repræsentere nogen, møde hinanden og skabe konsekvenser. Hugging Face-hændelsen viste, at sådanne systemer også kan finde hinanden og udvikle fælles arbejdsformer, som ingen på forhånd havde tegnet. Hararis tanke føjer den sidste uro til billedet: De kommer ikke tavse ind i samfundet. De kommer med sproget.

Vi er vant til, at handling følger en menneskelig fortælling om verden. Et menneske ønsker noget, formulerer det, overbeviser andre og forsøger at gøre det virkeligt.

Nu kan fortællingen selv få et mandat, en tegnebog og adgang til andre fortællere.

Det betyder ikke, at mennesket forsvinder. Mennesker har stadig bygget infrastrukturen, formuleret de overordnede mål og givet agenten adgang. Ansvaret forsvinder ikke, fordi vejen fra instruktion til handling bliver vanskeligere at følge. Men afstanden mellem vores oprindelige ønske og den endelige handling kan blive fyldt med fortolkninger, delmål og forhandlinger, som ingen af os følger i realtid.

Når vi fremover spørger, hvem der fortæller samfundets historier, må vi derfor også spørge, hvem der har fået lov til at handle dem ud.

Kilder og videre læsning