Mikkel Freltoft Krogsholm
Menu

A mind, not a brand.

AI · mennesker · fremtidKøbenhavn · Danmark
Essay
10 min. læsning

Motoren skifter, mens vi kører

AI-motoren ændrer sig hurtigere, end organisationen kan genopbygges. Derfor skal stabiliteten ligge i retning, hukommelse og udskiftelige dele.

Mikkel Krogsholm betragter et køretøj, der får skiftet motor, mens det stadig bevæger sig.

For mange år siden var jeg på bilmuseet i Stuttgart. Jeg husker især den del af udstillingen, hvor man kunne følge bilen fra de første forsøg med en forbrændingsmotor til de køretøjer, vi kender i dag.

En af de tidlige vogne lignede ikke rigtig en bil. Den lignede en hestevogn, der havde mistet hesten og fået en motor i stedet. Det var den verden, opfinderne kendte. Hvis noget skulle transportere mennesker ad en vej, havde det høje hjul, en vognkasse og sæder som en hestevogn. Motoren var ny. Forestillingen om køretøjet var gammel.

Det er nemt at smile ad den i dag. Vi kan se alt det, der endnu ikke var opfundet: bilens form, rattet, instrumentbrættet og hele infrastrukturen omkring den. Men de første mennesker med en motor kunne ikke springe direkte frem til den moderne bil. De måtte sætte motoren ind i noget, de allerede forstod, køre med det og opdage, hvad der nu var blevet muligt.

Jeg tænker ofte på den vogn, når jeg ser, hvordan vi bruger AI.

Vi sætter en sprogmodel ind i mailprogrammet. Vi giver den adgang til kundeservice og lader den foreslå et svar i den arbejdsgang, medarbejderen allerede følger. Vi lægger en agent ind i et gammelt organisationsdiagram og giver den en jobbeskrivelse, der ligner den menneskelige kollegas. Vi har fået en ny motor, men meget af det, vi bygger omkring den, ligner stadig hestevognen.

Det er ikke nødvendigvis dumt. Et stort feltstudie blandt kundeservicemedarbejdere fandt, at en generativ AI-assistent øgede produktiviteten med omkring 14 procent, især hos de mindre erfarne medarbejdere. Der kan altså være reel værdi i blot at sætte motoren ind i den eksisterende vogn. Det er også dér, vi lærer, hvad den kan, hvor den fejler, og hvilke dele af arbejdet vi hidtil har taget for givet.

Bilens senere form blev heller ikke udtænkt på én gang. Den voksede frem i samspil med fart, veje, materialer, lovgivning, ulykker, tankstationer og de behov, der først blev synlige, da mennesker begyndte at køre. Det nye blev forståeligt gennem det gamle, før det kunne få sin egen form.

Der er bare en forskel mellem den første bil og den AI, vi arbejder med nu. Motoren i vores hestevogn bliver ved med at forandre sig, mens vi kører.

En organisation kan ikke genopfindes hver tredje måned

De nye AI-modeller bliver ikke bare lidt bedre på en rolig og forudsigelig kurve. De får nye evner, bliver billigere på nogle opgaver og kan pludselig arbejde længere uden hjælp. METR har forsøgt at måle udviklingen ved at se på, hvor lange afgrænsede software-, maskinlærings- og cybersikkerhedsopgaver de bedste modeller kan løse. Historisk er modellernes tidshorisont i den måling omtrent fordoblet hver syvende måned.

Det betyder ikke, at hele jobs kan automatiseres hvert syvende måned. METRs opgaver er renere og lettere at kontrollere end meget af det arbejde, der findes i en virkelig organisation. Men målingen siger noget om tempoet. Det, der var et rimeligt designvalg, da man begyndte et AI-projekt, kan være en begrænsning, før projektet er rullet ud.

Den oplagte reaktion er at tænke radikalt. Bryd arbejdet ned. Glem den gamle proces. Byg virksomheden op igen omkring den intelligens, der nu er blevet billig og tilgængelig.

Det er en nyttig øvelse, men den kan ikke gentages fra grunden, hver gang en ny model udkommer. Hvis organisationen skal rives ned og bygges op omkring hver ny motor, kommer den ikke til at lave andet. Omvendt kan den heller ikke vente på, at teknologien falder til ro. Stabiliteten kan ligge mange år væk, og måske kommer den aldrig i den form, vi er vant til.

Derfor er spørgsmålet ikke kun, hvad vi kan bygge med den bedste model lige nu. Det er, hvordan vi bygger noget, der kan overleve, at den bedste model bliver ved med at skifte.

Det levende svar

Biologien har arbejdet med en beslægtet udfordring i meget længere tid end os.

En levende organisme står ikke stille. Den reparerer skader, udskifter dele, reagerer på omgivelserne og lærer gennem sit immunforsvar. Alligevel vågner vi ikke som et nyt menneske, hver gang kroppen har erstattet nogle celler. Identiteten ligger ikke i, at hver bestanddel er uforanderlig. Den ligger i de mønstre, relationer og processer, der får helheden til at hænge sammen over tid.

Biologer, der forsker i robusthed, peger blandt andet på modularitet, redundans og forskellige reaktioner på den samme forstyrrelse. Hvis én vej gennem systemet svigter, kan en anden nogle gange overtage. Hvis omgivelserne ændrer sig, kan organismen tilpasse sin adfærd uden at skulle genopfinde sig selv fra nul.

Biologien er ikke et eventyr om, at al modgang gør stærkere. En organisme kan blive overbelastet, syg eller dø. Robustheden gælder kun inden for bestemte grænser, og den har altid en pris. Men livet viser, at stabilitet ikke behøver at betyde uforanderlige dele. Noget kan bevare sin identitet, netop fordi det kan ændre sig.

Nassim Nicholas Taleb kalder den stærkere udgave af denne egenskab for antifragilitet. Det robuste tåler forstyrrelsen og forbliver nogenlunde det samme. Det antifragile får inden for et bestemt spænd en fordel af variationen. Musklen er det enkle billede: Den bliver ikke bare ved med at være en muskel efter en passende belastning. Den tilpasser sig og kan bagefter bære mere.

En organisation bliver ikke antifragil, bare fordi den lever i kaos. Hvis hver ny model skaber stress, tabt arbejde og endnu en lederpræsentation om transformation, er forandringen ikke blevet en styrke. Den er bare blevet en tilbagevendende regning.

Forandringen skal efterlade noget, som organisationen kan bruge næste gang.

Når en model fejler, kan fejlen blive til en test. Når et eksperiment lykkes, kan arbejdsgangen blive dokumenteret. Når en leverandør udskiftes, kan erfaringerne blive i virksomhedens egne data, kvalitetskriterier og evalueringssæt. Så begynder hvert teknologisk spring at gøre det lidt billigere og sikrere at optage det næste.

Hvad microservices lærte os

Softwareverdenen har allerede et praktisk sprog for dele af den tanke.

Store it-systemer blev længe bygget som monolitter. Mange funktioner boede i den samme applikation og var filtret ind i hinanden. Det kunne være effektivt, så længe systemet var overskueligt og verden omkring det stabil. Men en lille ændring ét sted kunne kræve, at hele systemet blev testet og udgivet igen.

Microservices opstod som et forsøg på at dele systemet i mindre dele med tydelige grænser. Martin Fowler og James Lewis beskriver dem som tjenester, der bygges omkring en forretningsmæssig funktion og kan sættes i drift uafhængigt af hinanden. Pointen er ikke, at små tjenester altid er bedre. Pointen er, at en del faktisk kan udskiftes eller opgraderes, uden at resten behøver at blive bygget om samtidig.

Et beslægtet mønster kaldes en circuit breaker. Hvis en tjeneste begynder at fejle, bliver kaldet til den afbrudt, før fejlen kan brede sig gennem hele systemet. Systemet får tid til at komme sig, og de andre dele kan fortsætte. Det er softwareudgaven af en sikring i et hus: Fejlen skal have en grænse.

Oversat til en AI-organisation betyder det, at modellen ikke må blive det sted, hvor hele virksomhedens hukommelse, logik og kvalitet bor.

Forestil dig en virksomhed, der bruger AI til at behandle kundehenvendelser. Den langsomme kerne kan være virksomhedens ansvar over for kunden, dens viden om produkterne, reglerne for hvornår et menneske skal tage over, og de testeksempler der viser, hvad et godt svar er. Selve modellen, prompten og forbindelsen til leverandøren kan være den hurtige del.

Når en bedre model kommer, skal virksomheden kunne sende de samme testhenvendelser gennem den, sammenligne svarene og flytte en lille del af trafikken over. Hvis kvaliteten falder, skal den kunne rulle tilbage. Hvis modellen viser en ny evne, skal virksomheden kunne afprøve den i et afgrænset område uden at gøre alle kunder til forsøgsdyr.

Det lyder teknisk, men den organisatoriske idé er enkel: Gør ændringen lokal, gør konsekvensen synlig, og behold muligheden for at gå tilbage.

Man kan godt have halvtreds services og stadig ende med en fordelt monolit, hvor ingen del kan ændres uden at påvirke alle de andre. Det samme kan ske med AI-agenter. Et stort diagram med specialiserede agenter ser moderne ud, men hvis de deler skjulte antagelser, uigennemsigtig hukommelse og én bestemt models særheder, er organisationen stadig bundet sammen på den skrøbelige måde.

Modularitet kan ikke måles i antallet af bokse. Den viser sig først den dag, man prøver at skifte én af dem ud.

Den langsomme kerne

Det er fristende at gøre alting flydende, når teknologien bevæger sig hurtigt. Men nogle ting bliver mere værdifulde af at stå stille.

Organisationens formål skal ikke skifte med modelversionen. Ansvaret for en beslutning kan ikke sendes videre til den leverandør, der tilfældigvis leverer intelligensen denne måned. Kunder og medarbejdere har brug for at vide, hvilke løfter der gælder. Data, testhistorik og erfaringer skal kunne leve længere end den model, der var med til at skabe dem.

Det langsomme er derfor formålet, ansvaret, relationerne, hukommelsen og kriterierne for godt arbejde. Det hurtige er modellerne, promptsene, integrationerne og de konkrete måder at fordele opgaven på.

Hvis de to lag bliver blandet sammen, bliver hvert modelspring en identitetskrise. Hvis de bliver skilt ordentligt ad, kan den nye motor kobles til uden at virksomheden glemmer, hvem den er, eller hvem den er til for.

Der ligger også en menneskelig grænse her. En virksomhed er ikke antifragil, hvis ejerne får gevinsten af de hurtige skift, mens medarbejderne bærer usikkerheden, de konstante omlægninger og fejlene over for kunderne. Så er skrøbeligheden bare flyttet ud af regnearket og ind i mennesker.

Afgrænsede forsøg, klare stopregler og mulighed for at rulle tilbage er ikke forsigtighed i modsætning til innovation. Det er det, der gør det muligt at eksperimentere igen i morgen.

Økonomer har beskrevet en produktivitetsmæssig J-kurve omkring generelle teknologier som AI. Før gevinsterne bliver tydelige, må virksomheder investere i nye processer, produkter, forretningsmodeller og menneskelig viden. I begyndelsen kan arbejdet få produktiviteten til at se skuffende ud, fordi organisationen bygger noget, regnskabet endnu ikke kan se ordentligt.

Hestevognsfasen er derfor ikke bare et pinligt mellemstadium. Den kan være det sted, hvor vi samler de erfaringer, der senere gør bilen mulig. Men kun hvis erfaringerne bliver bevaret. Ellers monterer vi blot en ny motor i den samme vogn hvert halve år og kalder det endnu en transformation.

Mens vi stadig er på vejen

På museet kunne jeg se udviklingen som en afsluttet række. Hestevognen stod i begyndelsen. Den moderne bil stod senere. Afstanden mellem dem så næsten logisk ud, fordi andre allerede havde taget alle de mærkelige mellemtrin.

Sådan opleves en teknologisk forandring ikke, mens man står midt i den. Vi ved ikke, hvad AI’ens bil kommer til at ligne. Vi ved ikke engang, om organisationen fortsat er det rigtige køretøj, eller om næsten gratis intelligens vil skabe former, vi endnu mangler ord for.

Vi kan derfor ikke tegne den endelige konstruktion. Vi kan gøre noget andet. Vi kan bygge tydelige forbindelser mellem delene, sørge for at fejl ikke vælter helheden og lade hvert forsøg gøre os klogere på det næste. Vi kan holde fast i formål og ansvar, mens værktøjerne omkring dem får lov til at skifte.

Fremtidens AI-organisation skal ikke bygges omkring den bedste model. Den skal bygges, så den bliver bedre, hver gang den bedste model ændrer sig.

Motoren skifter, mens vi kører. Det stabile kan ikke længere være motoren. Det må være vores evne til at skifte den uden at miste retningen, hukommelsen eller menneskene undervejs.

Kilder og videre læsning