Hvad sker der?

(tilbage til forside)

anmeldelse i Weekendavisen, 16. januar 2015

Nicholas Carr: The Glass Cage: Automation and Us
W. W. Norton & Company
288 sider, ca. 90 kr. (Kindle-udgave fra Amazon.com)

Måske er vi ved at tabe kontrollen over vores egne opfindelser. Og hvad skal vi egentlig lave, når intelligente systemer og smarte apps laver det meste? Nicholas Carr er aktuel med ny bog, der maner til eftertanke.

En nat i maj 2009 styrter Flight 447 fra Air France ned i Atlanterhavet på vej fra Rio til Paris med 299 mennesker ombord. Et halvt år senere lykkes det at bjærge den sorte boks, som afslører hårrejsende optagelser fra de sidste fatale minutter i cockpittet.
Mens kaptajnen tager en pause ude hos passagererne, sætter flyets fartsensorer pludselig ud, sikkert pga. frost. I den slags situationer skal styringen overgå fra autopilot til manuel håndtering. Men andenpiloten, Pierre-Cedric Bonin, går i panik. Mens alle alarmer bimler, gør han det modsatte af, hvad han burde gøre. Resultatet er, at flyet nærmest går i stå midt i luften.

Det tager 3 minutter for et tungt Airbus-fly at falde ud af himlen fra ti kilometers højde. “Det her kan ikke ske”, siger kaptajnen, da han endelig når tilbage i cockpittet. “Jamen hvad sker der?”, råber Bonin. Få sekunder senere rammer flyet havets overflade.

Bonin når aldrig at forstå, hvad der sker. Den efterfølgende havari-rapport taler tørt om “et totalt fravær af kognitiv kontrol”. Havde flyet fået lov til at styre sig selv, ville ulykken sikkert aldrig være sket. Autopiloter går ikke i panik.

Den næsten totale, men altså endnu ikke helt fuldbragte automatisering af menneskelige piloters arbejdsopgaver optræder flere gange i videnskabsjournalisten Nicholas Carrs nye bog ‘The Glass Cage: Automation and Us’. Autopiloten i moderne fly er eksemplet over alle på, hvor dygtige vi er blevet til at udvikle systemer, der kan overtage opgaver og udrette det mest utrolige. Men også på, at udviklingen har nået et stadie, hvor vi ikke altid og uden videre selv kan overtage styringen igen.

Man behøver ikke være pilot (eller passager) for at finde det småskræmmende at læse Carrs bud på, hvad automatisering betyder for menneskets evne til at fungere selvstændigt, engageret og kompetent. Det gælder også i forhold til alle hverdagens små ’autopiloter’ i form af de apps, der som små kognitive støttehjul hjælper os med at gøre alting lidt smartere, lidt hurtigere og mere effektivt. Altid lige lidt mere.

Automatiseringen har bevæget sig fra fabrikkernes produktionsanlæg ud i det offentlige rum og derfra videre ind i vores hjem og er nu endt nede i vores lommer, hvorfra smartphonen jævnligt brummer med diskrete alerts, opdateringer, notifikationer og invites, så vi husker ikke at glemme.

Ville vores eget lille etmotors-fly af et liv også styrte ned, hvis vi pludselig skulle styre selv? Hvor godt kan vi overskue dagens opgaver uden en todo-app, finde vej uden en gps-app eller en kæreste uden en dating-app?

Stort set lige siden vi begyndte at gå oprejst, har mennesket været i gang med at outsource opgaver til redskaber og apparater. Det er ikke nyt. Men det radikalt nye ved moderne automatisering er, at den er digitaliseret, softwarebaseret og dermed programmerbar. Ifølge Carr er det navnlig al denne komplekse software, dette usynlige væv af determineret kodning, stålsatte algoritmer og oceaner af Big Data rundt om os, som betyder, at vi ofte ikke ved, hvad der egentlig foregår – ikke ved hvorfor vores ting virker eller ikke virker. ”Software æder hele verden”, som IT-pioneren Marc Andreessen sagde engang. Det er dette gennemsigtige software-bur, Carr refererer til med bogens titel.

Curling-barnet i os alle
Selv om Carr ser automatiseringen som ét langt og glidende kontrol-tab, er han ikke blind for teknologiens evner. Beskrivelsen er meget rammende af, hvordan vi kunne nedlægge alle verdens lyskryds, hvis der kun fandtes selvkørende biler, der koordinerede trafikken med hinanden. Det er faktisk ikke en umulig opgave. Problemet er snarere, at selv det mest perfekte system stadig skal fungere i en menneskelig og dermed højst uperfekt verden.

Carrs frygt er, at når vi bruger vores egne opfindelser til at feje stadig flere problemer væk foran os, risikerer vi at ende som en slags curling-børn, der ikke bare bliver mindre selvstændige, kompetente og ansvarsfulde, men også mindre lykkelige.

Når autopiloten i et fly har kontrollen i 99,9 pct. af flyvetiden, så handler det nemlig ikke kun om, hvordan i alverden piloter skal vedligeholde deres kompetencer og fortsat føle sig ansvarlige. Det handler også om, hvad pokker de skal lave i det hele taget. Hvad vi alle sammen skal give os til, mens systemerne snurrer i baggrunden eller baglommen.

Nicholas Carr har tidligere begået bestsellere som “What the Internet Is Doing to Our Brains” (2011) og “Does IT matter?” (2004). Mest berømt er nok hans artikel fra The Atlantic i 2008, “Is Google Making Us Stupid?”, hvor han for alvor fik sparket en debat i gang om informationsteknologiens diffuse følgevirkninger.

Med ”The Glass Cage” kommer han igen langt omkring med videnskabsjournalistens sans for rammende citater og klare pointer uden for mange forbehold. Man kan godt savne nogle modeksempler undervejs, for verden bevæger sig sjældent så entydigt, som Carr giver indtryk af. Man kan også indvende, at han ikke når helt i mål med klare svar på automatiseringens konsekvenser. Men det gør ikke spørgsmålet mindre spændende.