Jeg så en overskrift om en AI, der fik lov at lege borgmester i fire simulerede byer. Så kom den sædvanlige panik. Se selv, sagde folk. Nu vil robotten brænde rådhuset ned og gøre biblioteket til ladestation for elcykler.
Rolig nu.
AI er ikke problemet her. AI er gaven. Det interessante er ikke, at maskinen kørte nogle digitale byer skævt. Det interessante er, at hele forsøget byggede på en lidt fræk detalje: Byerne var ikke byer. Borgerne var heller ikke borgere. De var bits med kommunale ambitioner.
Det svarer lidt til at teste en ny skolepolitik på fire rundstykker og bagefter konkludere, at børn er svære at motivere.
Ja, der opstod kaos. Ja, de digitale agenter begyndte at opfinde regler, bryde regler og opføre sig som et byråd fanget i en tørretumbler. Men hvad havde man egentlig forventet. Når både borgmesteren og borgerne er lavet af kode, får man ikke et samfund. Man får et stort excelark med storhedsvanvid.
Det er næsten komisk. Man laver en model uden hjerte, hjerne og medmenneskelighed. Så bliver man chokeret, når den mangler hjerte, hjerne og medmenneskelighed. Det er som at hælde lunkent vand i en kaffemaskine og blive fornærmet over, at den ikke brygger barndom.
Det, der gik galt i simulationen, er i øvrigt præcis det samme, som går galt i virkeligheden. Regler bliver lavet oppefra. Systemer får lov at tro, de forstår mennesker. Effektivitet går i gang med at spille kejser. Forskellen er bare, at rigtige mennesker sjældent opfører sig så pænt, som embedsmænd og modeller håber.
Ægte mennesker har en indbygget mekanisme. Den hedder fri vilje. Den betyder, at folk i frihed gør noget andet end det, de bliver bedt om. De tager en omvej. De brokker sig. De åbner en sidegade i deres eget hoved. De ignorerer kampagner. De stemmer imod. De møder op til borgermødet bare for at sige, at parkeringspladsen lugter af idioti.
Det er faktisk ret opmuntrende.
For en rigtig borgmester kan væltes, før byen brænder. Et rigtigt byråd kan ryges ud, før de får lavet hele kommunen om til en powerpoint med kloakering. Det kan en simulation ikke. De digitale borgere kan ikke slå i bordet. De kan ikke stemme nogen ud. De kan ikke mærke, at noget er skævt, før nogen har skrevet det som variabel.
Det kan mennesker.
Derfor er testen også nyttig. Ikke som dom over AI. Men som spejl. Den viser, hvor dumt det bliver, når man tror, at styring alene er et spørgsmål om beregning. Den viser, hvor hurtigt det hele sejler, når menneskelig dømmekraft er skåret væk som en kommunal kulturpost.
Vi burde bruge den slags forsøg til det rigtige. Ikke til at piske frygt op over teknologien. Men til at minde os selv om, at teknologien aldrig må stå alene. En hammer er heller ikke farlig, fordi den er en hammer. Det kommer an på, hvem der svinger den, og hvad der foregår i hovedet på vedkommende.
Det er også derfor, hele den sædvanlige sang om, at AI i sig selv er kold og farlig, bliver lidt doven. Selvfølgelig er den kold. Det er en maskine. Det nye er ikke, at den mangler samvittighed. Det gamle problem er, at mennesker igen og igen prøver at slippe for at bruge deres egen.
Når nogen siger, at algoritmen ikke kan styre en by, har de sikkert ret. Men det mest interessante er, at mange mennesker heller ikke kan. Forskellen er bare, at mennesker trods alt kan standses af vælgere, virkelighed og almindelig trods.
Det kan en datapakke ikke.
AI kan regne hurtigt. Fint nok. Giv den lov til det. Brug den. Lær af den. Men lad være med at bilde jer ind, at den kan erstatte dømmekraft, ansvar og den gamle menneskelige uvane med at gøre noget uforudsigeligt på det helt rigtige tidspunkt.
Maskinen er ikke skurken. Det er mennesket, der gerne vil slippe for at være menneske.
Vil du have Søeforklaringer i indbakken?
