Jeg har efterhånden brugt en anseelig mængde af mit liv på at fortælle amerikanske tech-giganter, at jeg ikke er en bus. Eller en brandhane. Nogle gange er jeg endda blevet tvunget til at identificere alle billeder med trapper for at få lov til at læse mine egne mails. Det er en lille, daglig ydmygelse, vi alle har accepteret. Vi klikker lydigt på de små grynede firkanter for at bevise over for en maskine, at vi har et biologisk øje og en pegefinger, der virker. Det er irriterende, men vi overlever. Men for nylig tog den her maskinelle mistænkeliggørelse et spring, der burde få os alle til at spærre øjnene op og tjekke vores egen puls.
Sangerinden Astrid Engberg har netop stået i en situation, der lyder som et manuskript til en dårlig science fiction-film fra firserne. Hendes nye sang, “O Céu”, blev brutalt stoppet ved den digitale grænse af distributionsselskabet Believe. Dommen fra algoritmen var klar: Det her lugter af kunstig intelligens. Sangen blev flagget som AI-genereret, og så startede det absurde teater.
For at få lov til at udgive sit eget værk, skabt af kød, blod og ægte brasiliansk vokalhjælp, skulle Astrid bevise sin menneskelighed. Hun skulle indsende skærmbilleder af sin kreative proces. Hun skulle vise projektfiler fra sit musikprogram. Hun skulle fremskaffe beviser fra sin samarbejdspartner i Brasilien, Nina Maia, som sikkert også sad og undrede sig over, hvornår verden blev så tosset, at man skal sende en video af sig selv, der synger, bare for at overbevise en server i udlandet om, at man ikke er en række af 0’er og 1-taller.
Det er her, vi står nu. Vi har bygget maskiner, der er så dygtige til at efterligne os, at vi nu skal stå med hatten i hånden og forklare de samme maskiner, at vi faktisk findes. Det er som at blive stoppet af en dørmand, der er en papfigur, og som nægter dig adgang til din egen fest, fordi han synes, dit ansigt ser for realistisk ud til at være ægte.
Jeg elsker AI. Lad det være sagt med det samme. Det er en gave til menneskeheden, hvis vi bruger det rigtigt. Det kan hjælpe os med at løse komplekse problemer, sortere data og gøre de kedelige ting for os. Men problemet er aldrig teknologien. Problemet er de mennesker, der har bygget systemerne og derefter har valgt at udlicitere deres egen dømmekraft til en algoritme, der har mindre empati end en våd karklud.
Distributionsselskabet Believe har valgt at lade en kold beregning være dommer over kunstnerisk sjæl. De har erstattet tillid med mistænkeliggørelse. I deres iver efter at “beskytte” musikmarkedet mod en flod af AI-genereret støj, er de endt med at opføre sig som det mest maskinelle af det hele. De har glemt, at kunst netop handler om det fejlbarlige, det unikke og det, der ikke kan sættes på en formel. Og når deres algoritme så tager fejl – hvilket den gjorde i Astrids tilfælde – så er svaret ikke en menneskelig undskyldning og et hurtigt tryk på “godkend”. Nej, svaret er et bureaukratisk mareridt, hvor bevisbyrden ligger hos det menneske, der har vovet at skabe noget, der er for godt eller for anderledes til, at en robot kan forstå det.
Tænk over absurditeten i det her: En kunstner skal dokumentere sin proces med skærmbilleder. Det svarer til, at man bad Picasso om at sende kvitteringerne på hans pensler og en video af, at han blandede den blå farve, før man ville tro på, at det var ham, der havde malet “Guernica”. Eller at man bad H.C. Andersen om at bevise, at han ikke bare havde fundet på “Den lille Havfrue” ved at kigge i et leksikon over fisk.
Vi har skabt en verden, hvor det naturlige er blevet mistænkeligt. Hvis en sang lyder for ren, er det AI. Hvis et billede er for smukt, er det AI. Hvis en tekst er for velformuleret, er det AI. Vi er ved at træne os selv til at lede efter fejlene for at finde mennesket, og i mellemtiden sidder maskinerne og griner, mens de bliver bedre og bedre til at simulere netop de fejl, vi leder efter.
Det, Astrid Engberg har været igennem, er et varsel om en fremtid, hvor vi konstant skal legitimere vores eksistens over for systemer, der ikke forstår os. Det handler ikke kun om musik. Det handler om hele vores tilgang til hinanden. Vi er ved at tabe den fundamentale tillid, der er limen i et samfund. Hvis vi ikke engang kan tro på, at en sangerinde synger sin egen sang, hvad kan vi så tro på?
Det mest ironiske er, at vi nu bruger mere tid på at bevise, at vi er mennesker, end vi bruger på rent faktisk at være det. Astrid har brugt timer, dage og uger på at kæmpe mod en algoritme, i stedet for at skrive den næste sang. Vi spilder vores menneskelige potentiale på at servicere de maskiner, der skulle have hjulpet os.
Når selskaber som Believe gemmer sig bag deres tekniske mærkater, fraskriver de sig det vigtigste ansvar, vi har som mennesker: Evnen til at vurdere og forstå en kontekst. En maskine kan se et mønster, men den kan ikke mærke en intention. Den kan høre en frekvens, men den kan ikke føle længslen i en vokal fra Brasilien.
Vi er i gang med at skabe et digitalt overformynderi, hvor vi bliver mistænkeliggjort for vores eget håndværk. Det er bureaukrati i sin mest rendyrkede og teknologiske form. Det er som at få en fartbøde af en fotovogn, mens man holder stille, og derefter få besked på at bevise, at ens bil overhovedet har en motor, før de vil slette bøden.
Jeg ser for mig, hvordan fremtiden ser ud, hvis vi ikke tager magten tilbage fra algoritmerne. Snart skal vi uploade vores fødselsattest for at få lov til at skrive en kærlighedserklæring på sociale medier. Vi skal indsende en GPS-log for at bevise, at vi faktisk var til stede ved vores datters fødselsdag og ikke bare har fået en AI til at generere billeder af det. Vi er ved at gøre livet til en lang række af dokumentationskrav, hvor vi skal stå skoleret foran en kasse med lysdioder.
Det er på tide, at vi kræver menneskeligheden tilbage. Vi skal holde op med at lade “systemet siger” være det endelige svar. Hvis en algoritme flagger en sang, så skal der sidde et menneske – et rigtigt menneske med ører og et hjerte – og tage stilling. Hvis man ikke har råd til at ansætte folk til at lytte, så har man ikke råd til at drive et musikfirma. Det er ikke sværere end det.
Astrid Engberg fik heldigvis sin sang ud til sidst, men det skete ikke på grund af systemet. Det skete på trods af det. Det skete, fordi hun kæmpede. Men hvor mange kunstnere har ikke kræfterne til at tage kampen op mod en ansigtsløs tech-gigant? Hvor meget kunst mister vi, fordi en maskine besluttede, at det så lidt for “kunstigt” ud?
Vi er nået til et punkt, hvor vi skal passe på, at vi ikke bliver så bange for det kunstige, at vi kvæler det ægte. For hvis vi ender i en verden, hvor vi skal bevise vores sjæl med skærmbilleder af vores harddisk, så har maskinerne allerede vundet. Og så er det måske i virkeligheden os, der er endt som de følelsesløse robotter.
Jeg vil i hvert fald hellere lytte til en sang, der måske er lavet af en computer, end jeg vil leve i en verden, hvor et menneske skal bede en algoritme om lov til at trække vejret.
Det er trods alt nemmere at lære en maskine at spille musik, end det er at lære en direktør i et distributionsselskab at opføre sig som et menneske.
Vil du have Søeforklaringer i indbakken?
