Ekkokammer for en 😳

I forbindelse med medarbejderdagen på mit ansættelsessted var der et foredrag om kunstig intelligens af fremtidsforsker Bugge Holm Hansen. Her kom han blandt andet ind på hvordan næste skridt er apps, der ved hjælp af generativ kunstig intelligens (GKI) genererer indhold i form af lyd, video og billeder kun til dig, baseret på dine personlige præferencer og ønsker, og den data du giver den, ud fra hvilken den kan udlede ‘alt’ om dig.

Som han sagde; “Forestil dig Facebook eller Instagram, men bare kun til dig, hvor du bliver præsenteret for det du interesser dig for og godt kan lide, og musik der er lavet nøjagtig til dig og det du foretager dig, og hvor du bliver præsenteret for nyheder, medier og reklamer som er skræddersyet til dig”.

Han sagde det med hvad jeg tolkede som begejstring. Og det kan jeg jo have tolket forkert.

Jeg synes personligt at det lyder som en skrækscenarie. Et ekkokammer for een, der jo ikke kun er baseret på din data, men også på alle de antagelser og bias, utilsigtede og intentionelle, der ligger implicit i teknologien af flere årsager 1) på grund af den data modellen er trænet på og 2) på grund af de antagelser, bias og blinde vinkler der er hos dem der har udviklet teknologien.

Det er ikke noget særligt for generativ kunstig intelligens med de her iboende problematikker; det er helt velkendte vilkår for teknologi at den er et spejl af den data, der ligger til grund for den og de personer, der har udviklet den.

Der er mange eksempler i bogen “Invisible Women”. Og det er ikke kun blinde vinkler i forhold til køn, men også hudfarve, religion, socioøkonomisk status, funktionsdygtighed, you name it. Hvis ikke teknologien er udviklet på baggrund af data fra en divers population og udviklet af en divers gruppe mennesker, så kommer resultatet til at afspejle det.

De antagelser og bias, der bor i data og i de mennesker, der udvikler teknologien, bliver altså også en faktor i det du bliver præsenteret for i dit ekkokammer for en. Præcis ligesom det gør på de store reklameplatforme vi kalder sociale medier, og præcis ligesom det gør i GKI-systemer.

Og selv hvis man gjorde alt det rigtige for at balancere data på både demografiske og socioøkonomiske forhold og alle de her ting, så er teknologien stadig en forsimpling af virkeligheden, af mennesket, af naturen og samfundet. En forsimpling med det formål at finde det mest gennemsnitlige, det mest repræsenterede, inden for kategorier af elementer der ligner hinanden, og arbejde ud fra det.

Hvis vi som samfund synes at debatten er blevet mere ‘skinger’, at grupperinger er blevet mere polariserede og at tilliden til hinanden i samfundet er dalet efter 20 år med de store reklampeplatforme, så forestil jer konsekvensen af ekkokammeret for en.

Jeg ser generativ kunstig intelligens tilgængeliggjort som tilnærmelsesvis gratis chatbots for alle som en kæmpe trussel mod de vigtigste elementer i menneskers liv; relationer, samhørighed, tillid og tilhørsforhold til den fælles fysiske verden vi lever i.

Mit anti-AI propagandistiske hot take:

Hvis man gerne vil overtage verdensherredømmet, så der det da den rigtige vej at gå.

Velkommen til the torment nexus; den kombinerede robot/zombie-apokalypse hvor verdens rigeste mænd udvikler robotter, der gør størstedelen af befolkningen til forsvarsløse zombier, der hungrer efter det næste dopamin-fix, mens de køber øer og bygger bunkers hvor de kan overleve komfortabelt når verden begynder at bekrige hinanden som afledt konsekvens af den misinformationsspredende, hallucinerende, men meget overbevisende tilsyndeladende intelligente teknologi.

Or maybe it’s Maybelline?