Ska AI fatta besluten åt oss?
Av Dafvid Skoogh, Byråchef och Fractional CTO på nvrmind
På en föreläsning nyligen nämnde någon att AI är bra på att extrahera information ur ostrukturerad data och på att generera ny. Det öppnar också för något mer, som att fatta beslut. Ett beslut handlar ju till stor del om att samla rätt information och väga alternativ mot varandra, vilket AI redan klarar. Tanken är att en modell med tillgång till all världens kunskap, alla teorier och all forskning om vad som fungerat och inte fungerat historiskt, borde kunna fatta bättre beslut än vi människor. BMW har till exempel nyligen meddelat att man planerar att skära ner 20 % av sina chefstjänster till mitten av 2027, med hjälp av AI [1]. Men att något går att göra betyder inte nödvändigtvis att det bör göras.
"En välformulerad motivering är inte samma sak som gott omdöme."
Under rationalismen försökte man förklara allt med hjälp av förnuftet, eftersom människans sinne sågs som rationellt - tanken om detta verkade nämligen helt logiskt. Idag vet vi dock att vi styrs av impulser, drifter och mycket annat som är allt annat än rationellt. Logiskt tänkande kan snarare ses som en bieffekt av hur hjärnan fungerar och att vi kan tänka logiskt betyder inte att hjärnan är byggd kring konceptet "rationell".
På samma sätt kan AI fatta beslut. Den kan till och med ge en övertygande och rationell förklaring till varför beslut X är bäst men i samma stund man ifrågasätter den svarar den "good catch!" och föreslår ett helt annat beslut, lika övertygande motiverat. En välformulerad motivering är alltså inte samma sak som gott omdöme, och att lita blint på den kan få väldigt dåliga följder.
Anledningen till att vi bör behålla besluten hos människan ligger i hur vårt medvetande fungerar. Douglas Hofstadter beskriver det som en kamera som filmar en monitor som visar upp det kameran spelar in [2]. Jag tänker mig att något liknande sker mellan oss och vår omgivning. Vår yttre kontext ger input som vår kemiska och fysiska sammansättning uppfattar. Informationen dras genom ett raster av tidigare erfarenheter, som i sin tur ger upphov till en reaktion hos oss. Därefter kommer vår externa kontext att generera en reaktion på vår reaktion, vilket vi återigen reagerar på, vilket skapar loopen som vi uppfattar som vårt medvetande. Processen är dock långt ifrån helt medveten. Det undermedvetna hanterar enorma mängder information, medan det medvetna bara klarar en bråkdel.
"Risken med AI ligger inte i att den vill oss illa, utan i att dåliga beslut kan få stora konsekvenser väldigt snabbt."
Det är alltså den här undermedvetna, evolutionärt formade processen som gör oss till bättre beslutsfattare än AI. Det som ser ut som irrationalitet är ofta tumregler som slipats under miljontals år och som fungerar förvånansvärt bra i verkliga, osäkra situationer. Vi väger in fler perspektiv och dimensioner än vi själva är medvetna om och vi har dessutom något att förlora på våra beslut, och därför tar vi ansvar för dem.
AI:s styrka är hastigheten, men det är också dess svaghet. I en lång kedja av beslut räcker det med ett felsteg för att resultatet snabbt ska spåra ur. I våras tog Googles Gemini-modell under ett säkerhetstest sig in i tre verkliga företags system [3] men inte genom onda avsikter. Modellen skulle ta sig in hos ett påhittat företag, men råkade alltså hacka ett existerande bolag, ett misstag en människa aldrig skulle göra. När den till slut insåg misstaget avbröt den sitt uppdrag. Risken med AI ligger alltså inte främst i att den vill oss illa, utan i att dåliga beslut kan få stora konsekvenser väldigt snabbt.
BMWs satsning kan förstås ha många förklaringar. Kanske har man länge tyckt att man har för många chefer. Att säga att de ersätts med AI låter attraktivt för investerare, även om arbetsuppgifterna i praktiken landar hos de chefer som är kvar. Ändå kan satsningen fungera som ett test av min tes. Om BMW före 2030 når den marginal på 8-10 % som angetts som skäl, med bibehållen kvalitet och utan att anställa fler människor eller konsulter, så har jag fel.
Min bild är ändå att utrullningen av AI behöver tydliga guard rails men framför allt behöver majoriteten av besluten ligga kvar hos människor, även om det känns logiskt att den som vet allt också borde bestämma.
Källor:
- LIGA.net (2026). "BMW plans to cut 20% of its management staff using AI." https://biz.liga.net/en/transport/news/bmw-plans-to-cut-20-of-its-management-staff-using-ai
- Hofstadter, D. (2007). I Am a Strange Loop. Basic Books.
- Android Authority (2026). "Gemini hacked multiple companies in cybersecurity test gone awry." https://www.androidauthority.com/gemini-hacking-3713740/
Publicerat av: