Kan man lita på informationsflödet på sociala medier?

Spridandet av falska nyheter, ”alternativa fakta”, och, när det finns politisk agenda, propaganda är inget nytt fenomen. Med dokumenterade fall av propaganda från så tidigt som ca 500 f.kr är inte utmaningen att det skulle vara något nytt med att falsk information sprids, utan snarare hur modern teknik har gjort det möjligt att automatisera och dramatisk snabba upp denna process. På internet kan inlägg spriddas till miljontals tittare på bara några minuter, ett fenomen som brukar kallas att det går ”viral”.

Stor del av dagens informationsflöde kommer just från sociala medier och via olika internetforum. Som gratistjänster, bygger de flesta sociala medier sin affärsmodell på att sälja reklamtid och ta betalt för inlägg med riktade budskap. Som vinstdrivande företag, betyder det att ju mer användarna interagerar och tittar, desto mer reklamtid kan de sälja. Många upplever det som svårt att sluta titta på flödet eller på de korta video ”reels” som spelas. Det bygger på att dessa företag använder sig av rekommendationssystem för att bibehålla din uppmärksamhet.

Rekommendationssystem och filterbubblan

Rekommendationssystem är matematiska algoritmer som analyserar vad du och personer med likande profiler gillar för att på så sätt optimera vilken information och reklam du får i flödet. Det är fantastiska tekniker för att få se fler roliga kattvideor eller passande bokrekommendationer, men de är mycket problematiska när det gäller vilka nyheter man får se. Vad som händer är att man fastnar i att få begränsad information utifrån vad man tidigare engagerat sig i, något som kallas för ”filterbubblan”. Här riskerar man att endast få information som, vare sig det stämmer eller ej, stärker ens egen övertygelse och konfirmationsbias.

Det kanske mest uppmärksammade fallet av hur detta har använts till samhälls- och åsiktspåverkan är Cambridge Analytica Skandalen från 2018. I vad som har blivit känt som en ”Internet Meme”, fick Facebooks (numer Meta) vd Mark Suckerberg under rättegång förklara varför användarnas personliga data hade samlats in för att sedan säljas. Det som hade hänt var att ett underhållande personlighetstest hade profilerade användarna med politiska åsikter genom att statistiskt gruppera användarna utifrån hur lika de var varandra. Även om det är svårt att mäta, så finns det anledning att tro att aktörer med politisk agenda köpt informationen för att skicka riktade budskap till de olika profilerade grupperna, något som det spekuleras kan ha påverkat resultaten i både USA valet 2016 och Brexit folkomröstningen under samma år.

Generativ AI i sociala medier

År 2022 kom en helt ny nivå av informationsgeneration. Open AI släppte chatGPT, en generativ AI modell. Genom en teknik som, utan att verifiera sanningsvärde, bygger på ”nästa ordprediktion” kan man på sekunder skapa text som är nästintill omöjlig att skilja från mänskligt skriven text och alltmer verklighetstrogna bilder.

Generativ AI använts flitigt till att skapa fejkade bilder till desinformationskampanjer för att manipulera åsikter. Men även till, att under ytan, skapa helt AI-drivna profiler på nätet, så kallade ”AI bots”. En grov, säkerligen under-, uppskattning att över 30 procent av alla profiler på X (Twitter) inte är riktiga personer utan små datorprogram som med viss regelbundenhet publicerar inlägg som är helt AI genererade. Vissa av dessa profiler är transparanta med vad de är, som t.ex. den uttalade ”virtual soul” bakom Instagramprofilen ”fit-aitana”. Men det finns ett stort mörkertal på de AI bots som smälter in i forum och informationsflödet som om de vore verkliga människor. Genom att programmera dessa AI bots till att använda generativ AI för att skapa inlägg och social mediaposts som reflekterar specifika åsikter och livsåskådningsperspektiv fylls delar av internet med helt manipulerad information.

Det har aldrig varit så viktigt att kritiskt reflektera över informationen man får.

Vikten av källkritik

Det kan kännas svårt att navigera i en informationsmiljö där så mycket information är kanske inte är helt på riktigt. Men det är otroligt viktigt att man tar till sig ny information och att man inte låter dem som sprider desinformation och tvivel vinna.

Till sin hjälp kan man göra CRAAP* testet, som med förkortningen FRASS inte är riktigt lika fyndigt på svenska. Det går ut på att ifrågasätta och reflektera över all ny information man får tillgång till utifrån de fem perspektiven: 1. Finansiering (Currency), 2. Relevans (Relevance), 3. Auktoritet (Authority), 4. Sanningsvärde (Accuracy), och 5. Syfte (Purpose).

I praktiken betyder det att man dubbelkollar att information kommer från granskad journalistik, att samma information ges från olika källor och, utifrån bästa förmåga, ifrågasätter syftet bakom att informationen sprids.

Slutligen, det är värt att komma ihåg att trots att rekommendationssystem och AI tekniker har många fantastiska egenskaper som hjälper mänskligheten på många bra sätt, är mänskligt sunt förnuft ännu oslagbart. Använd det!

Notering: Omslagsbilden är AI genererad av ChatGPT (model 5.1 Instant), men texten är helt komponerad av en människa.

*Crap betyder skräp på Engelska.

Kontakt