Der er kommet rigtig mange sider på Facebook (og andre sociale medier), der poster følelsesladede opslag. Falske historier og billeder, der er lavet med kunstig intelligens (AI). De virker troværdige. Og de er designet til at ramme folk i hjertet – og slukke hjernen.
Mange bliver grebet - og narret - af de rørende historier, der ofte er skåret over samme læst. Folk liker og kommenterer og risikerer dermed at hjælpe svindlere.
På udenlandsk taler man om “click farms” – og det er ikke pænt skrevet, men det handler om at samle bunker af “nyttige idioter”.
Dem, der kan lokkes til at følge eller reagere bliver rent ud sagt betragtet som dumme kvæg på stald.
De skal lokkes for at tjene helt bestemte formål. Opslagene er altså hverken lavet for at informere eller inspirere. De er lavet for at manipulere efter alle kunstens regler. Siderne er oprettet af folk med stor viden om at forføre, påvirke og manipulere andre mennesker.
De voldsomt følelsesladede opslag med søde bedstemødre, nuttede dyr, charmerende børn, triste mennesker eller smukke unge kvinder er lavet af luskede bagmænd. Og selv hvis siden er på dansk, kan bagmændene sagtens sidde i udlandet.
Sidernes luskede mål er i første omgang:
Få masser af mennesker til at like eller kommentere - fordi det giver opmærksomhed. Siden bliver kendt og får masser af følgere.
Ofte ser det ud som om siden HAR mange følgere. Men kigger man nærmere efter viser det sig, at de fleste er falske profiler. Og de falske er ikke meget værd. Det er ægte mennesker som du og jeg derimod. Har vi venner, der stoler på os, er der stor sandsynlighed for, at vi rent ud sagt lokker vores venner i en fælde. Uden at vide og ville det.
Når det første mål er nået, at lokke ægte mennesker til at reagere, kan siden bruges til helt andre ting. Og til langt mere luskede formål. Og det sker altså med din gode og helt uundværlige hjælp, hvis du altså liker, deler, kommenterer eller følger. Mere om det lige om lidt.
Du får senere en stribe tjek-punkter, som du kan bruges til at spotte, om en side er falsk eller ægte. Om historierne er ægte eller konstrueret af kunstig intelligens.
Et opslag om en sød internat-hund, der er blevet reddet i sidste øjeblik fra at blive aflivet, handler eksempelvis ikke nødvendigvis om en ægte hund. Det er i rigtig mange tilfælde en nøje kalkuleret løgnehistorie, der skal få flest muligt til at reagere.
Det kan også oprindeligt være en ægte historie, der lige bliver ændret en smule og præsenteret i ny version.
Nogle sider hugger ægte indhold fra andre sider og genbruger det - fordi de har set, at det er populært indhold. De præsenterer det dog som deres eget.
Efterhånden som bagmændene lærer, hvad målgruppen reagerer på, bliver historierne ofte brugt igen og igen i lidt forskellige varianter. Og med nye billeder lavet af kunstig intelligens.
Men hvad i alverden får bagmændene ud af det, tænker du nok?
Du risikerer at hjælpe svindlere
Facebooks algoritme belønner engagement - altså at mange liker, kommenterer, deler eller følger. Siden når ud til mange flere.
Når en side først har fået mange følgere, kan bagmændene:
- Sælge siden videre (f.eks. til nogen, der vil bruge den til reklame eller politisk indhold)
- Ændre navnet på siden og begynde at promovere produkter, svindel eller politiske budskaber
- Tjene penge på annoncer, links eller trafik, de sender videre til eksterne sider
- Sende mange brugere videre til webstes, der høster data om dine digitale vaner - eller lokker dig til at købe varer du aldrig får. Eller i en helt anden kvalitet, end du har forventet.
Kort sagt: siderne er lavet for at “opdrætte” følgere og malke dem for data (som kan sælges).
Bagmændene ved, at det mest effektive er følelsesmæssigt indhold - også kaldet følelsesfiskeri. Nogle kalder indholdet for følelsesporno.
Og du kan mærke det, hvis du tænker dig om - at opslaget er lavet for at prikke til dine følelser: glæde, sorg, vrede, irritation, forargelse, nysgerrighed etc.
Der ligger dybere hensigter bag end bare at underholde dig med gode historier. Og det kan vare adskillige måneder, før det egentlige formål bliver tydeligt.
- Dataindsamling og profilering - de “uskyldige” opslag bruges til at teste, hvem der reagerer på hvad. Hvem påvirkes eksempelvis af følelsesladede historier om børn, dyr eller kærlighed.
Den viden kan senere bruges til at målrette politiske budskaber og misinformation med kalkuleret storytelling. - Træne algoritmer, teste AI-indhold - mange (især udenlandske “click farms”) bruger teknikken til at blive klogere på, hvordan vi reagere på bestemte typer indhold. Hvad der får os til at reagere.
- Skabe mistillid i samfundet (“du kan ikke stole på medierne”) - det er et særdeles udbredt probklem, der gør det nemmere at få os til at hoppe på misinformation. Eksempelvis op til valg.
Kunstig intelligens (AI) har gjort det nemt
Tidligere tog det tid og penge at lave troværdigt falsk indhold. Det krævede ekspertise, viden og erfaring.
Nu kan én person med AI-billedgenerator og en kort tekst producere hundredevis af falske opslag i dag. Og få AI til at lave alle opslag i en ny version til i morgen. Altså opslag, der alle trigger følelser med en rørende historie og billeder af børn, sygdom, ældre, dyr, kærlighed, familie osv.).
Tjekliste: Så nemt genkender du manipulerende opslag
Der er et typisk mønster:
- En emotionel tekst: “Ingen ønskede at hjælpe dette stakkels barn…”, altså eksempelvis en tårepersende historie om et sygt dyr, et handicappet barn eller et ældre menneske, der ikke er behandlet ordentligt.
- Oplysninger mangler - historien er ofte helt umulig at placere. Det oplyses ikke, hvem det handler om. Hvor det foregår. Og det gør det ikke, fordi historien netop ikke har tilknytning til en bestemt person, et bestemt tidspunkt, et bestemt sted i verden …
- Et (smukt) AI-genereret billede, ofte lidt for perfekt (barn med tårer, gammel mand med hund, sød bedstemor, smuk ung kvinde etc.) Hvis du træner dit øje til at se sådanne AI-genererede billeder, er det ofte nemt at spotte dem - eller i det mindste få mistanken. De er ofte lidt for perfekte.
- Mange opslag i den følelesmæssigt manipulerende stil - kigger du på mere end ét enkelt opslag på siden, vil du ofte kunne få øje på de gennemgående manipulerende mønstre. Der er som regel mange af samme slags.
- Link til reklametunge sider - ofte er der link til sider, der er fyldt med reklamer. Og vær opmærksom på, at du ofte lokkes ind på siderne med en god historie. Du skal klikke for at læse den - og du skal godkende cookies for at få “løsningen på gåden”. Kigger du nærmere på de cookies vil du kunne se, at du deler dine data med voldsomt mange virksomheder. Du giver dem tilladelse til at høste information om din færden på nettet. Og du læser jo aldrig de der bokse, der beder om cookie-tilladelse, vel?
- En opfordring til engagement: “Tryk ❤️ hvis du ville have hjulpet!” Eller “Ønsk ham tillykke.
Opslagene har ofte makant effekt. Nogle af dem høster vildt mange kommentarer og likes. Og algoritmen spreder dem så endnu mere, så endnu flere lokkes i fælden. For uskyldigt ser det ud. De fleste ser intet andet end rørende historier.
Folk bliver kort sagt manipuleret til at involvere sig i en løgn - og sprede den - for at narre andre.
Når du liker, deler, kommenterer eller følger sådan en side, kan dine venner på FB se det. Og det vil lokke nogle af dem til at hoppe på limpinden.
Konsekvenserne er flere
De reelle opslag med vigtige og ærlige budskaber drukner i mængden af nonsens, svindel og humbug.
Tilliden til sociale medier bliver mindre og mindre.
Falske netværk tjener penge eller data på vores empati.
Hjælp med at stoppe det!
Lad være med at like, kommentere og dele den slags opslag. Har du allerede gjort det, kan du slette dit like eller din kommentar. Find de tre små prikker til højre for din kommentar - så får du adgang til at slette den. Et like kan du fjerne ved (igen) at trykke på “Synes godt om”.
Eksempler på de sider og grupper, der er tale om
Daglige nyheder - læg mærke til, at siden oplyser at høre til i Esberg. Den ejes dog af en virksomhed, der har et alt andet end dansk website. Og rigtig mange af sidens følgere er vietnamesiske profiler, der for det første ser alt andet end danske ud og for det andet ikke har noget profilfoto.
Kig på sidens billeder og du kan se, at de alle appellerer voldsomt til følelser.
PS: Alle billeder i dette indlæg er lavet af kunstig intelligens.
