TikTok: Uskyldige danse­videoer kan manipulere

Da koronapandemien stengte verden inne i mars, ble flere og flere av oss sittende hjemme med mobilen i hånda. De «vanlige» appene og sosiale mediene strakk kanskje ikke til, for plutselig sto mange og danset hjemme i stuer og soverom, for deretter å dele det på appen TikTok.

Som vanlig kunne barn og unge si: «Velkommen etter».

9 av 10 barn mellom 9-18 år bruker sosiale medier. Vi møter kjæresteparet Henning Uthaug Pedersen (17) og Mona Amundsen (16) utenfor en kafé på Oslo S en ettermiddag etter at høsten har tatt Oslo innunder vingene. De står lent mot et gelender mens Henning viser Mona noe på telefonen sin. Mona følger med og lytter når han snakker, men løfter blikket når vi nærmer oss. Begge er de akkurat ferdige på skolen for dagen. Vi går inn og de setter seg på en av sofabenkene inne på Starbucks.

Ifølge medietilsynet er 90 prosent av barn og unge mellom 9-18 år på én eller flere sosiale medier, og 65 prosent sier de bruker appen TikTok. TikTok har det siste året også blitt Mona og Hennings mest brukte applikasjon på telefonen. Den har til og med gått forbi Instagram, resonnerer Henning seg frem til – og ser bort på kjæresten Mona. Han får et anerkjennende nikk.

– Hvorfor er det så populært?

– Jeg bruker den mest for underholdning egentlig, sier Mona.

For underholdende kan dette absolutt være. TikTok består av veldig korte videosnutter man enkelt kan bla igjennom og som ofte inneholder morsomme effekter, musikk eller annen lyd. Det finnes selvfølgelig en hel del dansevideoer der ute, men TikTok er også for dem som ikke er særlig danseinteresserte.

Henning er enig med Mona i at det er underholdende. Han drar ofte frem appen når han kjeder seg.

De forteller at det er veldig lett å bare legge seg ned på sofaen eller senga, og så bli liggende å bla i timevis. Kommer de over videoer de synes er ekstra morsomme, eller som de mener andre kan ha glede av, deler de med venner ved å videresende lenker til videoene gjennom appen eller andre sosiale kanaler. Henning forteller at fem minutter kan bli til mange timer; det er avhengighetsskapende.

Fordi videosnuttene er så korte, er det vanskelig å holde styr på hvor lenge man har bladd inne på appen, sier Mona.

– Og så er det mye musikk og effekter som gjør at det alltid er noe som fanger oppmerksomheten.

Side om side på sofabenken snakker de om hvor mye og hvor ofte de egentlig bruker appen.

– Jeg skulle gjerne ha brukt mindre tid på appen og telefonen generelt, sier Mona. Kjæresten er enig, men det er vanskelig å forandre vaner. Det er blitt en slags avhengighet.

Bjørn Gabrielsen, som i høst kom med boka «Skjermslaver», er blant dem som er svært kritiske til barns skjermbruk. Han sammenligner skjermbruk med rusmidler, og vil ha en regulering på området.

Han ønsker seg 18-årsgrense på smarttelefoner, og oppdrar sine to barn på seks og ni bortimot skjermfritt. «En langfilm nå og da, et par timer med koding i uka, det får holde», skriver Gabrielsen i en kronikk i VG.

Han viser til at mye av det tilgjengelige innholdet på nettet i dag er laget for å manipulere brukeren til å bli sittende foran skjermen og gi fra seg informasjon om seg selv og sine preferanser. «Denne typen innhold skal barn, etter min mening, simpelthen ikke utsettes for», skriver han.

Det er flere grunner til at unge blir avhengige av apper som TikTok, hvor de blir dratt inn og mister impulskontrollen. Petter Bae Brandtzæg, professor og medieforsker ved Universitetet i Oslo, viser til den israelske psykologen Daniel Kahnemans to tankesystemer, hvorav system én er det automatiserte tankesystemet som brukes når vi i hverdagen gjør ting uten å tenke over det. Skal vi derimot løse en vanskeligere oppgave eller lese en bok, trenger vi system to. Brandtzæg mener TikTok krever minimal bruk av system to, og er designet for system én. Det at det krever så lite av brukeren, er med på å gjøre den avhengighetsskapende, mener forskeren.

De siste årene har et økende antall unge blitt kjendiser og influensere fordi de har et stort antall følgere i sosiale medier. Mange barn og unge ønsker seg nok dit, og jobber hardt med å lage morsomt og engasjerende innhold til sine sosiale kanaler, hvorav det nyeste og mest populære er TikTok.

Verken Mona eller Henning kjenner seg igjen i dette for egen del. Ingen av dem publiserer selv videoer på TikTok.

– Ingen i klassen min publiserer noe selv på TikTok, sier Henning. Han går på Skedsmo Videregående skole. Heller ikke på Oslo By Steinerskole, hvor Mona går, er det veldig utbredt å publisere selv på appen. Men hun har noen venninner som poster jevnlig.

– En av venninnene mine brukte å publisere litt av og til, men hun måtte til slutt slette appen fordi det ble for «toxic» og ikke bra for henne, sier Mona.

Sosiale medier er så nytt at det finnes ikke nok forskning som kan si noe om hvordan det faktisk påvirker unge brukere. Line Indrevoll Stänicke, postdoktor ved Psykologisk institutt ved Universitetet i Oslo og Lovisenberg sykehus, sier at det har blitt tegnet en sammenheng mellom økt bruk av sosiale medier og depresjon, men presiserer at dette ikke sier noe om hvorvidt de blir deprimerte av bruken eller om det er noe som kjennetegner denne gruppen fra før. Kanskje er det eksisterende utfordringer som gjør at de søker mot disse plattformene, sier hun. Stänicke er ekspert på det hun kaller «skadelig-online» i forbindelse med selvmord og selvskading.

Når det gjelder ungdom og internett, så forteller hun at forskning sier at unge mennesker bruker det først og fremst for anerkjennelse, mens informasjonshenting kommer på andreplass. Dette mener hun sier noe om hvordan sosiale medier har blitt en naturlig del av livene deres.

– Den sosiale utforskningen og grenseutprøving er jo helt naturlige pågående prosesser i ungdomstiden. Et sentralt utviklingstema i ungdomstiden er nettopp etablering av en mer stabil identitet. Ungdommer søker jo litt vekk fra foreldrene og mer mot jevnaldrende. På den måten blir det digitale en utvidet vennearena for sosial utforskning og rolleutprøvning.

Hun legger til at TikTok også kan sies å være en arena for utforskning og produksjon av identitet, og dermed kanskje ser noe av det unge streber etter. I likhet med voksne betyr utseende, klær og oppførsel mye for barn og unge. Sosiale medier, og i dette tilfellet TikTok, kan være med på å forsterke et fokus på det ytre tidligere hos barn, som også kan inkludere en kritisk evaluering, mener Stänicke.

For noen kan fokuset på det ytre hindre en søken og utforskning innover, eller være til hinder for å gjøre og være uten en opptatthet av å bli likt, spekulerer hun. Hun legger til at det er viktig å stille seg spørsmålene «Hvem er jeg?», «Hva interesserer jeg meg for?» og «Hva er mine styrker og svakheter», for å etablere en trygg og stabil identitet og selvfølelse.

Likevel er det vanskelig for Stänicke å si noe konkret om hvilke skader sosiale medier kan ha.

– Det er vanskelig for oss forskere å si at dette går gærent. Problemet er at vi vet ikke. Om fem år er det en ny generasjon med nye TikTok’er, så det kan være vanskelig å lage konsekvensanalyser av det. Men forskning på langvarige konsekvenser av digitale medier er viktige for å forstå hva som kan gi sårbarhet og viktig kompetanse.

Stänicke understreker at det også er mye positivt med sosiale medier, og at det er en viktig plattform for unge i oppveksten. Det er derfor viktig at voksenpersoner i livet deres forstår dette og ikke kategoriserer alle digital aktivitet som farlig og skadelig.

Netflix kom nylig med dokumentaren «Det sosiale dilemmaet». Her kommer de med påstanden om at økt sosiale medier-bruk blant unge henger sammen med økt depresjon; påstanden som Stänicke snakker om og problematiserer. I tillegg påstår de at unge som har vokst opp med sosiale medier viser tendenser til å være reddere for å ta risiko. De viser til at forskning viser at de tar førerkort på bil og får sine første intime forhold senere enn tidligere generasjoner.

Tilbake på Oslo S, over en kaffe, snakker vi om hvordan sosiale medier har påvirket Mona og Henning. De tenker seg godt om. Det er et vanskelig spørsmål, fordi det er vanskelig å være bevisst på det selv. De ser på hverandre, men kommer frem til at de ikke har kjent særlig på noe selv. Men de er klar over at det finnes dem som opplever kroppspress og folk som sliter med dårlig selvbilde på grunn av alt de ser og blir eksponert for i sosiale medier.

I Netflix-dokumentaren er det systemet bak appene og hvordan appene brukes opp mot brukerne, som legges under lupen; mer enn mulig depresjon og endring i adferd hos de unge.

Som alle sosiale medier eller applikasjoner styres også TikTok av en algoritme. På TikTok kommer den til sin rett i funksjonen «For You-page», som er en side inne i appen hvor tilsynelatende tilfeldige videoer dukker opp på skjermen. Som bruker kan du bla forbi eller stoppe opp for å se. Hvilke videoer som dukker opp, er ikke tilfeldig. Det styres av en algoritme.

Kommunikasjonsrådgiver Christine Johansen i Krieg Kommunikasjon sier at TikTok og andre medier holder denne algoritmen hemmelig, så det er vanskelig å si akkurat hva som spiller inn. Det vi allerede vet om algoritmer sier likevel mye.

– Algoritmen ser jo hvor du bor, hvor gammel du er, hvilke type videoer du liker, hvilke type videoer du deler med venner, hvilke du legger igjen kommentarer på og hvilke du blar fort forbi, sier Johansen, som legger til at du kan gi beskjed i appen om innhold du ikke vil se; da får du mindre av den typen innhold.

TikTok bruker informasjonen algoritmen innhenter til å skreddersy hvilke videoer de skal vise til hver enkelt bruker. På den måten skaper de en mer personlig opplevelse for hver enkelt, noe som igjen skal styrke brukertilfredsheten. Når algoritmen i tillegg lærer deg bedre å kjenne jo mer du bruker appen, ender dette opp i en tilfredshetssirkel både for TikTok og brukerne.

Johansen tror ikke algoritmen TikTok bruker er særlig annerledes enn hos andre sosiale medier. Den største forskjellen er at brukerne av appen i større grad er barn, sier hun.

Men dataene og informasjonen som hentes inn av algoritmen brukes ikke bare for å gi brukerne en bedre opplevelse inne i appen.

Den henter også inn personlig informasjon som kan selges videre til kommersielle aktører.

Medieforsker Petter Bae Brandtzæg har skrevet artikkelen «Det algoritmiske selvet». Der redegjør han for hvordan barn har utforsket identiteten sin gjennom internett før, hvordan de gjør det nå og han spekulerer i hvordan det vil skjer i fremtiden. Det største spørsmålet som dukker opp, er hvilken rolle algoritmene vil spille i barns identitet. Brandtzæg mener algoritmene er manipulerende fordi de bruker informasjonen de innhenter til å forutse hva brukerne kan komme til å like.

– Det er dette prediksjonsaspektet som er ganske spennende, sier han.

– At de kan forutsi hva barn kommer til å klikke på. Dette er jo en form for manipulering i den forstand at maskinen eller teknologien bak kjenner til dine svakheter og appellerer til, og utnytter, disse menneskelige svakhetene dine.

De siste årene har det kommet flere og flere tjenester rettet direkte mot barnpå markedet. YouTube Kids er et eksempel, mens TikTok er det nyeste innslaget.

– At det samles inn så mye data som lagres i all fremtid som kan brukes til å lage profiler og identiteter og modellere adferden til små barn har vi aldri i historien opplevd før, forteller Brandtzæg.

– Så konsekvensene av det kjenner vi ikke til, men sannsynligvis kan jo de som vokser opp nå bli veldig sårbare, nettopp fordi de er på en måte er gjennomanalysert og gjennomovervåket allerede fra barnsben av.

Det er vanskelig nok for voksne å ta innover seg hvordan en algoritme fungerer. Barn og unge vil være enda mer naive og sårbare i møte med koden som styrer informasjonen de får. Psykolog Line Indrevoll Stänicke forteller at små barn er sosialt orienterte og kan beskrive søkemotorer, som Google, som en gammel mann som sitter med alle svarene. På den måten skaper de en slags relasjon til internett. Dette er med på å gjøre barn og unge spesielt sårbare, mener hun.

Hvordan en algoritme faktisk fungerer, er heller ikke noe Mona og Henning har særlig kunnskap om. De har selvfølgelig hørt om det. Men at den kan læres opp til å forutse hva de selv kan komme til å like i fremtiden, var de ikke klar over.

Henning har imidlertid erfart hvor treffende enkelte videoene på TikTok kan være.

– Hvis jeg ligger sent oppe om kvelden og blar på TikTok, kommer det ofte opp videoer som sier «Nå er det på tide å legge seg», eller «Hvis du ligger oppe så sent og sveiper, burde du kanskje sove i stedet» og så videre.

Skaperne av dokumentaren «Det sosiale dilemmaet» har intervjuet flere tidligere ansatte hos noen av de største og mest brukte sosiale mediene og appene. De har vært med på å utvikle systemene som ligger bak appene, blant annet noen av disse algoritmene. De advarer mot å se på en algoritme bare som et hjelpemiddel for å skreddersy innhold for brukerne.

Postdoktor og dataforsker Cathy O’Neil definerer på sin side algoritmer som meninger innebygd i kode, og viser i dokumentaren til at algoritmene ikke er objektive. De er bygget for å oppnå et mål på suksess som noen har satt. Hvis det er et kommersielt foretak som har lagd algoritmen, er den bygget for å styrke deres kommersielle interesse – vanligvis fortjeneste.

Bailey Richardson var en del av en tidlig gruppe utviklere hos Instagram. Han sier i dokumentaren at selv om koden er skrevet av et menneske, så er algoritmen laget slik at den videreutvikler seg selv. Sandy Parakilas, tidligere ansatt hos Facebook og Uber, hevder at det er et fåtall mennesker i bedriftene som bygger disse algoritmene som forstår hvordan de fungerer, og mener at selv de som forstår ikke nødvendigvis helt vet hva som vil skje med et bestemt innhold. Han sier at vi mennesker nesten har mistet kontrollen over disse systemene, fordi de kontrollerer den informasjonen vi ser. På en måte kontrollerer de oss mer enn vi kontrollerer dem, mener han.

I dokumentaren forteller flere av dem som har vært med på å lage teknologi som ligger i appene at de er strenge mot sine egne barn når det kommer til bruk av sosiale medier. Andre som er intervjuet i dokumentaren etterlyser et lovverk som gjør det ulovlig å tjene penger på brukernes personlige data.

Psykolog Line Indrevoll Stänicke har selv barn. Hun mener det er viktig at vi lærer opp barna våre i selvregulering, både med tanke på omfanget av digital mediebruk, men også med tanke på kritisk kilderefleksjon. Vi må snakke med dem om hvordan systemet bak fungerer, og hvordan det kan brukes til å manipulere dem. Problemet er at de voksne strever med å følge med på utviklingen, som stadig er i endring. Hun mener at det derfor også må ligge et ansvar hos kanalene selv.

På kaféen på Oslo S tar også Mona og Henning innover seg hvordan algoritmen i favorittappen deres jobber. De skulle gjerne lært mer om dette; gjerne gjennom skolegangen.

Vi finner veien ut av Oslo S, og vandrer litt i grøntarealene rundt sentralstasjonen.

– Se Mona! Sånn lager de hull på golfbaner, utbryter Henning og vrir telefonen slik at Mona får se skjermen.

De viser hverandre videoer. Henning er ivrigst. Han er inne og blar på sin skreddersydde «For You»-side på TikTok. På grunn av sin treffsikkerhet har det blant brukerne blitt vanlig å snakke om «hvilken TikTok» de er på. Fordi algoritmene jobber med å spisse videoene som kommer opp hos brukerne etter deres preferanser, er det én type videoer som vil dukke opp hos andre, men ikke hos deg.

Henning er for eksempel inne på det de vil kalle «bil-TikTok», hvor det stadig dukker opp videoer relatert til bil. Han er også på «sports-TikTok», fordi det også ofte dukker opp sportsrelaterte videoer inne på «For You»-siden hans. Dette gjenspeiler godt interessene hans, forteller han.

– Jeg var en stund inne på «Minecraft-TikTok», forteller Mona. – Men plutselig befant jeg meg også på «plante-TikTok».

Noen av sidene på TikTok er knyttet til legning. De kan omtales som «straight-TikTok», «gay-TikTok» eller «lesbian-TikTok». Det finnes mindre nisjesider, som handler om interesser – herunder bil, spill eller sport. TikTok har også en veldig stor andel «life hacks»-videoer, altså videoer med generelle tips og triks for en enklere hverdag. På toppen troner likevel trender og utfordringer, og det er her dansevideoene kommer inn.

Men det finnes også en mørkere side av TikTok. «Depressed-TikTok», «sad-TikTok» og «lonely-TikTok» er eksempler på dette. Slike undergrunnsider ser vi flere steder på internett og på andre sosiale medier, som for eksempel Instagram. Stänicke sier at erfaringsmessig kommer man borti i slikt skadelig innhold fordi man aktivt har oppsøkt det selv.

– Det bekrefter heller eksisterende helseplager og er et rop om hjelp, mer enn det er med på å skape depresjon, mener hun.

– Kan det å havne på for eksempel «depressed-TikTok» gjøre alt verre, eller finnes det positive sider også?

– Jeg tenker at det både er positive og negative sider ved det, og det gjelder uansett om det er skadelig innhold eller om det er særegne interesser. Disse sosiale mediene er veldig forsterkende, og det positive er jo at du nettopp føler et sosialt felleskap hvor du kan oppleve støtte, få råd og komme deg ut av isolasjon.

Stänicke legger til at man i ungdomstiden har et eksistensielt behov for å forstå og finne måter å håndtere og uttrykke vanskelige opplevelser og egen sårbarhet på. Da kan det å søke på litt tabu-relaterte ting på nett være en vei å gå. Utfordringen ligger i at risikoadferd kan normaliseres, at utveksling av bilder blir konkurransepreget, og at informasjon gis uten alternative perspektiver – du kan havne i et ekkokammer.

Tidligere i høst gikk TikTok-profil Kristoffer Kaayne Kaalsaas, som har over 150.000 TikTok-følgere på kontoen «kaaynelagermat», ut i Dagbladet. Han anbefaler ikke at barn under 13 år bruker TikTok, men skulle de bruke den så anbefaler han at de har en privat profil og at de bare følger bekjente. Kaalsaas ble intervjuet etter at en rystende selvmordsvideo sirkulerte på TikTok, og fortalte at han hadde vært borti at lignende videoer hadde kommet opp tidligere. Hans erfaring er at algoritmen ikke fanger opp alt, og at slike skumle videoer kan smette igjennom. Han kommer også med et spesifikt råd til foreldre: «Barn burde ikke ta i bruk «For You»-siden på TikTok, for der vet man aldri hva som kommer, sier han til Dagbladet.

Medierådgiver Christine Johansen er selv aktiv på appen og sier at «For You»-siden og hvor treffsikker den er, er hovedgrunnen til at hun liker appen så godt. Når det gjelder barn og hvorvidt barn skal få bruke sosiale medier omtaler hun det som en evig diskusjon. Hun minner om at TikTok-appen har en funksjon som heter «Family Pairing», hvor man kan koble foreldrenes profil med barnets. Foreldrene kan dermed styre hvilket innhold barna skal få se og hvor lenge de får lov til å være på appen.

Det krever imidlertid at foreldrene holder seg oppdatert på trender, hva som skjer og hvilke nyheter som kommer. Johansen sier det er tryggere for foreldre å ha en slik kontroll over barnets bruker enn å slippe dem løs på TikTok. Hun mener at det også er viktig at barnet har en lukket bruker, slik at videoene barnet publiserer bare kan ses av vennene deres.

Algoritmer bidrar til å lage filterbobler og ekkokamre i sosiale medier. Forfatter og internettaktivist Eli Pariser var i 2011 den første som brukte begrepet filterboble, og han definerte det som en systematisk, individuelt tilpasset avgrensing av informasjon som skapes ved at en algoritme baserer informasjonen sin på brukernes eksisterende oppfatninger og ideer. Dette gjør at annen informasjon som er med på å utfordre ens synspunkter, utestenges. Man vil derfor til stadighet få bekreftet sine egne meninger som riktige. Er det flere som havner i samme filterboble, dannes det et ekkokammer; hvor også alle de andres synspunkter stemmer overens med dine egne. Dermed styrkes troen på at det er dere som sitter med svaret.

TikTok og sosiale medier kan slik være med på å oppfordre til og forsterke allerede skadelig adferd. I tillegg er det en tendens at utenforstående krefter utnytter og ser hvordan de kan bruke den typen algoritmer til sin fordel.

– De siste årene har veldig mange krefter som ikke nødvendigvis vil deg noe godt begynt å utnytte algoritmen på disse plattformene, sier medieforsker Brandtzæg.

– Det kan handle om konspirasjonsteorier, politisk farlig innhold eller rekruttering til terrororganisasjoner. Det er klart at mange av disse kreftene også kan utnytte barns sårbare sinn.

Ungdom i en utforskende fase av livet som har lite kunnskap om hvordan algoritmer eller filterbobler fungerer, risikerer å bli dratt inn i det hele. Det ligger en frykt i at barn og unge skal bli påvirket av farlige grupper, spre feilaktig informasjon eller konspirasjonsteorier.

Da koronapandemien begynte å spre seg i Vesten, kom også konspirasjonsteoriene knyttet til alt fra hvordan det egentlig oppsto, hvordan man skulle bli kvitt det, til at alt bare var funnet på og at det faktisk ikke fantes.

Et annet klassisk eksempel er den store oppslutningen rundt flat jord-konspirasjonen. Her har en algoritme identifisert en interesse for konspirasjonsteorier hos brukere. Algoritmene har lært brukerne å kjenne, og videre antatt og forutsett at de også var interesserte i videoer som kommer med argumenter for hvorfor jorda er flat. Deretter baller det på seg, og brukerne får til slutt opp en mengde innlegg i sin nyhetsstrøm som viser til at jorda er flat.

Hvis barn og unge som sliter psykisk søker aktivt på skadelig innhold og kommer inn på eksempelvis den mørkere siden av TikTok, så kunne man kanskje tenke at en slik algoritme kunne forutse om noen er på vei til å ta livet sitt? Spørsmålet er om den vil stoppe vedkommende eller ikke.

Medieforsker Petter Bae Brandtzæg sier at per nå så er algoritmene med på å fortelle unge hvem de er og hjelper dem med å reflektere rundt seg selv. Men de er likevel ikke en av disse kunstige intelligente samtale-robotene som du kan fortelle at du trenger hjelp. Derfor tror Brandtzæg at algoritmene stort sett gjør mer vondt enn godt.

– Det at store kommersielle aktører, som kanskje prøver å gjøre deg svak og spille på de svake egenskapene dine for å selge deg ting, også er med i denne dansen er jo heller ikke bra.

Ved Oslo S har vi funnet veien til det som en gang var det beryktede «Plata»; et møtested for narkomane. Mona balanserer på en betongkloss, mens Henning filmer henne med telefonen og leker med forskjellige TikTok-effekter. I virkeligheten står Mona og ler mens hun prøver å gjøre splitthopp på steinklossen, men på Hennings skjerm ser hun helt deformert ut. En annen effekt endrer bakgrunnen fra nye Deichmanske bibliotek til en liten landsby i Italia.

Mona og Henning er 16 og 17, og har brukt sosiale medier i fire år, men det finnes barn som starter tidligere. De mener, som kanskje de fleste av oss, at de selv for det meste kan skille på hva som er riktig og ikke på internett.

Deres egen algoritmiske identitet er godt utviklet før de er blitt myndige. Tanken skremmer dem, men den er også veldig vanskelig å forstå og ta innover seg.

TikTok

• App for å lage videoklipp, meldinger og direktesendinger
• 1,5 milliarder brukere globalt. 65 prosent av norske barn i alderen 9-18 år bruker TikTok
• Brukes mest på mobil
• Aldersgrensen for å opprette egen bruker er 13 år
• Dette gjør du på TikTok:
• Lager videoer, gjerne på 60 sekunder. Ofte mimer man til sanger
• Søker, ser, liker og kommenterer andres TikTok-er
• Deler videoer med venner og andre brukere, samt sender private meldinger til hverandre

Kilde: Medietilsynet.no