Tiktokin suosittelualgoritmi vahvistaa negatiivisia stereotypioita ja käyttää karkeaa kieltä naisista ja vähemmistöistä. Sen omat varotoimet vaalien suojaamiseksi toimivat puutteellisesti, selviää Faktabaarin ja teknologiayritys CheckFirstin tuoreesta selvityksestä "The TikTok Effect".
Faktabaarin ja teknologiayritys Check Firstin Digivaalivahti-hankkeessa on saatu uusia tuloksia sosiaalisen median alustojen vaikutuksista vaaleihin. Tänään julkaistu raportti “The TikTok Effect: How the app shaped political discourse during Finnish European elections 2024” keskittyy tutkimaan, kuinka Tiktok suositteli tietoa poliittisista aiheista Suomessa ennen Eurovaaleja.
Selvityksessä tarkasteltiin, mitä hakusanoja Tiktokin hakutoiminto suositteli käyttäjille, kun nämä etsivät videoita poliittisista aiheista tai ehdokkaiden ja puolueiden nimillä. Tiktokin automaattiset hakuehdotukset kerättiin viikolta ennen eurovaaleja ja kaksi päivää sen jälkeen.
Kuva: Esimerkki hakuehdotuksesta Tiktokissa, kun hakuun kirjoittaa pääministeri Petteri Orpon nimen.
Hakuehdotuksissa on paljon karkeaa kieltä naispoliittikkoja ja etnisiä vähemmistöjä kohtaan, sanoo selvityksen pääkirjoittaja, tutkija Aleksi Knuutila.
Kun käyttäjä kirjoittaa hakukenttään esimerkiksi “Sanna Marin”, Tiktok ehdottaa itsetyydytykseen liittyviä hakuja. Haku Mauri Peltokankaan (ps) nimellä tarjoaa takinkääntäjää ja Pekka Haaviston (vihr) nimi tarjoaa lapsikaappauksia.
“Tiktok ei vaikuta moderoivan hakuehdotuksia juurikaan”, Knuutila sanoo.
Tiktokin hakutoiminto ohjaa esimerkiksi rokotteista tietoa etsiviä väärää tietoa sisältävien videoiden pariin. Kun hakuun esimerkiksi kirjoittaa “rokote”, haku suosittelee sanoja “rokotuskammo” ja “rokotushaitta”.
Tiktokin ihmisryhmiin liittyvät hakuehdotukset sisältävät stereotypioita ja väkivaltaan yllyttämistä. Naisia kehotetaan hiljenemään tai menemään keittiöön. Myös seksuaalivähemmistöistä, romaneista ja juutalaisista Tiktokin haku tarjoilee rasistisia stereotypioita tai ehdotuksia tappamisesta.
“Nämä hakutulokset tekevät vihapuheesta alustalla pahempaa ja osoittavat, ettei Tiktok tee tarpeeksi vihan kitkemiseksi”, Knuutila sanoo.
“Tiktokin ehdotukset ovat luultavasti vaikuttaneet siihen, mitä poliittisia teemoja hakeneet ovat nähneet, ja ne ovat vahvistaneet negatiivisia stereotypioita.”
Tiktokin algoritmi vahvistaa kiistanalaisia aiheita
Tiktokin suosittelujärjestelmän on pelätty antavan eniten näkyvyyttä maahanmuuton kaltaisille tunteita herättäville aiheille. Selvitystä varten tutkittiin, mitkä poliittiset aiheet eurovaaliehdokkaiden videoissa saivat poikkeuksellisen paljon katselukertoja eli niin sanotusti menivät viraaleiksi.
Selvityksessä havaittiin, että eurovaaliehdokkaiden tekemät videot menivät viraaleiksi todennäköisimmin, jos ne käsittelivät kiistanalaisia kotimaan politiikan aiheita. 17–18 prosenttia videoista, jotka käsittelivät menoleikkauksia tai lakkoja lähtivät viraaleiksi, kun vain kuudelle prosentille turvallisuutta tai luonnonsuojelua käsittelevistä videoista kävi niin.
Toisin kuin on usein ajateltu, maahanmuuttoa käsittelevät videot eivät saaneet poikkeuksellisen suuria yleisöjä.
“Tiktok voisi siivota toksisuutta pois”
“Tiktok tunnettiin pitkään viihteellisestä sisällöstä”, sanoo Faktabaarin toiminnanjohtaja Mikko Salo. “Nykyään se on myös merkittävä alusta poliittiselle kampanjoinnille.”
Noin 47 prosenttia 18–24-vuotiaista suomalaisista käyttää Tiktokia, ja noin kolmannes eurovaaliehdokkaista käytti Tiktokia aktiivisesti kampanjoissaan.
“Tiktok voisi siivota suosituksistaan pois toksisen kielenkäytön naisista ja vähemmistöistä”, Salo sanoo. “Esimerkiksi Google on onnistunut hakuehdotusten moderoinnissa paremmin.”
CheckFirstin toimitusjohtaja Guillaume Kuster sanoo, että Tiktokin hakusuosituksia on liian helppo manipuloida.
“Tiktok näyttää tekevän suosituksensa osin aihetunnisteiden perusteella, ja varsin harvoinkin esiintyvät aihetunnisteet näyttävät päätyvän hakuehdotuksiksi. Hakutuloksiin voi siis vaikuttaa melko helposti automatisoimalla videoita tietyillä aihetunnisteilla.”
CheckFirst ja Faktabaari suosittelevatkin, että aihetunnisteista nostettaisiin hakuehdotuksia vain, jos aihetunnisteet ovat olleet alustalla pitkään ja niillä on paljon seuraajia.
“Tiktok voisi myös tutkia muita tapoja ohjata käyttäjiä oikean vaalitiedon pariin, sillä videoiden vaalisisällöksi merkitseminen ei selvästi yksin riitä”, Kuster sanoo. “Tiktok voisi tarjota käyttäjille muiden alustojen tapaan tietoa vaaleista ja muistutuksia käydä äänestämässä.”
Mikä Digivaalivahti?
Faktabaarin ja CheckFirstin Digivaalivahti-hankkeessa (englanniksi CrossOver Finland) päästään tarkastelemaan, mitä eri alustojen algoritmit suosittelevat “puhtaalle” käyttäjälle, jolla ei ole nettihistoriaa.
Sitä varten 11 vapaaehtoista eri puolilla Suomea asensi pienen tietokoneen kotiinsa ikään kuin “ylimääräiseksi perheenjäseneksi”. Vapaaehtoisten hankkimisessa auttoi Eurooppalainen Suomi ja Eurooppanuoret. Nämä tietokoneet hakevat joka päivä uutena käyttäjänä valituituista palveluista Faktabaarin ja CheckFirstin valitsemaa noin sataa sanaa. Digivaalivahdissa seurataan Tiktokin lisäksi Youtubea, Instagramia, Google Newsiä, Mastodonia sekä Googlen, Bingin ja DuckDuckGon hakusuosituksia.
Ensimmäiset tietokoneet aloittivat datan keräämisen joulu-tammikuussa. Nykyinen hanke jatkuu heinäkuuhun saakka. Hankkeen tietokanta on julkinen, ja sen avulla kuka tahansa pääsee kurkistamaan sosiaalisen median suosittelualgoritmien “konepellin” alle.
Hankkeessa on aiemmin julkaistu raportteja Youtuben suosittelualgoritmista sekä muun muassa Googlen hakusuosituksista, Tiktok-tilien näkyvyydestä ja Google uutiset -palvelusta. Tuloksista ovat uutisoineet muun muassa Politico, Yle, Euractiv ja Ilta-Sanomat.
Lataa koko englanninkielinen raportti: The Tiktok Effect: How the app shaped political discourse during Finnish European elections 2024 (pdf)
Lisätietoa sähköpostitse osoitteesta toimitus at faktabaari.fi.
Jaa eteenpäin
