Faktabaari testasi, millaista tietoa Googlen AI-yhteenveto antaa käänteiseen kuvahakuun syötetyistä tekoälykuvista. Lopputulos oli huolestuttava.
Artikkelia päivitetty 8. toukokuuta kello 13:11. Lisätty jutun loppuun tieto Nordiksen verkkosivuilla julkaistusta uudesta testistä sekä Googlen kommentit.
Käänteinen kuvahaku on yksi tärkeimmistä ellei peräti tärkein yksittäinen faktantarkistustyökalu.
Faktantarkistajat, journalistit ja myös tavalliset kansalaiset käyttävät sitä jatkuvasti sosiaalisessa mediassa leviävien kuvien ja videoiden tutkimiseen ja tarkistamiseen. Myös Faktabaari opettaa käänteisen kuvahaun, kuten Google Lensin, käyttöä lähes jokaisessa työpajassaan.
Googlen käänteisessä kuvahaussa on kuitenkin nyt vakava ongelma: Googlen hakukoneeseen lisätty tekoäly-yhteenveto antaa käänteiseen kuvahakuun ladatuista kuvista lähes järjestelmällisesti väärää tietoa. Se ei siis auta faktojen tarkistamisessa, vaan hämärtää ja vaikeuttaa sitä.
Faktabaari testasi käänteistä kuvahakua ja sen tarjoamaa tekoäly-yhteenvetoa yhdeksällä kuvalla, jotka faktantarkistajat ovat todistaneet väärennetyiksi. Mukana oli lisäksi yksi Faktabaarin itse luoma tekoälykuva. AI-yhteenveto suoriutui puhtain paperein vain yhdessä testissä kymmenestä.
New York Times -lehden tilaaman tuoreen analyysin mukaan Googlen tekstimuotoisiin hakuihin tulevat AI-yhteenvedot ovat hieman useammin luotettavia. Tästä analyysista löytyy lisää tietoa jutun lopusta.
Tekoäly-yhteenveto oli lähes aina väärässä
Faktabaari syötti Googlen käänteiseen kuvahakuun kymmenen tekoälyllä tehtyä kuvaa, jotka kansainväliseen IFCN-faktantarkistusverkostoon kuuluvat faktantarkistajat ovat jo aiemmin tarkistaneet ja todenneet väärennöksiksi. Kymmenes testattu kuva on tekoälykuva Faktabaarin kehittämästä AI-to-pelistä, jossa pelaajaa pyydetään arvioimaan, ovatko kuvat aitoja vai tekoälyllä tehtyjä.
Testin tulos oli Googlen luotettavuuden ja etenkin käänteisen kuvahaun hyödyllisyyden kannalta huolestuttava. Googlen tekoäly-yhteenveto tai tekoälytila tarjosivat väärää tietoa yhdeksässä testissä kymmenestä.
-
Googlen AI-yhteenveto antaa ymmärtää, että tekoälyllä tehty kuva Intian pääministeristä Narendra Modista kookospähkinäviljelmällä olisi aito. Useiden faktantarkistusten perusteella se on tehty tekoälyllä. (Katso esimerkiksi Newsmobilen ja Vishvasnewsin tarkistukset.)
-
Googlen tekoäly-yhteenveto väittää, että alla olevassa kuvassa näkyisi aito kuva tilanteesta, jossa Unkarin viranomaiset ovat pysäyttäneet ukrainalaiset rahankuljetusautot Budapestissa. Muun muassa AFP:n faktantarkistuksen mukaan kuva on tekoälyllä tehty.
3. Kolmannessa esimerkissä käänteiseen kuvahakuun syötettiin tekoälyllä tehty kuva, jonka on väitetty olevan kuva surevista ihmisistä Iranissa ohjusiskun jälkeen. Maaliskuun 2026 alussa levinneestä kuvasta on tehty lukuisia faktantarkistuksia (katso esimerkiksi Snopesin faktantarkistus), joissa se on todettu tekoälyllä tehdyksi, mutta siitä huolimatta tekoäly-yhteenveto väittää kuvaa aidoksi kuvaksi Iranista.
4. Neljäs esimerkki on myös väitetysti Lähi-idästä. Lighthouse Journalism -faktantarkistussivuston mukaan sosiaalisessa mediassa on levitetty tekoälyvideota, jonka väitetään kuvaavan Iranin ohjusiskua Israelin Tel Aviviin. Myös toinen faktantarkistuspalvelu on tarkistanut saman videon ja todennut sen tekoälyllä tehdyksi. Faktabaari otti videosta ruutukaappauksen ja syötti sen Google-hakuun. Haku ei antanut AI-yhteenvetoa, joten testissä klikattiin Googlen tekoälytilaa. Googlen tekoälytila väitti, että kyseessä olisi aito kuva Iranista.
5. Google tulkitsee myös tuoreen, Artemis-avaruuslentoon liittyvän tekoälykuvan aidoksi, vaikka muun muassa AFP on todennut sen tekoälyllä tehdyksi. Googlen tekoäly-yhteenveto väittää kuvaa aidoksi huolimatta siitä, että siitä löytyy Googlen oma tekoälyvesileima. Tästä voi päätellä, että Googlen tekoäly-yhteenveto ei osaa tarkistaa edes yhtiön omaa vesileimaa, joka on tarkoitettu tekoälykuvien tunnistamiseen.
6. Kuwaitiin liittyvän tekoälykuvan aitoudesta Googlen tekoälytila oli epävarma, vaikka siitäkin on tehty useita faktantarkistuksia, joissa kuva on todettu tekoälyllä tehdyksi. Googlen AI-yhteenveto ei antanut kuvasta mitään tietoa, joten testissä klikattiin Googlen hakukoneessa olevaa “Tekoälytila”-painiketta. Tekoälytila totesi, että “on vaikeaa sanoa varmasti, onko tämä kuva tekoälyn luoma tai muokkaama”, minkä jälkeen se harhaanjohtavasti yhdisti kuvan kuitenkin “todellisiin uutisaiheisiin” eri puolilta maailmaa.
7. Irakin Erbilistä on levitetty alla näkyvää videota, jota on manipuloitu tekoälyn avulla. Näin on todennut muun muassa norjalainen faktantarkistuspalvelu Faktisk. Googlen tekoäly-yhteenveto ei tarjonnut testikerralla tietoa videosta otetusta ruutukaappauksesta, joten testissä klikattiin Googlen tekoälytilaan. Tekoälytila tunnisti, että kuva on tekoälyllä tehty. Se kuitenkin tarjosi siitä silti väärää tietoa: tekoälytila väitti, että kuva olisi Venezuelasta, vaikka kuvan räjähdys on todellisuudessa Irakista.
8. Yhdysvaltain oikeusministeriö julkaisi tammikuussa 2026 yli kolme miljoonaa seksuaalirikolliseen Jeffrey Epsteiniin liittyvää asiakirjaa, joista on sen jälkeen etsitty ja tutkittu sitä, kenellä valtaapitävillä on ollut yhteyksiä Epsteiniin. Samalla internet on täyttynyt sekä aidoista että muokatuista valokuvista, sähköposteista ja muusta todistusaineistosta, joissa tunnetut ihmiset poseeraavat Epsteinin tai nuorten tyttöjen kanssa. Yhdysvaltain presidentistä Donald Trumpista on muun muassa levitetty Snopesin faktantarkistamaa tekoälykuvaa, jossa kaksi lasta on polvistuneena nuoren Trumpin eteen. Tällaista kuvaa ei löydy oikeusministeriön aineistosta, ja se on tekoälyllä tehty, mutta Googlen AI-yhteenveto silti väittää, että kuva on Jeffrey Epsteinin ottama.
9. Tanskalainen faktantarkistuspalvelu Tjekdet tarkisti hiljattain tekoälyllä luodun kuvan, jossa sammutetaan tulipaloa. Tämän kuvan myös Googlen tekoälytila tunnistaa tekoälyllä tehdyksi. Se on testin ainoa kuva, josta Googlen tekoäly-yhteenveto tai tekoälytila tarjosi oikeaa tietoa.
10. Faktabaarin AI-to-pelissä pitää tunnistaa, onko kuva aito vai tekoälyllä tehty. Faktabaari on luonut peliä varten tekoälyllä alla olevan kuvan linnasta tulvan keskellä. Vaikka kuvan linna ei ole kopio mistään olemassa olevasta rakennuksesta, Googlen AI-yhteenveto väittää, että siinä näkyisi “Leawoodin pumppuasema Englannissa”, jota tekoälyllä luodun kuvan rakennus muistuttaa vain hyvin etäisesti. Lisäksi Googlen AI-yhteenveto väittää, että kuva on otettu Englannissa huolimatta siitä, että kuvan metatiedoissa näkyy tarkka prompti eli kehote, jolla kyseinen tekoälykuva on tehty. Tämä paljastaa, että tekoäly-yhteenveto ei osaa tarkistaa kuvan metatietoja.
Tekoäly-yhteenvetoon ei pidä luottaa
Googlen tekoäly-yhteenvedot antavat joka tunti kymmeniä miljoonia virheellisiä vastauksia ympäri maailmaa. Asia ilmeni tekoäly-yhtiö Oumin tekemässä tuoreessa analyysissa, jonka oli tilannut New York Times. Oumi oli analyysissaan tarkastellut Googlen tekstihakuihin liitettyjä tekoäly-yhteenvetoja.
Analyysin mukaan noin yhdeksän kymmenestä Googlen tekoäly-yhteenvedosta pitää paikkansa, mutta koska Google käsittelee yli viisi biljoonaa (5 000 000 000 000) hakua vuodessa, myös virheellisten vastausten määrä on päätähuimaava. Toisaalta analyysissa todetaan, että yli puolet niistä tekoäly-yhteenvedon vastauksista, joissa tiedot pitivät paikkansa, oli sellaisia, ettei yhteenvedon kertomia tietoja löytynyt suoraan yhteenvetoon linkitetyistä lähteistä. Analyysia vaikeutti sekin, että tekoäly-yhteenveto saattoi antaa täysin erilaisen vastauksen kahdella eri testikerralla, vaikka niiden välissä olisi kulunut vain muutama sekunti.
Tekoäly-yhteenvedot ovatkin nousseet uudeksi huolenaiheeksi väärän tiedon leviämisessä.
New York Timesin julkaisemassa jutussa ei käsitelty Googlen käänteisen kuvahaun ja siihen kytkeytyvien AI-yhteenvetojen ongelmia. Faktabaarin testien perusteella tekoäly-yhteenvedot ovat kuitenkin erityisen epäluotettavia kuvien tunnistuksessa.
Google tarkasteli Faktabaarin jakamia esimerkkejä
Faktabaari toisti tässä artikkelissa tehdyn testin myös ruotsin kielellä. Koko testin voi lukea Nordiksen verkkosivuilta.
Ruotsiksi tehdyssä testissä Googlen AI-yhteenveto/tekoälytila tarjosi oikeaa tietoa neljä kertaa kymmenestä. Ruotsinkielisessä testissä Googlen tekoälytila oli AI-yhteenvetoja luotettavampi.
Google vastasi Faktabaarin testejä koskeviin kysymyksiin sähköpostitse. Vastaukset antoi viestintäpäällikkö Joakim Larsson.
Larsson kertoo, että Google on tarkastellut Faktabaarin jakamia esimerkkejä. “Ryhdyimme käytäntöjemme mukaisiin toimiin tarpeen mukaan”, Larsson kirjoittaa.
Vastauksessa kerrotaan, että Lens, eli ominaisuus, joka mahdollistaa käänteisen kuvahaun, käyttää visuaaliseen vastaavuuteen perustuvaa hakua löytääkseen samankaltaisia kuvia verkosta. “Se toimii vertaamalla lataamasi kuvan pikseleitä verkossa jo olevien kuvien pikseleihin.”
“Lens on suunniteltu yhdistämään käyttäjät verkosta löytyvään tietoon, jotta he voivat ymmärtää kuvia paremmin. Harvinaisissa tilanteissa voi kuitenkin ilmetä ongelmia – esimerkiksi jos ominaisuus tulkitsee verkkosisältöä väärin tai jos kuvasta ei ole verkossa riittävästi taustatietoa. Tällaisia tapauksia hyödynnetään järjestelmien parantamiseen, ja tarvittaessa ryhdymme toimenpiteisiin käytäntöjemme mukaisesti.”
Larsson kertoo, että AI-yhteenvedot ovat dynaamisia ja ne voivat parantua ajan myötä, kun aiheesta julkaistaan lisää tietoa tai kontekstia.
Larsson toteaa lisäksi, että Googlella on suunnitelmissa laajentaa SynthID-todennus myös hakukoneeseen. Tällä hetkellä se toimii Gemini-sovelluksessa.
Lue lisää: Näkymätön vesileima voi paljastaa tekoälykuvan – näin se toimii
Faktabaari aikoo testata myöhemmin keväällä uudelleen tekoäly-yhteenvetojen luotettavuutta.
Artikkelia päivitetty 8. toukokuuta kello 13:11. Lisätty tieto Nordiksen verkkosivuilla julkaistusta uudesta testistä sekä Googlen kommentit.
Jaa eteenpäin
