Menetelmät syväväärennöskuvien tunnistamiseen sosiaalisessa mediassa

Abstract

Tekoälyteknologioiden valtavirtaistumisen myötä 2020-luvulla syväväärennössisältöjen määrä verkossa on kasvanut räjähdysmäisesti. Syväväärennöksillä (eng. deepfake) tarkoitetaan syväneuroverkoilla tuotettuja valheellisia sisältöjä. Syväväärennösten avulla on mahdollista vaikuttaa voimakkaasti luottamukseen verkon sisältöjä kohtaan, kohdentaa hyökkäyksiä henkilöitä kohtaan, aiheuttaa suuria taloudellisia menetyksiä ja rapauttaa luottamusta demokraattisiin prosesseihin.

Tässä tutkielmassa tarkastellaan syväväärennöskuvien tuottamis- ja tunnistusmenetelmiä sosiaalisessa mediassa. Tutkimuksessa relevanteimmiksi arkkitehtuurimalleiksi syväväärennöskuvien tuottamiseen tunnistettiin GAN-, VAE- ja diffuusiomallit ja syväväärennöskuvien yleisimmin käyttämiksi tekniikoiksi kasvojen vaihtaminen, kasvojen uudelleenesitys, kokonaan synteettisten kasvojen luonti ja kasvojen ominaisuuksien muokkaaminen. Tunnistuskeinoista keskeisimmiksi nousivat tunnistaminen koneoppimisteknologioilla, tunnistaminen fysikaalisten ja fysiologisten epäjohdonmukaisuuksien avulla ja tunnistaminen digitaalisten tunnisteiden avulla. Lisäksi tutkielmassa tunnistettiin tärkeäksi tietoisuuden lisääminen tekoälyteknologioista ja syväväärennöksistä. Tulosten perusteella mikään keino ei yksinään riitä vastaamaan syväväärennöskuvien alati kasvaviin vaikutuksiin, vaan ratkaisevaa tulee olemaan eri keinojen yhdistely.