Kodėl deepfake’ai tapo tikra problema, o ne tik sci-fi
Dar prieš kelerius metus deepfake video buvo kažkas, ką matydavai tik technologijų konferencijose arba Reddit forumuose, kur entuziastai demonstravo, kaip Nicolas Cage veidą galima įklijuoti į bet kurį filmą. Buvo juokinga, buvo keista, bet niekas ypatingai nesijaudino. Dabar situacija visiškai kitokia.
Šiandien deepfake’us kuria ne tik programišiai ar technologijų ekspertai. Tam yra paprastų įrankių, kuriuos gali naudoti bet kas turintis kompiuterį ir valandą laiko. „FaceSwap”, „DeepFaceLab”, o pastaruoju metu ir daugybė mobilių aplikacijų – visa tai padarė suklastotų video kūrimą prieinamu masėms. Ir socialiniai tinklai, deja, tapo tobula platforma tokiam turiniui plisti.
Problema ne tik ta, kad kažkas gali sukurti juokingą video su tavo veidu. Deepfake’ai naudojami dezinformacijai skleisti, politikams diskredituoti, žmonėms šantažuoti ir net finansiniam sukčiavimui. 2023 metais buvo užfiksuota atvejų, kai deepfake video pagalba buvo apsimetama įmonių vadovais ir taip išviliojami pinigai. Tai jau ne technologijų žaislas – tai realus įrankis nusikaltimams.
Tad kaip atskirti, kas tikra, o kas sukurta dirbtinio intelekto? Tai nėra trivialus klausimas, bet yra keletas dalykų, į kuriuos verta atkreipti dėmesį.
Akys – sielos veidrodis ir deepfake’ų silpnoji vieta
Jei nori greitai patikrinti, ar video gali būti suklastotas, pirmiausia žiūrėk į akis. Tai skamba paprastai, bet yra rimtas pagrindas. Dirbtinio intelekto modeliai, generuojantys veidus, vis dar turi problemų su akimis – ypač su mirksėjimu ir žvilgsnio kryptimi.
Ankstyvieji deepfake’ai beveik nemirksėdavo – tai buvo vienas pirmųjų atpažinimo ženklų. Šiuolaikiniai modeliai šią problemą iš dalies išsprendė, bet vis tiek galima pastebėti keistumų. Mirksėjimas gali atrodyti per dažnas arba per retas, akys gali judėti šiek tiek nesimetriškai, o vyzdžiai kartais atsispindi netikėtai arba atrodo nenatūraliai.
Kitas dalykas – žvilgsnio kryptis. Kai žmogus kalba, jo akys natūraliai juda, reaguoja į aplinką, kartais nukrypsta į šoną. Deepfake’uose šis judėjimas dažnai atrodo per tiesus arba per mechaniškas. Žvilgsnis gali „šokinėti” arba, priešingai, būti per daug fiksuotas.
Praktinis patarimas: jei abejoji video autentiškumu, sustabdyk jį ir priartink veidą. Žiūrėk į akių kampus, į tai, kaip šviesa atsispindi vyzdžiuose. Tikrame video abu akių atspindžiai bus vienodi ir atitiks aplinkos apšvietimą. Deepfake’uose šie atspindžiai dažnai neatitinka arba atrodo per daug tobuli.
Oda, plaukai ir ausys – detalės, kurios išduoda
Dirbtinis intelektas moka generuoti gana įtikinamą odą, bet kai prieini prie smulkių detalių – viskas pradeda byrėti. Plaukai yra klasikinė deepfake’ų problema. Jei žiūri į video ir matai, kad plaukai ties kakta arba smilkiniais atrodo šiek tiek „ištirpę”, neaiškūs arba kaip nors keistai susilieja su fonu – tai rimtas signalas.
Ausys yra dar viena silpnoji vieta. Ausies forma yra labai individuali ir sudėtinga, todėl AI modeliams sunku ją tiksliai atkurti. Deepfake’uose ausys kartais atrodo per daug simetriškos, per daug „tobulos” arba, priešingai, šiek tiek deformuotos. Auskarų atveju situacija dar įdomesnė – jie gali išnykti, atsirasti arba keisti formą skirtinguose kadruose.
Oda ties kaklu ir žandikauliu – dar viena zona, kurią verta apžiūrėti. Deepfake technologija dažnai „klijuoja” veidą ant kito žmogaus kūno, ir šis siūlas kartais matomas. Spalvos gali šiek tiek nesutapti, tekstūra gali skirtis, o ties žandikauliu kartais matosi savotiškas „šešėlis” arba linija, kur baigiasi vienas veidas ir prasideda kitas.
Taip pat atkreipk dėmesį į odos tekstūrą apskritai. Tikra oda turi poras, smulkias raukšleles, netobulumus. Deepfake’ais sugeneruota oda kartais atrodo per lygi, per tobula – tarsi filtruota nuotrauka. Jei žmogaus veidas atrodo kaip iš žurnalo viršelio, bet video kontekstas yra kasdieniškas – tai turėtų kelti klausimų.
Lūpų sinchronizacija ir garso nesutapimai
Vienas iš labiausiai pastebimų deepfake’ų požymių – lūpų judėjimo ir garso nesutapimas. Tai ypač aktualu video, kur žmogus kalba. Jei lūpos juda šiek tiek anksčiau arba vėliau nei girdimas garsas, jei lūpų forma nevisiškai atitinka tariamus garsus – tai labai stiprus signalas.
Bet čia reikia būti atsargiems. Lūpų sinchronizacijos problemos gali atsirasti ir dėl prastos video kokybės, lėto interneto ryšio arba netinkamo video konvertavimo. Tad vienas šis požymis dar nereiškia, kad video yra deepfake. Reikia žiūrėti į visumą.
Garso kokybė taip pat gali daug pasakyti. Jei video yra deepfake ir buvo naudojamas ir balso klonavimas (o tai vis dažniau daroma), balse gali būti keistų artefaktų. Garsas gali skambėti per daug „švariai” – be natūralių kvėpavimo pauzių, be foninių garsų, kurie turėtų būti aplinkoje. Arba, priešingai, foniniai garsai gali nesutapti su tuo, ką matai ekrane.
Vienas praktiškas triukas: išjunk vaizdą ir klausyk tik garso. Ar balsas skamba natūraliai? Ar intonacijos atitinka tai, ką žmogus sako? Dirbtinai sugeneruoti ar klonuoti balsai dažnai turi monotoniškesnę intonaciją arba keistai akcentuoja žodžius.
Fono detalės ir apšvietimas – kur AI dar klysta
Deepfake’ai koncentruojasi į veidą, bet fonas ir apšvietimas gali išduoti klastotę. Apšvietimas yra ypač svarbus – šviesa turi krist ant veido taip, kaip ji krinta aplinkoje. Jei fone matai langą kairėje pusėje, bet šešėliai ant veido rodo, kad šviesa ateina iš dešinės – kažkas ne taip.
Fono detalės deepfake’uose kartais „šokinėja” arba atrodo nenatūraliai. Tai ypač pastebima ties veido kraštais – ten, kur veidas susitinka su fonu. Gali matytis savotiškas „aureolės” efektas arba fono elementai gali šiek tiek deformuotis, kai juda veidas.
Taip pat verta atkreipti dėmesį į šešėlius po smakru, ties nosimi, aplink akis. Tikrame video šie šešėliai yra nuoseklūs ir atitinka apšvietimo šaltinį. Deepfake’uose šešėliai kartais atrodo netiksliai arba keičiasi netikėtai tarp kadrų.
Dar vienas dalykas – akiniai, jei žmogus juos dėvi. Akinių stiklai atspindi aplinką, ir šie atspindžiai turi būti nuoseklūs su tuo, kas yra aplinkoje. Deepfake’ai su akiniais dažnai turi problemų būtent su šiais atspindžiais – jie arba neatitinka aplinkos, arba atrodo per daug tobuli.
Įrankiai, kurie gali padėti patikrinti video
Gerai, kad ne viskas priklauso tik nuo tavo akių. Yra keletas įrankių, kurie gali padėti nustatyti, ar video yra deepfake. Nė vienas iš jų nėra tobulas, bet kartu su vizualiniu patikrinimu jie gali gerokai padidinti tikimybę teisingai identifikuoti klastotę.
Microsoft Video Authenticator – tai įrankis, sukurtas specialiai deepfake’ams aptikti. Jis analizuoja video kadrus ir ieško požymių, kad veidai buvo manipuliuoti. Įrankis nėra viešai prieinamas visiems, bet žurnalistai ir organizacijos gali juo naudotis.
Deepware Scanner – nemokamas įrankis, leidžiantis įkelti video ir patikrinti, ar jis gali būti deepfake. Veikia gana paprastai: įkelk video, palaukia kelias minutes, gauni rezultatą su tikimybės procentu. Nėra 100% tikslus, bet kaip pirmas filtras – tinka.
FotoForensics – labiau skirtas nuotraukoms, bet gali padėti analizuoti atskirus video kadrus. Programa parodo, kuriose vaizdo vietose buvo atlikta daugiausia manipuliacijų.
InVID/WeVerify – tai naršyklės plėtinys, ypač populiarus tarp faktų tikrintojų. Jis leidžia analizuoti video metaduomenis, ieškoti to paties video internete ir atlikti atvirkštinę vaizdo paiešką. Labai naudingas įrankis, jei nori sužinoti, kur video pirmą kartą pasirodė.
Svarbu suprasti, kad nė vienas automatinis įrankis nėra patikimas 100%. Deepfake technologijos tobulėja greičiau nei jų aptikimo metodai. Tad geriausias metodas – kombinuoti vizualinį patikrinimą su automatiniais įrankiais ir sveiku protu.
Kontekstas ir šaltinis – dažnai svarbiau nei techniniai požymiai
Čia yra dalykas, kurį žmonės dažnai pamiršta: techniniai požymiai yra svarbūs, bet kontekstas ir šaltinis kartais gali pasakyti daugiau. Prieš pradedant analizuoti video piksel po pikselio, verta užduoti kelis paprastus klausimus.
Kas pasidalino šiuo video? Jei video ateina iš anoniminės paskyros, kuri buvo sukurta prieš savaitę ir neturi jokios istorijos – tai jau signalas. Jei video sklinda per grupes ar puslapius, kurie reguliariai dalinasi sensacingomis naujienomis – dar vienas signalas.
Ar šis video pasirodė kitur? Jei kalbama apie kažkokį svarbų įvykį, bet jokia žiniasklaidos priemonė jo nepatvirtina – labai tikėtina, kad kažkas ne taip. Rimti įvykiai, kuriuose dalyvauja žinomi žmonės, paprastai būna plačiai nušviesti.
Ar video turinys atitinka tai, ką žinai apie tą žmogų? Jei politikas video sako kažką, kas radikaliai prieštarauja viskam, ką jis sakė anksčiau, ir tai pasirodė tik vienoje platformoje – verta suabejoti. Deepfake’ai dažnai kuriami siekiant sukurti kažką sensacingo, kas prieštarauja realybei.
Taip pat verta patikrinti, ar video turi metaduomenų. Originalūs video paprastai turi informacijos apie tai, kada ir kuo buvo nufilmuoti. Jei metaduomenų nėra arba jie atrodo keistai – tai gali reikšti, kad video buvo apdorotas.
Kai technologijos lenkia mūsų gebėjimą jas atpažinti
Reikia būti sąžiningais: deepfake technologijos tobulėja labai greitai, ir tai, kas veikė kaip atpažinimo metodas prieš metus, gali nebeveikti šiandien. Geriausi šiuolaikiniai deepfake’ai yra beveik neįmanoma atskirti nuo tikrų video plika akimi. Tai nėra pesimizmas – tai tiesiog realybė.
Tačiau tai nereiškia, kad reikia pasiduoti. Keletas dalykų, kurie padės ilgalaikėje perspektyvoje:
Pirma, ugdyk kritinį mąstymą apie tai, ką matai internete. Tai skamba banaliai, bet iš tikrųjų daugelis žmonių vis dar linkę tikėti tuo, ką mato, ypač jei tai atitinka jų įsitikinimus. Jei video sukelia stiprią emocinę reakciją – pyktį, pasipiktinimą, šoką – tai gali būti signalas, kad kažkas nori, kad tu reaguotum, o ne galvotum.
Antra, nedalink video, kol nepatikrinai. Deepfake’ai plinta todėl, kad žmonės dalinasi jais nepatikrinę. Vienas paprastas principas: jei abejoji – nedalink. Geriau praleisti „įdomų” video nei prisidėti prie dezinformacijos skleidimo.
Trečia, sekyk technologijų naujienas šioje srityje. Deepfake’ų aptikimo metodai nuolat tobulėja, atsiranda naujų įrankių, keičiasi požymiai, į kuriuos reikia atkreipti dėmesį. Tai, ką žinai šiandien, po metų gali būti jau pasenę.
Galiausiai – ir tai galbūt svarbiausia – supratimas, kad deepfake’ai egzistuoja ir yra paplitę, jau yra didelė apsauga. Žmonės, kurie nežino apie šią technologiją, yra daug lengviau apgaunami. Tad jau vien tai, kad skaitai šį straipsnį ir domies tema, reiškia, kad esi žingsniu priekyje. Ir tai nėra maža – skaitmeninėje erdvėje, kur dezinformacija plinta greičiau nei tiesa, sąmoningumas yra vienas galingiausių įrankių.
