Oletko koskaan tavannut kadulla ihmistä, joka olisi yhtä kuin sinä? Vaatteet, kasvot, kävely, kommunikointitapa, tottumukset ovat täysin samat kuin sinun. Se on kuin skannattu ja tulostettu tulostimelle. Kuulostaa vähän kamala, eikö niin? Kuvittele nyt, että olet nähnyt videon, jossa sellainen henkilö kertoo jotain itsestään. Parhaimmillaan yrität muistaa, kun kävelit niin, että et muista mitään, mutta voit sanoa tämän kameralla. Vaikka tämä kaikki kuulostaa yksinkertaiselta päättelyltä, mutta tekniikka on jo hyvin lähellä tällaisten ihmisten luomista. Niitä on jo olemassa, mutta pian niitä on paljon enemmän.
Mistä väärennös tulee?
Nyt on jo liian monia asioita, joita yleisesti kutsutaan väärennöksiksi. He ovat kaikkialla. Niitä löytyy valokuvista, uutisista, tavaroiden tuotannosta ja tietopalveluista. On helpompi sanoa, missä ei ole ilmiöitä, joihin liittyy tämä sana. Vaikka voit taistella heitä vastaan. Voit tutkia valokuvan alkuperää, tarkistaa merkkituotteen ominaispiirteet väärennöksestä ja tarkistaa uutisia uudelleen. Vaikka uutiset ovat erillinen aihe.
Nykyään sisällön kuluttaja ei halua odottaa ja vaatii luojalta välitöntä tuotantoa, joskus hän ei edes välitä laadusta, tärkeintä on nopeasti. Tässä tilanteessa syntyy tilanteita, kun joku sanoi jotain, ja muut, tarkistamatta sitä, ottivat sen pois heidän verkkosivustoiltaan ja sanomalehdistään. Joissain tapauksissa kestää kauan tämän pallo pyörittäminen takaisin ja sen todistaminen, että se oli kaikki väärin.
Ei ole mitään syytä selittää miksi tämä kaikki tehdään. Toisaalta on niitä, jotka haluavat vain nauraa tilanteesta, ja toisaalta niitä, jotka eivät tienneet oikein olevansa väärässä. Erillisen paikan, suunnilleen keskellä, käyttävät ne, joille on vaikeaa ansaita. Ne voivat olla vaikutuksen etuja eri tasoilla, myös poliittisella tasolla. Joskus tämä on voittoa tavoitteleva. Esimerkiksi paniikin kylvö osakemarkkinoilla ja kannattavien liiketoimien suorittaminen arvopapereilla. Mutta usein tämä johtuu vihamielisyydestä henkilöä (yritystä, tuotetta jne.) Kohtaan häntä halveksittavaksi. Yksinkertainen esimerkki on "pudottaminen" elokuvan tai instituutin luokituksiin, joka ei ole toivottavaa jollekin. Tämä vaatii tietysti armeijan niistä, jotka menevät ja pidä (joskus jopa boteja), mutta se on toinen tarina.
Mikä on syväoppiminen?
Mainosvideo:
Viime aikoina tämä termi kuulostaa yhä useammin. Joskus hän ei ole edes sukulainen tapaukseen ja sekoitetaan johonkin muuhun. Joten ohjelmistotuote näyttää vaikuttavammalta.
Älä usko, että koneoppinnan käsite ja perusperiaatteet ilmestyivät vasta muutama vuosi sitten. Itse asiassa he ovat niin monta vuotta vanhoja, että monet meistä eivät edes syntyneet silloin. Syvän oppimisen järjestelmät ja heidän työnsä matemaattiset mallit tunnettiin jo viime vuosisadan 80-luvulla.
Tuolloin heillä ei ollut niin suurta merkitystä, koska puuttui yksi tärkeä komponentti. Se oli korkea laskentateho. Vasta 2000-luvun puolivälissä ilmestyi järjestelmiä, jotka auttavat toimimaan tähän suuntaan ja mahdollistavat kaiken tarvittavan tiedon laskemisen. Nyt koneet ovat kehittyneet vielä enemmän ja jotkut koneen näön, äänen havaitsemisen ja jotkut muut toimivat niin tehokkaasti, että joskus jopa ylittävät ihmisen kyvyt. Vaikka heitä ei ole vielä "vangittu" vastuullisiin suuntiin, mikä tekee niistä lisäyksen ihmisten kykyihin ylläpitäen samalla heitä.
Mikä on Deepfake? Milloin Deepfake ilmestyi?
On helppo arvata, että Deepfake on pieni näytelmä syväoppimiseen liittyvistä sanoista ja erittäin väärennöksistä, joista puhuin yllä. Toisin sanoen Deepfaken tulee viedä väärennös uudelle tasolle ja purkaa ihminen tässä vaikeassa liiketoiminnassa, jolloin hän voi luoda vääriä sisältöjä kuluttamatta energiaa.
Ensinnäkin, tällaiset väärennökset koskevat videota. Toisin sanoen kuka tahansa voi istua kameran edessä, sanoa jotain, ja hänen kasvonsa korvataan toisella. Se näyttää pelottavalta, koska itse asiassa sinun on vain kiinni ihmisen perustoiminnoista ja väärenteen erottaminen on yksinkertaisesti mahdotonta. Katsotaan kuinka se kaikki alkoi.
Ensimmäisen sukupolven kilpailevan verkoston loi Stanfordin yliopiston opiskelija. Se tapahtui vuonna 2014, ja opiskelijan nimi oli Ian Goodfellow. Itse asiassa hän löi kaksi hermoverkkoa toisiaan vastaan, joista toinen harjoitti ihmisten kasvojen luomista, ja toinen analysoi niitä ja puhui samalla tavalla vai ei. Joten he harjoittelivat toisiaan ja jonain päivänä toinen hermoverkko alkoi hämmentyä ja ottaa luodut kuvat todellinen. Juuri tämä yhä monimutkaisempi järjestelmä synnyttää Deepfaken.
Nyt yksi Deepfaken idean pää promoottoreista on Hao Li. Hän ei tee vain tätä, vaan myös monia muita. Tätä varten hänelle myönnettiin toistuvasti erilaisia palkintoja, myös epävirallisia. Muuten, hän on yksi niistä, joille pitäisi kiittää animojin esiintymisestä iPhone X: ssä. Jos olet kiinnostunut, voit tutustua siihen yksityiskohtaisemmin hänen verkkosivustollaan. Nykyään hän ei ole keskustelun pääaihe.
Muistimme hänet vain siksi, että Davosin maailman talousfoorumilla hän näytti hakemuksensa, jonka avulla voit korvata kameran edessä istuvan henkilön kasvot muilla kasvoilla. Erityisesti hän näytti, kuinka järjestelmä toimii Leonardo DiCaprion, Will Smithin ja muiden kuuluisten ihmisten kasvojen esimerkillä.
Se näyttää hiukan kammolta. Toisaalta voit vain ihailla modernia tekniikkaa, jonka avulla voit skannata kasvot, vaihtaa ne toiseen liikkeellä ollessa ja tuottaa uuden kuvan. Kaikki tämä vie sekunnin jakson eikä järjestelmä edes hidasta. Toisin sanoen sen avulla voidaan valmistetun videon lisäksi vain käsitellä ja korvata kasvot, mutta myös osallistua sellaiseen merkkiin jonkinlaisessa live-videoliikenteessä.
Deepfake-vaara. Kuinka voin muuttaa videon kasvot?
Voit puhua niin paljon kuin haluat, että tätä tekniikkaa tarvitaan, se on erittäin siistiä ja sinun ei tarvitse surmata. Voit jopa mennä äärimmäisyyteen ja alkaa sanoa, että tämä on kovan vanhan fagin asema, joka pelkää kaikkea uutta, mutta vaarassa on todellakin enemmän kuin hyötyä.
Tällaisen tekniikan avulla, etenkin jos se on avoimen lähdekoodin, kuka tahansa voi surffata ja tallentaa mitä tahansa videota. Ei ole niin huonoa, jos se vain loukkaa jonkun kunniaa ja ihmisarvoa, paljon pahempaa, jos kyse on lausunnosta, joka on annettu tärkeän henkilön puolesta. Esimerkiksi, nauhoittamalla vain 30–40 sekunnin pituisen videon Tim Cookin puolesta, voit pienentää melkein koko Yhdysvaltain IT-alueen, jota johtaa Apple. Osakemarkkinat kärsivät niin kovasti, että ne aiheuttavat paniikkia sijoittajien keskuudessa. Seurauksena on, että tuhannet ihmiset menettävät miljardeja dollareita.
Jokainen, joka ei pidä tällä tavoin ansaita rahaa, sanoo, että he tarvitsevat tätä, antaa heidän mennä kasveen. Mutta surullisimmassa tilanteessa tämän jälkeen ei ole kasveja. Lisäksi on hankalaa, että saamme henkilön, joka huijaa arvopapereiden arvonvaihteluita. Riittää, kun ostaa ja myydä ne ajoissa.
Tilanne voi olla vielä huonompi, jos "jokeri" puhuu suuren valtion johtajan puolesta. Tietenkin, kaikki paljastuu, mutta tänä aikana voit tehdä paljon epämiellyttäviä asioita. Tätä taustaa vasten yksinkertaisesti julkkis kasvojen korvaaminen näyttelijällä aikuisten elokuvassa olisi viaton kepponen.
Tällaisilla tekniikoilla pääasia on skannata, ja sitten se on tekniikan kysymys. Sanan todellisessa merkityksessä.
Voit kuvitella päinvastaisen tilanteen, kun todellinen henkilö sanoo jotain ja vakuuttaa sitten kaikille, että hän oli kehystetty. Kuinka olla tässä tilanteessa ei myöskään ole kovin selvää. Tämä tuo uutissyötteisiin niin hämmennystä, että sitä ei yksinkertaisesti ole mahdollista tarkistaa toisesta lähteestä. Seurauksena on, että tulee yleensä epäselvää, mikä on totta ja mikä on väärää tässä maailmassa. Elokuvista syntyy kuva surkeasta tulevaisuudesta, kuten Surrogates tai Terminaattori, jossa T-1000 esitteli itsensä muina ihmisinä ja nimitti muun muassa John Conoriin adoptioäitinsä puolesta.
Nyt en puhu edes toisesta väärinkäytöstä, joka sallii väärien todisteiden keräämisen. Tätä taustaa vasten lelun kaikki hauskaa muuttuvat liian epäilyttäviksi.
Kuinka havaita Deepfake?
Ongelmana ei ole edes tällaisten järjestelmien kieltäminen, vaan se, että tämä ei ole enää mahdollista. Niitä on jo olemassa, ja teknologioiden kehitys, mukaan lukien kasvojen lukeminen, on johtanut niiden ilmestymiseen ja avoimen lähdekoodin leviämiseen. Vaikka kuvittelemme, että järjestelmä nykyisessä muodossaan lakkaa olemasta, meidän on ymmärrettävä, että se luodaan uudestaan. He vain opettavat hermoverkot toimimaan keskenään ja siinä kaikki.
Toistaiseksi kaikki ei ole niin pelottavaa, ja voit tunnistaa väärennöksen kirjaimellisesti paljaalla silmällä. Kuva on samanlainen, mutta melko karkea. Lisäksi hänellä on joskus joitain sekoitusongelmia, etenkin kasvojen reunojen ympärillä. Mikään ei kuitenkaan ole paikallaan, eikä sitä ole lainkaan vaikeaa kehittää edelleen. Sama Hao Li on varma, että tämä vie vain muutaman kuukauden, ja jotta luodaan "maskeja", joita edes tietokone ei pysty erottamaan, tarvitaan vielä useita vuosia. Sen jälkeen ei tule takaisin.
Yhtäältä algoritmi, jonka YouTube ja Facebook ovat jo luoneet, voivat suojautua tältä. Muuten, jälkimmäinen avasi jopa kilpailun tunnistustekniikan kehittämiselle - Deepfake Detection Challenge ("Tehtävä havaita syvävirheitä"). Kilpailun palkintorahasto on 10 miljoonaa dollaria. Kilpailu on jo käynnissä ja päättyy maaliskuussa 2020. Voit silti olla aikaa osallistua.
Kasvojen korvaaminen videossa ei ole enää ongelma.
Ehkä tämä anteliaisuus johtuu vääriä videoita, joissa Mark Zuckerberg itse. Jos nämä kaksi asiaa liittyvät toisiinsa, tällaisen kilpailun syntyminen ei ole yllättävää.
Jos korvatut kasvot vastaavat täysin alkuperäisiä, erityisen hermoverkon edustama vastavoima on voimaton. Tällöin hänen on saatava minimaaliset erot ilmeissä, liikkeissä ja puhetavassa. Kuuluisten ihmisten tapauksessa tällainen ongelma ratkaistaan videopalvelutasolla, koska sama YouTube tietää kuinka perinteinen Donald Trump liikkuu. Kun kyseessä on vähemmän tunnettu henkilö, se tulee vaikeammaksi. Vaikka tämä voidaan todistaa myös asettamalla hänet kameran eteen ja käymällä satunnaista keskustelua hermoverkon analysoidessa hänen liikkeitään. Se osoittautuu sormenjäljen tutkimiseksi, mutta kuten näemme, tämä johtaa jälleen tarpeettomiin vaikeuksiin.
Videotunnistusjärjestelmien ompelu kameroiksi voidaan myös kiertää. Voit tehdä kamerasta merkinnän otetulle videolle ja tehdä selväksi, että sitä ei ole kuvattu erillisen sovelluksen kautta tai käsitelty erityisohjelmassa. Entä videot, jotka on juuri käsitelty? Esimerkiksi muokattu haastattelu. Seurauksena on, että saamme videon, jossa alkuperäinen avain ei enää ole.
Muutama meemi lopussa.
Voidaanko sanoa, että olemme nyt luonnostellut yhden tumman tulevaisuuden skenaarioista? Yleensä kyllä. Jos hyvien tavoitteiden saavuttamiseksi luodut tekniikat pääsevät hallintaan, niitä voidaan surua. Itse asiassa tällaisille vaarallisille tekniikoille on monia vaihtoehtoja, mutta suurin osa niistä on suojattu. Esimerkiksi ydinfuusio. Tässä on kyse koodista, jonka kuka tahansa voi saada.
Kirjoita kommentteihin kuinka näet suojan väärentämiseltä ottaen huomioon, että peitejärjestelmä pystyi tekemään naamioista täysin identtiset alkuperäisten kasvojen kanssa. Ja koska ne ovat videossa, et voi edes soveltaa niihin syvyyden ja äänenvoimakkuuden tunnistusta. Oletetaan lisäksi, että kaikki kuvan upotetut koodit ja avaimet voidaan hakkeroida. Kuten sanotaan, se olisi mitä varten. Nyt voimme keskustella, kaikki johdanto on olemassa.
Artem Sutyagin