Kuvittele, että jonain päivänä joku imeväislapsi keksisi tekniikan, jonka avulla ihmiset tai aineelliset esineet pääsevät seinien läpi, ja julkaisi Internetiin ohjeet siitä, miten tällainen ihmekone rakennettaisiin halvalla yleisesti saatavilla olevista kotitalousmateriaaleista. Kuinka maailma muuttuisi?
Monista teollisuudenaloista tulee todennäköisesti merkittävästi tuottavampia. Mahdollisuus kävellä seinien läpi ovien käyttämisen sijasta helpottaisi ihmisten liikkumista toimistoissa, tavaroiden siirtämistä varastoissa ja lukemattomien päivittäisten kotitehtävien suorittamista. Negatiiviset seuraukset voivat kuitenkin olla suuremmat kuin positiiviset. Arvoesineiden pitäminen lukossa menettäisi merkityksensä. Kuka tahansa voisi helposti tulla varastoon, päästä pankkikaappiin tai taloon.
Suurin osa yksityisomaisuuden suojaamiseen käytetyistä menetelmistä liittyy tavalla tai toisella seiniin, joten ne kaikki olisivat hyödyttömiä yön yli. Varkaat toimisivat rankaisematta, kunnes yhteiskunta keksii vaihtoehtoisia tapoja estää tällaiset rikokset. Tällaisen tapahtumakehityksen tulos voi olla taloudellinen romahdus tai sosiaalinen kaaos.
Edellä kuvattu yleinen periaate: teknologinen innovaatio ei ole aina edes yhteiskunnalle edes ainakaan lyhyellä aikavälillä. Teknologiat pystyvät luomaan negatiivisia ulkoisvaikutuksia. Tämä taloudellinen termi tarkoittaa kolmansille osapuolille tai osapuolille aiheutettua vahinkoa. Jos nämä negatiiviset ulkoisvaikutukset ovat suurempia kuin itse tekniikan hyödyllisyys, keksintö tekee maailmasta todellakin pahempaa, ei parempaa, ainakin hetkeksi.
Koneoppiminen, etenkin syväoppimisena tunnettu muunnelma, on kiistatta kuumin tekninen läpimurto planeetalla. Se antaa tietokoneille mahdollisuuden suorittaa monia tehtäviä, joita aiemmin vain ihmiset pystyivät: tunnistamaan kuvia, ajamaan autoja, käymään kauppaa osakemarkkinoilla ja paljon muuta. Tämä on herättänyt joissakin ihmisissä huolta siitä, että koneoppiminen voi tehdä ihmisistä tarpeettomia ja hyödyttömiä työpaikalla. Ja tämä on todella mahdollista, mutta koneoppimisesta aiheutuu paljon vakavampi vaara, johon ei ole toistaiseksi kiinnitetty riittävästi huomiota. Asia on, että jos koneet pystyvät oppimaan, he voivat oppia valehtelemaan.
Nykyään ihmiset voivat väärentää kuvia, kuten valokuvia, mutta tämä on työläs ja monimutkainen prosessi. Ja ääni- tai videokuvan väärentäminen ylittää yleensä tavallisen ihmisen mahdollisuudet. Mutta pian koneoppimisen ansiosta on todennäköisesti mahdollista luoda helposti uskottavia väärennettyjä videokuvia jonkun kasvoista ja antaa vaikutelman, että henkilö puhuu omalla äänellään. Jo nyt on olemassa tekniikka huuliliikkeiden synkronointiin, joka voi kirjaimellisesti laittaa kaikki sanat henkilön suuhun. Tämä on vain jäävuoren huippu. Pian 12-vuotiaat pystyvät luomaan fotorealistisia ja uskottavasti kuulostavia väärennettyjä kuvia poliitikoista, yritysjohtajista, heidän sukulaisistaan tai ystävistään makuuhuoneensa makuuhuoneissa sanoen kaiken mitä voi kuvitella.
Tämä itsessään aiheuttaa ilmeistä väärinkäyttöä. Poliittiset huijaukset, niin sanotut "väärennetyt uutiset" tai "informaation täyttäminen", leviävät kuloina. Tietysti petos havaitaan mahdollisimman pian - mikään digitaalinen tekniikka ei voi olla niin hyvää, ettei toinen tekniikka pysty havaitsemaan väärennöstä. Mutta tämä tapahtuu vasta sen jälkeen, kun haitallinen idea on jo tunkeutunut siihen uskovien ihmisten mieleen. Kuvittele täydellisesti valmistettu väärennetty video presidenttiehdokkaista, jotka huutavat rodullisia hämmennyksiä tai tunnustavat vakavista rikoksista.
Tämä on kuitenkin vasta alkua. Kuvittele mahdollisuutta manipuloida osakemarkkinoita. Oletetaan, että joku levitti väärennetyn videon, jossa Teslan toimitusjohtaja Elon Musk myöntää, että Tesla-autot eivät ole turvallisia. Video siirtyy verkkoon ja yhtiön osakkeet kaatuvat. Pian väärennöksen löytämisen jälkeen heidän hintansa palautuu, mutta tänä aikana manipulaattorit voivat ansaita valtavasti rahaa pelaamalla Teslan osakkeiden vähentämiseksi.
Mainosvideo:
Ja tämä on kaukana äärimmäisimmistä tilanteista. Kuvittele, että tällainen kepponen luo realistisen väärennetyn videon presidentti Donald Trumpista, joka toteaa, että isku Pohjois-Korean kohteisiin on välitön, ja julkaise sitten video sinne, missä pohjoiskorealaiset näkevät sen. Mitkä ovat mahdollisuudet, että Pohjois-Korean johto ymmärtää, että kyseessä on väärennös, ennen kuin heidän on päätettävä aloittaa sota?
Ne, jotka pyrkivät pitämään tällaisia äärimmäisiä tilanteita hälyttäjinä, huomauttavat kohtuudella, että väärennökset voidaan havaita, koska niiden havaitsemiseen käytetään samoja koneoppimistekniikoita kuin luomiseen. Mutta tämä ei tarkoita sitä, ettemme ole vaarassa joutua maailmaan, joka on täynnä kaikkialla olevia väärennöksiä. Kun väärennöksistä tulee riittävän uskottavia, etteivät ihmiset pysty havaitsemaan niitä yksin, menetämme ikuisesti luottamuksen näkemäämme ja kuulemamme. Sen sijaan, että luottaisimme omiin aisteihimme, meidän on pakko luottaa algoritmeihin, joita käytetään väärennösten havaitsemiseen ja tietojen todentamiseen. Koko evoluution ajan olemme oppineet luottamaan omiin tunteihimme,ja näiden toimintojen siirtäminen koneen älykkyyteen voi olla liian jyrkkää useimmille ihmisille.
Tämä voi olla huono uutinen taloudelle. Liike- ja kauppaverkostot rakentuvat luottamukseen ja viestintään. Jos koneoppiminen heittää loputtoman illuusioiden ja väärennösten myrskyn jonain päivänä julkiseen informaatioalueeseen, evoluution luomat seinät todellisuuden erottamiseksi fiktiosta sortuvat. Tällöin luottamus yhteiskuntaan voi laskea nopeasti, mikä ei hidastu vaikuttamaan kielteisesti ihmiskunnan globaaliin hyvinvointiin.
Tästä syystä hallituksen tulisi todennäköisesti ryhtyä toimiin varmistaakseen, että digitaaliväärennöksistä rangaistaan ankarasti. Valitettavasti nykyinen hallinto ei todennäköisesti ota tällaista askelta rakkaudesta kapeiden puolueiden uutisiin. Venäjän kaltaiset hallitukset ovat todennäköisesti vielä vähemmän halukkaita hillitsemään näitä käytäntöjä. Huonon hallinnon yhdistäminen tehokkaaseen uuteen tekniikkaan on viime kädessä paljon suurempi uhka ihmisyhteiskunnalle kuin itse tekniikat.
Kirjailija: Noah Smith - Bloomberg News Columnist
Igor Abramov