Brittiläinen Cambridge Analytica -yritys auttoi Donald Trumpia voittamaan Yhdysvaltain presidentinvaalit Big Data -tekniikan ja henkilökohtaisen verkkomainonnan avulla. Tätä ennen sama yritys työskenteli Brexit-kannattajien kanssa Isossa-Britanniassa ja on nyt allekirjoittanut sopimuksen Ranskan kansallisen rintaman kanssa. Onko totta, että odottamattomat äänestystulokset eri maissa eivät ole sosiologian epäonnistuminen, vaan uuden tyyppisen sosiologian voitto? Radio Liberty -haastattelija Michal Kosinski, jonka tutkimus liittyy epäsuorasti Cambridge Analytican toimintaan, uskoo, että tämä on liioittelua, mutta Big Data -teknologiat ja yksityisyyden väheneminen lupaavat maailmanlaajuisia muutoksia.
Syyskuun lopulla, vaalien puolivälissä, puhumalla New Yorkissa Concordia-huippukokouksessa, joka on vuosittainen tapahtuma vaikutusvaltaisille poliitikkoille ja liikemiehille ympäri maailmaa, Cambridge Analytican perustaja Alexander Nix puhui siitä, kuinka uusi tekniikka on parantanut Trumpin tasavallan ehdokkaan Ted Cruzin kampanjan tehokkuutta., kilpailun alkuun mennessä melkein tuntematon ehdokas. Nix puhui siitä, kuinka esimerkiksi erimuotoisten ihmisten tulisi esitellä ehdokkaan mielipide aseiden vapaata jakelua koskevasta laista eri tavoin: pelkäävät ihmiset, joilla on korkea neuroottisuus, voivat ajatella aseita turvallisuuden lähteenä ja rikkaille konservatiivisille ekstraverteille voidaan näyttää kuva ankan metsästyksestä.
Myöhemmin Cambridge Analytica auttoi Trumpia itse, ja Nyxin mukaan hänelle maksettiin suhteellisen vaatimaton palkkio, yhteensä noin 15 miljoonaa dollaria. Analysoimalla tietoja, jotka kaikki Internetin käyttäjät jättävät verkosta, yrityksen asiantuntijat onnistuivat löytämään epäselviä yhteyksiä ja malleja (esimerkiksi, että ihmiset, jotka mieluummin amerikkalaisia autoja ovat Trumpin äänestäjiä) ja käyttävät niitä kohdistamaan mainontaan Internetissä, henkilökohtaistamaan viestejä. lähtevät republikaanien ehdokkaan päämajasta. Miamin Pikku Haitin asukkaille nähtiin tietoja Hillary Clintonin kieltäytymisestä osallistumasta afrikkalais-amerikkalaisten Haitin maanjäristyksen helpotukseen - video, jossa Clinton vertaa mustia miehiä saalistajiin. Trump-vapaaehtoiset saivat yksityiskohtaisen profiilin talon asukkaista,missä he aikoivat suorittaa suoraa kampanjointia.
On vaikea sanoa, kuinka paljon Cambridge Analytican työ on vaikuttanut Yhdysvaltain vaalien tulokseen, mutta tämä kampanja ei ole ainoa esimerkki voittajaista, joka on palkannut yrityksen. Esimerkiksi jo vuonna 2015 Brexit Nigel Faragen radikaali kannattaja aloitti Cambridge Analytican käytön. Sveitsiläinen painos Das Magasin, joka julkaisi äskettäin tutkimuksen Cambridge Analytican toiminnasta (voit lukea sen venäjäksi täältä), kertoo, että yritys on nyt saanut sopimuksen Ranskan kansallisen rintaman kanssa, ja lisäksi jotkut poliittiset voimat Sveitsissä, Saksassa ja ehkä Italia.
Yksi Das Magasin -julkaisun sankareista on puolalaista alkuperää oleva tutkija Michal Kosinski, entinen Cambridgen yliopiston psykometriakeskuksen varajohtaja ja tällä hetkellä apulaisprofessori Stanfordin yliopistossa Yhdysvalloissa. Kosinski ja hänen Cambridge-kollegansa ovat jo usean vuoden ajan kehittäneet järjestelmää, joka kokoaa käyttäjän yksityiskohtaisen psykologisen profiilin perustuen käyttäjän toimintaan sosiaalisessa verkostossa. Järjestelmä pystyy kuvaamaan paitsi luonteenpiirteitä myös ennustamaan muun muassa käyttäjän sukupuolen, seksuaalisen suuntautumisen, ihonvärin ja jopa poliittiset mieltymykset.
Sveitsiläiset toimittajat kertovat, että vuoden 2014 alussa Kosinski otti yhteyttä kollegaan Alexander Koganiin, joka kutsui nuoria tutkijoita soveltamaan luomaansa mallia analysoidakseen useita miljoonia Yhdysvaltain kansalaisten profiileja tietyn yrityksen pyynnöstä. Kuten myöhemmin kävi selväksi, tämä yritys oli yhteydessä Cambridge Analyticaan. Kosinski kieltäytyi tekemästä yhteistyötä, mutta menetelmät, joita Cambridge Analytica käytti Ison-Britannian kansanäänestyksen ja Yhdysvaltain presidentinvaalien aikana, ovat ainakin hyvin samankaltaisia kuin Michal Kosinskin keksimät mallit.
Radio Liberty soitti Kosinskiin Kaliforniassa ja kysyi häneltä, mitä voidaan tarkalleen sanoa henkilölle, joka on hänen "digitaalisella polullaan", kuinka paljon luottaa Cambridge Analytican äänekäisiin lausuntoihin, onko yksityisyyden sota menetetty ja onko tekoäly vaarallisempi kuin Donald Trump.
- Mikä on psykometria? Mitä teet tutkijana?
Mainosvideo:
”Psykometria itsessään on muinainen tiede, mielestäni se on kaksi tai kolme vuosituhannetta vanha. Pohjimmiltaan tämä on psykologisten mittausten tiede, yrityksiä määrittää mahdollisimman tarkasti erilaisia psykologisia näkökohtia, persoonallisuus, älylliset kyvyt, onnellisuus, taipumus masennukseen ja niin edelleen. Perinteisesti tällaiset mittaukset tehtiin kyselylomakkeilla, psykologisilla testeillä, mutta suhteellisen äskettäin minä ja jotkut muut psykometrit huomasimme, että ne voidaan tehdä arvioimalla ihmisen digitaalinen jalanjälki - eikä silloin voida kysyä kysymyksiä, kyselylomakkeita ja testejä ei tarvita. Ja tämä on vallankumouksellinen hetki. Cambridge Analytica -jutun, josta Das Magasin kirjoitti, merkitys ei oikeastaan ole se, että yritys auttoi Trumpia vaalikilpailussa. Tämä on kaupallinen yritys, heillä on tekniikkaa, he haluavat ansaita rahaa, täällä on kaikki selvää. Tärkeää onettä jos aiemmin halusit laatia jonkun psykologisen profiilin, sinun oli pyydettävä henkilöä täyttämään kyselylomake, suoritettava testi - ja aihe ymmärsi hyvin, että juuri tällä hetkellä, tällä hetkellä, joku mittaa hänen psykologisia ominaisuuksiaan. Ja nyt voit tehdä saman, mutta henkilö ei tiedä, että joku arvioi ja mittaa hänen intiimimpiä piirteitään juuri nyt. Katsokaa vain digitaalista jalanjälkeä: sosiaalisen median viestit, tykkäämiset, selaushistoria, hakuhistoria. Näiden tietojen perusteella voidaan koota uskomattoman tarkka psykologinen muotokuva. Yhtäältä se näyttää olevan jotain pelottavaa, toisaalta se voi olla erittäin hyödyllinen. Jotkut Internet-alustat voivat esimerkiksi ehdottaa hahmosi ja kykyjesi kannalta sopivinta työtä tai suositella elokuvaa,josta pidät varmasti. Tämä on normaalia. Mutta kun avaat Facebook-sivusi ja näet siellä henkilökohtaisesti kohdistettuja mainoksia, jotka on kohdistettu sinulle yksityiskohtaisen psykologisen profiilisi perusteella, joka on koottu ilman sinun tietämistäsi ja suostumustasi, tämä ei ole enää kovin normaalia.
- Joten voisitko henkilökohtaisesti tehdä täydellisen psykologisen profiilini, tietäen vain nimeni, Internetin jättämän jalanjäljen perusteella?
”Olen tiedemies ja en vain tekisi sitä. Jos vapaaehtoisesti auttaisit tutkimustani ja toimitit tietosi, sisällyttäisin sen mielelläni tietokantaan, nimeämättä sen ja lupaan koskaan myydä tai siirtää kenellekään. Mutta monet yritykset tietysti keräävät jatkuvasti tietoja sinusta kysymättä ja käyttävät sitä esimerkiksi kohdennettuun mainontaan.
- Tietoja ei tietenkään tallenneta yhteen paikkaan - yksi yritys tietää paikkatietoni, toinen - rahoitustransaktiot, kolmas - tykkää Facebookissa. Voidaanko tämä kaikki koota yhteen?
- No, ensinnäkin, tämä ei yleensä ole välttämätöntä. Tarkan profiilin luomiseen yleensä riittää yksi asia - esimerkiksi Facebook-kiinnostuksen kohteesi tai selaimesi selaushistoria. Toiseksi yritykset, jotka keräävät sinusta tietoa, yleensä vaihtavat tietoja keskenään tai myyvät niitä vain yleisillä tietomarkkinoilla. On olemassa projekteja, kuten Acxiom, jotka kokoavat kaiken yhteen ja myyvät yrityksille kuten Cambridge Analytica. Voit vain tulla ja sanoa - Tarvitsen tietoja 10 miljoonasta amerikkalaisesta sellaiselta ja sellaiselta alueelta, ja he myyvät mielellään nämä tiedot. Kolmanneksi henkilökohtaisella kohdistamisella varustetun kampanjan toteuttamiseksi ei ole ollenkaan tarpeen, että henkilökohtaisia käyttäjätietoja olisi. Voit käyttää ns. Käyttäytymiskohdistusta. Et voi esimerkiksi pyytää Facebookia näyttämään tiettyjä mainoksia kaikille ihmisille,taipuvainen tietyntyyppiseen käyttäytymiseen. Mutta sinulla voi olla malli, joka yhdistää tämän tyyppisen käyttäytymisen jonkinlaiseen psykologiseen profiiliin, ja voit jopa rakentaa tämän mallin aivan rehellisesti - maksit useille kymmenille tuhansille ihmisille pienen maksun kyselylomakkeen täyttämisestä. Ja kun malli on rakennettu, kysyt sitä: miten löydän emotionaaliset ekstravertit? Malli vastaa - ei hätää, nämä ovat, jotka pitivät sellaisesta ja sellaisesta kymmenestä kirjasta, sellaisesta ja kymmenestä elokuvasta ja sellaisesta ja kymmenestä muusikosta. Nyt siirryt Facebookiin uudelleen mainoksellasi, vain sinun ei enää tarvitse kysyä osoittaa sitä tunnepitoisille ekstraverteille, mitä Facebook ei tekisi. Sen sijaan pyydät näyttämään mainoksia niille, joilla on tietty tykkäysjoukko. Seurauksena käy ilmi, että sinulla ei ollut henkilökohtaisia tietoja,mutta käytit henkilökohtaisesti kohdistettua mainontaa.
- Onko yrityksiä, jotka yrittävät koota psykologisen profiilin koko ihmiskunnasta, ainakin kaikista, jotka jättävät digitaalisen jäljen?
- Tuskin kukaan ajattelee tällaisissa globaaleissa kategorioissa, mutta jossain määrin Facebook, Google, Microsoft, Visa, Mastercard, sama Acxiom ovat mukana. Ja kaikki nämä tiedot käydään laajalti kaupalla markkinoilla.
- Eli esimerkiksi jostain markkinoista myydään myös psykologinen profiilini, ja se on uskomattoman tarkka. Sanoit kommentissa Das Magazinille, että vain muutama Facebook-tykkäys riittää, jotta järjestelmä tunnistaa sinut paremmin kuin lähin ystäväsi. Onko se todella niin?
- Kyllä, tästä tehtiin mielenkiintoinen tutkimus. Kymmenen tykkäystä (mielenkiintoa) ovat riittäviä, jotta järjestelmä tunnistaa persoonallisuuttasi paremmin kuin työtoveri, ja 230–240 tykkäykseen tietokone tietää enemmän sinusta kuin puolisostasi.
”Mutta mitä tarkalleen ottaen tarkoittaa tietää enemmän?
”Tämä tarkoittaa, että jos pyydät tietokonetta täyttämään sinulle psykologisen kyselylomakkeen, se tekee vähemmän virheitä kuin vaimosi.
- Nämä ovat vastaukset kysymyksiin, kuten "Pelkäätkö pimeyttä"?
- Kyllä, psykologisten kyselylomakkeiden tyypilliset kysymykset. Joten todellakin, jostakin markkinoilta voit ostaa erittäin tarkkoja tietoja persoonallisuudestasi, mukaan lukien poliittinen puolueellisuus, uskonnollisuuttasi, seksuaalinen suuntautumistasi, IQ-tasosi. Voit karkeasti ymmärtää, mitä sinusta tiedetään Facebook-kiinnostuksesi perusteella, käyttämällä Applymagicsauce.com -sivustoa, mutta tämä ei tietenkään ole kaukana kokonaiskuvasta.
- Siirrytään tarinaan Cambridge Analytican kanssa. Kerro minulle, että sinulla ei todellakaan ole mitään tekemistä tämän yrityksen kanssa?
- Ei, eikä koskaan ollut. Kuulin sen olemassaolosta lehdistöltä.
- Alexander Kogan, joka tarjosi Das Magazinin mukaan Cambridge Analytica psykologista profilointitekniikkaa, oli kollegasi?
- Kyllä, hän oli kollegani tai pikemminkin apulaisprofessori Cambridgen yliopiston psykologian osastolla silloin, kun olin siellä jatko-opiskelija. Mutta polkumme erottuivat kauan sitten, hän perusti pienen yrityksen ja, niin paljon kuin lehdistöstä ymmärsin, myi Cambridge Analytican tietoja ja jäin akateemiseen maailmaan.
- Voidaanko olettaa, että Cambridge Analytica käyttää kehittämiäsi malleja?
- Sanoisin, että he käyttävät samanlaisia malleja, mutta tällaisen mallin kehittämiseen ei tarvita erityisen syvää tiedettä, siinä ei ole taikuutta. Jokainen, jolla on perustaidot ohjelmointitaitoista, rahaa ja Internetiin kytketty tietokone, voi tehdä tämän - itse asiassa se tekee ongelmasta niin suuren. Tässä käytetään tavanomaisimpia tilastollisia menetelmiä, ei mitään erityistä. Julkaisujen pääideana on, että se on helppoa, on vain tärkeää muuttaa painopistettä: psykometrian kannalta kyselylomakkeita ja testejä ei enää tarvita, riittää, että henkilöllä on digitaalinen jalanjälki. Ja tämä antaa valtavia etuja, voit parantaa markkinointia, urasuunnittelua, psykologisen avun menetelmiä ja paljon muuta. Mutta samaa tekniikkaa voidaan käyttää ihmisiä vastaan. Olen varma, että Alexander Kogan oli tietoinen tutkimuksestani jaVaikka voin arvioida tämän vain toimittajien raporttien perusteella, hän teki tarkalleen mitä ehdotin ja myi tuloksen Cambridge Analyticalle. Olen sanonut monta kertaa ja ilmaissut selvästi artikkeleissani, että en halunnut innostaa ketään ryhtymään tällaiseen toimintaan. Lisäksi olen varma, että ihmiset harjoittivat digitaalista psykologista profilointia jo kauan ennen minua, he eivät vain puhuneet siitä niin aktiivisesti kuin Cambridge Analytica. Vaadin vain sellaisten politiikkojen ja menettelyjen kehittämistä, jotka määrittäisivät tämän tekniikan eettisen käytön.että ihmiset olivat tehneet digitaalista psykologista profilointia jo kauan ennen minua, he eivät vain puhuneet siitä niin aktiivisesti kuin Cambridge Analytica. Vaadin vain sellaisten politiikkojen ja menettelyjen kehittämistä, jotka määrittäisivät tämän tekniikan eettisen käytön.että ihmiset olivat tehneet digitaalista psykologista profilointia jo kauan ennen minua, he eivät vain puhuneet siitä niin aktiivisesti kuin Cambridge Analytica. Vaadin vain sellaisten politiikkojen ja menettelyjen kehittämistä, jotka määrittäisivät tämän tekniikan eettisen käytön.
- Voisiko Cambridge Analytica todella vaikuttaa merkittävästi Amerikan presidentinvaalien tuloksiin?
- Rehellisesti, en tiedä. On selvää, että Cambridge Analytica on kiinnostunut lyömään menestystä mahdollisimman äänekkäästi, mutta lopulta vaalitulokset eivät määritetä Big Data -menetelmien, vaan ehdokkaiden toimesta, ja lisäksi, kuten nyt erityisen selvästi havaitaan, äänestäjät, jotka eivät käy äänestyksissä. Ehkä Cambridge Analytican toiminta oli viimeinen olki, joka määräsi lopputuloksen, mutta todennäköisesti Alexander Nix itse ei tiedä varmasti. Toisaalta meidän on oltava tietoisia tekniikan olemassaolosta, ja sitä on lähes mahdotonta puolustaa. Voit lopettaa Facebookin käytön, mutta kirjoitat silti sähköpostia. Päätä käyttää kyyhkyspostia - et voi tehdä ilman luottokorttia. Ehkä maat voisivat antaa lakeja, jotka rajoittavat tällaisia käytäntöjä,mutta se ei ehkä myöskään toimi. Muuten, en tiedä varmasti, mutta kuulin, että se, mitä Cambridge Analytica teki Trumpille, oli vastoin Yhdysvaltain lakia, ja siksi he analysoivat tietoja suoraan Britanniassa. Tiedätkö, olen tutkija, teen psykometriaa, en ole politiikan, demokratian ja vapauden asiantuntija, mutta minusta näyttää siltä, että meidän on hyväksyttävä se seikka, että yksityisyyttä ei jää jäljelle. Sen sijaan, että osallistuisimme jälleen taisteluun yksityisyyden torjunnasta, on syytä tunnustaa, että sota on jo menetetty, ja on parempi ottaa huomioon se, että maailmasta tulee suotuisa ympäristö henkilölle, jolla on riistämättä yksityisyyttä. Tiedätkö, olen tutkija, teen psykometriaa, en ole politiikan, demokratian ja vapauden asiantuntija, mutta minusta näyttää siltä, että meidän on hyväksyttävä se seikka, että yksityisyyttä ei jää jäljelle. Sen sijaan, että osallistuisimme jälleen taisteluun yksityisyyden torjunnasta, on syytä tunnustaa, että sota on jo menetetty, ja on parempi ottaa huomioon se, että maailmasta tulee suotuisa ympäristö henkilölle, jolla ei ole yksityisyyttä. Tiedätkö, olen tutkija, teen psykometriaa, en ole politiikan, demokratian ja vapauden asiantuntija, mutta minusta näyttää siltä, että meidän on hyväksyttävä se seikka, että yksityisyyttä ei jää jäljelle. Sen sijaan, että osallistuisimme jälleen taisteluun yksityisyyden torjunnasta, on syytä tunnustaa, että sota on jo menetetty, ja on parempi ottaa huomioon se, että maailmasta tulee suotuisa ympäristö henkilölle, jolla ei ole yksityisyyttä.
- On uteliasta, missä määrin psykologisen profiilin rakentaminen henkilökohtaisen kohdistamisen avulla voi vaikuttaa todelliseen maailmaan.
- Tieteellisestä näkökulmasta on vaikea väittää tästä, koska kokeilujen järjestäminen on vaikeaa. Eli jos myyt jonkinlaista suihkugeeliä, voit vertailla napsautusten lukumäärää, mutta on erittäin vaikea arvioida esimerkiksi Big Data -menetelmien tehokkuutta poliittisessa kampanjassa, joka muistuttaa enemmän tuotemerkin edistämistä kuin myyntikampanjaa. Teimme joitain kokeita, ei poliitikkojen kanssa, koska mielestäni se on epäeettistä, mutta tiettyjen kuluttajatuotteiden kanssa, ja kävi ilmi, että henkilökohtainen kohdentaminen eli psykologiseen profiiliin perustuvan yksilöllisen mainosviestin käyttäminen kaksinkertaistaa mainonnan tehokkuuden. Ja tämä on uskomaton tulos, yleensä taistelu on parantaa tehokkuutta noin kolmella prosentilla, ja jopa tämä säästää yrityksille satoja miljoonia dollareita. Ja sitten kahdesti!
- On outoa, että sinusta ei ole vielä tullut miljardööri.
- Minulla on jo upea elämä. Muuten, on olemassa monia psykologisia teoksia, jotka todistavat, että onnellisuus ei vaadi niin paljon rahaa. No, tarvitset tietysti riittävästi lomalle. Itse asiassa kaikki ei todennäköisesti ole niin yksinkertaista kuin minulta tiedemiehenä näyttää, olen vain valmis puhumaan näistä asioista avoimesti, kun taas toiset työskentelevät todellisten projektien parissa kertomatta kenellekään mitään.
- Minulle ajatus digitaaliseen jalanjälkeen perustuvasta psykologisesta profiloinnista vaikuttaa melko luonnolliselta, olen varma, että monet ihmiset käyttävät sitä jo mainonnassa. Maailmamme on saattanut jo muuttua paljon, emme vain oikein huomaa sitä vielä.
- Todennäköisesti olen tyytyväinen näihin muutoksiin. Meillä oli keksintöjä ja kauheampaa kuin Big Data, selviimme ydinenergialla - pystymme jotenkin selviämään tästä, tosin todennäköisesti, ilman uhrauksia. Kuten totesin, minusta näyttää siltä, että yksityisyyden sota on jo menetetty, elämme yksityisyyden jälkeisessä maailmassa, mikä tarkoittaa, että on syytä investoida sen varmistamiseen, että kaikilla on yhtäläiset oikeudet ja mahdollisuudet, jotta kukaan ei halua piilottaa mitään. Toivottavasti enemmän suvaitsevaisuus voi ratkaista yksityisyyden puutteen ongelman.
- Mutta ongelma ei ole vain se, että muut oppivat kaikki ihmisen salaisuudet ja alkavat kohdella häntä eri tavalla, vaan myös se, että on ilmestynyt tehokas väline manipulointiin.
- Tämän mielestäni koulutuksen tulisi selviytyä. On helppo manipuloida niitä, jotka tietävät vähän, jotka lukevat vähän, jotka matkustavat vähän. Sellaiselle henkilölle voidaan kertoa, että Syyriassa ei ole sotaa ja kaikki syyrialaiset ovat todella verisiä rikollisia, ja hän uskoo siihen helposti.
- Mielestäni koulutettuja ihmisiä voidaan myös manipuloida esimerkiksi turhamaisuuden ja sukupuolen avulla.
”En usko. Joten tunnet vaimosi varsin hyvin, onko tämän avulla helppo manipuloida häntä?
- En tiedä, minulla ei todennäköisesti vain ole sellaista tavoitetta, mutta varmasti on paljon ihmisiä, jotka haluaisivat manipuloida minua mahdollisimman tehokkaasti, jotta voin äänestää esimerkiksi Putinin puolesta.
- Tietysti kaikenlaista mainontaa, markkinointia on tällaista manipulointia, ja niin tapahtuu koko ajan, enkä tiedä mitä voimme tehdä sille. Silti on vaikea manipuloida koulutettuja, ennakkoluulottomia ja onnellisia ihmisiä. Ja on liian myöhäistä luopua Facebookista, sähköpostista, luottokorteista, ja se on yksinkertaisesti tyhmä. Facebook on hieno asia, joten olen puhunut elämässäni paljon sen käytön riskeistä, mutta käytän sitä itse ja mielelläni, ja jopa maksan siitä, jos minun piti.
- Muuten, sinulle tarjottiin työtä Facebookissa?
- Kyllä se on totta. Minulla on hienoa työssäni yliopistossa, mutta tosiasiallisesti käyttäytymistutkijalle, joka haluaa muuttaa ihmisten elämää parempaan suuntaan, ura Facebookin tai Googlen kaltaisessa yrityksessä on hieno tapa edetä. Tulin keksimään malleja ja opiskelen niitä, ja jos työskentelisin Facebookissa, voisin tosiasiallisesti käyttää niitä miljoonien ihmisten elämän muuttamiseen, ja heille ei ole ollenkaan tarpeen myydä jotain.
- On pelottavaa, että voit muuttaa miljoonien ihmisten elämää muutamalla napsautuksella.
- Todellakin, vaikuttaaksesi miljooniin ihmisiin, olet aiemmin ollut autoritaarinen diktaattori, mutta nyt voit olla insinööri työskentelemässä jossain Internet-yrityksessä. Mutta tämä ei ole pelottavaa. Kaikki nämä algoritmit - Google-haut, suositusjärjestelmät ja niin edelleen - perustuvat perusteellisimpaan matematiikkaan, mutta se koskee valtavia tietomääriä. Ja lopulta kukaan ei ymmärrä kuinka se kaikki käytännössä toimii, edes kehittäjät itse. Täällä Venäjällä on joitain lakeja, joita kaikki pitävät pahoina, mutta nämä ovat ilmeisiä lakeja, jotka voidaan korjata. Ja tietokonealgoritmit oppivat itse ja muuttuvat niin monimutkaisiksi, että jos ne toimivat jotenkin väärin, ei ole selvää, mitkä ja mihin ne korjataan.
- Olemmeko kaukana hetkestä, jolloin jotkut ymmärrettävälle järjestelmällemme käsittämättömät järjestävät ydinsotaa?
- Tiedätkö, toistaiseksi Donald Trumpilla on paljon enemmän mahdollisuuksia tuhota ihmiskunta kuin Big Datalla, mutta tulevaisuudessa … Katso, on kyyhkysiä ja muurahaisia, luuletko heidän tietävän, että ihminen hallitsee maailmaa? Arvataanko he, että Donald Trump voi painaa punaista painiketta? Ei tietenkään. Tämä on syytä muistaa, koska kun tekoäly alkaa hallita maailmaa, emme ehkä huomaa sitä samalla tavalla. Emme voi enää ymmärtää ja analysoida itse tuottamiamme tietomääriä - ja meidän on luotettava tietokoneeseen. Voit kysyä koneelta: voitko ennustaa jotain näiden tietojen perusteella? Hän vastaa: kyllä, tietenkin. Kysyt: miten teet sen? Hän sanoo: Olen pahoillani, mutta et ymmärrä. Ja kaikki tämä on jo todellisuutta. Tiedät, että amerikkalaiset tuomioistuimet käyttävät tietokonejärjestelmiä,päättää vankien ehdokkaasta? Tietokoneet päättävät antaa sinulle luoton vai ei. Tietokone laskeutuu lentokoneeseen, mikä on hienoa, koska ihmiset voivat helposti aiheuttaa ongelmia. 800 Boeing 787 -matkustajan elämä on tietokoneen eikä henkilön käsissä, ja se on tämän päivän todellisuus.
