Tekoäly voi jo ennustaa tulevaisuuden. Poliisi laatii sen avulla kartan, josta käy ilmi, milloin ja missä rikoksia voi tapahtua. Lääkärit käyttävät sitä ennustamaan, milloin potilaalla saattaa olla aivohalvaus tai sydänkohtaus. Tutkijat yrittävät jopa antaa tekoälylle mielikuvituksen, jotta se voi ennakoida odottamattomat tapahtumat.
Monet päätöksemme elämässämme edellyttävät hyviä ennusteita, ja tekoälyn tekijät ovat melkein aina heitä paremmin kuin ihmiset. Kaikista näistä tekniikan edistysaskeleista huolimatta meiltä puuttuu edelleen luottamus tekoälyn tarjoamiin ennusteisiin. Ihmiset eivät ole tottuneet luottamaan tekoälyyn ja luottavat mieluummin ihmisasiantuntijoihin, vaikka nuo asiantuntijat olisivatkin väärässä.
Jos haluamme tekoälyn hyödyttävän ihmisiä, meidän on opittava luottamaan siihen. Tätä varten meidän on ymmärrettävä, miksi ihmiset kieltäytyvät niin sinnikkäästi luottamasta tekoälyyn.
Luota tohtori Robotiin
IBM: n yritys ottaa käyttöön supertietokoneohjelma onkologeille (Watson for Oncology) epäonnistui. Tekoäly on sitoutunut tarjoamaan korkealaatuisia hoitosuosituksia 12 syöpään, jotka ovat 80% maailman tapauksista. Tähän mennessä yli 14 000 potilasta on saanut suosituksia hänen laskelmiensa perusteella.
Mutta kun lääkärit tapasivat ensimmäisen kerran Watsonin, he joutuivat melko vaikeaan tilanteeseen. Toisaalta, jos Watson toimitti hoito-ohjeet, jotka sopivat heidän omiin mielipiteisiinsä, lääkäri ei nähnyt paljon arvoa tekoälyn suosituksissa. Supertietokone yksinkertaisesti kertoi heille, mitä he jo tiesivät, ja nämä suositukset eivät muuttaneet todellista hoitoa. Tämä on saattanut antaa lääkäreille mielenrauhaa ja luottamusta omiin päätöksiinsä. Mutta IBM ei ole vielä osoittanut, että Watson todella lisää syövän eloonjäämisastetta.
Mainosvideo:
Toisaalta, jos Watson antoi suosituksia, jotka olivat ristiriidassa asiantuntijalausunnon kanssa, lääkärit päättelivät, että Watson oli epäpätevä. Ja kone ei voinut selittää, miksi sen hoito toimisi, koska sen koneoppimisalgoritmit olivat liian monimutkaisia ihmisten ymmärtämiseksi. Vastaavasti tämä johti vielä enemmän epäluottamukseen, ja monet lääkärit jättivät yksinkertaisesti huomiotta tekoälyn suositukset luottaen omaan kokemukseensa.
Tämän seurauksena IBM Watsonin johtava lääketieteellinen yhteistyökumppani MD Anderson Cancer Center ilmoitti äskettäin peruuttavansa ohjelman. Tanskan sairaala ilmoitti myös luopuvansa ohjelmasta, kun se huomasi, että onkologit olivat eri mieltä Watsonin kanssa kahdesta kolmesta tapauksesta.
Watsonin onkologian ongelma oli se, että lääkärit eivät yksinkertaisesti luottaneet häneen. Ihmisten luottamus riippuu usein ymmärryksestämme siitä, miten muut ihmiset ajattelevat, ja omasta kokemuksestamme, mikä lisää luottamusta heidän mielipiteisiinsä. Tämä luo psykologisen turvallisuuden tunteen. Sitä vastoin tekoäly on suhteellisen uusi ja käsittämätön ihmisille. Se tekee päätöksiä hienostuneen analyysijärjestelmän perusteella tunnistaakseen mahdolliset piilotetut mallit ja heikot signaalit suurista tietomääristä.
Vaikka tekoälyn päätöksentekoprosessi voidaan selittää teknisellä tavalla, se on yleensä liian monimutkainen useimpien ihmisten ymmärtämään. Vuorovaikutus sellaisen kanssa, jota emme ymmärrä, voi aiheuttaa ahdistusta ja luoda hallinnan menetyksen tunteen. Monet ihmiset eivät yksinkertaisesti ymmärrä, miten ja millä tekoäly toimii, koska se tapahtuu jossain näytön takana, taustalla.
Samasta syystä he ovat tarkemmin tietoisia tapauksista, joissa tekoäly on väärässä: ajattele Google-algoritmia, joka luokittelee värilliset ihmiset gorilloiksi; Microsoft chatbot, josta tuli natsi alle päivässä; Tesla-auto autopilotti-tilassa, mikä johtaa kuolemaan johtaneeseen onnettomuuteen. Nämä valitettavat esimerkit ovat saaneet suhteettoman tiedotusvälineiden huomion korostaen asialistaa, johon emme voi luottaa tekniikkaan. Koneoppiminen ei ole 100% luotettavaa, osittain siksi, että ihmiset suunnittelevat sen.
Split yhteiskunnassa?
Tekoälyn aiheuttamat tunteet menevät syvälle ihmisen olemukseen. Tutkijat tekivät äskettäin kokeen, jossa he tutkivat ihmisiä, jotka katsoivat elokuvia tekoälystä (fantasia) automatisoitumisesta jokapäiväisessä elämässä. Kävi ilmi, että riippumatta siitä, onko tekoäly kuvattu positiivisella vai negatiivisella tavalla, pelkkä teknisen tulevaisuuden elokuvallisen esityksen katsominen polarisoi osallistujien asenteet. Optimistit tulevat entistä optimistisemmiksi ja epäilijät sulkeutuvat vielä enemmän.
Tämä viittaa siihen, että ihmiset ovat puolueellisia tekoälyyn perustuen omaan päättelyynsä, syvään juurtuneeseen vahvistusbiasiin: taipumukseen etsiä tai tulkita tietoa tavalla, joka vahvistaa olemassa olevat käsitteet. Kun tekoäly on yhä enemmän esillä tiedotusvälineissä, se voi edistää yhteiskunnan syvää erimielisyyttä, eroa tekoälyä käyttävien ja sen hylkäävien välillä. Vallitseva ihmisryhmä voi saada merkittävän edun tai haitan.
Kolme tapaa tekoälyn luottamuskriisistä
Onneksi meillä on joitain ajatuksia siitä, miten käsitellä luottamusta tekoälyyn. Pelkästään tekoälystä saatu kokemus voi parantaa ihmisten asenteita tähän tekniikkaan dramaattisesti. On myös todisteita siitä, että mitä useammin käytät tiettyjä tekniikoita (kuten Internetiä), sitä enemmän luotat niihin.
Toinen ratkaisu saattaa olla koneoppimisalgoritmien mustan laatikon avaaminen ja niiden toiminnan läpinäkyvyyden parantaminen. Yritykset, kuten Google, Airbnb ja Twitter, julkaisevat jo avoimuusraportteja valtion tiedusteluista ja paljastuksista. Tällainen tekoälyjärjestelmien käytäntö auttaa ihmisiä saamaan tarvittavan käsityksen siitä, miten algoritmit tekevät päätöksiä.
Tutkimukset osoittavat, että ihmisten osallistuminen tekoälyn päätöksentekoon lisää myös luottamusta ja antaa tekoälyn oppia ihmiskokemuksesta. Tutkimuksessa todettiin, että ihmiset, joille annettiin mahdollisuus muokata algoritmia, tunsivat olevansa tyytyväisempiä sen työn tuloksiin, mikä johtui todennäköisesti ylivoimaisuuden tunnosta ja kyvystä vaikuttaa tuleviin tuloksiin.
Meidän ei tarvitse ymmärtää tekoälyjärjestelmien monimutkaista sisäistä toimintaa, mutta jos annamme ihmisille edes vähän tietoa ja hallintaa näiden järjestelmien toteuttamisesta, heillä on enemmän luottamusta ja halu omaksua tekoäly jokapäiväisessä elämässään.
Ilya Khel