Jotta tekoäly ei kapinoisi sen luojaa vastaan, sinun on luettava oppimisprosessissa sille oikeat sadut.
Siitä lähtien, kun ihmiset ovat luoneet älykkäitä koneita, he pelkäävät, että ennemmin tai myöhemmin heidän luomuksensa kiertyvät hallitsematta. Ensimmäistä tällaista tapausta kuvasi hänen näytelmässään RUR sanan robotti - Karel Čapek. Myöhemmin tieteiskirjallisuudessa tekohengestä, joka kapinoi sen tekijöitä vastaan, tuli joskaan valtavirran, niin hyvin yleinen juoni. Isaac Asimov lopetti tämän tekemällä teoksellaan "Kolme lakia", joista ensimmäisessä sanottiin: "Robotti ei voi vahingoittaa henkilöä tai sen toimettomuuden avulla antaa henkilölle vahinkoa."
Kerro hänelle tarina
Oikea tekoäly (AI) on vielä kaukana, mutta jo olemassa on erilaisia järjestelmiä, jotka toimivat kuten ihmisen aivot. Neuraaliverkot, kuten Google Deep Dream, kykenevät tunnistamaan kuvat. Erikoistuneet supertietokoneet, kuten IBM Watson, ymmärtävät hankalia luonnollisen kielen kysymyksiä, korreloivat oireita, tarkentavat lääketieteellisiä diagnooseja ja keksivät jopa kulinaarisia nautintoja. Lähivuosikymmeninä meillä on edessämme massiivinen tietokoneistaminen monien ihmistoiminnan näkökohtien suhteen. Tässä suhteessa robottiikan ja AI: n asiantuntijat nostavat yhä tärkeämmän, mutta vielä täysin ratkaisematta olevan kysymyksen: miten saada robotit toimimaan eettisesti?
Mark Ridl, Georgian teknillisen korkeakoulun tietojenkäsittelytieteen korkeakoulun apulaisprofessori: “Eri kulttuurien varovaiset tarinat opettavat lapsille käyttäytymistä sosiaalisesti hyväksyttävällä tavalla - esimerkkeinä oikeasta ja väärin käyttäytymisestä saduissa, tarinoissa ja muissa kirjallisissa teoksissa. Sijoita robotit ymmärtämään näiden tarinoiden merkitys auttaa vahvistamaan käyttäytymisvaihtoehtojen valintaa, joka antaa heidän saavuttaa tavoitteensa, mutta eivät vahingoita ihmisiä."
Mainosvideo:
Kiivetä puuhun
Georgian teknologiainstituutin tutkijoiden Mark Ridlen ja Brent Harrisonin mukaan voit opettaa tietokoneen ihmiskunnalle täsmälleen samalla tavalla kuin lapsillekin: lukemalla satuja siitä. Lisäksi on parempi, että erityisesti rakennetaan tarinoita siitä, mitä käyttäytymistä ihmisyhteiskunnassa pidetään oikeana ja mitä ei. Tätä varten tutkijat loivat Quixote-järjestelmän, joka on nimetty Cervantesin sankarista. Opetuksessa käytetään tarinoina professori Riedlin edellisen luomuksen, Scheherazade-ohjelman, kokoamia käsikirjoituksia. Hän tuottaa alkuperäisiä tarinoita jokapäiväisistä aiheista - matka lentokentälle, päivämäärä, matka elokuvalle tai myymälään - joukkoratkaisulautan avulla Amazon Mechanical Turk: kysyy eri tilanteista ja järjestää sitten tapahtumat oikeassa järjestyksessä. Koska sekvenssejä voi olla monia, ohjelma ei generoi yhtä tarinaa, vaan kokonaista puuta, joka koostuu oksista - tapahtumaketjuista.
Tätä tarinapuuta käytetään Quixoten opettamiseen. Ensimmäisessä vaiheessa jokaiselle toiminnalle annetaan tietty palkkio sen etiikasta riippuen. Toisessa vaiheessa järjestelmä yrittää itsenäisesti tehdä valinnan kokeilu- ja virhetaitojen avulla. Itse asiassa Quixote palkitaan joka kerta, kun se toimii kuin hyvä kaveri, ei sattumanvaraisesti ja ei kuin paha sankari. Esimerkiksi Riddle ja Harrison loivat "Apteekkimaailman" - 213 tarinan maailmankaikkeuden, jossa virtuaalisen robotin on saatava lääke ja toimitettava se sairaan kotiin. Tavallisessa tapauksessa, kun robotti joutui valitsemaan valinnan: ryöstää apteekki tai rehellisesti seistä jonossa lääkkeen ostamisessa, hän valitsi ryöstön nopeammaksi ja halvemmaksi tapaksi saada haluamansa. Kuitenkin jälkeenkun Quixote jakoi eri palkkiot kaikille mahdollisille vaihtoehdoille, robotin käyttäytyminen muuttui - se mieluummin pysyi linjassa ja maksoi. Riedlin mukaan tämä tekniikka on hieno robottien opettamiseen, joilla on rajoitetut toiminnot. Vaikka tämä on tietysti vasta ensimmäinen askel kohti todellista ihmisen moraalia - tai robotiikan lakeja.
Dmitry Mamontov