Tekoälyn pelko on jo pitkään juurtunut suosittuun kulttuuriin. Ihmiskunnan hienoimmat mielet, Stephen Hawkingista Elon Muskiin, ovat puhuneet digitaalisen mielen eksistentiaalisesta uhasta ihmiskunnalle.
Kalifornian yliopiston Berkeley-yliopiston professori Stuart Russell puhuu siitä myös, mutta hänen tulevaisuudennäkyessään ei ole pahoja robotteja, jotka kapinallisivat ihmisten hallintaa vastaan.
Russellin mukaan koneista tulee jossain vaiheessa yksinkertaisesti niin tehokkaita, että ne tuhoavat meidät suorittamalla heille annetut tehtävät.
Russell on koneoppimisen asiantuntija ja kirjoittanut Human Compatible: AI and the Problem of Control -oppaan.
"Perinteinen Hollywood-juoni on, että koneet tulevat itsestään tietoisiksi ja päättävät sitten vihaavat ihmisiä ja haluavat tappaa kaikki", toteaa professori Russell.
Mutta tämä on hänen mielestään väärä näkemys robo-apokalypsistä, koska koneilla ei ole inhimillisiä tunteita.
"Meidän ei tarvitse huolehtia pahojen koneiden itsetuntemuksesta, vaan koneiden pätevyydestä, jotka suorittavat asettamamme tehtävät", tutkija on vakuuttunut.
Mainosvideo:
Liian osaava
BBC Today: n haastattelussa professori Russell kuvasi hypoteettista tilannetta, jossa tekoäly voisi uhata ihmiskunnan olemassaoloa.
Kuvittele, että on olemassa erittäin voimakas tekoäly, joka voi hallita planeetan ilmastoa. Hänen tehtävänä on tuoda ilmakehän hiilidioksiditasot takaisin esiteolliseen tasoon.
”Järjestelmä katsoo, että tehokkain tapa tehdä tämä on tuhota ihmisiä. Ne tuottavat hiilidioksidia”, professori sanoo.
”Tätä voidaan kiertää esimerkiksi tekemällä hänelle ehdollisuus päästä eroon ihmisistä. Mitä järjestelmä tekee sitten? Hän varmistaa, että yhä vähemmän lapsia syntyy, kunnes ihmiset katoavat kokonaan."
Tämä on esimerkki siitä, mitä tekoäly voi johtaa huonosti suunniteltuihin ihmisohjeisiin.
Superintelligence
Nykyään olemassa olevilla AI-järjestelmillä on kapeasti kohdennetut sovellukset. Ne on suunniteltu ratkaisemaan selkeästi määritellyt ongelmat yhdellä alueella, sanovat Cambridgen yliopiston eksistentiaalisten riskien tutkimuskeskuksen tutkijat.
Tämän AI-filosofian voittava hetki oli Deep Blue -tietokoneen voitto hallitsevasta maailman shakkimestarista Garry Kasparovista vuonna 1997.
* Deep Bluein voitto Kasparovista vuonna 1997 oli AI-voitto.
Mutta Deep Blue luotiin yksinomaan shakkipeleihin. Tammissa hän olisi hävinnyt viidennelle luokalle.
Viimeaikainen edistys tekoälyssä on tuonut meille hyvin erilaisia ohjelmia.
Esimerkiksi AlphaGo Zero -ohjelma oppi pelaamaan Go: ta yksinään käyttämättä tietoja ihmisten aikaisemmista peleistä, ja vain kolmen päivän aikana pelaamalla itseään se saavutti tason, jota tavallinen ihminen ei saavuttanut.
AlphaGo Zero -sovelluksen luomiseen käytettiin syviä oppimisalgoritmeja. Tämä tarkoittaa, että ohjelman kehittämiseen vaadittiin suhteellisen vähän inhimillistä työtä.
Samanaikaisesti AlphaGo Zero osaa pelata hyvin shakkia ja shogia.
Muista, että ohjelma on täysin itseoppiva. Tämä saattaa aiheuttaa huolen joillekin.
"AI: n muuttuessa voimakkaammaksi ja monipuolisemmaksi on vaara, että siitä tulee superintelligenttia, ts. Se ylittää ihmiset monilla tai kaikilla alueilla", sanoo eksistentiaalisten riskien tutkimuskeskus.
Emme tiedä mitä haluamme
Professori Russell uskoo, että yksinkertaisesti AI: n erityisten tehtävien antaminen ei ole tapa, koska ihmiset itse eivät pysty muotoilemaan niitä riittävän hyvin.
"Emme ymmärrä, että emme pidä jostakin, ennen kuin se tapahtuu", hän sanoo.
”Meidän on muutettava hyvin perusajatusta AI-järjestelmien luomiseen”, lisää professori. Hän uskoo, että robotille tehtävän antaminen, jonka he sitten suorittavat, on periaatteessa väärin.
”Järjestelmän on ymmärrettävä, että tavoite ei ole sille selvä. hän sanoo. - Kun sellaisia järjestelmiä luodaan, ne todella riippuvat henkilöstä. He alkavat kysyä lupaa ennen kuin teet jotain, koska he eivät ole varmoja, haluatko."
Tärkeintä, professori sanoo, etteivät ne vastusta, jos päätät sammuttaa ne, koska ne on suunniteltu tekemättä mitä et pidä.
Aladdinin lamppu
Tänään AI luodaan ikään kuin se olisi hehkulamppua, professori Russell sanoo. Hieroit lamppua ja sanot: "Haluan tämän ja sen tapahtuvan."
Stanley Kubrickin teoksessa 2001 * Space Odyssey * superintelligen tietokone kääntyy ihmisiä vastaan, jotka päättävät sammuttaa sen.
Ja jos tekoäly on riittävän tehokas, se tekee juuri sen, mitä pyydät.
"Gynin ongelmana on, että kolmas toive on aina peruuttaa kaksi ensimmäistä, koska henkilö on kirjoittanut ne väärin."
"Koneesta, joka pyrkii väärään päämäärään, tulee tosiasiassa ihmiskunnan vihollinen ja tämä vihollinen on paljon meitä vahvempi", tutkija toteaa lopuksi.