AI-tutkijana kohtaan usein mielipiteitä siitä, että monet ihmiset pelkäävät AI: tä ja sitä, mistä se voi tulla. Itse asiassa ei ole yllättävää, jos tarkastellaan ihmiskunnan historiaa ja kiinnitetään huomiota siihen, mitä viihdeteollisuus ruokkii meitä, että ihmiset saattavat pelätä kyberneettistä kapinaa, joka pakottaa meidät elämään eristyksissä ja muuttamaan muut "matriisin kaltaisiksi" ihmisakkuiksi. …
Ja silti, katsotessani kaikkia näitä evoluuttorisia tietokonemalleja, joita käytän AI-kehityksessä, on vaikea ajatella, että tietokoneen näytölläni vaarattomat, vauvan kyyneliin puhtaat olennot voivat jonain päivänä muuttua futuristisen dystopian hirviöiksi. Voidaanko minua todella kutsua "maailmojen tuhoajaksi", kuten Oppenheimer kerran pahoitteli ja sanoi itsestään sen jälkeen kun hän johti ohjelmaa ydinpommin luomiseksi?
Ehkä hyväksyisin sellaisen maineen tai ehkä työni kritiikit ovat oikeassa? Ehkä minun pitäisi todellakin lopettaa välttäminen kysymyksistä siitä, mitä pelkään AI: stä AI: n asiantuntijana?
Pelko arvaamattomuudesta
Elokuvantekijä Stanley Kubrickin vuonna 2001 A Space Odysseyssa herättämä tieteiskirjailija Arthur Charles Clarken unelma HAL 9000 on erinomainen esimerkki järjestelmästä, joka kaatui odottamattomien olosuhteiden vuoksi.
Monissa monimutkaisissa järjestelmissä - Titanic, NASA-avaruussukkula ja Tšernobylin ydinvoimalaitos - insinöörien piti yhdistää monia komponentteja. Ehkä näiden järjestelmien arkkitehdit tiesivät hyvin, kuinka kaikki sen elementit toimivat erikseen, mutta he eivät ymmärtäneet tarpeeksi hyvin, kuinka nämä kaikki komponentit toimivat yhdessä.
Mainosvideo:
Tuloksena oli järjestelmiä, joita omat luojat eivät koskaan ymmärtäneet täysin, mikä johti tunnettuihin seurauksiin. Kummassakin tapauksessa alus hukkui, kaksi sukkulaa räjähti ja lähes koko Eurooppa ja Aasian osat kohtasivat radioaktiivisen saastumisen ongelmaa - joukko suhteellisen vähäisiä ongelmia, jotka tapahtuivat samaan aikaan samanaikaisesti, loivat katastrofaalisen vaikutuksen.
Voin täysin kuvitella, kuinka me, AI: n luojat, voimme saavuttaa samanlaisia tuloksia. Otamme huomioon kognitiivisen tieteen (ajattelutiede - toim.) Viimeisimmän kehityksen ja tutkimuksen, käännämme ne tietokonealgoritmeihin ja lisäämme kaiken tämän olemassa oleviin järjestelmiin. Yritämme kehittää AI: tä ymmärtämättä täysin omaa älykkyyttämme ja tietoisuuttamme.
Järjestelmät, kuten IBM: n Watson tai Googlen Alpha, ovat keinotekoisia hermoverkkoja, joilla on vaikuttava laskentateho ja kyky hoitaa todella monimutkaisia tehtäviä. Mutta toistaiseksi ainoa asia, jonka virhe heidän työssään johtaa, on seurausta menetyksestä älypelille "Jeopardy!" tai käyttämättä jäänyt tilaisuus voittaa vielä yksi maailman paras logiikkalautapeli Go.
Nämä seuraukset eivät ole luonteeltaan globaaleja. Itse asiassa pahin asia, joka voi tapahtua ihmisille tässä tapauksessa, on, että joku menettää jonkin verran rahaa vedoissa.
AI-arkkitehtuuri on kuitenkin monimutkaisempi ja tietokoneprosessit nopeutuvat. AI-ominaisuudet kasvavat vain ajan myötä. Ja jo tämä johtaa meidät tosiasiaan, että alamme osoittaa yhä enemmän vastuuta AI: lle, vaikka ennakoimattomien olosuhteiden riskit kasvavatkin.
Tiedämme hyvin, että "virheet ovat osa ihmisen luontoa", joten meille on yksinkertaisesti fyysisesti mahdotonta luoda todella turvallista järjestelmää kaikkeen.
Pelko väärinkäytöstä
En ole kovin huolissani seurausten ennakoimattomuudesta AI: n työssä, jota kehitän ns. Neuroevolution-lähestymistapaa käyttämällä. Luon virtuaaliympäristöjä ja asutan heitä digitaalisiin olentoihin antamalla heidän aivoilleen komentoja ratkaista yhä monimutkaisempia ongelmia.
Ajan myötä näiden olentojen ongelmien ratkaisemisen tehokkuus kasvaa ja kehittyy. Parasta työtä tekevät valitaan lisääntymiseen, ja niiden perusteella luodaan uusi sukupolvi. Nämä digitaaliset olennot kehittävät sukupolvien ajan kognitiivisia kykyjä.
Esimerkiksi, olemme juuri nyt ottamassa ensimmäiset askeleet koneiden kehittämisessä tasolle, jolla suoritetaan yksinkertaisia navigointitehtäviä, tehdään yksinkertaisia päätöksiä tai muistetaan pari bittiä tietoa. Mutta pian näemme sellaisten koneiden kehittämisen, jotka pystyvät suorittamaan monimutkaisempia tehtäviä ja joilla on paljon tehokkaampi yleinen älykkyystaso. Päätavoitteemme on luoda inhimillisen tason älykkyyttä.
Tämän kehityksen aikana yritämme löytää ja korjata kaikki virheet ja ongelmat. Jokaisen uuden sukupolven avulla koneet selviävät virheistä paremmin kuin aikaisemmat. Tämä lisää mahdollisuuksia, että pystymme tunnistamaan kaikki odottamattomat seuraukset simulaatioissa ja poistamaan ne jo ennen niiden realisoitumista todellisessa maailmassa.
Toinen mahdollisuus, jonka evoluutiokehitysmenetelmä tarjoaa, on antaa tekoäly etiikalle. On todennäköistä, että sellaiset ihmisen eettiset ja moraaliset ominaisuudet kuin luotettavuus ja altruismi ovat evoluutiomme tulosta ja tekijä sen jatkumiselle.
Voimme luoda rakennetun ympäristön ja antaa koneille mahdollisuuden osoittaa ystävällisyyttä, rehellisyyttä ja empatiaa. Tämä voisi olla yksi tapa varmistaa, että kehitämme kuuliaisempia palvelijoita kuin armottomia tappajarobotteja. Vaikka neuroevoluutio voi vähentää AI-käyttäytymisen tahattomien seurausten tasoa, se ei kuitenkaan voi estää tekoälyn väärinkäyttöä.
Tiedemiehenä minun on sitouduttava totuuteen ja ilmoitettava kokeilleni löytämästäni, pidänkö tuloksista vai ei. Minun tehtäväni ei ole määritellä, mitä pidän ja mitä en. Ainoa tärkeä asia on, että voin julkistaa työni.
Pelko vääristä sosiaalisista prioriteeteista
Tutkijana oleminen ei tarkoita ihmiskunnan menettämistä. Minun on palauduttava toiveilleni ja pelkoilleni jollain tasolla. Moraalisesti ja poliittisesti motivoituneena yksilönä minun on pohdittava työni mahdollisia seurauksia ja mahdollisia vaikutuksia yhteiskuntaan.
Tutkijoina ja yhteiskunnan edustajina emme ole vielä saaneet selvää käsitystä siitä, mitä haluamme saada AI: stä ja mistä siitä tulisi lopulta tulla. Tämä johtuu tietysti osittain siitä, että emme vieläkään ymmärrä täysin sen potentiaalia. Mutta silti meidän on selvästi ymmärrettävä ja päätettävä, mitä haluamme saada todella edistyneeltä tekoälyltä.
Yksi suurimmista alueista, joihin ihmiset kiinnittävät huomiota puhuttaessa AI: stä, on työllisyys. Robotit tekevät jo meille monimutkaista fyysistä työtä, kuten kokoonpanoa ja hitsausta auton korin osiksi. Mutta jonain päivänä tulee päivä, jolloin robotit saavat tehtäväkseen kognitiivisten tehtävien suorittamisen, ts. Heille annetaan tehtäväksi se, mitä aiemmin pidettiin ihmisen yksinomaan ainutlaatuisena kykynä. Itse ajavat autot voivat korvata taksinkuljettajat; itse ajavat lentokoneet eivät tarvitse lentäjiä.
Sen sijaan, että se saisi lääketieteellistä hoitoa hätätiloissa, joissa on aina väsynyttä henkilökuntaa ja lääkäreitä, potilaat voivat suorittaa tutkimuksia ja oppia diagnooseja asiantuntijajärjestelmillä, joilla on välitön pääsy kaikkiin lääketieteellisiin tietoihin. Kirurgiset toimenpiteet suorittavat robotit, jotka eivät ole alttiita väsymykselle, täysin “koulutetulla kädellä”.
Oikeudellista neuvontaa annetaan kattavasta oikeudellisesta kehyksestä. Sijoitusneuvonnan vuoksi käännymme asiantunteviin markkinoiden ennustejärjestelmiin. Ehkä jonain päivänä kaikki ihmisten työt tehdään koneilla. Jopa työni voidaan tehdä nopeammin käyttämällä suurta määrää koneita, jotka etsivät säälimättömästi, kuinka tehdä koneista entistä älykkäämpiä.
Nykyisen yhteiskunnan todellisuudessa automaatio pakottaa jo ihmiset poistumaan työstään, mikä tekee tällaisten automaattikoneiden rikkaista omistajista vielä rikkaampia ja loput vielä köyhempiä. Mutta tämä ei ole tieteellinen ongelma. Tämä on poliittinen ja sosioekonominen ongelma, jonka yhteiskunnan on itse ratkaistava.
Tutkimukseni ei muuta sitä, mutta poliittiset perustani yhdessä ihmiskunnan kanssa voivat johtaa olosuhteisiin, joissa älykkyydestä voi tulla erittäin hyödyllinen toiminto sen sijaan, että kasvaisi kuilu yhden prosentin maailman eliitin ja muun meidän välillä.
Pelko katastrofaalisesta tilanteesta
Olemme päässeet lopulliseen pelkoon, jonka hullu HAL 9000, Terminaattori ja kaikki muut surkeat superintelligenssit ovat asettaneet meille. Jos AI jatkaa kehitystä, kunnes se ylittää ihmisen älykkyyden, pitäisikö keinotekoinen superintelligenssi järjestelmä (tai tällaisten järjestelmien kokoelma) ihmistä turhalla materiaalilla? Kuinka voimme perustella olemassaolomme superintelligenssillä, joka kykenee tekemään ja luomaan sen, mitä kukaan muu ei voi? Pystymmekö välttämään kohtalon, että meitä pyyhittiin maan pinnalta koneilla, joita autimme luomaan?
Siksi tärkein kysymys tällaisissa tilanteissa kuulostaa tältä: miksi keinotekoinen superintelligenssi tarvitsee meitä?
Jos tällainen tilanne olisi tapahtunut, sanoisin luultavasti olevani hyvä ihminen, joka jopa myötävaikuttanut tämän superintelligenssin luomiseen, jota nyt kohtaan. Vetoan hänen myötätuntoonsa ja myötätuntoisuuteensa, jotta superintelligenssi jättää minut, niin myötätuntoisen ja empaattisen elävän. Lisäisin myös, että lajien monimuotoisuudella itsessään on arvoa ja maailmankaikkeus on niin suuri, että ihmislajien olemassaolo siinä on todella melko merkityksetöntä.
Mutta en voi puhua koko ihmiskunnan puolesta, joten minun on vaikea löytää kelvollinen argumentti meille kaikille. Se on vain niin, että kun katson meitä kaikkia, näen todella, että olemme tehneet paljon ja tekevät paljon väärin. Viha toisiamme kohtaan vallitsee maailmassa. Menemme sotaan toisiaan vastaan. Jaamme ruokaa, tietoa ja terveydenhuoltoa epäoikeudenmukaisesti. Saastutamme planeettaa. Tässä maailmassa on tietysti monia hyviä asioita, mutta jos tarkastellaan kaikkia niitä huonoja asioita, jotka olemme luoneet ja jatkamme luomista, on erittäin vaikea löytää perustelu jatkaaksemme olemassaoloamme.
Onneksi meidän ei vielä tarvitse perustella olemassaoloamme. Meillä on vielä aikaa. 50–250 vuotta riippuen siitä, kuinka nopeasti tekoäly kehittyy. Meillä lajeina on kyky tulla yhteen ja löytää hyvä vastaus kysymykseen, miksi superintelligenssin ei pitäisi pyyhkiä meitä planeetan edestä.
Tämän ongelman ratkaiseminen on erittäin vaikeaa. Loppujen lopuksi sanomme, että tuemme monimuotoisuutta ja etnokulttuurisia eroja, ja se on täysin eri asia. Kuinka sanoa, että haluamme pelastaa planeetan ja selviytyä siitä menestyksekkäästi.
Kaikkien meidän, olipa kyse sitten kunkin yksilön tai koko yhteiskunnan, on varauduttava katastrofaaliseen tilanteeseen käyttämällä tätä aikaa valmistautumaan osoittamaan ja todistamaan, miksi luomuksemme pitäisi antaa meille mahdollisuuden jatkaa olemassaoloaan. Tai voimme yksinkertaisesti jatkaa sokeasti sitä mieltä, että tällainen tapahtumien kehitys on mahdotonta, ja lopettaa puhuminen tästä aiheesta.
Riippumatta siitä, mitä fyysistä vaaraa superintelligenssi voi meille aiheuttaa, meidän ei pidä unohtaa, että se aiheuttaa myös poliittisen ja taloudellisen vaaran. Jos emme löydä tapaa elintason parantamiseen, päädymme vain kapitalismin lisäämiseen tekoälyn työntekijän kanssa, joka palvelee vain joitain harvoja, joilla on kaikki tuotantovälineet.
Tämän artikkelin on alun perin julkaissut theconversation.com. Arend Hintze, apulaisprofessori, Michiganin yliopiston tietojenkäsittelytieteen ja tekniikan laitos
Nikolay Khizhnyak