Melkein kaikki, mitä tänään kuulet tekoälystä, tulee syvällisestä oppimisesta. Tämä algoritmityyppi toimii tilastojen avulla tietojen kuvioiden löytämiseksi ja on osoittautunut erittäin tehokkaaksi matkiakseen ihmisten taitoja, kuten kykyämme nähdä ja kuulla. Hyvin suppeassa määrin se voi jopa jäljitellä kykyämme perustella. Nämä algoritmit tukevat Google-hakua, Facebook Newsfeediä, Netflix-suositusmoottoria ja muokkaavat toimialoja, kuten terveydenhuoltoa ja koulutusta.
Kuinka syvä oppiminen kehittyy
Huolimatta siitä, että syvä oppiminen toi käytännössä yksin käsin tekoälyn yleisölle, se edustaa vain pientä välähdystä ihmiskunnan historiallisessa tehtävässä tuottaa oma älykkyys. Se on ollut tämän haun eturintamassa alle kymmenen vuoden ajan. Jos sivuutamme koko alueen historian, on helppo ymmärtää, että pian se saattaa myös kadota.
Erilaisten menetelmien äkilliset ylä- ja alamäet ovat kauan luonnehtineet AI-tutkimusta, hän sanoi. Eri ideoiden välillä on ollut kireää kilpailua joka vuosikymmen. Sitten ajoittain kytkin läppä ja koko yhteisö alkaa tehdä yhtä asiaa.
Kollegamme MIT Technology Review -yrityksessä halusivat visualisoida nämä ongelmat ja aloitukset. Tätä varten he kääntyivät yhteen suurimmista avoimien tieteellisten julkaisujen tietokannoista, jotka tunnetaan nimellä arXiv. He latasivat otteita kaikkiaan 16 625 artikkelista, jotka olivat saatavilla AI-osiossa 18. marraskuuta 2018 saakka, ja seurasivat vuosien aikana mainittuja sanoja nähdäkseen, kuinka kenttä on kehittynyt.
Heidän analyysinsa kautta nousi esiin kolme suurta suuntausta: siirtyminen koneoppimiseen 90-luvun lopulla ja 2000-luvun alkupuolella, hermoverkkojen suosion nousu, joka alkoi 2010-luvun alkupuolella, ja vahvistusoppimisen nousu viime vuosina.
Mainosvideo:
Mutta ensin muutama varoitus. Ensinnäkin arXiv-osio AI: llä on vuodelta 1993, ja termi "tekoäly" juontaa juurensa 1950-luvulle, joten tietokanta itsessään edustaa vain alahistorian viimeisiä kappaleita. Toiseksi tietokantaan vuosittain lisättävät asiakirjat edustavat vain murto-osaa tällä alalla tällä hetkellä tekemästä työstä. ArXiv tarjoaa kuitenkin erinomaisen resurssin joidenkin tärkeimpien tutkimustrendien tunnistamiseen ja sodan vetämisen näkemiseen eri ideologisten leirien välillä.
Koneoppimismalli
Suurin muutos, jonka tutkijat havaitsivat, oli siirtyminen tietopohjaisista järjestelmistä kohti 2000-luvun alkua. Tällaiset tietokonejärjestelmät perustuvat ajatukseen, että kaikki ihmisen tiedot on mahdollista koodata sääntöjärjestelmään. Sen sijaan tutkijat kääntyivät koneoppimiseen, vanhempaan luokkaan algoritmeihin, jotka sisältävät syvän oppimisen.
Mainituista 100 sanasta eniten väheni tietopohjaisiin järjestelmiin liittyvät sanat - "logiikka", "rajoitukset" ja "sääntö". Ja koneoppimiseen liittyvät - "data", "verkko", "suorituskyky" - kasvoivat eniten.
Syy tälle säämuutokselle on hyvin yksinkertainen. 1980-luvulla tietopohjaiset järjestelmät saivat suosiota fanien keskuudessa, mikä johtui jännityksestä kunnianhimoisten hankkeiden ympärillä, jotka yrittivät luoda uutta järkeä koneissa. Mutta näiden projektien edetessä tutkijoiden edessä oli suuri haaste: Liian monet säännöt oli koodattava, jotta järjestelmä voisi tehdä jotain hyödyllistä. Tämä lisäsi kustannuksia ja hidasti merkittävästi meneillään olevia prosesseja.
Vastaus tähän ongelmaan on koneoppiminen. Sen sijaan, että vaaditaan ihmisiä koodaamaan satoja tuhansia sääntöjä, tämä lähestymistapa ohjelmoi koneita purkamaan nämä säännöt automaattisesti kasaan tietoja. Samoin tämä kenttä on siirtynyt tietoon perustuvista järjestelmistä ja kääntynyt koneoppimisen parantamiseen.
Neuraaliverkkojen puomi
Koneoppimisen uuden paradigman puitteissa siirtyminen syvään oppimiseen ei tapahtunut yön yli. Sen sijaan avainsanojen analyysi on osoittanut, että tutkijat ovat kokeilleet monia menetelmiä hermoverkkojen lisäksi, syvän oppimisen päämekanismeja. Muita suosittuja menetelmiä olivat Bayes-verkot, tukivektorikoneet ja evoluutioalgoritmit, jotka kaikki käyttävät erilaisia lähestymistapoja kuvioiden löytämiseen datasta.
1990- ja 2000-luvuilla näiden menetelmien välillä oli kovaa kilpailua. Sitten vuonna 2012 dramaattinen läpimurto johti uusiin säämuutoksiin. Vuotuisen ImageNet-kilpailun aikana nopeuttaakseen tietokoneen näkemistä Jeffrey Hinton -niminen tutkija yhdessä Toronton yliopiston kollegoiden kanssa saavutti parhaan kuvan tunnistustarkkuuden hieman yli 10%: n virheellä.
Hänen käyttämänsä syvän oppimisen tekniikka on synnyttänyt uuden tutkimusaallon ensin visualisointiyhteisössä ja sitten sen ulkopuolella. Kun yhä useammat tutkijat alkoivat käyttää sitä vaikuttavien tulosten saavuttamiseen, tämän tekniikan suosio yhdessä hermoverkkojen suosion kanssa on noussut nopeasti.
Vahvistavan oppimisen kasvu
Analyysi osoitti, että muutama vuosi syvän oppimisen kukoituksen jälkeen AI-tutkimuksessa on tapahtunut kolmas ja viimeinen muutos.
Erilaisten koneoppimismenetelmien lisäksi on olemassa kolme erityyppiä: ohjattu oppiminen, ohjaamaton oppiminen ja vahvistusoppiminen. Ohjattu oppiminen, johon sisältyy merkityn tiedon syöttäminen koneelle, on yleisimmin käytetty ja myös käytännöllisimpiä sovelluksia tällä hetkellä. Viime vuosina vahvistusoppiminen, joka matkii eläinten oppimisprosessia porkkanoiden ja tikkujen, rangaistusten ja palkkioiden avulla, on kuitenkin johtanut viitteiden nopeaan lisääntymiseen teoissa.
Itse idea ei ole uusi, mutta se ei ole toiminut vuosikymmenien ajan.”Ohjatut oppimisasiantuntijat nauroivat vahvistusopetuksen asiantuntijoille”, Domingos sanoo. Mutta kuten syvän oppimisen kanssa, yksi käännekohta toi yhtäkkiä menetelmän eturintamaan.
Tuo hetki tuli lokakuussa 2015, kun DeepMindin AlphaGo, koulutettuna vahvistuksella, voitti maailmanmestari muinaisessa go-pelissä. Vaikutus tutkimusyhteisöön oli välitön.
Seuraavat kymmenen vuotta
MIT Technology Review tarjoaa vain viimeisimmän kuvan kilpailusta AI-tutkimukselle ominaisten ideoiden välillä. Se kuvaa kuitenkin tiedustelun päällekkäisyyksien epäjohdonmukaisuutta. "On tärkeää ymmärtää, että kukaan ei osaa ratkaista tätä ongelmaa", Domingos sanoo.
Monet menetelmistä, joita on käytetty 25 vuotta, syntyivät suunnilleen samaan aikaan 1950-luvulla, eivätkä ole kyenneet vastaamaan kunkin vuosikymmenen haasteisiin ja menestyksiin. Esimerkiksi hermostoverkot saavuttivat huipunsa 60-luvulla ja hieman 80-luvulla, mutta melkein kuolivat ennen suosion palauttamista syvän oppimisen ansiosta.
Jokainen vuosikymmen, toisin sanoen, on nähnyt eri tekniikan hallitsevuuden: hermostoverkot 50- ja 60-luvun lopulla, erilaiset symboliset yritykset 70-luvulla, tietopohjaiset järjestelmät 80-luvulla, Bayes-verkot 90-luvulla, viitevektorit nolla ja hermostoverkot taas 2010-luvulla.
2020-luvut eivät tule olemaan toisiaan, Domingos sanoo. Tämä tarkoittaa, että syvän oppimisen aikakausi voi pian olla ohitse. Mutta mitä seuraavaksi tapahtuu - vanha tekniikka uudessa kunniassa tai aivan uusi paradigma -, tästä yhteisössä käydään kovaa kiistaa.
Ilja Khel