"Koneiden nousu", "Terminaattori palaa" … Paljon tieteiskirjallisuutta rakennetaan sillä tosiseikalla, että tietokoneista on tullut niin älykkäitä, että he ymmärtävät paremman aseman ilman henkilöä. Satuja? Kuinka näyttää. Vuoteen 2050 mennessä tyypillinen kotitietokone pystyy käsittelemään niin paljon tietoa kuin kaikki maapallon ihmiset yhdessä ovat.
Mutta vuosi 2050 on edellytys, että koneet kehittyvät vähitellen. Se ei toimi niin. Suhteemme sähköiseen maailmaan etenee harppauksin. Kerran - hiiri kiinnitettiin autoon. Kerran - Internet ilmestyi. Kerran - siellä oli älypuhelimia, joissa oli tablettia.
Seuraava läpimurto on tulossa, kun tietokone pystyy ymmärtämään ihmisiä. Älypuhelimissa on jo Siri- ja Cortana-kaltaisia sovelluksia, joista voi keskustella kanssamme yksinkertaisesti. Mutta ongelmana on, että tietokone ymmärtää, ei mitä sanomme, vaan mitä tarkoitamme! Yksinkertaisin esimerkki: lauseella "Hän jätti minut", jonka sanoi kyynärpisteinen nainen ja miehen pomo, on täysin erilainen merkitys.
Joten: Heti kun koneet oppivat tunnistamaan ihmisen puheen vivahteet, toisaalta kätemme puretaan kirjaimellisessa ja kuviollisessa mielessä. Puhuin tietokoneen kanssa ja se teki kaiken. Toisaalta, emmekö lähesty vaarallista linjaa poistamalla viimeisen esteen ihmisten ja sieluttoman raudan välisessä viestinnässä?
Halusin pitkään puhua tästä kuuluisan tiedemiehen, ABBYY: n kielitutkimuksen johtajan, Venäjän humanistisen valtion yliopiston ja Moskovan fysiikan ja tekniikan instituutin Vladimir Selegeyn, laskennallisen kielitieteen osastojen päällikön kanssa. Mutta kun kerroin hänelle apokalyptisistä pelkoistani, hän paheksutti.
Kyllä, tieteiskirjallisuus on täynnä tummia ennusteita siitä, kuinka ihmisen kouluttamat koneet pärjäävät ilman sitä. Mutta minulle ei ole selvää, miksi ohjelmiin upotetun tietomäärän lisääntyminen provosoi tietokonetta tekemään päätöksiä kysymättä lupaa henkilöltä?
Itse asiassa ongelma ei ole siinä, että tietokone oppisi tekemään ilman ihmisiä, vaan siinä, että ihmiset haluavat tehdä ilman itseään ratkaiseessaan tiettyjä ongelmia. Tässä on Tšernobyli …
Mainosvideo:
Ja mitä Tšernobylin kanssa liittyy?
- Ydinreaktori on erittäin monimutkainen fyysinen malli. Näyttää siltä, että kaikki reaktorin ohjausparametrit ovat tiedossa, kaikki noudattaa tiukkoja fyysisiä lakeja, ja voit siirtää päätöksenteon täysin tietokoneelle. Mutta…
Vuonna 1986, viikko onnettomuuden jälkeen, kävin seminaarissa, joka käsitteli tekoälyn käyttöä teollisuudessa. Jo silloin oli selvää, että uskomalla päätöksenteon tietokoneelle, olemme vakavassa vaarassa. Ohjelmissa on tavallista virheitä. Jopa satelliiteissa on ohjelmistohäiriöitä.
Eli ihminen on luotettavampi kuin tietokone, vaikka hän "ajattelee" paljon nopeammin?
- Ihmisellä on kaiken muun lisäksi motivaatiota. Hän ratkaisee ongelmansa - koulutuksen, lisääntymisen, uran, hän osaa tuntea …
Mutta osaako jokin ovela ohjelmoija kirjoittaa ohjelman, joka opettaisi aggression koneen …
- Voit yrittää tehdä esimerkiksi sotilasrobotin, joka tekee päätökset itse, analysoimalla mitä näkee ja kuulee. Ja se on erittäin vaarallinen. Mutta ei siksi, että robotilla on yhtäkkiä halu tuhota, kuten tieteiskirjailijat ovat kirjoittaneet. Mutta koska ohjelmoijan virhe, joidenkin tekijöiden laiminlyönti voi johtaa arvaamattomaan robotin käyttäytymiseen.
Mutta toistaiseksi olemme hyvin kaukana kyvystä luoda itseoppivia ohjelmia, jotka kykenevät tuottamaan täysin uutta tietoa. Karkeasti sanottuna siirry itsenäisesti kertolaskosta kykyyn ratkaista monimutkaisia yhtälöitä.
1900-luvun jälkipuoliskolla futuristiset ennusteet tieteen alalla olivat erittäin suosittuja. Kaikki tietokoneen älykkyydestä pääsi maitoon. Kukaan ei ennustanut Internetiä, uskomattoman vapautta saada tietoja, matkapuhelimia. Mutta kaikki puhuivat ajattelevista tietokoneista.
Esimerkiksi 60-luvun lopulla ensimmäinen shakkijärjestelmämme KAISA esiintyi menestyksekkäästi maailmanmestaruuskilpailuissa tietokoneiden keskuudessa. Uskottiin, että jotta kone voittaisi ihmisen, oli välttämätöntä simuloida ihmisen pelin algoritmeja. Mielen, älyn antaminen erittäin salaperäiselle intuitioon, joka saa shakkipelaajan tekemään oikeita päätöksiä.
Nykyään tietokone lyö ihmistä. Mutta hänelle ei koskaan opetettu intuitiota. Hänen muistokseensa on ladattu miljardi pelattua peliä, kaikki pelikokemukset, kaikki päätökset, jotka shakkipelaajat ovat koskaan tehneet. Ja he opettivat heitä käyttämään tätä valittaessa optimaalista pelisuunnitelmaa tarjoamalla heille valtavan nopeuden vaihtoehtojen luetelulle ja arvioinnille. Tietokone lyö maailmanmestarit, mutta ei saa siitä mitään iloa. Kaikki on täysin erilaista kuin ihmiset.
Mutta sinä olet yksi niistä, joka vain opettaa tietokoneen "kääntämään päähän"
- Yritämme vain opettaa ohjelmia "ymmärtämään" tekstejä, jotta ne voivat poimia niistä tietoa, kerätä sitä ja yleistää. Joten ihmiset saavat tietoa suodatettua, valittua miljardeista lähteistä. Tämä on erittäin vaikeaa, koska ihminen ei itse tiedä kovin hyvin, kuinka hänen kielitaidonsa järjestetään, johon hänen ymmärryksensä muista ihmisistä perustuu.
Tilastollinen konekäännös on nyt suosittu. Tietokone ei ymmärrä ollenkaan käännettyä tekstiä, se vain tietää, kuinka löytää todennäköisimmät variantit pienten fragmenttien kääntämiseksi (muutamassa sanassa), analysoimalla sen muistiin tallennettuja valtavia määriä ihmisten käännöksiä. Yleensä teksti on selkeä. Mutta olisi vaivalloista tehdä vastuullinen päätös tällaisen käännöksen perusteella.
Okei, voiko tietokone kääntää ohjeet minulle?
- Ohjeet? Onko se vaarallista.
- Kyllä yksinkertaiseen jääkaappiin!
- Jopa jääkaappiin! Haluaisin, että ohjelmistomme kääntävät, yrittäen ymmärtää tekstiä, valitsemalla tietämykseen perustuvien vaihtoehtojen välillä eikä vain siksi, että tämä kirjeenvaihto löytyy useimmiten tietokannastamme.
Okei, sanotaan, että ratkaisit ongelman ja loit järjestelmän, jonka avulla tietokoneet oppivat ymmärtämään puheemme vivahteet ja jopa kääntämään sen oikein toiselle kielelle. Ja sitten uusi vaara uhkaa ihmisiä - ei tarvitse ajatella. Ei ole tarvetta kouluttaa muistia, aivoja. Tarvitsetko tietoja - ole hyvä, Wikipedia. Sinun on puhuttava ulkomaalaisen - kääntäjän kanssa …
- Mitä korkeampi älykkyyden ja tietämyksen taso on, sitä hyödyllisempi hänelle on seuraava "älykäs avustaja". Ja mitä alempi, sitä enemmän mahdollisuuksia näyttää olevan ajattelematta ollenkaan. Tietotekniikka johtaa yhteiskunnan polarisaatioon. Karkeasti sanottuna laskimen tulo ei johda matemaatikkojen rappeutumiseen. Mutta joillakin koululaisista oli selvästi jo heikot kyvyt heikentyneet.
- Tiedätkö minulle, että vakava indikaattori koulutustason laskusta on niiden ihmisten lukumäärä, jotka kirjoittavat lukutaidottomasti tai jotka eivät kykene ilmaisemaan ajatuksiaan ja tunteensa matea käyttämättä
- Kyllä, ihmiset alkoivat kirjoittaa vähemmän osaavasti. Yksinkertaisesti siksi, että yleensä muokattuja tekstejä luetaan vähemmän ja paljon enemmän sellaisia resursseja, joissa oikeinkirjoitus on hyvin epäselvää. Saako tämä ihmiset typeriksi? Luultavasti ei.
Näetkö yhteyden sen tosiasian välillä, että henkilö lukutaidottomasti ilmaisee ajatuksiaan äidinkielellään, ja sen välillä, että hänestä on tullut tyhmä?
”En menisi niin pitkälle. Vaikka se on selvää: Koska lapset alkoivat lukea vähemmän, joitain ongelmia syntyi tiedon ja kulttuurin siirtämisessä sukupolvien välillä. Tämä on ongelma. Nykyään näemme, että nykyaikainen koululainen, jolla on samat arvosanat kuin 30 vuotta sitten, tuntee kirjallisuuden huonommin.
Täällä
”… Mutta toisaalta hän tuntee monia muita asioita paljon paremmin, mitä kukaan ei ajatellut voivansa tietää.
Onko tämä luonnollinen prosessi?
- Joo. Lisäksi ensimmäistä kertaa ihmiskunnan historiassa tietoa ei voida siirtää vanhimmilta nuoremmalle, kuten vuosisatojen ajan on tapahtunut. Tietämystä siirrettiin nuoremmilta vanhimmille, mikä aikaisemmin ei ollut ollenkaan ominaista ihmiskulttuurille. Lapsi opettaa isää tai äitiä työskentelemään tietokoneella, matkapuhelimella, on vanhempilleen tietämyksen lähde. Ja vielä enemmän lapsia matkustaa ympäri maailmaa. Hyvin usein ne ovat maantieteellisen ja kulttuurisen tietolähteen lähde.
Kuuntele, mutta tässä kaikki alkoi tietokoneista. Ne vapauttivat ihmiset edes tarpeesta muistaa kieliopin perussäännöt
- Juuri 90-luvun alussa työskentelin ryhmässä, joka kehitti yhden ensimmäisistä oikeinkirjoituksen tarkistusjärjestelmistä venäjän kielelle. Oliko tästä hyötyä vai haitallista? Erittäin hyödyllinen mielestäni. Tämä järjestelmä mahdollisti nopeamman asiakirjojen luomisen. Ja sitten kaikki riippuu henkilön vastuutasosta. Kuka sanoi, että auton jälkeen ei tarvitse tehdä tarkistusta? Järjestelmä vain tekee siitä paljon tehokkaamman.
Mutta luotamme tietokoneeseen
- Se tarkoittaa vain, että ohjelman tehnyt henkilö ei ilmoittanut sinulle monista ilmiöistä, joita kone ei voi tarkistaa. Esimerkiksi neuvottelut.
Uusi tekniikka johtaa valitettavasti usein perinteisten taitojen menettämiseen. Olen tehnyt korjauksia asunnossa. Halusin asentaa puiset ikkunat, jotka oli asennettu aiemmin. Mutta tämä osoittautui mahdottomaksi. Kaikki asentavat kaksinkertaiset ikkunat. Ihmiset valitettavasti lakkaavat tekemästä monia asioita käsillään. Mitä tehdä, niin elämä toimii. Valitettavasti.
Joten olet konformista?
- Ei. Uskon, että ehdottoman haitallisten asioiden tekeminen ei ole hyvä. Mutta kun sinulla on sekä voittoja että tappioita, sinun on arvioitava riskit … Jos teet huumeita, et usko, että paitsi hyvät, myös pahat ihmiset selviävät sen käytöstä.
Meidän tapauksessamme on samanaikaisesti tekniikan kehityksen kanssa välttämätöntä osallistua niitä käyttävien koulutukseen. Uuden tekniikan kielteiset vaikutukset heijastuvat pääasiassa niihin, jotka eivät tee työnsä kovinkaan hyvin millään teknologisella tasolla.
Otetaan esimerkiksi lääke. Haluamme auttaa lääkäriä tekemään päätöksen, teemme tietokoneasiantuntijajärjestelmän, joka perustuu monien luotettavien diagnoosien analyysiin, jotka ovat laatineet parhaat lääkärit. Se antaa ammattilaiselle mahdollisuuden siirtyä suurempaan tietomäärään kuin hänellä itsellään on. Mutta lopullinen päätös on hänen, ei tietokoneen! Huonolla lääkärillä kaikki on erilaista - hän luottaa siihen, mitä ei voi luotettavasti tarkistaa. Mutta keskimäärin tällaisten tekniikoiden tullessa minusta vaikuttaa siltä, että lääketiede on edelleen paranemassa eikä huonompi.
No, olimme vakuuttuneita siitä, että ihmisen tietokoneen ymmärtämisen älyjärjestelmästä on enemmän hyötyä kuin haittaa. Mutta milloin hän ilmestyy?
- Tämä on erittäin vaikea tehtävä, jota ei voida ratkaista heti. On tarpeen opettaa tietokonekieli kielitiedosta ja maailmantieteestä, päätelmämenetelmistä ja arvojen vertailusta. Jotain, mitä osaamme tehdä nyt, jotain vie vuosia. Tarvitsemme esimerkiksi luotettavaa tietoa kielten käytöstä ottaen huomioon yksilölliset ja sosiaaliset erot. Ja nämä erot ovat erittäin merkittäviä. Esimerkiksi teimme erityisen projektin, joka on omistettu venäjän kielen alueellisille eroille. Kerätty sanakirja, jossa lähes 10 tuhat sanaa, jotka ovat normi vain tietyillä maamme alueilla asuville
Keitä me olemme?
- Tämä on venäläisten kaupunkien kielet -hanke, johon osallistuvat ABBYY-asiantuntijat, kielitieteilijät, harrastajat Venäjän eri puolilta ja venäjänkieliset ulkomailla. Analysoimme alueellisen median kieltä, sosiaalisia verkostoja, asetuksia ja paikallisviranomaisten päätöksiä. Ja tämä on vain pieni osa tiedosta, joka on opetettava tietokoneelle!
Mikä on perustavanlaatuinen ero käännöskäsittelyn ja esimerkiksi Googlen käyttämien järjestelmien välillä?
- Tilastojärjestelmät eivät rakenna kielellisiä rakenteita. He etsivät käännösotteluita pienille 5-7 sanan palasille. Mutta kieli on järjestetty niin, että hyvin usein liittyvät sanat sijaitsevat paljon kauempana, ja jos tätä yhteyttä ei oteta huomioon, virheitä syntyy. Mutta hyvin usein tällaiset yksityiskohdat ovat tärkeitä käännöksessä, joiden laiminlyönti voi muuttaa merkityksen täysin. Kaiken huomioon ottamiseksi on analysoinnin aikana välttämätöntä tunnistaa sanojen välinen koko kielellisten yhteyksien järjestelmä, jota kutsutaan lauseen rakenteeksi. Emme käännä lauseiden kappaleita kielestä kielelle, yritämme tunnistaa lauseen semanttisen rakenteen ja syntetisoida sitten tämä rakenne toisen kielen avulla.
Mutta näitä semanttisia rakenteita käytetään paitsi eikä myöskään niin paljon konekääntämiseen. Niitä tarvitaan myös älykkään haun ja tietoanalyysin ongelmien tehokkaaseen ratkaisemiseen, jotka ovat nykyään tärkeämpiä ABBYY: lle kaupallisena yrityksenä. Esimerkiksi äskettäin julkaistut ensimmäiset ratkaisut yritysmarkkinoille perustuvat näihin tekniikoihin: niiden avulla voit vain etsiä ja analysoida tietoja organisaatioihin tallennetun valtavan tiedonkulun avulla.
Ja mikä kieli on mielestäsi vaikeampi ymmärtää?
- On yleisesti hyväksyttyä, että vaikeampia ovat kielet, joilla sinun on opittava enemmän sääntöjä. Mutta tietokoneen ymmärtämisen tapauksessa näin ei ole.
Joku, joka on vaikea henkilölle, esimerkiksi rikas käännösjärjestelmä venäjäksi tai liettuaksi, yksinkertaistaa tietokoneen tehtävää tietyissä analyysivaiheissa.
Esimerkiksi kiinan kieli on erittäin vaikea, koska siinä ei ole morfologiaa, ja siten tietokoneen edessä oleva suuri määrä epäselvyyttä. Siksi kiinan kielen tietokoneanalyysissä on erittäin tärkeää käyttää maailmantietoa, tärkeämpää kuin esimerkiksi analysoitaessa kieliä, joilla on kehittynyt morfologia.
Onnistuimme työskentelemään venäjän, saksan, englannin, ranskan, espanjan ja kiinan kanssa. Kielianalyysi on jaettu vaiheisiin. Joillakin vaiheilla on erityisyyttä, vaikeuksia yhdellä kielellä, toisilla toisella. Mutta pohjimmiltaan tekniikka, jonka kanssa työskentelemme, on sovellettavissa kaikille kielille.
Mielestäsi milloin tulee päivä, jolloin pystymme vastaanottamaan nopean ja ymmärrettävän käännöksen tietokoneelle keskustelujemme rinnalla. Oletetaan, että puhumme nyt, ja saamme heti kopion keskustelun espanjaksi?
- Se on mahdollista melko pian. En usko, että kahdessa vuodessa. Mutta … Mitä tarvitaan tämän ongelman ratkaisemiseksi? Meidän on parannettava puheenanalyysijärjestelmäämme. Emme voi vielä käydä spontaania keskustelua, erottaa se melusta ja saada haluamasi teksti. Ja tässä suunnassa on edistytty joka vuosi.
Mutta silti tulee olemaan sellaisia asioita, joita kone ei voi tulkita yksiselitteisesti. Ja tässä ymmärtämisen ja kääntämisen tarkkuus riippuu maailmaa koskevan tietojärjestelmän saatavuudesta, loogisten päätelmien mekanismeista.
Mutta joka tapauksessa täydellisen luottamuksen vaara tällaiseen ohjelmaan säilyy. On virhe ajatella, että esimerkiksi viidessä vuodessa voit sanella kirjeen tietokoneelle, se kääntää sen, lähettää sen liikekumppanillesi, ja kaikki on hyvin. Kukaan ei takaa, että kone ei missaa "ei" jostain tai tee muita virheitä, minkä jälkeen liikesuhdetta voidaan pitää täydellisenä.
Toisin sanoen henkilön, joka on rekisterinpitäjän, pitäisi silti olla?
- Varmasti. Luottamus tekniikkaan sokeasti on vaarallista.