Tutkijat ja ohjelmoijat ovat lakanneet ymmärtämästä, kuinka tekoäly tekee päätöksiä. Useat asiantuntijat ilmoittivat tästä ongelmasta AI: n pääkonferenssissa - Neuraalit tietojenkäsittelyjärjestelmät -, joka pidettiin Long Beachissä (Kalifornia).
Quartzin haastatellut asiantuntijat sanovat, että heidän on toimittava, ennen kuin järjestelmä muuttuu liian monimutkaiseksi.
"Emme halua tehdä AI-päätöksiä itsestäänselvyytenä ymmärtämättä heidän logiikkaansa", sanoo Jason Yosinski Uberista. "Jotta yhteiskunta hyväksyisi koneoppimallit, meidän on tiedettävä, kuinka AI päätyy tiettyihin johtopäätöksiin."
Ongelma, jota monet asiantuntijat kutsuvat”mustalle laatikolle”, on todella vakava. Aikaisempi kokemus on osoittanut, että AI: llä on taipumus tehdä puolueellisia päätöksiä ja tehdä analogioita sinne, missä niiden ei pitäisi olla. Koska hermoverkot tunkeutuvat vähitellen lainvalvontaan, terveydenhuoltojärjestelmään, tieteelliseen tutkimukseen ja algoritmeihin, jotka määrittävät sen, mitä näet Facebook-uutissyötteessäsi tänään, AI-virhe voi olla erittäin kallista.
Esimerkiksi Jet Propolusion Labin (NASA) AI-asiantuntija Kiri Wagstaff mainitsee matkan Marsiin. Laitteet sijaitsevat 200 miljoonan mailin päässä maasta ja maksavat satoja miljoonia dollareita, joten mahdollisia virheitä AI: n työssä ei yksinkertaisesti voida hyväksyä.
”Ihmisten on tiedettävä, mitä AI tekee ja miksi. Muuten, kuinka he voivat luottaa häneen hallitsemaan kalliita laitteita?”Wagstaff sanoo.
Tällä hetkellä tutkija työskentelee algoritmin kanssa, joka lajittelee eri NASA-avaruusalusten ottamia kuvia. Koska kuvien määrä on miljoonia, tietokone antaa sinun lajitella ja korostaa mielenkiintoisimmat kuvat viettämättä valtavasti aikaa tähän prosessiin. Ongelma on kuitenkin siinä, että usein vain AI yksin tietää, miksi tietyt valitsemansa kuvat ovat epätavallisia.
Siten päättelee Wagstaff, jos tämän algoritmin sisällä on virhe, se voi joskus puuttua erittäin tärkeisiin tietoihin.
Mainosvideo:
Periaatteessa tietokone antaa kuvan ja sanoo: "Katso, tämä on mielenkiintoista." Mutta et voi aina ymmärtää, miksi se on mielenkiintoista: esineiden värin, muodon tai niiden sijainnin vuoksi avaruudessa - et todennäköisesti tiedä tätä”, tiedemies sanoo.
Microsoftin vanhempi tutkija Hannah Wallach yhtyy kollegojensa päätelmiin.
”Kun koneoppiminen yleistyy ja panokset nousevat, emme voi enää nähdä näitä järjestelmiä mustina laatikoina. Meidän on ymmärrettävä, mitä heidän sisällä tapahtuu ja mitä he tekevät”, tutkija sanoi.
Tutkijat yrittävät onneksi löytää menetelmiä tekoälyn logiikan ymmärtämiseksi. Siksi Google-tutkija Mitra Raghu esitteli raportin, joka kuvaa hermoverkon yksittäisten "hermosolujen" toiminnan seuraamisprosessia. Analysoidessaan miljoonia operaatioita hän pystyi selvittämään, mitkä keinotekoisista "neuroneista" keskittyivät väärinkäsityksiin, ja sulkemaan ne. Tämä osoittaa, että hermoverkkojen työn kääntäminen ihmisen ymmärrettävään muotoon ei ole niin mahdoton tehtävä.
Toinen vaihtoehto ongelman ratkaisemiseksi on testata säännöllisesti tekoälyn kehittämiä taitoja.
"Se on kuin kouluopettajat pyytävät lapsia kertomaan omin sanoin, mitä he ymmärsivät opettajan selityksestä", sanoo Wagstaff.
Algoritmin sisäisten osien ymmärtämisen merkitys ei ole pelkästään estämään hypoteettista roveria putoamasta Marsin kallioon; ymmärtämällä mikä vika on, voit tehdä nykyisistä järjestelmistä entistä parempia.
"Jos järjestelmäsi ei toimi ja et tiedä miksi, niin on erittäin vaikea tehdä jotain siitä", Yosinski sanoo. "Jos tiedät mitä tapahtui, tilanne voidaan aina korjata."
Käytetyt materiaalit sivustolta hightech.fm