Odotamme kaikki hetkeä, jolloin tekoäly, ohjelmat, tekniikka oppivat tekemään käytännössä samoin, niin olemme. Tämä kaikki on aivan totta. Mutta toistaiseksi harvat ihmiset ajattelevat, että sama, tämä prosessi ei ole sama koneille ja ihmisille.
Esimerkiksi ryhmä tutkijoita Kyushun yliopistosta löysi tavan harhauttaa kuvioiden tunnistusohjelmia muuttamalla kuvan yhtä pikseliä. Tämä pikseli on sijoitettu siten, että se sekoittaa tunnistamisesta vastaavat hermoverkot ja ne alkavat erehtyä koiria kissoihin ja hevosia autoihin.
Testikuvat rajoitettiin vain tuhanteen pikseliin, mutta suurempien tarkkuuksien ja miljoonien pikselien tapauksessa sääntö toimii myös. Vain ei tarvitse muuttaa yhtä pikseliä, vaan useita satoja.
Toinen tutkijaryhmä, tällä kertaa Massachusetts Institute of Technology, onnistui menemään vielä pidemmälle. He pystyivät tulostamaan kilpikonnan veistoksen 3D-tulostimella, jonka ohjelma, vaikka näki sen kaikki puolet ja mistä tahansa kulmasta, otti sen kivääriin. Tämä kokeilu aiheuttaa paljon suuremman ongelman kuvan tunnistustekniikalle, koska koko asia tapahtui todellisuudessa ja ohjelman annettiin analysoida objekti kaikista kulmista, mutta se ei silti määrittänyt sen todellista muotoa.
Yhdessä molemmat tutkimukset osoittavat, kuinka robottien ja ohjelmien on matkustettava ennen kuin he saavuttavat inhimillisen tason. Loppujen lopuksi aivomme eivät voi menehtyä korvaamalla yksi tai jopa sata pikseliä.
Ainoa sääli on, että lähteet eivät tarjoa selitystä siitä, kuinka se osoittaa harhauttavan ohjelmaa. Mitä mieltä sinä olet? Mikä on "rikki pikselien" salaisuus ja miten voit huijata 3D-mallilla?
Nikolay Kudryavtsev
Mainosvideo: