Yhdysvaltain poliisin palveluksessa vuodesta 1998 toiminut Compas-algoritmi analysoi syytettyjen tietoja ja auttoi sitten saatujen tietojen perusteella esimerkiksi päättämään, pitäisikö rikollinen vapauttaa takuita vastaan vai pitäisikö hän pidättää. Turvatoimenpiteitä valittaessa järjestelmä otti huomioon iän, sukupuolen ja kokemuksen rikollisuudesta. 20 vuoden "palvelun" ajan algoritmia arvioi yli miljoona ihmistä, mutta äskettäin se julistettiin epäpäteväksi, minkä jälkeen se muistutettiin välittömästi.
Dartmouth College -tutkijat tutkivat järjestelmän tarkkuuden ja luotettavuuden. Tätä varten he rekrytoivat freelancereita, tavallisia ihmisiä, joilla ei ole oikeudellista koulutusta, tekemään omat päätöksensä perustuen lyhyisiin ihmisiin liittyviin tietoihin, antamalla tutkittaville tietoja sukupuolesta, iästä, rikoshistoriasta ja useista muista parametreista.
Pienen asiakirja-aineiston omaavien freelancereiden ennusteen tarkkuus oli melkein 70 prosenttia, kun taas ohjelma jäi ihmisistä jäljessä viidellä prosentilla luottaen 137 elämäkerrapisteeseen. Algoritmin tuomioiden analyysi osoitti, että ohjelma epäilee todennäköisemmin mustia vankeja.
"Virheet tällaisissa tapauksissa voivat olla erittäin kalliita, joten on syytä miettiä, pitäisikö tätä algoritmia käyttää lainkaan tuomioistuinten tuomioiden antamiseen", kertoo yksi tutkimuksen tekijöistä.
Tutkittuaan algoritmin periaatteen tutkijat tulivat siihen tulokseen, että mitä nuorempi vastaaja ja mitä enemmän pidätyksiä hänellä on, sitä suurempi on uusiutumisen todennäköisyys, joten tekoälyn asiantuntijat tunnustivat tekniikan epäluotettavaksi.
Viacheslav Larionov
