Amerikkalaiset asiantuntijat ovat kehittämässä hermoverkkoa, joka selittää torjuntarobotien päätöksiä. Tämä lisää ihmisten luottamusta "elektronisiin sotilaisiin".
Selitettävän tekoälyn projekti tai yksinkertaisesti XAI (selitettävä tekoäly) antaa ihmisille ja robotille ymmärtää paremmin toisiaan. XAI-hermoverkko rakentaa loogisen robotin "päättelyketjun" ja näyttää henkilölle, miksi kone teki juuri tällaisen päätöksen - esimerkiksi avata tulen tiettyyn kohteeseen.
Kehitys on käynnissä yhdistelmärobottien ja ihmisten taisteluyksiköiden perustamiseksi Yhdysvaltain armeijaan. Toistaiseksi on vaikea kuvitella, mutta muutamassa vuosikymmenessä robotista tulee täysivaltaisia sotilaita - kuten ihmisiä. Lisäksi ne kykenevät korvaamaan ihmisen tilanteissa, joissa voi olla tarpeen avata tulipalo elävälle kohteelle. Tällainen korvaaminen vapauttaa muodollisesti henkilön vastuusta tappavan päätöksen tekemisestä, mutta se ei voi riistää häneltä epäilyksiä ja katumusta, ja se voi myös aiheuttaa epäluottamusta robotteihin. Et koskaan tiedä - ehkä robotit ovat todella elektronisia maniakkeja, jotka haluavat tappaa?
XAI-projektin pitäisi ratkaista tämä ongelma ihmisen ja robotin vuorovaikutuksessa. Uuden järjestelmän käyttöönoton ansiosta armeija (ne, jotka ovat edelleen eläviä ihmisiä) pystyy ymmärtämään, millä kriteerillä kone on arvioinut tämän tai kyseisen esineen tai henkilön uhkana. Lisäksi XAI helpottaa taistelurobotien sopeutumista tietyn sotilaallisen konfliktin todellisuuksiin ja vähentää turhaa julmuutta.
Uusi kehitys on hyödyllistä paitsi armeijalle. Sitä voidaan käyttää myös siviilialalla - teollisuudessa, turvajärjestelmissä ja lääketieteessä. Esimerkki tällaisesta käytöstä on Raytheonin johtava asiantuntija Bill Ferguson, joka on suoraan mukana hermoverkon kehittämisessä.”Jos tekoäly havaitsee keuhkosyövän merkit röntgenkuvauksella, lääkäri voi selvittää, miksi kone päätti niin. Tietokone korostaa kaikki epäilyttävät alueet, joita lääkäri olisi voinut jättää huomioimatta kuvan esineitä. Sen jälkeen lääkäri pystyy itse selvittämään, kannattaako diagnoosi korjata vai oliko hermoverkko virheellinen”, selittää tutkija.