Ajat moottoritietä pitkin, kun mies juoksee vilkkaalle tielle. Autot liikkuvat ympäriinsä, ja sinulla on sekunti jaksossa päätöksen tekemiseen: yritä välttää henkilöä ja luoda onnettomuuden riski? Jatka ajoa siinä toivossa, että hänellä on aikaa? Jarruttaa? Kuinka arvioit todennäköisyyttä siitä, että lapsi on kiinnitetty takapenkille? Tämä on monella tapaa klassinen”moraalinen ongelma”, vaunu-ongelma. Hänellä on miljoona erilaista vaihtoehtoa, joiden avulla voit tunnistaa ihmisten ennakkoluulot, mutta ydin on sama.
Olet tilanteessa, jossa henki ja kuolema ovat vaakalaudalla, ei ole yksinkertaista vaihtoehtoa, ja päätöksesi itse asiassa määrää kuka elää ja kuoli.
Vaunun ongelma ja tekoäly
MIT: n uusi paperi, joka julkaistiin viime viikolla Nature-lehdessä, yrittää löytää toimivan ratkaisun vaunuongelmaan rekrytoimalla miljoonia vapaaehtoisia. Koe aloitettiin vuonna 2014 ja se oli menestys, sillä se sai yli 40 miljoonaa vastausta 233 maasta, joten se oli yksi kaikkien aikojen suurimmista moraalitutkimuksista.
Henkilö voi tehdä tällaisia päätöksiä tajuttomasti. Kaikkien eettisten järjestelmien ja moraalisten edellytysten punnitseminen on vaikeaa, kun autosi kilpailee tiellä. Mutta maailmassamme päätökset tehdään yhä enemmän algoritmeilla, ja tietokoneet voivat helposti vastata nopeammin kuin me.
Hypoteettiset tilanteet itse ajavien autojen kanssa eivät ole ainoita moraalisia päätöksiä, jotka algoritmien on tehtävä. Lääketieteelliset algoritmit valitsevat, kuka saa hoidon rajallisilla resursseilla. Automatisoidut droonit valitsevat, kuinka suuri "lisävahinko" on hyväksyttävää yksittäisessä sotilaallisessa toiminnassa.
Mainosvideo:
Kaikki moraaliset periaatteet eivät ole tasavertaisia
Kärryongelman”ratkaisut” ovat yhtä moninaisia kuin itse ongelmat. Kuinka koneet tekevät moraalisia päätöksiä, kun moraalin ja etiikan perusteita ei yleisesti hyväksytä ja joilla ei ehkä ole ratkaisuja? Kuka voi selvittää, toimiiko algoritmi oikein vai väärin?
Moral Machine -tutkijoiden käyttämä joukkojen hankinta on melko käytännöllinen. Viime kädessä, jotta yleisö voi hyväksyä itse ajavia autoja, sen on hyväksyttävä heidän päätöstensä taustalla oleva moraalinen perusta. Ei ole hyvä, jos eetikot tai lakimiehet keksivät ratkaisun, jota ei voida hyväksyä tai tavallisille kuljettajille voida hyväksyä.
Tulokset johtavat uteltavaan päätelmään, että moraaliset prioriteetit (ja siten ihmisten tekemät algoritmiset päätökset) riippuvat siitä missä maapallossa olet.
Ensinnäkin, tutkijat tunnustavat, että on mahdotonta tietää näiden tilanteiden taajuutta tai luonnetta tosielämässä. Onnettomuuteen joutuneet ihmiset eivät useinkaan osaa sanoa, mitä tarkalleen tapahtui, ja mahdollisten tilanteiden valikoima estää yksinkertaisen luokituksen. Siksi, jotta ongelmaa voidaan jäljittää, se on jaoteltava yksinkertaistettuihin skenaarioihin, etsimällä yleisiä moraalisia sääntöjä ja periaatteita.
Kun otat kyselyn, sinulle esitetään kolmetoista kysymystä, jotka vaativat yksinkertaisen kyllä tai ei-valinnan ja yrittävät kaventtaa vastauksia yhdeksään tekijään.
Pitäisikö auton kääntyä toiselle kaistalle tai jatkaa liikkumista? Pitäisikö säästää nuoria, ei vanhoja? Naiset vai miehet? Eläimet tai ihmiset? Pitäisikö sinun yrittää pelastaa niin monta henkeä kuin mahdollista, vai onko yksi lapsi "vanhojen" arvoinen? Säästätkö autossa matkustajat, ei jalankulkijoita? Ne, jotka eivät noudata sääntöjä, tai ne, jotka eivät noudata sääntöjä? Pitäisikö pelastaa fyysisesti vahvempia ihmisiä? Entä ihmiset, joilla on korkeampi sosiaalinen asema, kuten lääkärit tai liikemiehet?
Tässä ankarassa hypoteettisessa maailmassa jonkun täytyy kuolla, ja vastaat jokaiselle näistä kysymyksistä - vaihtelevalla innostuksella. Näiden päätösten tekeminen paljastaa kuitenkin myös syvälle juurtuneet kulttuurinormit ja puolueellisuudet.
Tutkijoiden tutkiman valtavan tietojoukon käsittely tuottaa yleismaailmallisia sääntöjä sekä uteliaita poikkeuksia. Kolme hallitsevaa tekijää, keskiarvona koko väestölle, olivat, että kaikki mieluummin pelasivat enemmän ihmishenkiä kuin vähemmän, ihmiset mieluummin kuin eläimet ja nuoret mieluummin kuin vanhat.
Alueelliset erot
Voit olla samaa mieltä näistä seikoista, mutta mitä syvemmälle ajattelet niitä, sitä vakavammiksi moraaliset päätelmät tulevat. Lisää vastaajia päätti pelastaa rikollisen kissan yli, mutta yleensä he mieluummin pelasivat koiran rikollisen päälle. Maailman keskimäärin vanhaksi arvioidaan korkeampi kuin kodittomuus, mutta kodittomia pelastettiin vähemmän kuin rasvaisia.
Ja nämä säännöt eivät olleet yleismaailmallisia: Ranskasta, Yhdistyneestä kuningaskunnasta ja Yhdysvalloista vastaajat pitivät parempana nuoria, kun taas Kiinasta ja Taiwanista vastaajat olivat valmiita pelastamaan vanhuksia. Japanista vastaajat mieluummin säästivät jalankulkijoita matkustajien yli, kun taas Kiinassa mieluummin matkustajia kuin jalankulkijoita.
Tutkijoiden mukaan he pystyivät ryhmittelemään vastaukset maittain kolmeen luokkaan:”Länsi”, lähinnä Pohjois-Amerikka ja Eurooppa, joissa moraali perustuu suurelta osin kristilliseen opiin; "Itä" - Japani, Taiwan, Lähi-itä, joissa konfutsianismi ja islam ovat vallitsevia; "Eteläiset" maat, mukaan lukien Keski- ja Etelä-Amerikka, sekä vahva ranskalainen kulttuurinen vaikutus. Naisten uhrauksia suositaan enemmän eteläisessä segmentissä kuin missään muualla. Itäisessä segmentissä on enemmän taipumusta pelastaa nuoria.
Suodatus eri vastaajien määritteillä antaa loputtomia mielenkiintoisia vaihtoehtoja.”Hyvin uskonnolliset” vastaajat eivät todennäköisesti mieluummin eläimen pelastamista, mutta sekä uskonnolliset että ei-uskonnolliset vastaajat ilmaisevat suunnilleen yhtä mieluummin korkean sosiaalisen aseman ihmisten pelastamiseen (vaikkakin tämän voidaan sanoa olevan ristiriidassa joidenkin uskonnollisten doktriinien kanssa). Miehet ja naiset pelastavat mieluummin naisia, mutta miehet ovat vähemmän taipuvaisia tekemään niin.
Vastaamattomat kysymykset
Kukaan ei väitä, että tämä tutkimus jotenkin "ratkaisee" kaikki nämä painavat moraaliset ongelmat. Tutkimuksen kirjoittajat huomauttavat, että joukkotietojen hankkiminen verkkotietoihin liittyy harhoihin. Mutta jopa suurella otoskokolla, kysymysten lukumäärä oli rajoitettu. Entä jos riskit muuttuvat tekemästäsi päätöksestä riippuen? Entä jos algoritmi voi laskea, että sinulla oli vain 50 prosentin mahdollisuus tappaa jalankulkijoita, ottaen huomioon liikkumisen nopeuden?
Edmond Awad, yksi tutkimuksen kirjoittajista, ilmaisi varovaisuuden tulosten ymmärtämisessä ylenmääräisesti. Keskusteluun hänen mielestään pitäisi sujua riskianalyysi - kuka on enemmän tai vähemmän vaarassa - sen sijaan, että päätettäisiin kuka kuolee ja kuka ei.
Mutta tutkimuksen tärkein tulos oli keskustelu, joka levisi sen maaperälle. Kun algoritmit alkavat tehdä yhä tärkeämpiä ihmisten elämään vaikuttavia päätöksiä, on välttämätöntä, että keskustelemme jatkuvasti AI: n etiikasta. "Keinotekoisen omatunnon" suunnittelussa on oltava kaikkien mielipiteet. Vaikka vastauksia ei aina ole helppo löytää, on parasta yrittää muodostaa moraalinen kehys algoritmeille estämällä algoritmien muotoilemasta maailmaa yksinään ilman ihmisen hallintaa.