Chicagon yliopiston (USA) tutkijat tekivät tutkimuksen, jonka aikana he osoittivat, kuinka tekoälyä voidaan käyttää monimutkaisten väärennettyjen arvostelujen kirjoittamiseen. Tällaiset arvostelut eivät eroa todellisista nykyaikaisilla menetelmillä, ja epäilemättömät lukijat pitävät niitä erittäin luotettavina.
Ravintolaraportit tuotettiin toistuvilla hermoverkoilla (syvälliset oppimistekniikat), jotka olivat aiemmin kouluttaneet tuhansia tosielämän arvosteluja, jotka olivat saatavana verkossa.
Tutkijoiden mukaan tuotetut arvostelut eivät olleet käytännöllisesti katsoen erotettavissa todellisista. Joten työn kirjoittajat osoittivat, että käyttäjät eivät vain tunnistaneet väärennettyjä arvosteluja, mutta pitivät niitä yhtä hyödyllisinä kuin ihmisten kirjoittamat todelliset.
Jälkimmäinen on todennäköisesti hälyttävin. Koska tämä tarkoittaa lähinnä sitä, että tekoälyn kirjoittamat arvostelut täyttävät päätehtävänsä - ne vaikuttavat tarkoituksellisesti ihmisten mielipiteisiin.
On huomattava, että plagiointia löydettiin harvoin tällaisista arvosteluista (ohjelmistojen avulla). Tämä johtuu siitä, että tekoäly loi ne hahmojen mukaan eikä kourannut sanoja todellisista arvosteluista.
Nykyään on melko suuri maanalainen teollisuus, jossa ihmiset kirjoittavat väärennettyjä arvosteluja (rahalle). Kuitenkin, kuten Chicagon yliopiston professori Ben Y. Zhao totesi Business Insiderin haastattelussa, tekoälyn käyttöönotto voi heikentää sitä. Tutkija sanoo, että hän ei vielä tiedä tällaisten algoritmien käytöstä tällä alalla. Mutta ei ole mitään takeita siitä, että joku ei keksi jotain vastaavaa eikä käytä sitä henkilökohtaiseen hyötyyn.
Samaan aikaan tutkijat kirjoittavat, että hermoverkon vastaukset eivät silti olleet ihanteellisia. Kävi ilmi, että algoritmissa käytettiin pienempää merkistöä - eikä tätä ollut vaikea nähdä. Työn kirjoittajien mukaan tulevat neuroverkot voivat kuitenkin olla vieläkin monimutkaisempia, ja siten niiden tuottama palaute on vaikeampaa havaita.
Zhao toteaa, että kyse ei ole vain väärennetyistä ravintola-arvosteluista: tällaiset tekniikat voivat yleensä ravistaa uskomustamme siitä, mikä on todellista ja mikä ei.
Mainosvideo:
Tutkimuksen teksti löytyy täältä.