On tunnettu tosiasia, että tekoäly hallusinoi; se voi tuottaa vaihtoehtoisia faktoja. Pitkässä tekoälyn tuottamassa tekstissä voi olla paljonkin virheellistä, harhaanjohtavaa ja täysin keksittyä tietoa. Tyypillisiä esimerkkejä ovat tekoälyn keksimät olemattomat tutkimukset ja tutkimusprojektit, väärät historialliset tapahtumat ja lähdeviittaukset, joita ei tietokannoista löydy. On selvää, että tällaisissa tilanteissa hallusinointi on vakava ongelma. Voiko hallusinoinnista olla koskaan hyötyä?
Tekoäly voi tuottaa opiskelijalle (ja tutkijalle) kipeän oppimiskokemuksen. Jos tekoälyn avulla yritetään oikaista esseen, seminaarityön tai opinnäytetyön kirjoittamisessa, on hyvin mahdollista, että tekstiin on jäänyt hallusinaatiota, kenties hyvinkin absurdia. Tiedetään tapahtuneen, että asiatekstissä tekoäly on jättänyt mukaan kirosanoja tai muita arveluttavia termejä.
Noloa on myös, jos opiskelijan tai tutkijan tekstistä paljastuu täysin vääriä tietoja ja olemattomia lähdeviitteitä. Asian paljastuminen esimerkiksi seminaari-istunnossa voi olla kipeähkö kokemus, joka ei hevin unohdu. Positiivista asiassa on alkunöyryytyksen jälkeen se, että harva halunnee tehdä saman virheen uudelleen.
Yhteisöllinen oppimiskokemus
Opetuksessa tekoälyn tuottama teksti, jossa on hallusinoitua sisältöä, voi olla tehokas väline opettaa ja kehittää lähdekritiikkiä. Opiskelijoille voidaan antaa tekoälyn tuottama teksti, ja he saavat arvioida sen: onko tekstissä heti ensilukemalta epäilyttävää sisältöä?
Opetuksessa tekoälyn tuottama teksti, jossa on hallusinoitua sisältöä, voi olla tehokas väline opettaa ja kehittää lähdekritiikkiä.
Laajempi tehtävä voi olla pyytää opiskelijoita tarkistamaan, mitkä tiedot pitävät paikkansa ja mitkä eivät. Hallusinoitua tekoälytekstiä sisältävä harjoitus voi opettaa tehokkaasti, miksi tietoa ei pidä hyväksyä kritiikittä riippumatta siitä, kuinka vakuuttavalta se kuulostaa. Harjoitus opettaa arvioimaan lähteiden luotettavuutta ja tunnistamaan virheellisiä väitteitä. Lähdekritiikki ja sokean luottamuksen välttäminen vakuuttavankin tekstin osalta lienee kansalaistaidoista tärkeimpiä.
Tekstin ja tutkimuksen suunnittelu
Opiskelija ja tutkija on usein tilanteessa, jossa tulisi keksiä tutkimusaihe ja uusia ja mielenkiintoisia näkökulmia siihen. Tekoäly voi parhaassa tapauksessa yhdistellä asioita tavoilla, jotka eivät perustu todellisiin yhteyksiin, mutta jotka voivat luoda kiinnostavia ideoita ja näkökulmia. Hallusinointi voi tuoda esille kiehtovan entä jos -näkökulman. Lähtökohta ja alkuperäinen idea voi olla ”hallusinoitu”, mutta niistä voi silti kehkeytyä relevantti tutkimus tai projekti.
Tekoälyn hallusinointi voi olla estoton aivomyrsky: parhaimmillaan se tuottaa uusia ja relevantteja ideoita, pahimmillaan vääriä faktoja. Tekoälyn tuottamat ideat ja näkökulmat ovat ehdotuksia ja spekulaatiota, eivät vahvistettuja tosiasioita. Hallusinointi voi kenties olla ominaisuus, joka auttaa löytämään uuden näkökulman tai luovan ratkaisun esimerkiksi tutkimusongelmaan.
Kirjoittajat
Juhani Toivanen
Diakonia-ammattikorkeakoulu Lehtori
