Tekoäly tuottaa tekstiä sekunneissa, ja usein tuotos on ainakin päällisin puolin erittäin vakuuttava. Tekoälyn käyttäjän – vaikka opiskelijan, opettajan tai hallintohenkilön – pahin virhe on kuitenkin luottaa tekoälytekstin laatuun kritiikittömästi.
On tunnettua, että tekoäly tuottaa niin sanotusti vaihtoehtoisia faktoja ja hallusinoi: asiallisen tekstin osana voi olla täysin järjetöntä tekstiä. Olisiko hyvä idea trianguloida tekoälyn (esimerkiksi CoPilotin) tuottaman tekstin oikeellisuus ja relevanssi muilla tekoälymalleilla, vaikkapa ChatGPT:llä ja Geminillä?
Kun triangulaatio toimii
Kokemus on osoittanut, että tekstin viimeistelyssä kannattaa käyttää useampaa kielimallia. Yksi järjestelmä voi tehdä triviaaleja virheitä, jotka toinen huomaa. Samanlaista metodia kannattaa tietysti käyttää varsinaisessa kirjoitusprosessissa: faktat kannattaa tarkistaa useammasta lähteestä, ja myös lähteiden luotettavuutta tulee arvioida.
Eri tekoälymallit on voitu kouluttaa eri tavalla ja eri malleilla voi olla erilaisia vahvuuksia. Yksi tekoälymalli voi olla suvereeni yleisessä tekstin generoinnissa ja kielen nyansseissa. Toinen on kenties hyvä huomaamaan puutteita logiikassa tai faktoissa. Kun tarkistavalla tekoälyllä on käytössään reaaliaikainen tarkistustyökalu (kuten mahdollisuus tarkistaa alkuperäinen lähde), se voi verrata ensimmäisen tekoälyn väitteitä ja havaita virheet.
Toinen ongelma tekoälyn vahtiessa toisen tekoälyn suoritusta liittyy tekstin laatuun: kyseessä on uskottavuusharha.
Kun triangulaatio ei toimi
On mahdollista, että tekstin kirjoittaja tekee tekstilleen lopputarkastuksen kahdella eri tekoälymallilla, jotka perustuvat samaan perusarkkitehtuuriin tai jotka ovat oppineet samoista koulutusaineistoista. Tällöin on mahdollista, että tekoälymalleilla on samat vinoumat ja ne pitävät vääristynyttä faktaa totuutena.
Toinen ongelma tekoälyn vahtiessa toisen tekoälyn suoritusta liittyy tekstin laatuun: kyseessä on uskottavuusharha. Tekoäly hallusinoi usein erittäin sujuvasti ja itsevarmasti, auktoriteetin ottein. Toinen tekoäly saattaa hyväksyä virheellisen tekstin sen tyylillisen uskottavuuden takia.
Lisäksi on muistettava, että tekoäly ei ole ihmiskirjoittaja: tekoäly voi tuottaa absurdia ”asiatekstiä”, jonka kaltaista ihmiskirjoittajalle ei tulisi edes mieleen kirjoittaa. Tekoälyltä puuttuu (toistaiseksi) ihmismäinen ymmärrys esimerkiksi kulttuurista, uskonnosta ja tunteiden vaikutuksesta päätöksiin.
Tulevaisuuden mahdollisuudet
Jo nykyään, ja yhä enemmän tulevaisuudessa, tekoälysovelluksessa käytetään moniagenttijärjestelmiä. Niissä yksi ja sama tekoälymalli sisältää erikoistuneita toimijoita, esimerkiksi kirjoittajan, faktantarkastajan, kriitikon ja viimeistelijän. Agentit toimivat tekstiä tuottaessa iteratiivisesti ja keskenään kommunikoiden. Tämä vähentänee hallusinaatioiden riskiä huomattavasti.
Lienee syytä huomauttaa, että vaatimus tekoälyn täydellisestä luotettavuudesta voi olla kohtuuton; mikään tekniikka ei ole sataprosenttisen varma. Syytä on muistaa sekin, että parhaimmatkin ihmisasiantuntijat arvostetuissa asemissa voivat tuottaa tekstiä, joka osoittautuu syvällisesti virheelliseksi.
Kirjoittajat
Juhani Toivanen
Diakonia-ammattikorkeakoulu Lehtori
