Neuroverkkoihin perustuvat kielimallit ovat herättäneet paljon huomiota uuden ChatGPT:n myötä. Helsingin Sanomat tuotti sillä äskettäisen pääkirjoituksensa ensimmäisen kappaleen osoitukseksi tämän teknologian kyvyistä. Elämmekö nyt todellisen ajattelevan tai jopa tietoisen teköälyn aikaa?
Pääkirjoitustoimittajan pohdinta ”Voi olla, ettei se pysty luomaan uutta runoutta niin kuin Shakespeare, mutta se pystyy kirjoittamaan Shakespearen tyylillä niin taitavasti, että eroa on vaikea huomata” paljastaa – ehkä tahattomasti – tämän teknologian suurimman heikkouden. ChatGPT:n takana oleva kielimalli on toki hyvin laaja, mutta se on silti vain suuren internet-aineiston tuottama tilastollinen malli, joka valitsee todennäköisimmän sanan edeltävien sanojen perusteella.
Käytännössä tämä tarkoittaa sitä, että mallin tuottama teksti noudattaa luonnollisen kielen pintarakennetta hyvin tarkasti, mutta sen taustalla ei ole minkäänlaista ymmärrystä tekstin merkityksestä, eikä siis myöskään kykyä tuottaa uusia johtopäätöksiä muuten kuin onnekkaan sattuman pohjalta.
Jos käytetään tiedon klassista määritelmää, että tieto on perusteltu tosi uskomus, epäonnistuu tällainen kielimalli joka kohdassa, mutta erityisesti perusteluissa, koska sillä ei ole kykyä logiikan sääntöjä noudattaviin johtopäätöksiin. Tämä ilmenee sekä virkkeiden sisäisten, että niiden välisten loogisten rakenteiden yllättävänä hajoamisena.
Koska kielimallilla ei ole symbolifunktiota, ei mitään totuusarvoja koskevia sisäisiä rakenteita, eikä se noudata logiikan lakeja, voi se tuottaa hyvin uskottavan tuntuista tekstiä, joka on täysin paikkansapitämätöntä. Vastaanottajan näkökulmasta se ”valehtelee sujuvasti”.
Niin kauan kuin liikutaan mielipiteiden ja fiktion parissa, voi GPT-J:n tai ChatGPT:n kaltainen kielimalli tuottaa kelvollista tekstiä, joka vastaa pinnallisesti ihmisen tuottamaa. Kun taas siirrytään tosiasioiden ja niistä tehtävien johtopäätösten maailmaan, voi tällainen ”tekoäly” johtaa katastrofeihin.
Viisivuotiaalle lapselle tämä päättely ei tuottaisi ongelmia, mutta GPT:hen perustuva malli paljastaa älykkyyden täydellisen puutteen tarjoamalla internetistä löytynyttä sähköpostin pätkää:
Minä:
We know that either John or Jeff killed Joe. Jeff did not kill Joe. Tell me who killed Joe?
GPT-J:
—–Original Message—–
From: Scott, Donna
Sent: Wednesday, January 30, 2002 10:49 AM
To: Mims, Patrice L.
Subject: RE:
Did you get my messages? I was just hoping you were out today.
Vaikka GPT-J:lle antaa loogisen kuvauksen kaikista tarvittavista tosiasioista, ei se silti kykene tuottamaan luotettavasti oikeita johtopäätöksiä. Onkin varsin huolestuttavaa, että jotkut ehdottavat tämän teknologian käyttämistä tieteellisen tiedon tiivistämiseen ja johtopäätöksien vetämiseen.
Näiltä tilastollisilta kielimalleilta puuttuvat kaikki loogiseen päättelyyn tarvittavat mekanismit. Ne hämäävät toki kyvyllään tuottaa sujuvaa tekstiä. Tuo teksti vastaa kuitenkin arvoltaan psykoottisen henkilön tuottamaa tajunnanvirtaa. Vastaus otsikon kysymykseen on siksi kieltävä: ihmisen älykkyys on tällaisen tekoälyn saavuttamattomissa.
Ennustan, että parin vuoden sisällä olemme tilanteessa, jossa neuroverkkoihin ja kielimalleihin pohjautuvan tekoälyn hehkutus on vaihtunut jonkinasteiseen krapulaan. Tällöin kiinnostus suuntautuu uudelleen symbolisiin tekniikoihin, joiden pohjalle voidaan rakentaa vaativissa ympäristöissä toimivia luotettavia ratkaisuja.
