Generatiivinen tekoäly tehostaa vaikuttamistoimintaa
Suuret kielimallit ovat mullistaneet maailmaa monella tavalla. Tekoälykehitys tarjoaa epäystävällisille valtiollisille toimijoille työkaluja myös uudenlaiseen ja tehokkaampaan vaikuttamiseen.
Generatiivisen tekoälyn kehitys on hallinnut 2020-luvun teknologiakenttää. Suuret kielimallit luovat tilastollisella päättelyllä uskottavalta vaikuttavaa uutta tekstiä koulutusaineistonsa pohjalta. Keskustelevat kuluttajasovellukset, kuten ChatGPT, ovat tuoneet kielimallit osaksi jokapäiväistä arkea kaikkien saataville. Generatiivisilla malleilla on mahdollista luoda myös uutta kuva- ja videomateriaalia todella nopeasti.
Tekoälyn hyödyt eivät ole jääneet huomaamatta vihamielisiltä vaikuttajilta. Kaupallisia tekoälysovelluksia on havaittu hyödynnettävän esimerkiksi polarisoivaan sosiaalisen median sisällöntuotantoon ja vaikuttamistoiminnassa tarvittavien avustavien työkalujen koodaamiseen. Tulevaisuudessa tekoäly voi haastaa kansallista turvallisuutta yllättävillä tavoilla.
Informaatiovaikuttamista on helppoa ja nopeaa tehdä myös suomeksi
Kielimallit ovat helpottaneet huomattavasti mahdollisuuksia toteuttaa informaatiovaikuttamista tehokkaasti suomen kaltaisilla harvinaisilla kielillä. Kielimallien tuottamaa tekstiä voi olla erittäin vaikea erottaa ihmisen tuottamasta tekstistä. Informaatiovaikuttamisessa olennaista on nopeus: kielimalleihin pohjautuvien tekoälyagenttien avulla on helppoa reagoida nopeasti esimerkiksi nouseviin uutistapahtumiin.
Nopeaa reagointikykyä voidaan hyödyntää esimerkiksi vaalivaikuttamisessa. Syväväärennetyllä kuvamateriaalilla on mahdollista hämmentää informaatioympäristöä ja kyseenalaistaa totuutta zvalheellisilla väitteillä. Tekoälyagentit mahdollistavat myös niin kutsuttujen trolliarmeijoiden ylläpitämisen automatisoinnin ja esimerkiksi erittäin aidoilta vaikuttavien valesivustojen nopean luomisen.
Kielimallit haastavat medialukutaitoa ja levittävät vinoutunutta tietoa
Tekoälymallit voivat niiden koulutusaineistosta ja alkuperästä riippuen sisältä vinoumia tai sisäänrakennettua propagandaa, kuten autoritaaristen valtioiden muokkaamaa, vääristeltyä historiaa. Nämä vinoumat voivat periytyä vanhemmista kielimalleista uusiin.
Monet ihmiset suhtautuvat tekoälyn tuottamaan tietoon arjessa varauksettomasti, koska se pintapuolisesti vaikuttaa järkeenkäyvältä. Esimerkiksi hakukoneiden tekoälytiivistelmien luonnetta ei aina osata erottaa varsinaisista hakutuloksista. Osana medialukutaitoa on tärkeää ymmärtää tekoälyn rajoitteet: vaikka kielimallien tuottama teksti olisi uskottavaa, kielimallit eivät aidosti ymmärrä mitään. Mallit ovat edelleen eräänlainen ”musta laatikko” eikä tuotetun tiedon oikeellisuutta pysty aina arvioimaan. Kielimallien tilastollinen kielentuotanto johtaa usein tekstiin, jolla ei ole todellisuuspohjaa ja malleissa esiintyy käyttäjän ajatusten myötäilyä. Malleissa voi olla myös kehittäjien asettamia rajoituksia, ja siksi ne saattavat vältellä joihinkin kysymyksiin vastaamista.
Heikolla tekoälylukutaidolla voi olla vaikutuksia kansallista turvallisuutta uhkaaviin ilmiöihin, jos esimerkiksi kielimallien kanssa käydyt keskustelut syventävät henkilön radikalisoitumista.
Tekoälyllä koodatut kriittiset järjestelmät saattavat sisältää haavoittuvuuksia
Kielimallit ovat tehostaneet ohjelmistokehitystä merkittävästi. Vibekoodaukseksi sanotaan toimintatapaa, jossa ohjelmakoodi tuotetaan täysin tekoälyn avulla ihmisen pyytämän kehotteen mukaisesti. Vibekoodaus heikentää erityisesti pitkällä aikavälillä kokemattomien kehittäjien ymmärrystä ohjelmistojen toiminnallisuuksista, mikä on riski etenkin kriittisen infrastruktuurin järjestelmissä. Tekoälyavusteisen ohjelmistokehityksen myötä kriittisiin järjestelmiin voi päätyä ohjelmointivirheitä, tietoturvahaavoittuvuuksia tai jopa haitallista koodia, jota on tarkoituksellisesti ujutettu kielimallin koulutusaineistoon.
Verkon tekoälysovellukset voivat kerätä kaiken niihin syötetyn datan
Verkossa toimiviin kielimalleihin liittyy merkittävä riski tietovuodoista. Tekoälysovellukset voivat tallentaa kaiken niihin syötetyn datan esimerkiksi kielimallien kouluttamista varten. Tallennettu tieto voi päätyä tai paljastua vihamielisille toimijoille vasta vuosia myöhemmin. Vaikka käyttäjät tiedostaisivat kielimallien tietoturvariskit, sovellusten helppokäyttöisyys voi kannustaa laiminlyömään tietoturvaohjeistuksia. Arkaluonteista tietoa päätyy Suomessakin julkisiin tekoälysovelluksiin sekä vahingossa että välinpitämättömän toiminnan seurauksena.