Säännökset kieltävät kansalaisten oikeuksia uhkaavat tekoälysovellukset.
Euroopan parlamentti hyväksyi 13. maaliskuuta 2024 tekoälylain (EU Artificial Intelligence ACT). Tekoälylain tavoitteena on suojella perusoikeuksia, demokratiaa, oikeusvaltioperiaatetta ja ympäristön kestävyyttä suuririskiseltä tekoälyltä, edistää innovointia ja tehdä unionista alan johtava toimija.
Jos tekoälyjärjestelmä aiheuttaa uhan ihmisille, riskiä ei voida pitää hyväksyttävänä ja sen käyttö kielletään. Uusissa säännöksissä kielletään tietyt kansalaisten oikeuksia uhkaavat tekoälysovellukset, kuten biometriset luokittelusovellukset ja kasvokuvien kohdentamaton haravointi internetissä tai valvontakamerakuvista kasvotunnistustietokantojen luomiseksi.
Työpaikoilla ja kouluissa ovat kiellettyjä tekoälysovellukset, jotka tunnistavat tunteita. Samoin kielletään sosiaalinen pisteytys; ihmisten jakaminen ryhmiin käytöksen, sosioekonomisen aseman takia tai henkilökohtaisten ominaisuuksien perusteella. Kiellettyä on myös tekoälyn käyttö manipulointiin ja käyttäjien haavoittuvuuden hyödyntäminen.
Biometristen luokittelusovellusten käyttö on sallittua ainoastaan lainvalvonnassa esimerkiksi kadonneen henkilön etsinnässä tai terrori-iskun estämisessä. Näissä on noudatettava tarkkoja suojatoimia ja sovellusten käyttöön on oltava oikeudellinen lupa, joka liittyy rikokseen.
Suuririskisille järjestelmille laki asettaa tiukkoja velvoitteita. Tekoälyn käyttöön liittyy riskejä, kun kysymyksessä on kriittinen infrastruktuuri, koulutus, työllisyys, terveydenhuolto, pankkitoiminta, tietyt lainvalvonta-, maahanmuutto-, rajanvalvontajärjestelmät sekä oikeudelliset ja demokraattiset prosessit. Järjestelmiä on arvioitava, vähennettävä riskejä, luotava käyttölokeja ja varmistettava ihmisten suorittama valvonta.
Yleiskäyttöisten tekoälyjärjestelmien ja niiden perustana olevien mallien on täytettävä tietyt avoimuusvaatimukset. EU:n tekijänoikeuslainsäädäntöä on noudatettava, kun malleja koulutetaan. Jos yleiskäyttöinen tekoälyjärjestelmä on tehokkaampi ja aiheuttaa järjestelmäriskejä, liittyy siihen lisävaatimuksia. Mallit ja järjestelmäriskit on arvioitava, ja vaaratilanteista on raportoitava. Jos kuva-, ääni- tai videosisältö on keinotekoisesti tuotettu tai manipuloitu (”syväväärennös”), se on merkittävä selkeästi sellaiseksi.
Kansallisella tasolla on perustettava sääntelyn testiympäristöjä ja suoritettava testausta todellisissa olosuhteissa. Ne on saatettava pk-yritysten ja uusien yritysten saataville, jotta innovatiivista tekoälyä voidaan kehittää ja kouluttaa ennen sen markkinoille saattamista.
Säädös pyrkii edistämään innovaatiota ja takaamaan että tekoäly on turvallista ja perusoikeuksien mukaista. Laki menee vielä neuvoston hyväksyttäväksi ja hyväksytään virallisesti ennen vaalikauden loppua ja tulee voimaan 20 päivän kuluttua siitä, kun se on julkaistu virallisessa lehdessä. Lakia sovelletaan 24 kuukauden kuluttua sen voimaantulosta tietyin poikkeuksin.
Inka-Liisa Ahokas
