Komission tekoälyasetusehdotus herättää kiinnostusta ja keskustelua
Uutinen julkaistu alunperin syyskuussa 2021.
Komissio ehdottaa sääntöjä ja toimenpiteitä, joiden tavoitteena on tehdä Euroopasta maailman kärkialue luotettavan tekoälyn kehittämisessä. Kaikkien aikojen ensimmäisellä tekoälylainsäädännöllä ja uudella koordinoidulla suunnitelmalla taataan ihmisten ja yritysten turvallisuus ja perusoikeudet. Lisäksi niiden avulla lisätään tekoälyn käyttöä ja siihen liittyviä investointeja ja innovaatioita EU:ssa.
Komissio on ehdottanut riskiperusteiseen lähestymistapaan nojaavaa asetusta, joka toisi runsaasti vastuita tekoälyjärjestelmien kehittäjille ja kieltäisi tietynlaiset, ei-hyväksyttävän riskin järjestelmät kokonaan. Siinä järjestelmät jaetaan korkean tai matalan riskin sekä kiellettyjen järjestelmien kategoriaan, joille kaikille erilainen sääntelyperuste.
Hyvinvoinnin ja terveyden tekoäly ja robotiikka (Hyteairo)-ohjelman järjestämässä webinaarissa 8.9.2021 pohdittiin, miten komission tekoälysääntelyehdotus heijastuu SOTE-sektorin toimintaan tekoälyn hyödyntämisessä. Webinaari on osa HyteAiron Tekoäly analytiikassa-verkoston tilaisuuksien sarjaa, joissa nostetaan esille tekoälyn ja terveys- ja hyvinvointidatan hyödyntämisen potentiaalia ja mahdollisuuksia sekä teemaa edistäviä kehityskulkuja.
Avauspuheenvuoroissa kuultiin EU parlamentaarikon johdanto aiheeseen sekä Suomen näkemykset TEM:n ja STM:n näkökulmista. Avauspuheenvuorossa tarkasteltiin myös sääntelyn vaikutuksia käytännössä TKI-toimintaan. Paneelissa tuotiin yritysedustajan ja korkeakouluedustajan näkemykset sääntelyehdotukseen sekä avoinna oleviin kysymyksiin sääntelyn osalta.
Tahtotilana aktiivinen vaikuttaminen säädöksen sisältöön
Webinaarin aloituspuheenvuoroissa korostui tahtotila olla mukana vaikuttamassa aktiivisesti säädöksen sisältöön ja luoda näkymää SOTE-alan odotuksista ja tarpeista säädöksen osalta.
Europarlamentaarikko Miapetra Kumpula-Natri toi tilaisuuteen näkemyksiä tekoälylainsäädännön politiikasta Euroopan parlamentista. Hän valotti sääntelyn tarkoitusperiä, ja painotti että sen tavoitteena ei ole estää tekoälykehitystä, vaan mahdollistaa ihmiskeskinen ja yhteiskunnan arvoja kunnioittava teknologinen kehitys. Hän nosti esiin sen tosiasian, että tämä ehdotus uudeksi lainsäädännöksi on yksi monista, mutta osaltaan täydentävä.
Ehdotukseen on mahdollisuus vaikuttaa ja siihen toivottiinkin aktiivista osallistumista myös TEM:n puheenvuorossa. Johtava asiantuntija Satu Vasamo-Koskinen kertoi, että TEM on aktiivinen vaikuttamistyössä, ja on nostanut Tekoäly 4.0-ohjelman keskeiset tavoitteet osaksi sääntelyehdotusta, korostaen sen arvopohjaisuutta ja ihmiskeskeisyyttä. Hän kertoi myös asetusehdotuksen keskeisistä vaiheista, ja perusteista siihen miksi sektorikohtaisuus ei ehdotuksessa ole ollut keskiössä.
Avauspuheenvuorossaan STM:n strategiajohtaja Liisa-Maria Voipio-Pulkki korosti, että säätelyn tulee olla mahdollistava. Hän piti tärkeänä, että sääntely on luottamusta herättävä, kilpailukykyä vahvistava ja yhteistä arvopohjaa kehittävä. Koska STM haluaa myötävaikuttaa globaalien teknologioiden kehitykseen, on tärkeää, että se on mukana vaikuttamassa sääntelyehdotukseen. Hän korosti sääntelyssä poikkihallinnollista näkökulmaa, mikä on myös terveysalan kasvustrategian keskeisenä teemana.
STM:n johtava asiantuntija Merja Mustonen valotti EU:n tekoälyasetusehdotusta STM:n näkökulmasta. Hän nosti esille haasteen riskiperusteisesta sääntelystä sektorin näkökulmasta. Siksi SOTE-sektorin sääntelyä on tärkeä arvioida esimerkiksi käyttötapauskohtaisesti, ja korosti että sektorin on tärkeä osallistua sääntelyehdotuksen kannanmuutokseen.
Säädösasiantuntija Sandra Liede Terveysteknologia ry:stä avasi keskustelua TKI-toiminnan näkökulmasta ja mahdollisista sääntelyn tuomista haasteista. Terveysteknologian näkökulmasta tarvitaan innovaatiomyönteistä lähestymistapaa. Nyt sääntelyviidakossa on paljon haasteita, koska usea laki sääntelee terveysteknologia-alaa. Silti tekoälyregulaatio otetaan ilolla vastaan, erityisesti jos se integroidaan olemassa olevaan sääntelykehikkoon.
Konkreettisen esimerkin sote-sektorilta esittivät Kelan tutkimuspäällikkö Karoliina Koskenvuo ja data scientist Sanna Hemminki, aiheenaan tekoälyavusteinen ennakoiva datankäyttö riskitekijöiden tunnistamisessa – esimerkkinä tehostetumman tuen tarpeessa olevat nuoret. Tutkimuksessa hyödynnetään massadataa ja tavoitteena on tarjota jatkossa täsmäpalveluja nuorille. Kyseinen käyttötapaus on merkittävä esimerkki SOTE-sektorilta, erityisesti ennakoivien dataohjattujen palvelujen tutkimuksen osalta. Jos kyseinen käyttötapaus tulisi tuotantokäyttöön se luokiteltaisiin ilmeisesti suuririskisiin tekoälyjärjestelmiin säätelyehdotuksen pohjalta. Sen käyttöönotossa huomioitaisiin sääntelykehikon käyttötapauskohtaiset vaatimusmäärittelyt.
Panelistit korostivat sote-sektorin erityispiirteitä ja määritelmien haasteellisuutta
Webinaarin paneelikeskustelussa nostettiin esille säätelyehdotuksen haasteet ja mahdollisuudet Sote-sektorille. Keskusteluun nostettiin tekoälyjärjestelmien riskiluokitus ja riskiarviointimenetelmien soveltaminen Sote-sektorilla sekä sen käytännön vaikutukset yritysten kehitystyöhön ja tekoälytutkimukseen. Solitan Health-liiketoiminnan johtaja Risto Kaikkonen painotti sääntelyn tärkeyttä erityisesti tekoälyratakisujen läpinäkyvyyden sekä ihmiskeskisen lähestymistavan osalta. Hänen mukaansa Sote-sektorin uudistumisessa tekoälypohjaiset yksilölliset riskinkartoittamisen työkalut ovat tärkeä kehittämiskohde. Uusien tuotteiden käyttöönoton esteenä ei saisi olla tekoälyjärjestelmiä käyttävät tahot. Sääntelyltä odotetaankin pelisääntöjen selkeytystä tekoälyratkaisujen kehittävien tahojen ja käyttöönottajien välille.
Aalto-yliopiston professori ja Suomen tekoälykeskus FCAI:n AI for Health -koordinaattori Simo Särkkä nosti esille tutkimuksen ja koulutuksen suhdetta tähän sääntelyyn liittyen. Hän nosti esille huolen ylisäätelystä ja erityisesti sääntelyn tulkinnasta. Hän näkee ongelmalliseksi sen, että asetuksessa puhutaan tuotteiden sääntelystä ja että tekoäly määritellään tuotteeksi. Kaiken kaikkiaan asetusehdotuksen määrittelyihin hän toivoi lisäkeskustelua, jotta määrittelyt selkeytyisivät tekoälyteknologioiden listauksen osalta. Listan päivitys myöhemmin nähtiin haastavalta toteuttaa.
Paneelikeskustelussa kannatetiin ehdotettua riskiperustaista arviointia, mutta siinä tulisi välttää geneeristä riskiarviointia. Keskusteluissa nousi esille huoli suuririskisyys määritelmästä ja asetusehdotuksen vielä suppeasta käyttöalueesta. Riskiarvioinnin toimenpano nähtiin haastavana toteuttaa.
Osallistujat mukana keskustelussa
Webinaarin osallistujat kävivät myös vilkasta keskustelua tilaisuuden keskustelupalstalla, nostaen esille tärkeitä huomioita ja kysymyksiä mm. sääntelyiden yhteensovittamiseen, kasvavaan säätelytaakkaan, ja datan hyödyntämistä koskevaan sääntelyyn liittyen.
Sääntelytaakka EU:ssa on tiukentunut uusien lääkinnällisiä laitteita koskettavien asetusten myötä, ja suurena haasteena tekoälyasetuksenkin osalta nähdään yhteensovittaminen olemassa tai valmistelussa olevan sektorilainsäädännön kanssa. Myös datan hyödyntämismahdollisuuksiin vaikuttava sääntely (esim. GDPR ja toisiolaki) tuo omat haasteensa, tekoälyteknologioiden ja -ratkaisujen kehittäminen ollessa aina riippuvaista käytettävissä olevasta datasta. Asetukset ja säännökset voivat itsessään myös mahdollistaa paljonkin, mutta kansalliset tulkinnat saattavat sumentaa kokonaisuutta, aiheuttaen epävarmuutta ja itsesensuuria niin kehittämis- kuin tutkimustoimenpiteissä. Keskusteluissa jäätiinkin kaipaamaan päällekkäisyyksien huomioimista ja selkeitä ohjeistuksia tulkinnoista.
Esiin nousi myös se, miten tekoäly voidaan nähdä ihmisen väsymättömänä apurina, eikä pelkästään itsenäisenä toimijana ja irrallisena tuotteena. Ihmisenkään päätöksenteko ja ongelmanratkaisu ei ole aina virheetöntä, subjektiivista, tai varsinkaan nopeaa, ja tekoälyratkaisut voivat toimia ihmisen tukena.
Yhteenveto
Webinaarin yhteenvetona voidaan todeta seuraavat vaikuttamiseen liittyvät asiakohdat
- Sote-sektorin käyttötapausten identifiointi ja listauskäytäntöjä osana asetuksen suuririskisten tekoälyjärjestelmien listausta
- Asetuksen määrittelyjen selkeytys, erityisesti tekoälyteknologian ja tekoälyjärjestelmän käyttötarkoituksen välillä
- Riskiarviointimenetelmien ja arvioinnin selkeytys
- Innovaatiotoiminnan osalta selkeytystä ja tarkennuksia erityisesti tekoälyn sääntelyn testiympäristöistä sekä sääntelyn tulkinnoista osana tutkimuksesta tuotekehitykseen -prosessia
- Vastuukysymysten ja velvoitteiden tarkennus tuotekehittäjien ja tuotteita käytättävien tahojen välillä
- Menettelyohjeiden toimialakohtainen tarkennus SOTE-sektorille, erityisesti tekoälypohjaisessa palvelujenohjauksessa, pisteytyksessä, riskiarvioinnissa ja biometrisen tunnistuksen riskiluokituksessa
- Terveysteknologian sääntelykehikkoon integroituminen on tarkasteltava yksityiskohtaisesti osana tekoälysääntelyn valmistelua