Kun tekoäly tekee virheen – kuka on vastuussa?

AI-agentit-artikkelisarja, osa 2
 

AI-agentit ovat tulleet vauhdilla yritysten arkeen. Ne eivät ainoastaan tue päätöksentekoa – vaan tekevät sitä jo itsenäisesti. Kun järjestelmä osaa oppia, mukautua ja tehdä päätöksiä ilman ihmisen jatkuvaa ohjausta, syntyy väistämättä kysymys: kuka kantaa vastuun, jos tekoäly tekee virheen?

Tässä artikkelisarjan toisessa osassa pureudumme siihen, miten AI-agenttien selitettävyys, isännänvastuu ja kyky solmia sopimuksia haastavat perinteisen oikeusajattelun. Samalla tarjoamme käytännön vinkkejä siihen, miten yritys voi hyödyntää tekoälyä turvallisesti – ja välttää kalliit virheet.

Selitettävyys – ymmärrätkö, miksi tekoäly päätti niin?

AI-agentin toiminta on usein musta laatikko. Se tekee päätöksiä, mutta ei aina osaa kertoa miksi. Tämä on ongelma, jos päätös vaikuttaa ihmisiin – esimerkiksi rekrytoinnissa, luottopäätöksissä tai asiakasvalinnoissa. Jos et pysty selittämään tekoälyn päätöksiä, yrityksesi altistuu väitteille puolueellisuudesta, syrjinnästä tai epäeettisestä toiminnasta.

EU:n tekoälyasetus edellyttääkin, että erityisesti korkean riskin järjestelmissä – kuten työvoiman hallinnassa tai terveydenhuollossa – tekoälyn on oltava jäljitettävä ja selitettävä. Se tarkoittaa, että yrityksen on pystyttävä osoittamaan, mitä dataa käytettiin, miten päätös syntyi ja kuka sitä valvoi.

Vastuu – kuka lopulta on isäntä?

Tekoälyn toiminta muistuttaa joskus ihmisen tekemää virhettä, mutta oikeudellisesti vastuu ei ole yhtä selkeä.

Kenen virhe on, jos AI-agentti tekee väärän päätöksen?

• ohjelmistotoimittajan, joka koulutti mallin,
• asiakkaan, joka antoi sille dataa,
• vai käyttäjän, joka ei ymmärtänyt sen rajoituksia?

Oikeudessa tekoälyagentin aiheuttamaa vahinkoa arvioidaan tapauskohtaisesti. Useimmiten tuomioistuimet rinnastavat tekoälyjärjestelmän toiminnan työntekijän toimintaan, jolloin vastuulliseksi katsotaan niin sanottu isäntä, eli se organisaatio, joka on ottanut tekoälyjärjestelmän käyttöön ja hyödyntää sitä toiminnassaan. Tätä vastuuta kutsutaan isännänvastuuksi, jonka mukaan työnantaja vastaa työntekijänsä tai muun toimijansa, kuten AI-agentin, toiminnasta aiheutuneesta vahingosta ulkopuolisille.

Esimerkki:

Mikäli tekoälypohjainen asiakaspalveluagentti lähettää asiakkaalle virheellisen tarjouksen ja tästä aiheutuu asiakkaalle taloudellista vahinkoa, vastuu vahingosta kuuluu pääsääntöisesti yritykselle, joka on ottanut asiakaspalvelujärjestelmän käyttöön. Vastuuta ei normaalisti siirretä asiakkaalle eikä tekoälyratkaisun toimittaneelle yritykselle, ellei asiasta ole erikseen toisin sovittu sopimuksessa.

AI-agentti ja sopimukset – voiko tekoäly sitoa sinut sopimukseen?

Tämä kuulostaa scifiltä, mutta voi tulevaisuudessa olla jo arkea: AI-agentti voi neuvotella, hyväksyä ja suorittaa sopimuksia. Koska AI-agentti voi toimia automaattisesti ja sopimukset voidaan tehdä sähköisesti ilman allekirjoitusta, agentti voisi teknisesti sitouttaa yrityksen sopimuksiin - mahdollisesti ilman, että kukaan ehtii puuttua asiaan ajoissa.

Jos agentti kuitenkin ylittää valtuutensa tai tekee päätöksen, jota ei ole tarkoitettu kuuluvaksi sen toimivallan piiriin, syntyy ongelma: voiko päämies kieltäytyä vastuusta? Lainsäädäntö ei anna tähän vielä yksiselitteistä vastausta, mutta käytännössä vastuu jää usein sille, joka antoi tekoälylle valtuudet. 

💡 Käytännön Vinkki:

Yrityksen kannattaa määritellä sopimuksissaan, mitä tekoäly saa ja ei saa tehdä. “Kovat rajat” – esimerkiksi rahallinen enimmäismäärä, asiakasprofiilit tai prosessit – estävät yllättäviä sopimuksia syntymästä.

Syy-yhteys ja todistustaakka – kuka todistaa, että virhe oli tekoälyn?

Vaikka vahingon tapahtuminen voidaan todeta, voi syy-yhteyden osoittaminen tekoälyjärjestelmän toimintaan olla haastavaa, erityisesti silloin kun järjestelmä hyödyntää useita oppimislähteitä ja kompleksisia algoritmeja. Näissä tilanteissa yksittäisen virheellisen päätöksen tai toiminnon paikantaminen saattaa olla teknisesti vaativaa.

EU:ssa on lainsäädäntövalmistelun yhteydessä ehdotettu, että todistustaakka voisi määrätyissä tekoälyä koskevissa vastuukysymyksissä siirtyä yritykselle. Tämä tarkoittaa, että jos yritys ei kykene osoittamaan asianmukaista dokumentaatiota tekoälyjärjestelmän toiminnasta tai sen riskienhallinnasta, yrityksen on näytettävä ettei vahinko johtunut järjestelmän toimintahäiriöstä. Tämän vuoksi on oleellista, että kaikki tekoälyagentin suorittamat päätökset sekä järjestelmän parametrit ja konfiguraatiot dokumentoidaan huolellisesti. 

💡 Käytännön vinkki:

Tallenna agentin keskustelulokit ja päätösperusteet sen ajan, joka on tarpeen mahdollisten reklamaatioiden tai oikeusprosessien selvittämiseksi, ottaen huomioon sovellettavat vanhentumisajat (tyypillisesti 3-5 vuotta). Huolehdi kuitenkin, että tallennus noudattaa tietosuojasäännöksiä, ja arvioi säännöllisesti, onko tietojen säilyttäminen edelleen perusteltua. 

Riskien vähentäminen – miten suojautua?

AI-agenttien käyttö ei tarkoita, että yrityksen pitäisi pelätä virheitä – kunhan riskit hallitaan.

Seuraavat toimet voivat vähentää vastuu- ja mainehaittoja merkittävästi:

• Suunnittele selitettävyys jo alussa.
• Pidä ihminen mukana päätöksenteossa.
• Perehdy tarkasti AI-palvelusopimukseen ja sen ehtoihin.
• Seuraa tekoälyvakuutusten kehitystä ja harkitse niiden ottamista, kun markkinoille tulee sopivia tuotteita. Toistaiseksi varmista, että yrityksesi vastuuvakuutus kattaa myös digitaalisten järjestelmien aiheuttamat vahingot.
• Dokumentoi, dokumentoi, dokumentoi.

Loppusanat

AI-agentit tuovat valtavan potentiaalin, mutta samalla ne pakottavat organisaatiot päivittämään vastuukäytäntönsä 2020-luvulle. Ne yritykset, jotka ottavat vastuun vakavasti – eivät vain teknisesti, vaan myös eettisesti ja sopimuksellisesti – voivat erottua jatkossa luotettavina ja turvallisina toimijoina.

Tulevassa osassa:
 

Osa 3: Kun kollegasi on tekoäly – miten AI-agentit muuttavat työelämän? Tässä sarjan päätösosassa tarkastelemme, miten agentit vaikuttavat työntekijöiden rooleihin, työhyvinvointiin ja henkilöstöhallinnon vastuualueisiin.

Lue myös: 
 

Osa 1: Kun tekoäly saa "oman tahdon" – miten AI-agentit vaikuttavat yritystoiminnan vastuukysymyksiin