Vähemmän valtaa koneille, enemmän ihmisyyttä
Teknologiaa pitäisi käyttää ihmisten hyväksi – ei meidän pelkistämiseen stereotypioiksi, koodinpätkiksi, ykkösiksi ja nolliksi.
Stop Killer Robots Finland on osa kansainvälistä yli 250 järjestön ja akateemisen kumppanin verkostoa, joka toimii ehkäistäkseen tappamisen automatisoinnin. Suomen verkostossa on mukana rauhanjärjestöjä, tutkijoita ja yksittäisiä aktiiveja.
Kampanja pyrkii saamaan aikaan autonomisia aseita koskevan sopimuksen, joka kieltää sellaisten asejärjestelmien käytön, jotka pystyisivät valitsemaan ja hyökkäämään kohteisiin itsenäisesti ilman ihmisen väliintuloa.
Mitä ovat tappajarobotit?
Tappajarobotit ovat autonomisia asejärjestelmiä, jotka tunnistavat kohteensa sensoritiedon perusteella ja käyttävät tuhovoimaa itsenäisesti.
Asejärjestelmä voi siis käyttää voimaa ihmisestä riippumatta. Tarkka hyökkäyskohde sekä hyökkäyksen aika ja paikka määrittyvät sensorisen prosessoinnin tuloksena sen sijaan, että käskyn takana olisi ihminen. Tämä tarkoittaa, että ihminen ei määritä tarkasti, missä, milloin tai ketä vastaan tuhovoimaa käytetään.
Miksi ongelma?
Tappajarobotit muuttavat ihmisen ja teknologian välistä suhdetta, koska niiden käyttöönoton myötä luovutamme päätöksen elämästä ja kuolemasta koneille. Jos ihminen irrottautuu voimankäyttöpäätöksistä, seurauksena on lukuisia eettisiä ja juridisia ongelmia.
Asejärjestelmien autonomian myötä konfliktit eivät enää pysy ihmisten hallinnassa, vaan moraalinen vastuu ulkoistetaan koneille. Tämä voi Punaisen Ristin kansainvälisen komitean mukaan johtaa ihmisoikeusrikkomuksiin ja loukata kansainvälisen humanitaarisen oikeuden periaatteita, kuten erottelun periaatetta, suhteellisuusperiaatetta, ennalta varautumisen periaatetta ja mielivaltaisten hyökkäysten kieltoa.
Nykyiset etäsodankäynnin haasteet kasvavat lisääntyvän autonomian myötä, koska ihmiset irtautuvat voimankäytöstä entisestään.
Algoritmiset vinoumat ja rakenteellisen syrjinnän lisääntyminen vaikuttaa suhteettomasti niihin yhteisöihin ja ihmisryhmiin, jotka ovat jo valmiiksi heikommassa asemassa ja joita on historiallisesti kohdeltu ihmisarvoa alentavilla tavoilla.
Vaikutukset ulottuisivat aseellisten konfliktien ulkopuolelle ja näkyisivät yhteiskunnan kaikilla osa-alueilla.
Digitaalinen dehumanisaatio: kun koneet päättävät ihmisten sijasta
Digitaalisella dehumanisaatiolla, eli epäinhimillistämisellä, tarkoitetaan prosessia, jossa ihmiset pelkistetään dataksi, jota sitten käytetään päätöksentekoon ja/tai ihmisten elämään kielteisesti vaikuttavaan toimintaan.
Huolemme kohteena olevat teknologiat pelkistävät ihmiset datapisteiksi. Monisyiset identiteettimme, fyysiset piirteemme ja käyttäytymismallimme analysoidaan, yhdistellään kaavoihin ja luokitellaan profiileihin – ja näihin valmiiksi ohjelmoituihin profiileihin perustuen koneet tekevät päätöksiä puolestamme.
Tällä on todellisia seurauksia etenkin historiallisesti syrjityille tai haavoittuville ryhmille. Teknologia ei useinkaan haastaa yhteiskunnassa jo valmiiksi olevia ennakkoluuloja, vaan vahvistaa niitä. Stereotypiat juurtuvat entistä syvemmälle, kun kone tekee päätöksiä.
Mitä tekemistä tällä on tappajarobottien kanssa?
Autonomiset aseet ovat digitaalista dehumanisaatiota äärimmillään. Ne voivat valita ja hyökätä kohteisiinsa täysin itsenäisesti – ilman ihmisen väliintuloa.
Tämä tarkoittaa, että voimankäytön yhteydessä meillä on yhä vähemmän inhimillistä kontrollia siitä, mitä tapahtuu ja miksi. Kuljemme kohti maailmaa, jossa koneet päättävät, ketä tappaa tai mitä tuhota. Kone ei ymmärrä ihmisyyttä.
Tappajarobotteja kehitetään parhaillaan aseellisia konflikteja varten – seuraukset voivat olla tuhoisat. Kun yhteiskunta automatisoituu yhä enemmän, nämä asejärjestelmät eivät jää vain taistelukentille. On selvää, että niitä tullaan käyttämään myös rajavalvonnassa, poliisitoiminnassa ja muilla elämänalueilla, joissa inhimillisen harkinnan pitäisi olla kaikkein tärkeintä.
Nyt on aika vetää selkeä oikeudellinen ja eettinen raja.
Meidän kaikkien on otettava vastuuta siitä, millaista teknologiaa kehitämme ja miten sitä käytetään. Tappajarobotit eivät synny tyhjästä – me ihmiset rakennamme ne. Meillä on vielä mahdollisuus toimia ja pysäyttää tappajarobotit ennen kuin teknologinen kehitys karkaa käsistä.
9 syytä kieltää tappajarobotit
Digitaalinen dehumanisaatio
Robottiaseiden käyttämät algoritmit pelkistävät ihmiset datajoukoiksi. Emme voi suojella itseämme automatisoidun päätöksenteon vaikutuksilta, jos koneelle annetaan päätösvalta elämästä ja kuolemasta. Kone ei ymmärrä ihmisyyttä.
Algoritminen syrjintä
Voimankäyttö ihmisiä vastaan ennalta ohjelmoitujen kategorioiden ja identiteettien perusteella vahvistaa ennakkoluuloja ja yhteiskuntiemme syrjiviä rakenteita. Meidän tulee purkaa syrjiviä rakenteita, ei ohjelmoida niitä aseisiin.
Ihmiskontrollinen menettäminen
Autonomian lisääntyminen asejärjestelmissä tarkoittaa, että siirrämme päätöksen voimankäytöstä ihmiseltä koneelle. Koneet eivät kykene tekemään monimutkaisia eettisiä valintoja tai ymmärtämään ihmiselämän arvoa. Kone ei ymmärrä tappavansa.
Inhimillisen arvostelukyvyn puute
Tekoälyn kehittymisen myötä järjestelmistä tulee entistä vaikeampia ymmärtää ja ennustaa. Inhimillinen arviointikyky ei ehdi vaikuttaa koneen salamannopeasti tekemiin päätöksiin.
Vastuun puute
Kuka on vastuussa, jos robotti tekee sotarikoksen? Olisi ongelmallista asettaa ihminen vastuuseen sellaisen itsenäisen robotin tekemästä sotarikoksesta, jonka toimintaa hän ei kykene kontrolloimaan.
Ennakoimattomuus
On kyseenalaista, olisiko mahdollista kehittää järjestelmä, joka ei joutuisi epäkuntoon, toimisi arvaamattomalla tavalla tai olisi altis hakkeroinnille. Emme kykene riittävästi hallitsemaan robottiaseiden toimintaa, milloin jätämme asejärjestelmien seurauksista kärsivät uhrit selitystä vaille.
Sodankäynnin kynnyksen madaltuminen
Sodankäynti saattaa vaikuttaa riskittömältä ilman ihmissotilaita. Todennäköisesti robottiaseiden käyttöönotto kuitenkin madaltaa kynnystä sotimiseen ja lisää siviilien kärsimystä. Etäsodankäynnin ongelmat kasvavat asejärjestelmien autonomian lisääntyessä, kun ihmiset etääntyvät yhä enemmän voimankäytöstä.
Maailmantilaa horjuttava kilpavarustelu
Robottiaseiden nopeus ja säälimättömyys johtavat vääjämättä kilpavarustelun kiihtymiseen, mikä lisää epävakautta ja konfliktien todennäköisyyttä, sekä vaarantaa kansainvälisen turvallisuuden.
Suhteemme teknologiaan
Robottiaseet muuttavat ihmisten ja teknologian välisen suhteen perustavanlaatuisesti. Jos annamme koneelle päätösvallan elämästä, voivat seuraukset olla tuhoisia. Meidän täytyy vetää raja nyt, ennen kuin automatisoitu päätöksenteko johtaa tappamisen automatisointiin.
Yksi selkeä ratkaisu
Tappajarobottien pysäyttämiseksi on yksi selkeä ratkaisu: Uusi kansainvälinen sopimus, joka varmistaa riittävän ihmisen kontrollin voimankäytössä. Sopimusta tarvitaan, koska aseet kieltävät ja niitä säätelevät lait luovat hallituksille ja yrityksille rajat siihen, mikä on hyväksyttävää ja mikä ei.
Voimme edistää sopimuksen syntymistä käyttämällä ääntämme ja vaatimalla tappajarobottien kieltoa ennen kuin tappavan teknologian kehitys on mennyt liian pitkälle. Ei anneta koneen tehdä päätöksiä ihmisen puolesta silloin, kun sillä on eniten väliä.