Vaikka teknologian ajatellaan usein olevan arvoneutraalia, se ei sitä tyypillisesti ole. Eri alueilla järjestelmäkehityksessäkin tulee vastaan erilaisia eettisiä kysymyksiä, meidän tulisi olla tästä tietoisia ja pyrkiä kehittämään eettisesti kestäviä järjestelmiä. Etiikan ohjeet voivat herättää meitä pohtimaan mitä ongelmia omissa projekteissamme on, ja miten niitä voisi ratkaista.
Teknologia ei ole arvoneutraalia.
Usein ajatellaan, että teknologia itsessään olisi neutraalia, ja että vain teknologian käyttäminen ratkaisee sen, tehdäänkö oikein vai väärin. Teknologiaa kuitenkin suunnitellaan joistain arvoista käsin, ja suunnitteluprosessin aikana on syytä ottaa huomioon teknologian mahdollisuudet hyvään ja pahaan, ja pyrkiä suunnittelemaan se niin, että jälkimmäinen käyttö joko, toivottavasti, karsitaan kokonaan tai ainakin sen mahdollisuus minimoidaan.
Klassinen esimerkki jota käytän luennolla on strateginen ydinase. Strategisilla ydinaseilla on käytännössä kaksi käyttötarkoitusta: pelote ja keino tappaa suuria määriä ihmisiä mahdollisimman tehokkaasti. Eipä strategista ydinasetta oikein muuhun voi käyttää. Sama on pienemmässä mittakaavassa totta muissakin laitteissa. Kännykän sisään rakennettu arvo on kommunikaatio. Sillä voi ottaa yhä useammilla tavoilla yhteyttä muihin. Toki kehityksen mukana siihen on tullut muita, uusia arvoja, sitä mukaa kun erilaisia sovelluksia tulee joko käyttöjärjestelmän mukana tai on mahdollista ladata erikseen; itsekin käytän puhelintani nykyisin enemmän musiikin tai äänikirjojen kuunteluun kuin kommunikaatioon, mutta alkuperäinenkin arvo laitteessa silti edelleen on. Kaikki arvot eivät ole eettisiä arvoja, mutta niillä voi olla vaikutusta eettisen toiminnan kannalta. Jotta voidaan ottaa normatiivista kantaa järjestelmän toimintaan, ensin on ymmärrettävä miten järjestelmä toimii ja mihin tarkoitukseen se on kehitetty, s.o. mitä arvoja järjestelmään on rakennettu.
Miten järjestelmiä voi kehittää eettisemmin
Järjestelmää suunnitellessa pahantahtoiset ihmiset tekevät pahantahtoisia ratkaisuja, ja heihin emme yleensä voi eettistä ajattelua korostamalla vaikuttaa. Se, mihin voimme vaikuttaa tuomalla eettistä ajattelua prosessin osaksi on, että hyväntahtoiset, mutta mahdollisesti ajattelemattomat suunnittelijat ja kehittäjät tulevat ajatelleeksi niitä arvoja, joita järjestelmään ollaan rakentamassa. Ja jos jotkut toiminnallisuudet ovat ongelmallisia, miten nämä ongelmat voidaan ratkaista parhain päin. Miten pitää huolta siitä että väärinkäytöksiä ei tule, miten taata, että toiminnallisuudet eivät alun perin ole haittaa aiheuttavia. Huonosti toimiva käyttöliittymä ei ole vain tekninen ongelma, vaan sillä voi olla myös moraalisia seurauksia harmin ja haitan, mahdollisesti myös järjestelmän aiheuttamien virheiden kautta. Jos esimerkiksi sairaalan tietojärjestelmä on niin vaikea käyttää, että se vie aikaa potilastyöltä, on haitta helppo ymmärtää. Tai jos matkanhallintajärjestelmä vaatii niin paljon vaivaa toimiakseen, että työntekijät mieluummin maksavat ainakin pienemmät matkansa omasta pussistaan kuin käyttävät järjestelmää, ei olla epäonnistuttu vain teknisesti, vaan myös eettisesti (ja mahdollisesti myös juridisesti).
Muun muassa tällaisiin kysymyksiin IT-etiikassa pyritään löytämään ratkaisuja. Tutkimusalue on perinteisesti jaettu neljään (tai viiteen) pääalueeseen: immateriaalioikeudet, vastuukysymykset, yksityisyyskysymykset ja pääsy tietoon (viidentenä tietoturva). Tutkimusalueita kuitenkin riittää tietokonepelien eettisistä kysymyksistä valtionhallinnon järjestelmähankintoihin, telelääketieteestä sosiaalisen median vaikutuksiin, tai tasa-arvokysymyksistä järjestelmien vastuulliseen suunnitteluun ja kehitykseen. Viimeaikoina erityisen pinnalla ovat olleet tekoälyyn ja datatalouteen liittyvät eettiset keskustelut. Esimerkiksi tekoälysovellukset ovat omilla erityisalueillaan tulleet jo varsin käyttökelpoisiksi, vaikka toki kehittämisen varaa on. Tekoälyä käytetään esimerkiksi rikollisten rikosten uusimisen potentiaalin luokitteluun – vaikka rikollisten rikosten uusinnan estäminen on tietysti tärkeää, lienee selvää, että tulee olla varsin tarkkana, ettei järjestelmä opi yhteiskunnassa vallalla olevia ennakkoluuloja siitä, kuka uusii rikoksen helposti, ja kuka ei, vaan käsittelee jokaista yksilönä.
Tivian etiikan työryhmä on kehittänyt tietotekniikan ammattilaisen eettisen ohjeen, jota ollaan juuri uudistamassa vastaamaan Association of Computing Machineryn (ACM) uutta, edellisvuonna ilmestynyttä etiikan ohjetta. Sen lukemalla saa ajatuksia siitä, millaisia eettisiä kysymyksiä IT-alan ammattilaisen tulisi työssään ottaa huomioon. ACM tarjoaa sivustolla myös esimerkkitapauksia eettisistä ongelmista, joihin IT-alan ammattilaiset ovat työssään törmänneet, tai jonka kaltaisiin työssä voi törmätä. Toivottavasti eettisten ohjeiden lukeminen auttaa Sinua välttämään moraalikarikot ja löytämään reitin eettisille vesille!
Kai Kimppa on Tivian etiikan työryhmän puheenjohtaja, yksi ACM:n uuden eettisen ohjeen kehittäjistä ja Turun yliopiston Future-Ethics tutkimusryhmän johtaja.