## Ohjeita
-Tällä sivulla voi editoida Effin Sähköäänestys-FAQ:a,
-joka on alunperin julkaistu osoitteessa
-<http://www.effi.org/blog/kai-2007-08-24.html>.
Huomaa, että tähän dokumenttiin kirjoitettu voidaan julkaista [Public Domain -lisenssillä](http://creativecommons.org/licenses/publicdomain/).
+Versio tästä dokumentista on julkaistu osoitteessa
+<http://www.effi.org/sahkoaanestys-faq.html>
# Sähköäänestys-FAQ
-Effi julkaisi 21.8.2007 [tiedotteen][1] sähköisestä äänestämisestä. Oli mielenkiintoista seurata tiedotteesta eri keskustelupalstoilla syntynyttä keskustelua. Kuten aikaisemmissakin sähköistä äänestystä koskevassa keskustelussa, samat argumentit tuntuvat toistuvan. Tähän dokumenttiin on koottu näitä argumentteja yhteen ja yritetty vastata niihin.
+Alkuperäinen versio tästä tekstistä julkaistiin alunperin Effin blogissa
+24.8.2007 osoitteessa
+<http://www.effi.org/blog/kai-2007-08-24.html>. Tätä
+alunperin blogiartikkeliksi tarkoitettua tekstiä päivitettiin sittemmin useampaan
+otteeseen, mistä syystä päätimme siirtää sen tähän osoitteeseen.
+
+Sähköistä äänestystä koskevissa keskusteluissa samat argumentit tuntuvat toistuvan.
+Tässä dokumentissa on koottu näitä argumentteja yhteen kommentoituna.
+
+Tämän dokumentin ohella hyviä - ja osin ajantasaisempia - tiivistelmiä
+ovat erityisesti Effin kesäkuussa 2008 julkaisemat
+[lausunto raporttiin sähköisen kuulemisen kehittämisestä valtionhallinnossa, II vaihe][52], sekä
+[Effin raportti Suomen järjestelmästä][53].
+
+Tämä dokumentti on [Public Domainia](http://creativecommons.org/licenses/publicdomain/).
+
### Sisällys
* Effi sähköisestä äänestämisestä
* Yleistä
* Viron nettiäänestyskokeilu oli ongelmaton
+* Sähköistyminen on tulevaisuutta
* Nettiäänestys aktivoi äänestämään
* Yhdysvaltain huonoilla kokemuksilla ei ole merkitystä Suomessa
* Mikä on paperivarmistus?
* Nettipankkikin on olemassa, miksi ei siis myös nettiäänestys
+* Kenelläkään ei ole intressiä murtautua äänestysjärjestelmään
* Käytetäänhän ääntenlaskussa nykyäänkin apuna tietokoneita
-* Tietokone ei tee virheitä - ["Suomalainen järjestelmä on täydellinen
-* Mikä äänestäjien painostus?"
+* Tietokone ei tee virheitä
+* Suomalainen järjestelmä on täydellinen
+* Mikä äänestäjien painostus?
* Äänestyslaitteiden lähdekoodin pitäisi olla avointa
* Sähköinen äänestysmenetelmä X olisi hyvä
* Tekniikan kehitystä ei saa estää
* Sähköäänestyksen vastustaminen estää demokratian toteutumisen tai laajentumisen
-* Lähteenä käytettyjä keskusteluja
+* Onko sähköinen äänestys aina huono juttu?
+* Lähteistä
* Muita viitteitä
### Effi sähköisestä äänestämisestä
-* [Effi 21.8.2007: Jäitä hattuun sähköisessä äänestämisessä][1]
-* [Effin blogi 16.3.2006 ja lausunto oikeusministeriölle: Sähköinen äänestys uhkaa johtaa kansanvallasta harvainvaltaan][40]
-* [Suunniteltuun vaalitietojärjestelmään liittyviä teknisiä dokumentteja][38]
+* [Jäitä hattuun sähköisessä äänestämisessä][1] (Effi 21.8.2007)
+* [Sähköinen äänestys uhkaa johtaa kansanvallasta harvainvaltaan][40] (Effin blogi/Antti Honkela 16.3.2006 ja lausunto oikeusministeriölle)
* [Äänestysjärjestelmä ei saa olla liikesalaisuus][45] (Effi 25.1.2008)
* [Oikeusministeriön vaalipäällikkö julistautuu marttyyriksi][29] (Effin blogi/Kai Puolamäki 26.1.2008)
-* [Antti Vähä-Sipilän blogissa][46] on 23.-28.1.2008 käsitelty aihetta laajalti
-* [Sähköisen äänestyksen eteneminen - Oikeusministeriö tyrmää myös akateemisten tahojen kritiikin][47] (Effin blogi 28.2.2008)
-* [Dokumentoimattomia salaisuuksia][48] (Effin blogi 10.3.2008)
-* [Effi valmis osallistumaan sähköäänestyspilotin auditointiin][49] (Effin blogi 12.3.2008)
-* [Salassapitosopimuksen anatomia][50] (Effin blogi 20.3.2008)
-* [Sähköäänestysjärjestelmän vaatimusdokumentteja][51] (Effin blogi 21.5.2008)
+* [Sähköisen äänestyksen eteneminen - Oikeusministeriö tyrmää myös akateemisten tahojen kritiikin][47] (Effin blogi/Jyri Luostarinen 28.2.2008)
+* [Dokumentoimattomia salaisuuksia][48] (Effin blogi/Antti Vähä-Sipilä 10.3.2008)
+* [Effi valmis osallistumaan sähköäänestyspilotin auditointiin][49] (Effin blogi/Tapani Tarvainen 12.3.2008)
+* [Salassapitosopimuksen anatomia][50] (Effin blogi/Tapani Tarvainen 20.3.2008)
+* [Sähköäänestysjärjestelmän vaatimusdokumentteja][51] (Effin blogi/Antti Vähä-Sipilä 21.5.2008)
* [Lausunto raporttiin sähköisen kuulemisen kehittämisestä valtionhallinnossa, II vaihe][52] (Effi 10.6.2008)
* [Suomen sähköinen äänestysjärjestelmä ei täytä suosituksia][53] (Effi 19.6.2008)
* [Sähköinen äänestysjärjestelmä rikkoo sekä lakia että vaalisalaisuuden][54] (Effi 24.6.2008)
Aluksi on syytä muistuttaa, mitä äänestysjärjestelmältä vaaditaan:
-> * Järjestelmän pitää valvoa, että kukin äänioikeutettu voi äänestää vain kerran.
-> * Äänestäjän henkilöllisyys ei saa olla yhdistettävissä ääneen.
-> * Äänestäjän pitää voida luottaa, että äänet on laskettu tuloksessa oikein ja että ääniä ei ilmesty tyhjästä.
-> * Äänestäjä ei saa pystyä todistamaan muille äänestäneensä tietyillä tavoilla. Näin estetään äänten ostaminen tai äänestäjien painostus. Samasta syystä äänestämisen on tapahduttava henkilökohtaisesti.
+* Järjestelmän pitää valvoa, että kukin äänioikeutettu voi äänestää vain kerran.
+* Äänestäjää lukuunottamatta kukaan ei saa tietää, ketä kukin on äänestänyt.
+* Äänestäjän pitää voida luottaa, että äänet on laskettu tuloksessa oikein ja että ääniä ei katoa tai ilmesty tyhjästä.
+* Äänestäjä ei saa pystyä todistamaan muille äänestäneensä tietyillä tavoilla. Näin estetään äänten ostaminen tai äänestäjien painostus. Samasta syystä äänestämisen on tapahduttava henkilökohtaisesti.
Järjestelmän on toimittava luetettavasti myös epävakaissa yhteiskunnallisissa oloissa, siis sellaisissa, joissa tyypillisesti YK lähettäisi vaalitarkkailijoita.
Lisäksi:
-> * Järjestelmän on paitsi oltava luotettava, myös näytettävä luotettavalta, jotta luottamus vaalitulosten oikeellisuuteen säilyy. Sopivissa oloissa pelkkä uskottavasti esitetty epäily äänestystuloksen oikeellisuudesta voi johtaa yhteiskuntajärjestyksen kaatumiseen.
-> * Kansalaisten on kyettävä ymmärtämään järjestelmän toimintaperiaate sekä mekanismit, joilla tuloksen oikeellisuus taataan. Sähköisen äänestysjärjestelmän tapauksessa luotettavuuden toteaminen vaatii usein huomattavaa asiantuntemusta, mitä tavallisilla kansalaisilla ei ole.
+* Järjestelmän on paitsi oltava luotettava, myös näytettävä luotettavalta, jotta luottamus vaalitulosten oikeellisuuteen säilyy. Sopivissa oloissa pelkkä uskottavasti esitetty epäily äänestystuloksen oikeellisuudesta voi johtaa yhteiskuntajärjestyksen kaatumiseen.
+* Kansalaisten on kyettävä ymmärtämään järjestelmän toimintaperiaate sekä mekanismit, joilla tuloksen oikeellisuus taataan. Sähköisen äänestysjärjestelmän tapauksessa luotettavuuden toteaminen vaatii usein huomattavaa asiantuntemusta, mitä tavallisilla kansalaisilla ei ole.
Nykyinen ääntenlasku hajautettuna ja kilpailevien puolueiden edustajien suorittamana toteuttaa edellä kuvatut vaatimukset - toisin kuin monet ehdotetut sähköiset äänestysjärjestelmät. Nykyinen järjestelmä otettiinkin käyttöön aikana, jolloin ihmiset eivät luottaneet toisiinsa. Tästä huolimatta haluttiin luottaa siihen, että vaalitulos on laskettu oikein ja että kukaan ei pääse valtaan vaalivilpillä.
Oikeusministeriö toteaakin [hallituksen esityksessä 14/2006 eduskunnalle vaalilain muuttamisesta][18]:
> "Yleisesti ottaen vaalijärjestelmämme toimii teknisessä mielessä varsin hyvin, mistä on osoituksena se, että vaalit toimitetaan ongelmitta ja niiden tulokset saadaan selville kansainvälisestikin verrattuna nopeasti. Pakottavia muutospaineita ei tässä suhteessa voidakaan katsoa olevan."
+
Minkäänlaista pakkoa siirtyä sähköiseen äänestykseen ei siis ole.
-On myös syytä erottaa sähköinen äänestyspaikalla tapahtuva äänestys, jota oikeusministeriö on ehdottanut ja jota [kokeillaan vuoden 2008 kunnallisvaaleissa][19], ja Internetin kautta tapahtuva nettiäänestys, jota [viestintäministeri Suvi Lindén (kok) on visioinut][20].
+On myös syytä erottaa sähköinen äänestyspaikalla tapahtuva äänestys, jota oikeusministeriö on ehdottanut ja jota [kokeillaan vuoden 2008 kunnallisvaaleissa][19], ja Internetin kautta tapahtuva nettiäänestys, jota muun muassa [viestintäministeri Suvi Lindén (kok) on visioinut][20].
+Tietoturvamielessä verkon kautta tapahtuva nettiäänestys sisältää periaatteessa
+kaikki äänestyspaikalla tapahtuvan täyssähköisen äänestämisen riskit
+ja sen lisäksi vielä useita muita riskejä, jotka äänestyspaikalla voitaisiin eliminoida.
+
-Effin kannan sähköäänestysasiassa tiivistää hyvin äänestysjärjestelmästä vastaavan oikeusministeri Tuija Braxin (vihr) oman [puoluehallituksen kanta][21]:
+Effin kannan sähköäänestysasiassa tiivistää hyvin äänestysjärjestelmästä vastaavan oikeusministeri Tuija Braxin (vihr) oman [puoluehallituksen kanta 2.12.2005][21]:
> "Edellä kuvatun perusteella Vihreä liitto ei kannata tehtyä esitystä vaalilain muuttamisesta. Jos kuitenkin sähköinen äänestys halutaan mahdollistaa, on ehdoton vaatimus sisällyttää järjestelmään äänikohtainen äänestäjän varmentama paperituloste."
### "Viron nettiäänestyskokeilu oli ongelmaton"
-Aivan aluksi kannattaa lukea läpi [Effin alkuperäinen tiedote][1] ja siinä olevat viitteet. Näitä viitteitä ei ymmärrettävästi toistettu uutisartikkeleissa, mikä aiheutti hämmennystä. Moni keskustelija tuntui esimerkiksi jakavan [ministeri Lindénin virheellisen käsityksen][22], jonka mukaan Viron nettiäänestyskokeilu oli sujunut täydellisesti. Tämä ei pidä paikkaansa, kuten Effin tiedotteessa viitatussa Viron valtiollisen vaalilautakunnan sivuilla julkaistussa [raportissa][23] sanotaan. Raportti toteaa, että nettiäänestykseen liittyy useita haasteita läpinäkyvyyden ja tuloksen luotettavuuden suhteen ja ellei haasteisiin pystytä vastaamaan, suosittaa harkitsemaan nettiäänestyksestä luopumista:
+Aivan aluksi kannattaa lukea läpi [Effin alkuperäinen tiedote][1] ja siinä olevat viitteet. Näitä viitteitä ei ymmärrettävästi toistettu uutisartikkeleissa, mikä aiheutti hämmennystä. Moni keskustelija tuntui esimerkiksi jakavan [ministeri Lindénin virheellisen käsityksen][22], jonka mukaan Viron nettiäänestyskokeilu oli sujunut täydellisesti. Tämä ei pidä paikkaansa, kuten Effin tiedotteessa viitatussa Viron valtiollisen vaalilautakunnan sivuilla julkaistussa [raportissa][23] sanotaan. Raportti toteaa, että nettiäänestykseen liittyy useita haasteita läpinäkyvyyden ja tuloksen luotettavuuden suhteen ja ellei haasteisiin pystytä vastaamaan, suosittaa harkitsemaan nettiäänestyksestä luopumista (oma suomennos):
+
+> "Vaikka kansallinen vaalilautakunta näkikin vaivaa minimoidakseen järjestelmään sisäänrakennetut riskit, järjestelmän testaus ja auditointi olisi voinut olla kattavampaa. Lisäksi, poliittiset puolueet tai kansalaisyhteiskunta eivät ilmeisesti juuri lainkaan valvoneet Internet-äänestysprosessia. Toteutettu Internet-äänestysjärjestelmä näyttää toimineen Virossa tässä tapauksessa. Kuitenkin, jos edellä mainittuja seikkoja ei tehokkaasti huomioida, viranomaisten pitäisi harkita uudestaan ptiäisikö Internet olla laajalti käytettävissä oleva äänestysmenetelmä, ja vaihtoehtoisesti pitäisikö sitä käyttää vain rajoitetusti tai ei laisinkaan."
+
+> [alkuperäinen teksti:] *"Although the National Election Committee made considerable efforts to minimize the inherent risks, testing and auditing of the system could have been more comprehensive. Furthermore, there appeared to be almost no oversight of the internet voting process by political parties or civil society. The internet voting system as implemented appears to have functioned in the Estonian context on this occasion. Yet, unless the above-mentioned factors are effectively addressed, the authorities should reconsider whether the internet should be widely available as a voting method, or alternatively whether it should be used only on a limited basis or at all."*
-> "Although the National Election Committee made considerable efforts to minimize the inherent risks, testing and auditing of the system could have been more comprehensive. Furthermore, there appeared to be almost no oversight of the internet voting process by political parties or civil society. The internet voting system as implemented appears to have functioned in the Estonian context on this occasion. Yet, unless the above-mentioned factors are effectively addressed, the authorities should reconsider whether the internet should be widely available as a voting method, or alternatively whether it should be used only on a limited basis or at all."
Viron viime aikoina kokemien nettihyökkäyksen valossa ei olisi yllättävää, jos vaalien heikoin lenkki eli nettiäänestys joutuisi koetukselle seuraavissa vaaleissa. Ei ole mahdotonta, että joku tekisi haittaohjelman, joka käyttäjän huomaamatta muuttaisi annettua ääntä; vastaavanlaisia haittaohjelmia käytetään tekemään nettipankeissa tilisiirtoja käyttäjän huomaamatta. Nettiäänestys on altis myös nimipalvelu- ja palvelunestohyökkäyksille ja niin edelleen; "liikuvia osia" ja siten potentiaalisia vikapisteitä on perinteiseen paperiäänestysjärjestelmään verrattuna todella paljon. Ylipäätään nettiäänestysprosessi sisältää niin paljon vaikeasti hallittavia ja suojattavia tekijöitä, että jos joku haluaa tehdä maata vastaan kyberhyökkäyksen ja aiheuttaa yhteiskunnallista epävakautta väärentämällä vaalituloksen, olisi nettiäänestys varteenotettava kohde.
-Bruce Schneierin sanoin: "A secure Internet voting system is theoretically possible, but it would be the first secure networked application ever created in the history of computers."
+Bruce Schneierin [sanoin](http://www.schneier.com/crypto-gram-0012.html#1):
+"A secure Internet voting system is theoretically possible, but it would be the first secure networked application ever created in the history of computers."
*Nettiäänestys ja äänestäjän painostus.* Viron nettiäänestyksessä äänensä saattoi myöhemmin muuttaa. Tämän oli tarkoitus ehkäistä äänestäjän painostusta ja äänten ostamista: vaikka ääni olisikin annettu valvonnan alaisena, olisi äänestäjä voinut periaatteessa painostajan tietämättä vielä myöhemmin muuttaa ääntään. Äänestäjä saattoi myös antaa paperiäänen nettiäänestyksen sulkeuduttua; tällaisessa tapauksessa nettiääni jätettiin huomiotta. Näin esimerkiksi äänten ostaja ei olisi voinut olla varma, ketä äänestäjä oikeasti lopulta äänesti. Äänestysjärjestelmä kuitenkin tallensi ajan, jona ääni oli annettu; poliittiset puolueet ja vaalitarkkailijat näkivät tämän ajan, jonka avulla ne olisivat periaatteessa voineet selvittää korjasiko äänestäjä myöhemmin ääntään.
Uudelleenäänestysmahdollisuus ei tietenkään estä tehokasta painostusta tai äänten ostamista. Ääni voidaan esimerkiksi antaa valvonnan alla ja tämän jälkeen "lainata" äänestykseen tarvittavaa henkilökorttia nettiäänestyksen päättymiseen asti. Paperiäänenkään antamisen estäminen ei ole vaikeaa; vaalipäivänä voidaan laittaa joku vahtimaan äänestyspaikkaa tai äänestäjä voi olla liikuntarajoitteinen tai esimerkiksi ulkomailla asuva henkilö.
+### "Sähköistyminen on tulevaisuutta"
+
+Yleisesti ottaen sähköistyminen toki on tulevaisuutta. Valtiollisissa vaaleissa virta ei kuitenkaan kulje tähän suuntaan juuri niistä syistä, joita tässäkin dokumentissa on selostettu. Esimerkiksi [Yli puolet Yhdysvaltain osavaltioista on jo kieltänyt täyssähköisen äänestämisen][30] ja useissa osavaltioissa prosessi on meneillään. [Hollannin hallitus on päättänyt luopua sähköisistä äänestyksistä][55], koska ne eivät ole tarpeeksi turvallisia.
+
### "Nettiäänestys aktivoi äänestämään"
Nettiäänestys voi alentaa äänestyskynnystä ja siten väliaikaisesti vähentää äänestysaktiivisuuden laskua. Nykymuotoinen paperiäänestys ennakkoäänestysmahdollisuuksineen ei kuitenkaan ole selitys äänestysprosenttien pienenemiselle, vaan kyse on politiikan uskottavuudesta, moraalista ja vetovoimasta. Äänestysaktivisuuden laskeminen on yhteiskunnallinen ongelma, joka ei ratkea nettiäänestysmahdollisuudella.
Äänestyksen tietokoneistaminen voi päinvastoin heikentää ihmisten luottamusta äänestykseen ja siihen, että sillä voisi oikeasti vaikuttaa mihinkään - tämä luottamus on jo nykyään heikoilla - ja siten johtaa äänestysaktiivisuuden laskuun. Oma käännös asiaa käsittelevästä [Timothy Leen kolumnista][27] (Slashdot: [E-Voting Undermines Public Confidence In Elections][28]):
> "[Marylandin osavaltiossa äänestyskoneiden kuljetuksesta on palkattu vastaamaan yritys, jonka johdossa on osavaltion entinen osavaltion Rebublikaanisen puolueen johtaja.] - - Huolimatta siitä, kuka kuljettaa nämä äänestyskoneet, kansaa pyydetään luottamaan siihen, että niitä ei manipuloida. Hyvin suunnitellussa äänestysjärjestelmässä äänestäjien ei pitäisi tarvita luottaa keneenkään. Koko prosessin pitäisi olla yksinkertainen ja läpinäkyvä, siten että kuka tahansa kykenee tarkkailemaan prosessia ja varmistumaan siitä, että äänestys suoritettiin oikein. Sähköisten äänestyslaitteiden monimutkaisuus ja läpinäkymättömyys tekee tehokkaan julkisen tarkastelun mahdottomaksi, mistä syystä ne ovat huono ajatus, vaikka mitään yksilöityä todistetta vilpistä ei olisikaan."
+
+
Suomessa oikeusministeriö on ilmoittanut, että sähköisen äänestyksen tapauksessa [pitää vain luottaa oikeusministeriön virkamiehiin][29]. [Hallituksen esityksessä 14/2006 eduskunnalle vaalilain muuttamisesta][18] sanotaan asiasta:
> "Suomen vaalijärjestelmä on jo lähes sadan vuoden ajan perustunut luottamushenkilöjärjestelmään, jonka mukaan vaalipiirilautakuntien, kuntien keskusvaalilautakuntien, vaalilautakuntien ja vaalitoimikuntien jäsenten tulee edustaa eri poliittisia puolueita. Siten on pyritty varmistamaan vaalien yleistä luotettavuutta ja oikeudellisuutta. Sähköinen äänestäminen muuttaisi vaalien luonnetta tässä suhteessa."
Kuten tämän dokumentin alussa on perusteltu, pankkijärjestelmän toteuttaminen on vaalijärjestelmään verrattuna hyvin yksinkertaista. Tärkeimmät erot pankkijärjestelmän ja sähköisen äänestyksen välillä ovat [anonyymiys, korjattavuus ja luotettavuus][32]:
-> * *Anonyymiys.* Pankki tietää aina tilisiirroissa sekä maksajan että maksun saajan henkilöllisyyden, mutta äänestäjän ääntä ja henkilöllisyyttä ei saisi
->
-> vaalisalaisuuden vuoksi liittää toisiinsa. Anonyymiysvaatimuksen vuoksi suurta osa esimerkiksi tilisiirtojen turvamekanismeista ei voi soveltaa sähköiseen äänestämiseen (ellei anonyymiyttä haluta rikkoa). Vaalivilpin huomaaminen - toisin kuin esimerkiksi pankkitilin virheveloituksen huomaaminen tiliotteesta, korjaaminen ja vilppiin syyllisten kiinni saaminen on tästä syystä puhtaasti sähköisessä äänestyksessä mahdotonta tai huomattavasti vaikeampaa kuin esimerkiksi mainittu pankkitilin virheveloituksen huomaaminen ja korjaaminen.
->
-> * *Korjattavuus.* Pankki ylläpitää moninkertaista kirjanpitoa ja muita varmistuksia. Jos esimerkiksi tilisiirtoa epäillään virheelliseksi, voidaan selvittää mistä on kyse ja korjata aiheutunut virhe. Puhtaasti sähköisessä äänestyksessä korjattavuuden toteuttaminen on huomattavasti vaikeampaa, koska riippumatonta tarkastuslaskentaa ei voida tehdä.
->
-> * *Luotettavuus.* Jos joku väittää kavaltaneensa miljoona euroa, mutta kukaan ei tunnusta menettäneensä rahoja, kavallusväitteen voi jättää omaan arvoonsa. Jos joku toisaalta väittää murtaneensa sähköisen äänestysjärjestelmän ja huijanneensa vaaleissa, puhtaasti sähköisessä järjestelmässä (jossa ei esimerkiksi ole paperivarmistusta) ei auta muuta kuin luottaa äänestysjärjestelmään. Äänestysjärjestelmän on siis paitsi oltava luotettava, myös näytettävä luotettavalta, jotta luottamus vaalitulosten oikeellisuuteen säilyy.
+* *Anonyymiys.* Pankki tietää aina tilisiirroissa sekä maksajan että maksun saajan henkilöllisyyden, mutta äänestäjän ääntä ja henkilöllisyyttä ei saisi vaalisalaisuuden vuoksi liittää toisiinsa. Anonyymiysvaatimuksen vuoksi suurta osa esimerkiksi tilisiirtojen turvamekanismeista ei voi soveltaa sähköiseen äänestämiseen (ellei anonyymiyttä haluta rikkoa). Vaalivilpin huomaaminen - toisin kuin esimerkiksi pankkitilin virheveloituksen huomaaminen tiliotteesta, korjaaminen ja vilppiin syyllisten kiinni saaminen on tästä syystä puhtaasti sähköisessä äänestyksessä mahdotonta tai huomattavasti vaikeampaa kuin esimerkiksi mainittu pankkitilin virheveloituksen huomaaminen ja korjaaminen.
+* *Korjattavuus.* Pankki ylläpitää moninkertaista kirjanpitoa ja muita varmistuksia. Jos esimerkiksi tilisiirtoa epäillään virheelliseksi, voidaan selvittää mistä on kyse ja korjata aiheutunut virhe. Puhtaasti sähköisessä äänestyksessä korjattavuuden toteuttaminen on huomattavasti vaikeampaa, koska riippumatonta tarkastuslaskentaa ei voida tehdä.
+* *Luotettavuus.* Jos joku väittää kavaltaneensa miljoona euroa, mutta kukaan ei tunnusta menettäneensä rahoja, kavallusväitteen voi jättää omaan arvoonsa. Jos joku toisaalta väittää murtaneensa sähköisen äänestysjärjestelmän ja huijanneensa vaaleissa, puhtaasti sähköisessä järjestelmässä (jossa ei esimerkiksi ole paperivarmistusta) ei auta muuta kuin luottaa äänestysjärjestelmään. Äänestysjärjestelmän on siis paitsi oltava luotettava, myös näytettävä luotettavalta, jotta luottamus vaalitulosten oikeellisuuteen säilyy.
Nettipankit sekoilevat ja joskus jopa tilin saldo näkyy väärin - muistetaan esimerkiksi surullisenkuuluisa Sampo-pankin tietojärjestelmäuudistus keväällä 2008. Virheet voidaan kuitenkin korjata, koska asiakas huomaa, että tilin saldo on virheellinen ja moninkertaisten varmistusten vuoksi oikea saldo voidaan selvittää. Sähköisessä äänestyksessä sen sijaan pitää vain luottaa äänestystulokseen, jos riippumatonta tapaa selvittää oikeaa tulosta (esim. paperivarmistus) ei ole.
Suomenkin suunnitellussa järjestelmässä äänestysjärjestelmä voisi olla [pääosin ulkoistettu pörssiyhtiöön][33] (kyse olisi vaalipaikalla tapahtuvasta sähköisestä äänestämisestä, nettiäänestystä oikeusministeriö ei ole vielä esittänyt). [Hallituksen esitys 14/2006 eduskunnalle vaalilain muuttamisesta][18]:
> "Sähköinen vaaliuurna, kuten muutkin vaalitietojärjestelmän osat, toimisi oikeusministeriön kanssa sopimussuhteessa olevan tietotekniikkatoimittajan laitteilla toimittajan jossakin toimipisteessä."
+
*Nettipankit ja nettiäänestys.* Nettipankkien tietoturvassa on puutteita, minkä pankit hyvin ymmärtävät. Pelkästään vuonna 2005 Nordean verkkopankin asiakkailta huijattiin kalastelemalla 60.000 euroa. Riskien hallintaan on kuitenkin keinoja ja vahingot ovat rahalla korvattavissa. Yksittäiset vahingot ovat pankin liikevaihtoon verrattuna niin mitättömiä, että verkkopankkeja kannattaa väärinkäytöksistä huolimatta ylläpitää ja käyttää.
Jos sen sijaan äänestysjärjestelmässä on vikoja tai tietoturvassa on puutteita, on riskinä, että väärä henkilö tai puolue pääsee valtaan - tätä ei voi korvata rahalla.
-Suuri osa kotitietokoneista on lisäksi tälläkin hetkellä käyttäjien tietämättä haittaohjelmien saastuttama. Tähän saakka näitä koneita on käytetty muun muassa huijauksiin, roskapostittamiseen ja palvelunestohyökkäyksiin. On myös tiettyihin nettipankkeihin erikoistuneita haittaohjelmia: kun käyttäjä kirjautuu nettipankkiin, voi haittaohjelma tehdä käyttäjän huomaamatta suurehkon tilisiirron. Onko viisasta sallia sitä mahdollisuutta, että tulevaisuudessa näitä koneita käytetään myös nettiäänestämiseen?
+Suuri osa kotitietokoneista on lisäksi tälläkin hetkellä käyttäjien tietämättä haittaohjelmien saastuttama. Tähän saakka näitä koneita on käytetty muun muassa huijauksiin, roskapostittamiseen ja palvelunestohyökkäyksiin. On myös tiettyihin nettipankkeihin erikoistuneita haittaohjelmia: kun käyttäjä kirjautuu nettipankkiin, voi haittaohjelma tehdä käyttäjän huomaamatta suurehkon tilisiirron. Onko viisasta sallia sitä mahdollisuutta, että tulevaisuudessa näitä koneita käytetään myös nettiäänestämiseen? (Käyttäjä huomaa lopulta haittaohjelman tekemän tilisiirron, koska tilin saldo pienenee,
+mutta haittaohjelman tekemää äänestystä ei samalla tavalla voi huomata - kuten sanottua, nettiäänestyksen
+toteuttaminen turvallisesti on huomattavasti nettipankin turvaamista vaikeampaa.)
+
+### "Kenelläkään ei ole intressiä murtautua äänestysjärjestelmään"
+
+Akatamiaprofessori Hannu Nurmi on sitä mieltä, että nettiäänestys olisi varmaan ihan turvallista (Helsingin Sanomat 31.1.2008). Helsingin Sanomien mukaan "hän muistuttaa, että intressi murtautua äänestysjärjestelmään on pienempi kuin murtautua esimerkiksi pankkijärjestelmään".
+
+Siis kenenkään intresseissä ei ole vaikuttaa siihen, kuka Suomessa on vallassa?
+Pääasia, että pankkitilien saldot ovat oikein?
+
+Samalla tavalla voisi kai sanoa, että kenenkään intressi marssia Suomen rajojen yli on pienempi kuin murtautua esimerkiksi Nordean pankkiholviin, joten puolustusvoimat voi lakkauttaa. Toivottavasti Suomessa ei suhtauduta samalla asenteella muihin yhteiskunnan kannalta kriittisiin toimintoihin - verkon kautta
+nettiäänestysjärjestelmän murtaminen ja pelkästään uskottava epäily vaalituloksen oikeellisuudesta kun voisi pahimmillaan johtaa yhteiskuntajärjestyksen kaatumiseen.
-[Akatamiaprofessori Hannu Nurmi on sitä mieltä, että nettiäänestys olisi varmaan ihan turvallista (Helsingin Sanomat 31.1.2008). Helsingin Sanomien mukaan "hän muistuttaa, että intressi murtautua äänestysjärjestelmään on pienempi kuin murtautua esimerkiksi pankkijärjestelmään". Samalla tavalla voisi kai sanoa, että kenenkään intressi marssia Suomen rajojen yli on pienempi kuin murtautua esimerkiksi Nordean pankkiholviin, joten puolustusvoimat voi lakkauttaa. Toivottavasti Suomessa ei suhtauduta samalla asenteella muihin yhteiskunnan kannalta kriittisiin toimintoihin - äänestysjärjestelmän murtaminen ja pelkästään uskottava epäily vaalituloksen oikeellisuudesta kun voisi pahimmillaan johtaa yhteiskuntajärjestyksen kaatumiseen. Helsingin Sanomien artikkelissa muidenkin antamista kommenteista paistaa asenne, jonka mukaan äänestäjiä ei kiinnosta tai ainakaan pitäisi kiinnostaa äänestyksen luotettavuus.]
+On hyvä muistaa, että nykyajan konflikteissa tietoverkot
+[ovat myös taistelutantereita](http://www.tietokone.fi/uutta/uutinen.asp?news_id=34557)
+([Helsingin Sanomat 16.8.2008 kybersodankäynnistä](http://www.hs.fi/ulkomaat/artikkeli/Viro+ja+Puola+puolustavat+Georgiaa+ven%C3%A4l%C3%A4isi%C3%A4+verkkohy%C3%B6kk%C3%A4yksi%C3%A4+vastaan/1135238684787)).
+
+
+Samassa Helsingin Sanomien artikkelissa muidenkin antamista kommenteista paistaa asenne, jonka mukaan äänestäjiä ei kiinnosta tai ainakaan pitäisi kiinnostaa äänestyksen luotettavuus. Ketään ei myöskään tunnu kiinnostavan,
+että vaalijärjestelmän pitäisi toimia luotettavasti myös kiristyneessä sisä- tai ulkopoliittisessa tilanteessa,
+jossa kaikkiin viranomaisiin ei voi luottaa, ja jossa mahdollinen nettivaalijärjestelmä
+voi joutua verkkohyökkäyksen kohteeksi.
### "Käytetäänhän ääntenlaskussa nykyäänkin apuna tietokoneita"
Oikeusministeriö laukoo [hallituksen esityksessä 14/2006 eduskunnalle vaalilain muuttamisesta][18]:
> "- - äänestysjärjestelmä olisi täydellisesti suojattu tietomurroilta ja että uurnassa olevat tiedot eivät voisi hävitä eikä niitä voitaisi muuttaa."
+
Odotamme innolla maailman ensimmäistä tietojärjestelmää, joka on täydellisesti suojattu tietomurroilta. Oikeusministeriön ankka "täydellisestä tietoturvasta" (jollaista ei ikävä kyllä ole käytännössä mahdollista saavuttaa) osoittaa osaltaan, että tietotekniikan asiantuntijoita ei ole valmistelussa juuri kuultu.
Toisaalta ylläpitohenkilökunnalla olisi mahdollisuus korjata virheitä (täydellisen tietoturvallisessa järjestelmässä ei tosin saisi olla ainakaan äänimääriin tai äänestyksen luottamuksellisuuteen vaikuttavia virheitä):
> "Äänestyksen aikana oikeusministeriöllä tai sen valtuuttamalla tietotekniikkahenkilöstöllä olisi mahdollisuus valvoa sähköisen vaaliuurnan toimintaa ja suorittaa korjaus- tai vastaavia toimia, mikäli sellaisia tarvittaisiin."
+
Ylläpitäjät eivät kuitenkaan oikeusministeriön mielestä mitenkään voisi yhdistää äänestäjän ääntä ja henkilöllisyyttä, jotka on tallennettu tietojärjestelmään, eivätkä muuttaa ääniä:
> "Kyseiset henkilöt eivät voisi murtaa äänen ja henkilötunnuksen välistä salausta eivätkä saada selville sitä, keille ehdokkaille annettuja ääniä uurnassa on. He eivät myöskään voisi poistaa, lisätä tai muuttaa uurnassa olevia ääniä."
+
Esitetty ajatus on kaunis, mutta käytännössä mahdoton toteuttaa. Lisäksi vaikka järjestelmä pystyttäisiinkin suojaamaan, olisi ulkopuolisten mahdoton varmistua suojauksen riittävyydestä ja siten järjestelmän luotettavuudesta. Kuitenkin vaalijärjestelmän uskottavuus on käytännössä yhtä tärkeää kuin sen todellinen luotettavuus.
Effi kommentoi tätäkin [lausunnossaan][31] (s. 3), mutta ministeriössä ei asiaa joko haluttu tai kyetty ymmärtämään.
### "Sähköinen äänestysmenetelmä X olisi hyvä"
-Sähköinen äänestysjärjestelmä voidaan toteuttaa useilla tavoilla. Kehittyneimmät ehdotetut järjestelmät käyttävät edistyneitä kryptografisia menetelmiä, joilla pyritään takaamaan äänestyksen luotettavuus ja anonymiteetti.
+
+
+Sähköinen äänestysjärjestelmä voidaan toteuttaa useilla tavoilla. Kehittyneimmät ehdotetut
+järjestelmät käyttävät edistyneitä kryptografisia menetelmiä, joilla pyritään takaamaan äänestyksen luotettavuus ja anonymiteetti.
+
+
+Usein selitetään, kuinka sähköinen äänestys *voitaisiin* toteuttaa turvallisesti ja luotettavasti edellä kuvatun kaltaisilla
+menetelmillä. Suomeen puuhattava järjestelmä ei ole tällainen, joten oikeusministeriön
+hankkeen osalta tällaiset spekulaatiot ovat irrelevantteja.
Ikävä kyllä kehittyneimmät järjestelmät ja menetelmät ovat usein niin monimutkaisia, että tavallinen äänestäjä - mukaanlukien suurin osa vaalitietojärjestelmästä vastaavista viranomaisista - ei ymmärtäisi niiden toimintaperiaatteita. Mitä monimutkaisempi järjestelmä tai menetelmä on, sitä enemmän vikaantumismahdollisuuksia se myös sisältää.
Ehdotetut järjestelmät ja menetelmät voivat esimerkiksi auttaa huomaamaan vaalivilpin, mutta eivät korjaamaan vaalitulosta, jos se havaitaan vääräksi (korjattavuus) - toisin kuin esimerkiksi yksinkertainen paperivarmistuksen käyttö. [Freedom to Tinker -blogissa][37] on esimerkki eräästä tällaisesta ehdotetusta järjestelmästä ja sen käytännön toteutuksesta. Jotkut tällaisista järjestelmistä ovat lupaavia, mutta niiden käyttöönotto ei ole suoraviivainen toimitus.
-Suomeen tällaista kehittyneempää järjestelmää ei ole tulossa, ainakaan vaalitietojärjestelmän [teknisen dokumentaation][38] perusteella.
+Suomeen tällaista kehittyneempää järjestelmää ei ole tulossa.
Tärkeä kysymys on myös, että miksi pitäisi siirtyä monimutkaiseen sähköiseen äänestysjärjestelmään, kun nykyinen paperijärjestelmäkin toimii hyvin? Tarjoaisiko monimutkainen menettely jotain sellaista lisäarvoa, jota ei saavutettaisi esimerkiksi yksinkertaisella paperivarmistuksen käytöllä?
-[Allekirjoittaneen käytännön kokemuksen mukaan on tärkeää, että lainsäädäntö- ja muissa hankkeissa vastuuvirkamiehet ja lainsäätäjät ymmärtävät mitä ovat tekemässä. Muuten lopputuloksessa ei ole kehumista, kuten joissakin muissa Effin toiminta-alaan liittyvissä lainsäädäntöhankkeissa on nähty. Jos esimerkiksi äänestysjärjestelmän toimintaperiaatteiden ymmärtäminen vaatisi tutkintoa kryptografiasta, olisi hyvin mahdollista, että toteutuva lainsäädäntö tai äänestysjärjestelmä olisi aivan jotain muuta kuin pitäisi. Tästäkin syystä vierastan liian monimutkaisia järjestelmiä niinkin demokratian kannalta keskeisessä toimituksessa kuin valtiollisissa vaaleissa.
+*[Allekirjoittaneen käytännön kokemuksen mukaan on tärkeää, että lainsäädäntö- ja muissa hankkeissa vastuuvirkamiehet ja lainsäätäjät ymmärtävät mitä ovat tekemässä. Muuten lopputuloksessa ei ole kehumista, kuten joissakin muissa Effin toiminta-alaan liittyvissä lainsäädäntöhankkeissa on nähty. Jos esimerkiksi äänestysjärjestelmän toimintaperiaatteiden ymmärtäminen vaatisi tutkintoa kryptografiasta, olisi hyvin mahdollista, että toteutuva lainsäädäntö tai äänestysjärjestelmä olisi aivan jotain muuta kuin pitäisi. Tästäkin syystä vierastan liian monimutkaisia järjestelmiä niinkin demokratian kannalta keskeisessä toimituksessa kuin valtiollisissa vaaleissa.*
-Mitä tulee nykyisen vaalilain valmisteluun, niin verrattuna siihen, miten esimerkiksi tietoliikennejärjestelmien standardeja luodaan standardiorganisaatioiden laajoilla kuulemismenettelyillä, sähköisen äänestyksen valmistelu on Suomessa ollut hyvin suljettua. Kuvaavaa on, että esimerkiksi äskettäisessä sähköistä äänestystä koskevassa vaalilain uudistuksessa oikeusministeriö ei edes katsonut tarpeelliseksi pyytää lausuntoa tekniikan asiantuntijoilta ([2006:3 Sähköinen äänestys][39], ks. lausuntopyyntökirje). Effi antoi pyytämättä [lausuntonsa][31], jonka ministeriö jätti oleellisilta osiltaan [huomioon ottamatta][40]. Myöskään oikeusministeriön aikaisemmin (ks. kohta ["Suomalainen järjestelmä on täydellinen"][10]) mainitut kommentit "täydellisesti tietomurroilta suojatusta" ([HE 14/2006 vp][18]) vaalitietojärjestelmästä eivät ole omiaan herättämään luottamusta (on mahdollista tehdä hyvin turvallisia järjestelmiä, mutta tietoturvassa on käytännössä mahdotonta päästä täydellisyyteen).]
+*Mitä tulee nykyisen vaalilain valmisteluun, niin verrattuna siihen, miten esimerkiksi tietoliikennejärjestelmien standardeja luodaan standardiorganisaatioiden laajoilla kuulemismenettelyillä, sähköisen äänestyksen valmistelu on Suomessa ollut hyvin suljettua. Kuvaavaa on, että esimerkiksi äskettäisessä sähköistä äänestystä koskevassa vaalilain uudistuksessa oikeusministeriö ei edes katsonut tarpeelliseksi pyytää lausuntoa tekniikan asiantuntijoilta ([2006:3 Sähköinen äänestys][39], ks. lausuntopyyntökirje). Effi antoi pyytämättä [lausuntonsa][31], jonka ministeriö jätti oleellisilta osiltaan [huomioon ottamatta][40]. Myöskään oikeusministeriön aikaisemmin (ks. kohta ["Suomalainen järjestelmä on täydellinen"][10]) mainitut kommentit "täydellisesti tietomurroilta suojatusta" ([HE 14/2006 vp][18]) vaalitietojärjestelmästä eivät ole omiaan herättämään luottamusta (on mahdollista tehdä hyvin turvallisia järjestelmiä, mutta tietoturvassa on käytännössä mahdotonta päästä täydellisyyteen).]*
### "Tekniikan kehitystä ei saa estää"
Konservatiivisuus takaa tässä asiassa demokratian säilymisen. Miksi seikkailla, kun nykyinen paperiäänestysjärjestelmä toimii hyvin?
-Sähköinen äänestys voisi toki olla hyvä vaihtoehto esimerkiksi neuvoa-antaviin äänestyksiin tai uusien äänestystapojen kokeiluun.
-
-### Lähteenä käytettyjä keskusteluja
+### "Onko sähköinen äänestys aina huono juttu?"
+
+Kuten yllä kohdassa "tekniikan kehitystä ei saa estää" on kerrottu,
+nykyinen paperijärjestelmämme on toimiva,
+tehokas, edullinen ja
+ymmärrettävä vaihtoehto. Ei ole mitään järkeä korvata nykyistä järjestelmää,
+joka koostuu yhden numeron
+kirjoittamisesta parin vuoden välein paperilappuun, kalliimmalla ja epäluotettavammalla
+sähköisellä nappijärjestelmällä.
+
+Sähköinen äänestys *voisi* olla perusteltu, jos esimerkiksi äänestysjärjestelmä olisi erilainen
+(esim. [STV](http://en.wikipedia.org/wiki/Single_transferable_vote)) tai jos äänestyksiä olisi samalla
+useampia,
+jolloin käsin suoritettava ääntenlasku olisi hitaampaa ja virhealttiimpaa
+(tässäkin tapauksessa olisi hyvä miettiä tarkkaan, kuinka tärkeää *oikeasti* olisi saada
+tulokset nopeasti äänestyksen päättymisen jälkeen verrattuna sähköisen järjestelmän
+implementoinnista aiheutuviin tietoturvauhkiin ja kustannuksiin). Käytännössä
+edellytyksenä olisi
+kuitenkin paperivarmistuksen käyttö (järjestelmä tulostaa äänestä tositteen äänestäjälle,
+joka laittaa sen vaalipaikalla normaaliin uurnaan tarkastettuaan sen; ks. kohtia "Mikä on paperivarmistus?" ja
+"Sähköinen äänestysmenetelmä X olisi hyvä").
+Maailmalta löytyy nimittäin useita esimerkkejä siitä, että täyssähköiseen järjestelmään ei
+luoteta: esimerkiksi [Yhdysvalloissa puolet osavaltioista on jo kieltänyt täyssähköisen äänestyksen][30]
+ja Alankomaissa äänestyksen luotettavuutta arvioinut komissio [suositti paperivarmennusta sähköiseen äänestykseen][55].
+Sähköisen äänestyksen ensisijainen funktio olisi tuloksen nopea laskenta ja
+paperivarmistuksen avulla voitaisiin varmistua tuloksen oikeellisuudesta
+(esim. laskemalla satunnaisotannalla valittujen ja/tai
+kilpailevien puolueiden nimeämien äänestyspaikkojen äänet ja
+vertaamalla vastaaviin sähköisiin tuloksiin). Koska ensisijaisesti paperivarmistusta
+(ei sähköistä järjestelmää) käytetään tuloksen
+oikeellisuuden varmistamiseen, olisi
+sähköinen osa äänestysjärjestelmästä helpompaa (vaikkei vieläkään yksinkertaista)
+rakentaa siten, että
+anonymiteetti säilyy.
+
+Verkon kautta tapahtuva *nettiäänestys* sen sijaan sisältää kaikki äänestyspaikalla tapahtuvan täyssähköisen
+äänestämisen riskit ja sen lisäksi vielä useita muita riskejä, jotka äänestyspaikalla voitaisiin eliminoida.
+Nettiäänestystä ei siis voida ottaa käyttöön keskeisissä valtiollisissa vaaleissa,
+ellei täyssähköiseen äänestyspaikalla (ilman paperivarmistusta)
+tapahtuvaan äänestykseen voida täysin luottaa.
+
+### Lähteistä
+
+
+Tämän dokumentin kirjoittamisessa on käytetty apuna erityisesti [tekniikan tohtori Antti Honkelan kirjoittamaa Effin lausuntoa oikeusministeriölle][31].
+Tyypillisiä argumentteja on etsitty esimerkiksi seuraavista keskusteluista:
* [Effi muistuttaa e-äänestämisen vaaroista][41] (ITViikko 22.8.2007, uutiskeskustelu)
* [Sähköinen äänestyksen tulisi täydentää demokratiaa][42] (Tietokone.fi 23.8.2007, uutiskeskustelu)
* [Effi pelkää sähköisen äänetyksen nakertavan demokratiaa][43] (Sektori 23.8.2007)
-Tämän dokumentin kirjoittamisessa on käytetty apuna erityisesti [tekniikan tohtori Antti Honkelan kirjoittamaa Effin lausuntoa oikeusministeriölle][31], sekä yllä mainittuja nettikeskusteluja.
### Muita viitteitä
-* [Effi 21.8.2007: Jäitä hattuun sähköisessä äänestämisessä][1]
-* [Effin blogi maaliskuussa 2006 ja lausunto oikeusministeriölle: Sähköinen äänestys uhkaa johtaa kansanvallasta harvainvaltaan][40]
-* [Suunniteltuun vaalitietojärjestelmään liittyviä teknisiä dokumentteja][38]
* [Oikeusministeriön sivu sähköisestä äänestämisestä][19]
* [Verifed voting][30] - paperivarmistuksesta
* [The Electoral Commission: May 2007 Pilot Schemes][44] - brittien kokemuksia
* [Raportti Viron nettiäänestyskokeilusta][23]
-* [Äänestysjärjestelmä ei saa olla liikesalaisuus][45] (Effi 25.1.2008)
-* [Oikeusministeriön vaalipäällikkö julistautuu marttyyriksi][29] (Effin blogi/Kai Puolamäki 26.1.2008)
* [Antti Vähä-Sipilän blogissa][46] on 23.-28.1.2008 käsitelty aihetta laajalti
-* [Sähköisen äänestyksen eteneminen - Oikeusministeriö tyrmää myös akateemisten tahojen kritiikin][47] (Effin blogi 28.2.2008)
-* [Dokumentoimattomia salaisuuksia][48] (Effin blogi 10.3.2008)
-* [Effi valmis osallistumaan sähköäänestyspilotin auditointiin][49] (Effin blogi 12.3.2008)
-* [Salassapitosopimuksen anatomia][50] (Effin blogi 20.3.2008)
-* [Sähköäänestysjärjestelmän vaatimusdokumentteja][51] (Effin blogi 21.5.2008)
-* [Lausunto raporttiin sähköisen kuulemisen kehittämisestä valtionhallinnossa, II vaihe][52] (Effi 10.6.2008)
-* [Suomen sähköinen äänestysjärjestelmä ei täytä suosituksia][53] (Effi 19.6.2008)
-* [Sähköinen äänestysjärjestelmä rikkoo sekä lakia että vaalisalaisuuden][54] (Effi 24.6.2008)
+* [Suunniteltuun vaalitietojärjestelmään liittyviä teknisiä dokumentteja][38]
+
+
[1]: http://www.effi.org/julkaisut/tiedotteet/lehdistotiedote-2007-08-21.html
[18]: http://www.finlex.fi/fi/esitykset/he/2006/20060014
[52]: http://www.effi.org/julkaisut/lausunnot/sahkoisen-kuulemisen-kehittaminen-080610.html
[53]: http://www.effi.org/julkaisut/tiedotteet/lehdistotiedote-2008-06-19.html
[54]: http://www.effi.org/julkaisut/tiedotteet/lehdistotiedote-2008-06-24.html
+ [55]: http://www.digitoday.fi/yhteiskunta/2008/05/28/Hollanti+kielt%E4%E4+s%E4hk%F6iset+%E4%E4nestykset/200814428/66?rss=6
projects / .git / blobdiff