web commit by kaip
[.git] / sahkoaanestysfaq.mdwn
1 ## Ohjeita
2
3
4 Huomaa, että tähän dokumenttiin kirjoitettu voidaan julkaista [Public Domain -lisenssillä](http://creativecommons.org/licenses/publicdomain/).
5 Versio tästä dokumentista on julkaistu osoitteessa
6 <http://www.effi.org/sahkoaanestys-faq.html>
7
8
9
10
11 # Sähköäänestys-FAQ
12
13 Alkuperäinen versio tästä tekstistä julkaistiin alunperin Effin blogissa 
14 24.8.2007 osoitteessa 
15 <http://www.effi.org/blog/kai-2007-08-24.html>. Tätä 
16 alunperin blogiartikkeliksi tarkoitettua tekstiä päivitettiin sittemmin useampaan
17 otteeseen, mistä syystä päätimme siirtää sen tähän osoitteeseen.
18
19 Sähköistä äänestystä koskevissa keskusteluissa samat argumentit tuntuvat toistuvan.
20 Tässä dokumentissa on koottu näitä argumentteja yhteen kommentoituna.
21
22 Tämän dokumentin ohella hyviä - ja osin ajantasaisempia - tiivistelmiä
23 ovat erityisesti Effin kesäkuussa 2008 julkaisemat
24 [lausunto raporttiin sähköisen kuulemisen kehittämisestä valtionhallinnossa, II vaihe][52], sekä
25 [Effin raportti Suomen järjestelmästä][53].
26
27 Tämä dokumentti on [Public Domainia](http://creativecommons.org/licenses/publicdomain/).
28
29
30 ### Sisällys
31
32 *   Effi sähköisestä äänestämisestä
33 *   Yleistä
34 *   Viron nettiäänestyskokeilu oli ongelmaton
35 *   Sähköistyminen on tulevaisuutta
36 *   Nettiäänestys aktivoi äänestämään
37 *   Yhdysvaltain huonoilla kokemuksilla ei ole merkitystä Suomessa
38 *   Mikä on paperivarmistus?
39 *   Nettipankkikin on olemassa, miksi ei siis myös nettiäänestys
40 *   Kenelläkään ei ole intressiä murtautua äänestysjärjestelmään
41 *   Käytetäänhän ääntenlaskussa nykyäänkin apuna tietokoneita
42 *   Tietokone ei tee virheitä 
43 *   Suomalainen järjestelmä on täydellinen
44 *   Mikä äänestäjien painostus?
45 *   Äänestyslaitteiden lähdekoodin pitäisi olla avointa
46 *   Sähköinen äänestysmenetelmä X olisi hyvä
47 *   Tekniikan kehitystä ei saa estää
48 *   Sähköäänestyksen vastustaminen estää demokratian toteutumisen tai laajentumisen
49 *   Lähteistä
50 *   Muita viitteitä
51
52 ### Effi sähköisestä äänestämisestä
53
54 *   [Jäitä hattuun sähköisessä äänestämisessä][1] (Effi 21.8.2007)
55 *   [Sähköinen äänestys uhkaa johtaa kansanvallasta harvainvaltaan][40] (Effin blogi/Antti Honkela 16.3.2006 ja lausunto oikeusministeriölle)
56 *   [Äänestysjärjestelmä ei saa olla liikesalaisuus][45] (Effi 25.1.2008)
57 *   [Oikeusministeriön vaalipäällikkö julistautuu marttyyriksi][29] (Effin blogi/Kai Puolamäki 26.1.2008)
58 *   [Sähköisen äänestyksen eteneminen - Oikeusministeriö tyrmää myös akateemisten tahojen kritiikin][47] (Effin blogi/Jyri Luostarinen 28.2.2008)
59 *   [Dokumentoimattomia salaisuuksia][48] (Effin blogi/Antti Vähä-Sipilä 10.3.2008)
60 *   [Effi valmis osallistumaan sähköäänestyspilotin auditointiin][49] (Effin blogi/Tapani Tarvainen 12.3.2008)
61 *   [Salassapitosopimuksen anatomia][50] (Effin blogi/Tapani Tarvainen 20.3.2008)
62 *   [Sähköäänestysjärjestelmän vaatimusdokumentteja][51] (Effin blogi/Antti Vähä-Sipilä 21.5.2008)
63 *   [Lausunto raporttiin sähköisen kuulemisen kehittämisestä valtionhallinnossa, II vaihe][52] (Effi 10.6.2008)
64 *   [Suomen sähköinen äänestysjärjestelmä ei täytä suosituksia][53] (Effi 19.6.2008)
65 *   [Sähköinen äänestysjärjestelmä rikkoo sekä lakia että vaalisalaisuuden][54] (Effi 24.6.2008)
66
67 ### Yleistä
68
69 Aluksi on syytä muistuttaa, mitä äänestysjärjestelmältä vaaditaan:
70
71 *   Järjestelmän pitää valvoa, että kukin äänioikeutettu voi äänestää vain kerran.
72 *   Äänestäjää lukuunottamatta kukaan ei saa tietää, ketä kukin on äänestänyt.
73 *   Äänestäjän pitää voida luottaa, että äänet on laskettu tuloksessa oikein ja että ääniä ei katoa tai ilmesty tyhjästä.
74 *   Äänestäjä ei saa pystyä todistamaan muille äänestäneensä tietyillä tavoilla. Näin estetään äänten ostaminen tai äänestäjien painostus. Samasta syystä äänestämisen on tapahduttava henkilökohtaisesti.
75
76 Järjestelmän on toimittava luetettavasti myös epävakaissa yhteiskunnallisissa oloissa, siis sellaisissa, joissa tyypillisesti YK lähettäisi vaalitarkkailijoita.
77
78 Esimerkiksi riittävän turvallisen sähköisen pankkijärjestelmän toteuttaminen on vaalijärjestelmään verrattuna hyvin yksinkertaista.
79
80 Lisäksi:
81
82 *   Järjestelmän on paitsi oltava luotettava, myös näytettävä luotettavalta, jotta luottamus vaalitulosten oikeellisuuteen säilyy. Sopivissa oloissa pelkkä uskottavasti esitetty epäily äänestystuloksen oikeellisuudesta voi johtaa yhteiskuntajärjestyksen kaatumiseen.
83 *   Kansalaisten on kyettävä ymmärtämään järjestelmän toimintaperiaate sekä mekanismit, joilla tuloksen oikeellisuus taataan. Sähköisen äänestysjärjestelmän tapauksessa luotettavuuden toteaminen vaatii usein huomattavaa asiantuntemusta, mitä tavallisilla kansalaisilla ei ole.
84
85 Nykyinen ääntenlasku hajautettuna ja kilpailevien puolueiden edustajien suorittamana toteuttaa edellä kuvatut vaatimukset - toisin kuin monet ehdotetut sähköiset äänestysjärjestelmät. Nykyinen järjestelmä otettiinkin käyttöön aikana, jolloin ihmiset eivät luottaneet toisiinsa. Tästä huolimatta haluttiin luottaa siihen, että vaalitulos on laskettu oikein ja että kukaan ei pääse valtaan vaalivilpillä.
86
87 Nykyisessä järjestelmässä äänestystuloksen laajamittainen huomaamaton väärentäminen vaatisi maantieteellisesti laajan ja puoluerajat ylittävän salaliiton. Järjestelmä myös mahdollistaa äänten tarkastuslaskennan.
88
89 Vaikka vain pieni vähemmistö äänestäisi sähköisesti, riittäisi sen väärentäminen usein kääntämään vaalien tuloksen kokonaan toiseksi - esimerkkinä edelliset eduskunta- ja presidentinvaalit.
90
91 Oikeusministeriö toteaakin [hallituksen esityksessä 14/2006 eduskunnalle vaalilain muuttamisesta][18]:
92
93 > "Yleisesti ottaen vaalijärjestelmämme toimii teknisessä mielessä varsin hyvin, mistä on osoituksena se, että vaalit toimitetaan ongelmitta ja niiden tulokset saadaan selville kansainvälisestikin verrattuna nopeasti. Pakottavia muutospaineita ei tässä suhteessa voidakaan katsoa olevan."
94
95 Minkäänlaista pakkoa siirtyä sähköiseen äänestykseen ei siis ole.
96
97 On myös syytä erottaa sähköinen äänestyspaikalla tapahtuva äänestys, jota oikeusministeriö on ehdottanut ja jota [kokeillaan vuoden 2008 kunnallisvaaleissa][19], ja Internetin kautta tapahtuva nettiäänestys, jota muun muassa [viestintäministeri Suvi Lindén (kok) on visioinut][20].
98 Tietoturvamielessä verkon kautta tapahtuva nettiäänestys sisältää periaatteessa
99 kaikki äänestyspaikalla tapahtuvan täyssähköisen äänestämisen riskit
100 ja sen lisäksi vielä useita muita riskejä, jotka äänestyspaikalla voitaisiin eliminoida.
101
102
103 Effin kannan sähköäänestysasiassa tiivistää hyvin äänestysjärjestelmästä vastaavan oikeusministeri Tuija Braxin (vihr) oman [puoluehallituksen kanta 2.12.2005][21]:
104
105 > "Edellä kuvatun perusteella Vihreä liitto ei kannata tehtyä esitystä vaalilain muuttamisesta. Jos kuitenkin sähköinen äänestys halutaan mahdollistaa, on ehdoton vaatimus sisällyttää järjestelmään äänikohtainen äänestäjän varmentama paperituloste."
106
107 ### "Viron nettiäänestyskokeilu oli ongelmaton"
108
109 Aivan aluksi kannattaa lukea läpi [Effin alkuperäinen tiedote][1] ja siinä olevat viitteet. Näitä viitteitä ei ymmärrettävästi toistettu uutisartikkeleissa, mikä aiheutti hämmennystä. Moni keskustelija tuntui esimerkiksi jakavan [ministeri Lindénin virheellisen käsityksen][22], jonka mukaan Viron nettiäänestyskokeilu oli sujunut täydellisesti. Tämä ei pidä paikkaansa, kuten Effin tiedotteessa viitatussa Viron valtiollisen vaalilautakunnan sivuilla julkaistussa [raportissa][23] sanotaan. Raportti toteaa, että nettiäänestykseen liittyy useita haasteita läpinäkyvyyden ja tuloksen luotettavuuden suhteen ja ellei haasteisiin pystytä vastaamaan, suosittaa harkitsemaan nettiäänestyksestä luopumista (oma suomennos):
110
111 > "Vaikka kansallinen vaalilautakunta näkikin vaivaa minimoidakseen järjestelmään sisäänrakennetut riskit, järjestelmän testaus ja auditointi olisi voinut olla kattavampaa. Lisäksi, poliittiset puolueet tai kansalaisyhteiskunta eivät ilmeisesti juuri lainkaan valvoneet Internet-äänestysprosessia. Toteutettu Internet-äänestysjärjestelmä näyttää toimineen Virossa tässä tapauksessa. Kuitenkin, jos edellä mainittuja seikkoja ei tehokkaasti huomioida, viranomaisten pitäisi harkita uudestaan ptiäisikö Internet olla laajalti käytettävissä oleva äänestysmenetelmä, ja vaihtoehtoisesti pitäisikö sitä käyttää vain rajoitetusti tai ei laisinkaan." 
112
113 > [alkuperäinen teksti:] *"Although the National Election Committee made considerable efforts to minimize the inherent risks, testing and auditing of the system could have been more comprehensive. Furthermore, there appeared to be almost no oversight of the internet voting process by political parties or civil society. The internet voting system as implemented appears to have functioned in the Estonian context on this occasion. Yet, unless the above-mentioned factors are effectively addressed, the authorities should reconsider whether the internet should be widely available as a voting method, or alternatively whether it should be used only on a limited basis or at all."* 
114
115 Viron viime aikoina kokemien nettihyökkäyksen valossa ei olisi yllättävää, jos vaalien heikoin lenkki eli nettiäänestys joutuisi koetukselle seuraavissa vaaleissa. Ei ole mahdotonta, että joku tekisi haittaohjelman, joka käyttäjän huomaamatta muuttaisi annettua ääntä; vastaavanlaisia haittaohjelmia käytetään tekemään nettipankeissa tilisiirtoja käyttäjän huomaamatta. Nettiäänestys on altis myös nimipalvelu- ja palvelunestohyökkäyksille ja niin edelleen; "liikuvia osia" ja siten potentiaalisia vikapisteitä on perinteiseen paperiäänestysjärjestelmään verrattuna todella paljon. Ylipäätään nettiäänestysprosessi sisältää niin paljon vaikeasti hallittavia ja suojattavia tekijöitä, että jos joku haluaa tehdä maata vastaan kyberhyökkäyksen ja aiheuttaa yhteiskunnallista epävakautta väärentämällä vaalituloksen, olisi nettiäänestys varteenotettava kohde.
116
117 Bruce Schneierin [sanoin](http://www.schneier.com/crypto-gram-0012.html#1):
118 "A secure Internet voting system is theoretically possible, but it would be the first secure networked application ever created in the history of computers."
119
120 *Nettiäänestys ja äänestäjän painostus.* Viron nettiäänestyksessä äänensä saattoi myöhemmin muuttaa. Tämän oli tarkoitus ehkäistä äänestäjän painostusta ja äänten ostamista: vaikka ääni olisikin annettu valvonnan alaisena, olisi äänestäjä voinut periaatteessa painostajan tietämättä vielä myöhemmin muuttaa ääntään. Äänestäjä saattoi myös antaa paperiäänen nettiäänestyksen sulkeuduttua; tällaisessa tapauksessa nettiääni jätettiin huomiotta. Näin esimerkiksi äänten ostaja ei olisi voinut olla varma, ketä äänestäjä oikeasti lopulta äänesti. Äänestysjärjestelmä kuitenkin tallensi ajan, jona ääni oli annettu; poliittiset puolueet ja vaalitarkkailijat näkivät tämän ajan, jonka avulla ne olisivat periaatteessa voineet selvittää korjasiko äänestäjä myöhemmin ääntään.
121
122 Uudelleenäänestysmahdollisuus ei tietenkään estä tehokasta painostusta tai äänten ostamista. Ääni voidaan esimerkiksi antaa valvonnan alla ja tämän jälkeen "lainata" äänestykseen tarvittavaa henkilökorttia nettiäänestyksen päättymiseen asti. Paperiäänenkään antamisen estäminen ei ole vaikeaa; vaalipäivänä voidaan laittaa joku vahtimaan äänestyspaikkaa tai äänestäjä voi olla liikuntarajoitteinen tai esimerkiksi ulkomailla asuva henkilö.
123
124 ### "Sähköistyminen on tulevaisuutta"
125
126 Yleisesti ottaen sähköistyminen toki on tulevaisuutta.  Valtiollisissa vaaleissa virta ei kuitenkaan kulje tähän suuntaan juuri niistä syistä, joita tässäkin dokumentissa on selostettu.  Esimerkiksi [Yli puolet Yhdysvaltain osavaltioista on jo kieltänyt täyssähköisen äänestämisen][30] ja useissa osavaltioissa prosessi on meneillään.  [Hollannin hallitus on päättänyt luopua sähköisistä äänestyksistä][55], koska ne eivät ole tarpeeksi turvallisia.
127
128 ### "Nettiäänestys aktivoi äänestämään"
129
130 Nettiäänestys voi alentaa äänestyskynnystä ja siten väliaikaisesti vähentää äänestysaktiivisuuden laskua. Nykymuotoinen paperiäänestys ennakkoäänestysmahdollisuuksineen ei kuitenkaan ole selitys äänestysprosenttien pienenemiselle, vaan kyse on politiikan uskottavuudesta, moraalista ja vetovoimasta. Äänestysaktivisuuden laskeminen on yhteiskunnallinen ongelma, joka ei ratkea nettiäänestysmahdollisuudella.
131
132 Aihetta on tutkittu ja [tulokset][24] kertovat, että etä-äänestysmahdollisuus (jonka erityistapaus nettiäänestys on) ei aktivoi äänestämään.
133
134 Yksi syy äänestysaktiivisuuden laskuun voi esimerkiksi olla, että erilaisilla eturyhmillä on yhä suurempi vaikutus poliittiseen päätöksentekoon. Äänestäjät, varsinkin nuorempi sukupolvi, voivat tuntea, että [heidän mielipiteitään ei kuunnella][25] tarpeeksi. Kuvaava esimerkki Effin toiminta-alalta oli [musta joulukuu][26] vuonna 2005, jolloin säädettiin urakalla uutta älytöntä lainsäädäntöä.
135
136 Nettiäänestys ei ratkaise näitä asioita.
137
138 Äänestyksen tietokoneistaminen voi päinvastoin heikentää ihmisten luottamusta äänestykseen ja siihen, että sillä voisi oikeasti vaikuttaa mihinkään - tämä luottamus on jo nykyään heikoilla - ja siten johtaa äänestysaktiivisuuden laskuun. Oma käännös asiaa käsittelevästä [Timothy Leen kolumnista][27] (Slashdot: [E-Voting Undermines Public Confidence In Elections][28]):
139
140 > "[Marylandin osavaltiossa äänestyskoneiden kuljetuksesta on palkattu vastaamaan yritys, jonka johdossa on osavaltion entinen osavaltion Rebublikaanisen puolueen johtaja.] - - Huolimatta siitä, kuka kuljettaa nämä äänestyskoneet, kansaa pyydetään luottamaan siihen, että niitä ei manipuloida. Hyvin suunnitellussa äänestysjärjestelmässä äänestäjien ei pitäisi tarvita luottaa keneenkään. Koko prosessin pitäisi olla yksinkertainen ja läpinäkyvä, siten että kuka tahansa kykenee tarkkailemaan prosessia ja varmistumaan siitä, että äänestys suoritettiin oikein. Sähköisten äänestyslaitteiden monimutkaisuus ja läpinäkymättömyys tekee tehokkaan julkisen tarkastelun mahdottomaksi, mistä syystä ne ovat huono ajatus, vaikka mitään yksilöityä todistetta vilpistä ei olisikaan."
141
142
143 Suomessa oikeusministeriö on ilmoittanut, että sähköisen äänestyksen tapauksessa [pitää vain luottaa oikeusministeriön virkamiehiin][29]. [Hallituksen esityksessä 14/2006 eduskunnalle vaalilain muuttamisesta][18] sanotaan asiasta:
144
145 > "Suomen vaalijärjestelmä on jo lähes sadan vuoden ajan perustunut luottamushenkilöjärjestelmään, jonka mukaan vaalipiirilautakuntien, kuntien keskusvaalilautakuntien, vaalilautakuntien ja vaalitoimikuntien jäsenten tulee edustaa eri poliittisia puolueita. Siten on pyritty varmistamaan vaalien yleistä luotettavuutta ja oikeudellisuutta. Sähköinen äänestäminen muuttaisi vaalien luonnetta tässä suhteessa."
146
147 ### "Yhdysvaltain huonoilla kokemuksilla ei ole merkitystä Suomessa"
148
149 Yhdysvalloissa on pitkään käytetty eri osavaltioissa erilaisia sähköisiä äänestysjärjestelmiä, kun Suomessa vasta suunnitellaan ensimmäisiä pilottihankkeita. Siksi Yhdysvaltain kokemukset ovat erittäin arvokkaita. Olisi naiivia olettaa, että Suomessa tietotekninen osaaminen olisi oleellisesti niin paljon parempaa kuin Yhdysvalloissa, että vastaavia ongelmia ei lintukodossamme voisi esiintyä.
150
151 Yksi Yhdysvalloissa [opittu läksy on][30], että ainoa järkevä tapa saada riippumaton varmistus sähköisen äänestysjärjestelmän toiminnasta on kerätä jokaiselta äänestäjältä uurnaan tämän itsensä tarkistama paperitosite, joiden perusteella tulos voidaan tarvittaessa tarkistaa.
152
153 Suomeen ehdotetut järjestelmät eivät paperivarmistusta tunne.
154
155 ### "Mikä on paperivarmistus?"
156
157 [Paperivarmistuksessa (VVPR, Voter Verified Paper Record, tai VVPB, Voter Verified Paper Ballot)][30] äänestäjä saa äänestään paperitositteen. Tosite ei jää äänestäjälle, vaan hän laittaa sen vaalipaikalla normaaliin uurnaan tarkastettuaan sen. Näin kerätyillä tositteilla voidaan suorittaa tarkastuslaskenta. Vaikka kaikkia tositteita ei aina laskettaisikaan, voidaan esimerkiksi laskea satunnaisotannalla valittujen äänestyspaikkojen äänet ja verrata näin saatuja äänimääriä sähköiseen tulokseen. Jos sähkö- ja paperitulokset eroavat toisistaan, lasketaan kaikki paperiäänet ja hylätään sähköinen tulos kokonaan. Samaten jos kisa menee tiukoille tai jokin osapuoli syyttää sähköisestä vaalivilpistä, voidaan laskea paperitositteet. Paperivarmistus on hyvä ratkaisu, koska paperitositteiden avulla voidaan suorittaa äänistysohjelmistoista ja -laitteista riippumaton, avoin ja ymmärrettävä tarkastuslaskenta.
158
159 Yhdysvalloissa on kokemuksien perusteella luovuttu laajalti puhtaasti sähköisestä äänestyksestä ja siirrytty paperivarmistuksen käyttöön, jotta äänestyslaitteista ja -ohjelmistoista riippumaton tarkastuslaskenta olisi mahdollinen.
160
161 Effi vaati [lausunnossaa oikeusministeriölle][31] paperivarmistusta ministeriön suunnittelemaan sähköiseen äänestysjärjestelmään, huonolla menestyksellä. Suomeen ehdotetussa järjestelmässä ei siis ole paperivarmistusta, täällä luotetaan sähköisen järjestelmän erehtymättömyyteen.
162
163 ### "Nettipankkikin on olemassa, miksi ei siis myös nettiäänestys"
164
165 Kuten tämän dokumentin alussa on perusteltu, pankkijärjestelmän toteuttaminen on vaalijärjestelmään verrattuna hyvin yksinkertaista. Tärkeimmät erot pankkijärjestelmän ja sähköisen äänestyksen välillä ovat [anonyymiys, korjattavuus ja luotettavuus][32]:
166
167 *   *Anonyymiys.* Pankki tietää aina tilisiirroissa sekä maksajan että maksun saajan henkilöllisyyden, mutta äänestäjän ääntä ja henkilöllisyyttä ei saisi vaalisalaisuuden vuoksi liittää toisiinsa. Anonyymiysvaatimuksen vuoksi suurta osa esimerkiksi tilisiirtojen turvamekanismeista ei voi soveltaa sähköiseen äänestämiseen (ellei anonyymiyttä haluta rikkoa). Vaalivilpin huomaaminen - toisin kuin esimerkiksi pankkitilin virheveloituksen huomaaminen tiliotteesta, korjaaminen ja vilppiin syyllisten kiinni saaminen on tästä syystä puhtaasti sähköisessä äänestyksessä mahdotonta tai huomattavasti vaikeampaa kuin esimerkiksi mainittu pankkitilin virheveloituksen huomaaminen ja korjaaminen.
168 *   *Korjattavuus.* Pankki ylläpitää moninkertaista kirjanpitoa ja muita varmistuksia. Jos esimerkiksi tilisiirtoa epäillään virheelliseksi, voidaan selvittää mistä on kyse ja korjata aiheutunut virhe. Puhtaasti sähköisessä äänestyksessä korjattavuuden toteuttaminen on huomattavasti vaikeampaa, koska riippumatonta tarkastuslaskentaa ei voida tehdä.
169 *   *Luotettavuus.* Jos joku väittää kavaltaneensa miljoona euroa, mutta kukaan ei tunnusta menettäneensä rahoja, kavallusväitteen voi jättää omaan arvoonsa. Jos joku toisaalta väittää murtaneensa sähköisen äänestysjärjestelmän ja huijanneensa vaaleissa, puhtaasti sähköisessä järjestelmässä (jossa ei esimerkiksi ole paperivarmistusta) ei auta muuta kuin luottaa äänestysjärjestelmään. Äänestysjärjestelmän on siis paitsi oltava luotettava, myös näytettävä luotettavalta, jotta luottamus vaalitulosten oikeellisuuteen säilyy.
170
171 Nettipankit sekoilevat ja joskus jopa tilin saldo näkyy väärin - muistetaan esimerkiksi surullisenkuuluisa Sampo-pankin tietojärjestelmäuudistus keväällä 2008. Virheet voidaan kuitenkin korjata, koska asiakas huomaa, että tilin saldo on virheellinen ja moninkertaisten varmistusten vuoksi oikea saldo voidaan selvittää. Sähköisessä äänestyksessä sen sijaan pitää vain luottaa äänestystulokseen, jos riippumatonta tapaa selvittää oikeaa tulosta (esim. paperivarmistus) ei ole.
172
173 Sähköisen äänestysjärjestelmän auditoinnin ja ylläpidon hoitaa usein yksityinen yritys. Kannattaa miettiä, halutaanko vaalijärjestelmä ulkoistaa ehkä ulkomaalaisomistuksessa olevalle yritykselle, muistaen että järjestelmän pitäisi toimia luotettavasti myös epävakaissa yhteiskunnallisissa oloissa. Pahimmassa tapauksessa pelkkä epäily äänestystuloksen oikeellisuudesta voi johtaa yhteiskuntarjärjestyksen kaatumiseen.
174
175 Suomenkin suunnitellussa järjestelmässä äänestysjärjestelmä voisi olla [pääosin ulkoistettu pörssiyhtiöön][33] (kyse olisi vaalipaikalla tapahtuvasta sähköisestä äänestämisestä, nettiäänestystä oikeusministeriö ei ole vielä esittänyt). [Hallituksen esitys 14/2006 eduskunnalle vaalilain muuttamisesta][18]:
176
177 > "Sähköinen vaaliuurna, kuten muutkin vaalitietojärjestelmän osat, toimisi oikeusministeriön kanssa sopimussuhteessa olevan tietotekniikkatoimittajan laitteilla toimittajan jossakin toimipisteessä."
178
179 *Nettipankit ja nettiäänestys.* Nettipankkien tietoturvassa on puutteita, minkä pankit hyvin ymmärtävät. Pelkästään vuonna 2005 Nordean verkkopankin asiakkailta huijattiin kalastelemalla 60.000 euroa. Riskien hallintaan on kuitenkin keinoja ja vahingot ovat rahalla korvattavissa. Yksittäiset vahingot ovat pankin liikevaihtoon verrattuna niin mitättömiä, että verkkopankkeja kannattaa väärinkäytöksistä huolimatta ylläpitää ja käyttää.
180
181 Jos sen sijaan äänestysjärjestelmässä on vikoja tai tietoturvassa on puutteita, on riskinä, että väärä henkilö tai puolue pääsee valtaan - tätä ei voi korvata rahalla.
182
183 Suuri osa kotitietokoneista on lisäksi tälläkin hetkellä käyttäjien tietämättä haittaohjelmien saastuttama. Tähän saakka näitä koneita on käytetty muun muassa huijauksiin, roskapostittamiseen ja palvelunestohyökkäyksiin. On myös tiettyihin nettipankkeihin erikoistuneita haittaohjelmia: kun käyttäjä kirjautuu nettipankkiin, voi haittaohjelma tehdä käyttäjän huomaamatta suurehkon tilisiirron. Onko viisasta sallia sitä mahdollisuutta, että tulevaisuudessa näitä koneita käytetään myös nettiäänestämiseen? (Käyttäjä huomaa lopulta haittaohjelman tekemän tilisiirron, koska tilin saldo pienenee,
184 mutta haittaohjelman tekemää äänestystä ei samalla tavalla voi huomata - kuten sanottua, nettiäänestyksen
185 toteuttaminen turvallisesti on huomattavasti nettipankin turvaamista vaikeampaa.)
186
187 ### "Kenelläkään ei ole intressiä murtautua äänestysjärjestelmään"
188
189 Akatamiaprofessori Hannu Nurmi on sitä mieltä, että nettiäänestys olisi varmaan ihan turvallista (Helsingin Sanomat 31.1.2008). Helsingin Sanomien mukaan "hän muistuttaa, että intressi murtautua äänestysjärjestelmään on pienempi kuin murtautua esimerkiksi pankkijärjestelmään". 
190
191 Samalla tavalla voisi kai sanoa, että kenenkään intressi marssia Suomen rajojen yli on pienempi kuin murtautua esimerkiksi Nordean pankkiholviin, joten puolustusvoimat voi lakkauttaa. Toivottavasti Suomessa ei suhtauduta samalla asenteella muihin yhteiskunnan kannalta kriittisiin toimintoihin - äänestysjärjestelmän murtaminen ja pelkästään uskottava epäily vaalituloksen oikeellisuudesta kun voisi pahimmillaan johtaa yhteiskuntajärjestyksen kaatumiseen. Helsingin Sanomien artikkelissa muidenkin antamista kommenteista paistaa asenne, jonka mukaan äänestäjiä ei kiinnosta tai ainakaan pitäisi kiinnostaa äänestyksen luotettavuus.
192
193 ### "Käytetäänhän ääntenlaskussa nykyäänkin apuna tietokoneita"
194
195 Ääntenlaskun apuna käytetään nykyäänkin luonnollisesti tietokoneita. Tuloksen huomaamaton manipuloiminen ei kuitenkaan onnistu, koska oikeusministeriö julkaisee laskennan perusteena käytetyt äänestysaluekohtaiset tulokset. Jos oikeusministeriön julkaisema äänestysalueen vaalitulos on väärä, huomaavat äänestysalueen ääntenlaskussa olleet tämän, mukaan lukien kilpailevien puolueiden asettamat valvojat. Puhtaasti sähköisessä äänestyksessä tätä varmistusta ei ole.
196
197 Toisaalta, jokainen voi laskimen tai tietokoneen avulla itse varmistua, että oikeusministeriön julkaisemien äänestysaluekohtaisten tulosten perusteella saadut ehdokkaiden kokonaisäänimäärät on laskettu oikein.
198
199 (Esimerkki: [Ehdokkaiden saamat äänet vuoden 2007 eduskuntavaaleissa Helsingin äänestysalueella "Kruununhaka A"][34])
200
201 Nykyisessä järjestelmässä tarkastuslaskenta on myös helppo suorittaa.
202
203 ### "Tietokone ei tee virheitä"
204
205 Jotkut tuntuvat kuvittelevan, että tietokoneet ovat puolueettomia ja uskollisia työjuhtia, jotka laskevat äänestystuloksen aina oikein. Siksi syytä huoleen ei muka ole.
206
207 Tämä ei kuitenkaan pidä paikkaansa. Tietokoneet tekevät täsmälleen mitä ne on ohjelmoitu tekemään. Kone voidaan ohjelmoida yhtä hyvin laskemaan äänet kuin toteuttamaan vaalivilpin.
208
209 Ohjelmissa on virheitä. Mitä monimutkaisempi äänestysjärjestelmä on, sitä enemmän siinä on myös vikaantuvia osia.
210
211 Joitakin [esimerkkejä Yhdysvalloista][35]:
212
213 *   Vuonna 2003 Virginiassa, eräs ehdokas menetti 100 ääntä ohjelmointivirheen vuoksi.
214 *   Vuonna 2001 Kaliforniassa, äänet oli pakko laskea käsin ohjelmointivirheen vuoksi.
215 *   Vuonna 2000 Floridassa, Al Gore sai eräässä piirikunnassa presidentinvaaleissa -16.022 ääntä, siis negatiivisen äänimäärän.
216 *   Vuonna 2003 Indianassa, Boonen piirikunnasta, jossa oli noin 20.000 äänioikeutettua, oli annettu yhteensä yli 140.000 ääntä.
217
218 Samanlaisia tarinoita on satoja lisää, [Effinkin lausunnossa][31] on lisää viitteitä. Voi vain arvailla, kuinka usein ongelmia ei ole huomattu ja vaalin tulos on ollut virheellinen. Huomattavaa on myös, että ongelmat eivät ole yleensä koskeneet yhtäläisesti kaikkia ehdokkaita, vaan ne ovat lisänneet tai vähentäneet tietyn ehdokkaan äänimääriä.
219
220 #### "Suomalainen järjestelmä on täydellinen"
221
222 Oikeusministeriö laukoo [hallituksen esityksessä 14/2006 eduskunnalle vaalilain muuttamisesta][18]:
223
224 > "- - äänestysjärjestelmä olisi täydellisesti suojattu tietomurroilta ja että uurnassa olevat tiedot eivät voisi hävitä eikä niitä voitaisi muuttaa."
225
226 Odotamme innolla maailman ensimmäistä tietojärjestelmää, joka on täydellisesti suojattu tietomurroilta. Oikeusministeriön ankka "täydellisestä tietoturvasta" (jollaista ei ikävä kyllä ole käytännössä mahdollista saavuttaa) osoittaa osaltaan, että tietotekniikan asiantuntijoita ei ole valmistelussa juuri kuultu.
227
228 Toisaalta ylläpitohenkilökunnalla olisi mahdollisuus korjata virheitä (täydellisen tietoturvallisessa järjestelmässä ei tosin saisi olla ainakaan äänimääriin tai äänestyksen luottamuksellisuuteen vaikuttavia virheitä):
229
230 > "Äänestyksen aikana oikeusministeriöllä tai sen valtuuttamalla tietotekniikkahenkilöstöllä olisi mahdollisuus valvoa sähköisen vaaliuurnan toimintaa ja suorittaa korjaus- tai vastaavia toimia, mikäli sellaisia tarvittaisiin."
231
232 Ylläpitäjät eivät kuitenkaan oikeusministeriön mielestä mitenkään voisi yhdistää äänestäjän ääntä ja henkilöllisyyttä, jotka on tallennettu tietojärjestelmään, eivätkä muuttaa ääniä:
233
234 > "Kyseiset henkilöt eivät voisi murtaa äänen ja henkilötunnuksen välistä salausta eivätkä saada selville sitä, keille ehdokkaille annettuja ääniä uurnassa on. He eivät myöskään voisi poistaa, lisätä tai muuttaa uurnassa olevia ääniä."
235
236 Esitetty ajatus on kaunis, mutta käytännössä mahdoton toteuttaa. Lisäksi vaikka järjestelmä pystyttäisiinkin suojaamaan, olisi ulkopuolisten mahdoton varmistua suojauksen riittävyydestä ja siten järjestelmän luotettavuudesta. Kuitenkin vaalijärjestelmän uskottavuus on käytännössä yhtä tärkeää kuin sen todellinen luotettavuus.
237
238 Effi kommentoi tätäkin [lausunnossaan][31] (s. 3), mutta ministeriössä ei asiaa joko haluttu tai kyetty ymmärtämään.
239
240 ### "Mikä äänestäjien painostus?"
241
242 Äänestys tapahtuu nykyään äänestyskopissa, eikä kukaan muu kuin äänioikeutettu näe ääntä. Äänestäjä ei pysty todistamaan muille äänestäneensä tietyillä tavoilla. Näin estetään äänten ostaminen tai äänestäjien painostus.
243
244 Painostus voi olla perheen tai ulkopuolisten suorittamaa tai ääniä voidaan ostaa. Erityisen ongelmallista ulkopuolisten suorittama painostus tai äänten ostaminen voivat olla, jos tuloerot ovat suuria tai yhteiskunnallinen tilanne on muuten epävakaa.
245
246 Katso myös kommenttia [äänestäjien painostuksesta Viron nettiäänestyksessä][3].
247
248 ### "Äänestyslaitteiden lähdekoodin pitäisi olla avointa"
249
250 Jos sähköiseen äänestykseen siirrytään, tulee äänestyslaitteiden lähdekoodin olla kaikkien vapaasti tutkittavissa. Tämä ei kuitenkaan ratkaise sitä, että äänestäjän on edelleen käytännössä mahdotonta todeta, että hänen käyttämänsä äänestyslaite käyttää nimenomaan julkaistua lähdekoodia eikä muutettua koodia, tai että äänestysjärjestelmän kaikki muut komponentit toimivat kuten pitäisi.
251
252 [Usable Security -blogissa][36] kuvataan erään sähköisen äänestysjärjestelmän osat. Jotta voisi varmistua, että järjestelmä on luotettava, kaikki osat pitäisi auditoida. Pelkän lähdekoodin julkistus ei riitä. Tästä syystä käytännössä ainoa tapa varmistua, että järjestelmä on luotettava, on vaatia sellaista varmennusta, joka on kaikkien ymmärrettävissä. Tällainen varmennus on tulostaa äänestyksestä paperitosite, jonka äänestäjä tarkistaa ja laittaa uurnaan. Tulos voidaan tarkistaa näiden tositteiden avulla. Yhdysvalloissa on tästä syystä laajalti [luovuttu][30] puhtaasti sähköisestä äänestyksestä ja alettu käyttää kuvatun kaltaista paperivarmistusta.
253
254 Suomeen ehdotetut sähköisen äänestämisen järjestelmät eivät paperivarmistusta tunne.
255
256 ### "Sähköinen äänestysmenetelmä X olisi hyvä"
257
258
259
260 Sähköinen äänestysjärjestelmä voidaan toteuttaa useilla tavoilla. Kehittyneimmät ehdotetut
261 järjestelmät käyttävät edistyneitä kryptografisia menetelmiä, joilla pyritään takaamaan äänestyksen luotettavuus ja anonymiteetti.
262
263 Usein selitetään, kuinka sähköinen äänestys *voitaisiin* toteuttaa turvallisesti ja luotettavasti edellä kuvatun kaltaisilla
264 menetelmillä. Suomeen puuhattava järjestelmä ei ole tällainen, joten oikeusministeriön
265 hankkeen osalta tällaiset spekulaatiot ovat irrelevantteja.
266
267 Ikävä kyllä kehittyneimmät järjestelmät ja menetelmät ovat usein niin monimutkaisia, että tavallinen äänestäjä - mukaanlukien suurin osa vaalitietojärjestelmästä vastaavista viranomaisista - ei ymmärtäisi niiden toimintaperiaatteita. Mitä monimutkaisempi järjestelmä tai menetelmä on, sitä enemmän vikaantumismahdollisuuksia se myös sisältää.
268
269 Ehdotetut järjestelmät ja menetelmät voivat esimerkiksi auttaa huomaamaan vaalivilpin, mutta eivät korjaamaan vaalitulosta, jos se havaitaan vääräksi (korjattavuus) - toisin kuin esimerkiksi yksinkertainen paperivarmistuksen käyttö. [Freedom to Tinker -blogissa][37] on esimerkki eräästä tällaisesta ehdotetusta järjestelmästä ja sen käytännön toteutuksesta. Jotkut tällaisista järjestelmistä ovat lupaavia, mutta niiden käyttöönotto ei ole suoraviivainen toimitus.
270
271 Suomeen tällaista kehittyneempää järjestelmää ei ole tulossa.
272
273 Tärkeä kysymys on myös, että miksi pitäisi siirtyä monimutkaiseen sähköiseen äänestysjärjestelmään, kun nykyinen paperijärjestelmäkin toimii hyvin? Tarjoaisiko monimutkainen menettely jotain sellaista lisäarvoa, jota ei saavutettaisi esimerkiksi yksinkertaisella paperivarmistuksen käytöllä?
274
275 *[Allekirjoittaneen käytännön kokemuksen mukaan on tärkeää, että lainsäädäntö- ja muissa hankkeissa vastuuvirkamiehet ja lainsäätäjät ymmärtävät mitä ovat tekemässä. Muuten lopputuloksessa ei ole kehumista, kuten joissakin muissa Effin toiminta-alaan liittyvissä lainsäädäntöhankkeissa on nähty. Jos esimerkiksi äänestysjärjestelmän toimintaperiaatteiden ymmärtäminen vaatisi tutkintoa kryptografiasta, olisi hyvin mahdollista, että toteutuva lainsäädäntö tai äänestysjärjestelmä olisi aivan jotain muuta kuin pitäisi. Tästäkin syystä vierastan liian monimutkaisia järjestelmiä niinkin demokratian kannalta keskeisessä toimituksessa kuin valtiollisissa vaaleissa.*
276
277 *Mitä tulee nykyisen vaalilain valmisteluun, niin verrattuna siihen, miten esimerkiksi tietoliikennejärjestelmien standardeja luodaan standardiorganisaatioiden laajoilla kuulemismenettelyillä, sähköisen äänestyksen valmistelu on Suomessa ollut hyvin suljettua. Kuvaavaa on, että esimerkiksi äskettäisessä sähköistä äänestystä koskevassa vaalilain uudistuksessa oikeusministeriö ei edes katsonut tarpeelliseksi pyytää lausuntoa tekniikan asiantuntijoilta ([2006:3 Sähköinen äänestys][39], ks. lausuntopyyntökirje). Effi antoi pyytämättä [lausuntonsa][31], jonka ministeriö jätti oleellisilta osiltaan [huomioon ottamatta][40]. Myöskään oikeusministeriön aikaisemmin (ks. kohta ["Suomalainen järjestelmä on täydellinen"][10]) mainitut kommentit "täydellisesti tietomurroilta suojatusta" ([HE 14/2006 vp][18]) vaalitietojärjestelmästä eivät ole omiaan herättämään luottamusta (on mahdollista tehdä hyvin turvallisia järjestelmiä, mutta tietoturvassa on käytännössä mahdotonta päästä täydellisyyteen).]*
278
279 ### "Tekniikan kehitystä ei saa estää"
280
281 Joidenkin mielestä tekniikan kehitys ja "nykyaikaisiin" järjestelmiin siirtyminen on jo sinällään hyvä asia. "Vanhanaikaista" paperijärjestelmää hyvänä pitäviä pidetään kehityksen jarruina.
282
283 Kannattaisiko kuitenkin ensiksi miettiä mitkä ovat ehdotettujen uudistusten hyödyt ja haitat?
284
285 Nykyään käytössä oleva paperijärjestelmä on toimiva, tehokas (vaalitulokset saadaan käytännössä parissa tunnissa), edullinen (varsinkin kun ottaa huomioon vaihtoehtoisen sähköisen järjestelmän hankinta-, ylläpito- ja muut kulut), ymmärrettävä (jokainen kykenee ymmärtämään ääntenlaskuprosessin ja sen luotettavuuden varmistuksen periaatteet) sekä avoin (muun muassa kilpailevien puolueiden edustajat valvovat ääntenlaskua).
286
287 Sähköisessä äänestysjärjestelmässä, jossa on monta vaihetta, pieni joukko voi pahimmassa tapauksessa vaikuttaa merkittävästi äänestystuloksen oikeellisuuteen.
288
289 ### "Sähköäänestyksen vastustaminen estää demokratian toteutumisen tai laajentumisen"
290
291 Äänestysprosessin luotettavuus takaa demokratian jatkuvuuden. Äänestysjärjestelmän on oltava sellainen, että se on luotettava myös vaikeina aikoina, kun yhteiskuntajärjestys muuten horjuu. Siksi äänestysjärjestelmää, varsinkin kun kyse on keskeisistä valtiollisista vaaleista, tulee muokata vain hyvin harkiten.
292
293 Konservatiivisuus takaa tässä asiassa demokratian säilymisen. Miksi seikkailla, kun nykyinen paperiäänestysjärjestelmä toimii hyvin?
294
295 ### "Onko sähköinen äänestys aina huono juttu?"
296
297 Kuten yllä kohdassa "tekniikan kehitystä ei saa estää" on kerrottu, 
298 nykyinen paperijärjestelmämme on toimiva, 
299 tehokas, edullinen ja
300 ymmärrettävä vaihtoehto. Ei ole mitään järkeä korvata nykyistä järjestelmää, 
301 joka koostuu yhden numeron
302 kirjoittamisesta parin vuoden välein paperilappuun, kalliimmalla ja epäluotettavammalla
303 sähköisellä nappijärjestelmällä.
304
305 Sähköinen äänestys *voisi* olla perusteltu, jos esimerkiksi äänestysjärjestelmä olisi erilainen 
306 (esim. [STV](http://en.wikipedia.org/wiki/Single_transferable_vote)) tai jos äänestyksiä olisi samalla
307 useampia,
308 jolloin käsin suoritettava ääntenlasku olisi hitaampaa ja virhealttiimpaa. Edellytyksenä on
309 kuitenkin paperivarmistuksen käyttö (ks. kohta "Mikä on paperivarmistus?").
310 Maailmalta löytyy nimittäin useita esimerkkejä siitä, että täyssähköiseen järjestelmään ei
311 luoteta: esimerkiksi [Yhdysvalloissa puolet osavaltioista on jo kieltänyt täyssähköisen äänestyksen][30] 
312 ja Alankomaissa äänestyksen luotettavuutta arvioinut komissio [suositti paperivarmennusta sähköiseen äänestykseen][55].
313 Sähköisen äänestyksen funktio olisi tuloksen nopea laskenta ja
314 paperivarmistuksen avulla voitaisiin varmistua tuloksen oikeellisuudesta 
315 (esim. laskemalla satunnaisotannalla valittujen ja/tai
316 kilpailevien puolueiden nimeämien äänestyspaikkojen äänet ja
317 vertaamalla vastaaviin sähköisiin tuloksiin). Koska paperivarmistusta käytetään tuloksen
318 oikeellisuuden varmistamiseen, olis
319 sähköinen osa äänestysjärjestelmästä helpompi (vaikkei vieläkään yksinkertaista)
320 rakentaa siten, että
321 anonymiteetti säilyy.
322
323 Verkon kautta tapahtuva *nettiäänestys* sen sijaan sisältää kaikki äänestyspaikalla tapahtuvan täyssähköisen 
324 äänestämisen riskit ja sen lisäksi vielä useita muita riskejä, jotka äänestyspaikalla voitaisiin eliminoida. 
325 Nettiäänestystä ei siis voida ottaa käyttöön keskeisissä valtiollisissa vaaleissa, 
326 ellei täyssähköiseen äänestyspaikalla (ilman paperivarimistusta)
327 tapahtuvaan äänestykseen voida täysin luottaa. 
328
329 ### Lähteistä
330
331
332 Tämän dokumentin kirjoittamisessa on käytetty apuna erityisesti [tekniikan tohtori Antti Honkelan kirjoittamaa Effin lausuntoa oikeusministeriölle][31].
333 Tyypillisiä argumentteja on etsitty esimerkiksi seuraavista keskusteluista:
334
335 *   [Effi muistuttaa e-äänestämisen vaaroista][41] (ITViikko 22.8.2007, uutiskeskustelu)
336 *   [Sähköinen äänestyksen tulisi täydentää demokratiaa][42] (Tietokone.fi 23.8.2007, uutiskeskustelu)
337 *   [Effi pelkää sähköisen äänetyksen nakertavan demokratiaa][43] (Sektori 23.8.2007)
338
339
340 ### Muita viitteitä
341
342 *   [Oikeusministeriön sivu sähköisestä äänestämisestä][19]
343 *   [Verifed voting][30] - paperivarmistuksesta
344 *   [The Electoral Commission: May 2007 Pilot Schemes][44] - brittien kokemuksia
345 *   [Raportti Viron nettiäänestyskokeilusta][23]
346 *   [Antti Vähä-Sipilän blogissa][46] on 23.-28.1.2008 käsitelty aihetta laajalti
347 *   [Suunniteltuun vaalitietojärjestelmään liittyviä teknisiä dokumentteja][38]
348
349
350
351  [1]: http://www.effi.org/julkaisut/tiedotteet/lehdistotiedote-2007-08-21.html
352  [18]: http://www.finlex.fi/fi/esitykset/he/2006/20060014
353  [19]: http://www.vaalit.fi/14912.htm
354  [20]: http://www.aamulehti.fi/uutiset/kotimaa/41050.shtml
355  [21]: http://www.hare.vn.fi/upload/Asiakirjat/10514/Vihre%C3%A4%20Liitto.rtf
356  [22]: http://www.hs.fi/kotimaa/artikkeli/1135229643350
357  [23]: http://www.vvk.ee/english/OSCE%20report_EST_2007.pdf
358  [24]: http://papers.ssrn.com/sol3/papers.cfm?abstract_id=917770
359  [25]: http://www.alli.fi/sivu.php?artikkeli_id=2691
360  [26]: http://www.effi.org/blog/kai-2005-12-16.html
361  [27]: http://techdirt.com/articles/20080120/07521615.shtml
362  [28]: http://it.slashdot.org/it/08/01/30/2239228.shtml
363  [29]: http://www.effi.org/blog/kai-2008-01-26.html
364  [30]: http://www.verifiedvoting.org/
365  [31]: http://www.effi.org/julkaisut/lausunnot/om-vaalilaki.html
366  [32]: http://www.schneier.com/crypto-gram-0102.html#10
367  [33]: http://www.tietoenator.fi/default.asp?path=408,410,16095,1124,9368,27688
368  [34]: http://192.49.229.35/E2007/s/tulos/ehdaluetulos_091001a.html
369  [35]: http://www.schneier.com/blog/archives/2004/11/the_problem_wit.html
370  [36]: http://usablesecurity.com/2006/02/23/the-election-software-supply-chain/
371  [37]: http://www.freedom-to-tinker.com/?p=839
372  [38]: http://www.effi.org/yksityisyys/vaalitietojarjestelma/
373  [39]: http://www.om.fi/34926.htm
374  [40]: http://www.effi.org/blog/2006-03-16-Antti-Honkela.html
375  [41]: http://www.itviikko.fi/keskustelut/thread.jspa?threadID=70862
376  [42]: http://www.tietokone.fi/foorumi/keskustelu.asp?threadid=67678&list=all&show=all
377  [43]: http://sektori.com/uutiset/7820/effi
378  [44]: http://www.electoralcommission.org.uk/elections/pilotsmay2007.cfm
379  [45]: http://www.effi.org/julkaisut/tiedotteet/lehdistotiedote-2008-01-25.html
380  [46]: http://www.asiantuntijat.org/~avs/blog/index.html
381  [47]: http://www.effi.org/blog/2008-02-28-Jyri-Luostarinen.html
382  [48]: http://www.effi.org/blog/2008-03-10-Antti-Vaha-Sipila.html
383  [49]: http://www.effi.org/blog/2008-03-12-Tapani-Tarvainen.html
384  [50]: http://www.effi.org/blog/2008-03-20-Tapani-Tarvainen.html
385  [51]: http://www.effi.org/blog/2008-05-21-Antti-Vaha-Sipila.html
386  [52]: http://www.effi.org/julkaisut/lausunnot/sahkoisen-kuulemisen-kehittaminen-080610.html
387  [53]: http://www.effi.org/julkaisut/tiedotteet/lehdistotiedote-2008-06-19.html
388  [54]: http://www.effi.org/julkaisut/tiedotteet/lehdistotiedote-2008-06-24.html
389  [55]: http://www.digitoday.fi/yhteiskunta/2008/05/28/Hollanti+kielt%E4%E4+s%E4hk%F6iset+%E4%E4nestykset/200814428/66?rss=6
390