Případ britských pošťáků, aneb běda zemi, které počítač vládne

Současný britský premiér Rishi Sunak má k řešení spoustu akutních věcí, ale jeden z největších problémů, které mu padly do klína, je pěkně “uleželý”. Jde o takzvaný skandál Horizon, jehož gró probíhalo v letech 1999-2015, a který se teď dostal do fáze “praní špinavého prádla” a řešení následků. Situace je natolik vážná, že britská vláda uvažuje o zvláštním zákonu, kterým by parlament plošně zrušil několik set trestních rozsudků z uvedených let. Takové věci se v usedlé Británii dějí jen velmi, velmi vzácně.

Nuže, o co šlo, respektive jde? Pěkná digitální dystopie to je, navíc v demokratickém právním státě, který měl podobný průšvih odhalit daleko dřív.

Britská pošta zavedla roku 1999 do provozu nový softwarový systém Horizon, vyvinutý japonskou firmou Fujitsu. Ten měl, mimo jiné, kontrolovat hospodaření na jednotlivých pobočkách a odhalovat případné nesrovnalosti.

Už krátce po spuštění systému začaly z jednotlivých poboček chodit reklamace: program je nespolehlivý. Nejhorší chybou bylo, že si svévolně “vymýšlel” peněžní manka tam, kde nebyla. Nahlášených chyb bylo mnoho, ale minimálně jedna oběť tvrdí, že jí na lince podpory lhali, že je jediná, kdo něco takového pozoruje.

Pojem oběť je zde naprosto na místě, protože pošta začala na poštmistry, u jejichž pobočky ohlásil systém scházející peníze, podávat trestní oznámení za zpronevěru, a zároveň po nich vymáhat škody v desetitisících až statisících liber. A, co je nejhorší, soudy braly údaje ze systému Horizon jako pevný důkaz a odsuzovaly jednotlivé pošťáky do vězení jako na běžícím pásu, přičemž leckdy šlo opravdu o vězení natvrdo, ne jen podmínku. Kvůli předepsaným kompenzacím musely rodiny odsouzených často prodat své domy nebo se zadlužit.

Odsouzených nakonec bylo dobrých 700 a další tisíce lidí přišly o pozici poštmistra proto, že systém indikoval “menší” problémy, nedosahující úrovně trestného činu. Se skandálem jsou spojeny nejméně čtyři sebevraždy mezi obviněnými a ve vězení skončila i těhotná žena. Třiatřicet obviněných zemřelo. Část těchto úmrtí byla nepochybně přirozená, ale je možné, že dalším prostě pomohl do hrobu vzniklý stres. Není legrace být na malém městečku osočen ze systematického okrádání pobočky, kterou jste léta vedli. Pošťák je svým způsobem “veřejný činitel”, i když nikoliv de iure; všichni jej aspoň od vidění znají a skoro každý mu někdy dal do ruky důvěrnou zásilku. Když pak musíte nést cejch zločince, je to šílenství.

Teď si možná říkáte, že je divné, že si na té poštovní centrále “nevšimli” nápadně vysokého procenta defraudantů – nota bene když někteří z těch postižených sami aktivně upozorňovali centrálu na to, že systém jim přisuzuje manka. Taková epidemie náhle odhaleného zločinu by měla být nepřirozená, anomální, asi podobně, jako kdyby nějaký lékařský systém oznámil, že půlka Kutné Hory dostala zničehonic angínu.

Tady vstupuje do hry malý, ale nesmírně špinavý detail. Člověk, který v rámci pošty zodpovídal za provoz systému, dostával roční bonusy podle toho, kolik “defraudantů” bylo odsouzeno a kolik peněz z nich pošta vymáčkla na kompenzacích. Tím pádem měl nulovou motivaci zkoumat potenciální problémy v systému, a naopak stoprocentní motivaci chovat se jako prokurátor Urválek. V celé věci se vůbec britská pošta chovala spíš jako gangster s razítkem než jako solidní, byť pomýlená instituce. Když se před deseti lety začala o dění kolem programu Horizon zajímat BBC, snažili se ji poštovní bossové zastrašit a odradit od vysílání příslušných reportáží. Jeden z postižených, Michael Rudkin, vypověděl, že viděl zaměstnance Fujitsu, jak pozměňují data v jednotlivých účtech, do kterých správně “neměli vrtat”.

Následky pro skutečné pachatele jsou zatím mírné. Bývalá šéfka britské pošty Paula Vennells, která si v jejím čele vydělala přes 4 miliony liber, byla donucena k tomu, vrátit řád Britského impéria. Firma Fujitsu stále ještě dostává britské státní zakázky a smlouva na provoz systému Horizon byla loni prodloužena. Uvažuje se aspoň o tom, že by byla nucena uhradit kompenzace obětem, aby je nemusel platit daňový poplatník.

Poučení?

Věřit počítačům je samo o sobě ošemetné. Počítače nelžou úmyslně, aspoň zatím ne; tak daleko asi ještě ani ta slavná umělá inteligence nedošla, aby opravdu někomu věšela bulíky na nos zcela záměrně. Ale jsou schopny produkovat věrohodně vypadající datový odpad po gigabajtech, a to někdy i s fatálními následky. Dvě těžké letecké nehody Boeingu MAX 8 byly způsobeny vadným softwarem, který nechtěně zabil zhruba 350 lidí. Vůči tomu je skandál Horizon v podstatě ještě mírný.

Skutečný průser nastává v momentě, kdy se omylné počítače dostanou do rukou bezskrupulózním jedincům, a ti se vyskytují všude. Máme tendenci si představovat tyrana jako oficíra s vysokými holínkami, šlapajícího lidem do tváře, ale on to klidně může být i nenápadný “poštovní panáček”, jehož jedinou motivací jsou prémie k platu.

Vzpomeňte si na tento případ, prosím, když bude zase někdo navrhovat elektronické volby…