Komputer mówi - łapaj złodzieja!
W emitowanym kilkanaście lat temu brytyjskim serialu komediowym "Mała Brytania", będącym w zasadzie serią dość ordynarnych skeczy, przewijała się grana przez Davida Walliamsa postać Carol Beer, uosabiająca najgorsze wady nieżyczliwej urzędniczki. Zwykła ona zbywać petenta paroma stuknięciami w klawiaturę i nie pozostawiającą pola do dyskusji odpowiedzą, że "komputer mówi nie", utrwaloną w powszechnej brytyjskiej świadomości w sensie podobnym do naszego "nie mamy pańskiego płaszcza i co pan nam zrobi".
Pisałem niedawno o sztucznej inteligencji, dzieląc się własnymi doświadczeniami i opinią, że najważniejsze związane z nią zagrożenia są raczej przyziemnej natury, tym jednak groźniejszej od wydumanych scenariuszy z dziedziny science fiction, że nie wymagającej równie wydumanych postępów naukowych. Miejscowa rzeczywistość przypomniała zaś ostatnio o stanowiącym niezły przykład podobnych zagrożeń skandalu, który chciałbym nieco przybliżyć, bo w Polsce chyba mało kto o nim słyszał, a zresztą i w Wielkiej Brytanii nie mówi się o nim za wiele.
Oto od roku 2000 brytyjskim Post Office wstrząsała nieustająca fala kradzieży, tudzież oszustw księgowych, a najdelikatniej - przypadków nieścisłości wskazujących na wyprowadzenie z systemu sporych sum pieniędzy. Post Office Ltd to stanowiąca część państwowej Poczty Królewskiej firma odpowiadająca za prowadzenie sieci tysięcy rozsianych po kraju punktów usług pocztowych i to właśnie z tych placówek znikało - jak wskazywał system - po kilka do kilkudziesięciu tysięcy funtów. Wewnętrzne dochodzenie uznało za winnych kierowników i pracowników placówek, z których ponad siedmiuset wytoczono procesy. Przekonywano ich do przyznania się do oszustw księgowych celem uniknięcia poważniejszego i mogącego skutkować więzieniem oskarżenia o kradzież. Część i tak trafiła do więzienia, niektórzy próbując pokryć braki pozaciągali prywatne kredyty, zdarzyło się też co najmniej jedno samobójstwo.
Decydujący zwrot akcji nastąpił w roku 2014, kiedy wyciekł wewnętrzny raport, sporządzony dla Post Office przez firmę Second Sight. Raport identyfikował prawdziwych sprawców nieścisłości: błędy w stworzonym przez Fujitsu systemie informatycznym Horizon, zawiadującym transakcjami placówek Post Office od 1999 roku. Post Office wprawdzie nakazał Second Sight zakończenie dochodzenia i zniszczenie materiałów, a także opublikował własny raport oczyszczający się z jakichkolwiek nieprawidłowości, ale sprawa się wydała. Powodowie i pozwani zamienili się w sądzie miejscami, a Post Office zapłacił pod koniec 2019 roku 58 milionów funtów odszkodowania 550 byłym pracownikom, którzy wytoczyli mu pozew zbiorowy (Bates & Others v Post Office Ltd).
Sprawy o uchylenie wcześniejszych wyroków skazujących toczyły się jednak dłużej i ostatecznie dopiero w kwietniu obecnego roku uchylono wyroki trzydziestu-dziewięciu ze skazanych kierowników placówek. W grudniu zeszłego roku uchylono sześć innych wyroków, a dwadzieścia-dwie podobne sprawy wciąż są w toku. Anglikańska duchowna Paula Vennells, która była szefem Post Office między rokiem 2012 a 2019, została pod koniec 2019 roku - "za zasługi dla Post Office i działalności charytatywnej" - komandorem Orderu Imperium Brytyjskiego. Z kolei jej następca Nick Read zapowiedział w kwietniu, że Horizon zostanie wkrótce zastąpiony nowym systemem. Ten już z pewnością będzie nieomylny.
tagi: little britain post office
tomasz-kurowski | |
13 maja 2021 09:46 |
Komentarze:
atelin @tomasz-kurowski | |
13 maja 2021 10:32 |
Na pudelku było, ale ciekawe.
gabriel-maciejewski @tomasz-kurowski | |
13 maja 2021 10:45 |
Każdy system jest nieomylny dlatego zawiadujący nim ludzie zawsze są na koniec nagradzani ;-)
saturn-9 @tomasz-kurowski | |
13 maja 2021 10:46 |
To był czysty przypadek, bowiem kasa znikała ale nie została przelana na inne konta, tak z tekstu wynika, bo to byłby zamysł. Taki bieg spraw... +
Zyszko @tomasz-kurowski | |
13 maja 2021 12:19 |
Normalnie jak "afera mięsna" z PRL.
Dobrze, że nikogo nie powiesili (chociaż dla tego samobójcy marna pociecha) ani nawet nie wykastrowali. Że też nikomu nie dało do myślenia, że kilkaset osób w tym samym czasie w różnych miejscach zdecydowało się kraść. To znaczy, że albo ktoś bardzo potrzebował tej afery, albo masowe podkradanie (jak w PRL) jest w Królestwie częścią systemu.
tomasz-kurowski @atelin 13 maja 2021 10:32 | |
13 maja 2021 14:06 |
Sugerowałem się niewiedzą kolegów, którzy widać nie czytają pudelka, ale myślę, że nie szkodzi jak najszerzej wspominać o takich wpadkach. Może powinienem był pisać wcześniej, bo nowości w sprawie wypłynęły niecały tydzień po mojej poprzedniej notce. W każdym razie lubię mieć takie historie na podorędziu, choćby na wypadek gdyby któremuś z kolegów znowu uwidziało się, że tylko w tej okropnej Polsce są afery. Podobnie skatalogowałem sobie na przykład sprawę lotniska Berlin Brandenburg, o której parę lat temu pisał valser.
tomasz-kurowski @saturn-9 13 maja 2021 10:46 | |
13 maja 2021 14:11 |
Z tego co się orientuję problem polegał głównie na "gubionych" lub - przeciwnie - dublowanych przez system operacjach, co wynikało różnorodnie z problemów z łączem, przerwach w dostawach prądu i podobnych czynników. Podliczenie wszystkiego ręcznie i porównanie danych po obu stronach umożliwiałoby ich weryfikację i identyfikację faktycznego problemu, ale zamiast tego przyjmowano za pewnik, że system ma rację.
Dałoby się z pewnością dużo bardziej szczegółowo opisać sprawę, ale przyznam się, że znowu notka powstała jedynie jako przydługi komentarz do poprzedniej.
tomasz-kurowski @gabriel-maciejewski 13 maja 2021 10:45 | |
13 maja 2021 14:13 |
To jest punkt w połowie drogi, gdzie spotykają się i serdecznie ściskają najgorsze tendencje owych zawiadowców i informatyków. Ci ostatni, jako ścisłowcy, z natury lubiący rozwiązania proste i eleganckie, na widok wielkiego, brzydko połatanego systemu zawsze pragną wyrzucić wszystko na śmietnik i stworzyć od zera nowy, piękny, koncepcyjnie klarowny system. Tyle że każda łata i nieelegancka poprawka to ślad po - wykrytym "w praniu" i z wysiłkiem naprawionym - realnym problemie, może i grubej aferze. Znajdą się takie i w nowym systemie i on też obrośnie podobną patyną. Nowy system, nowe problemy, nowe afery, nowe łaty, nowe ordery i tak się ten interes kręci. Za to faktyczny problem wspomniany powyżej, to jest nadmierne zaufanie wobec systemu, systemowo zostaje pominięty. Albo i spotęgowany.
tomasz-kurowski @Zyszko 13 maja 2021 12:19 | |
13 maja 2021 14:17 |
Te punkty pocztowe Post Office działają na zasadzie jakby franczyzy i są z reguły podczepione do lokalnych sklepików i podobnych punktów usługowych, więc może uznawano za normę, że drobni ciułacze-franczyzobiorcy czasem kradną i trzeba ich bić po łapach.
stanislaw-orda @tomasz-kurowski 13 maja 2021 14:17 | |
13 maja 2021 14:57 |
Taki przykład .
Naście lat temu robiłem kontrolę w pewnej zagranicznej firmie, w której jednym z segmentów produkcji była sprzedaż butli z gazami technicznymi poprzez sieć agencji terenowych. Problem polegał na tym, iż wskazania systemu elektronicznego, zawiadującego dystrybucją i logistyką nie zgadzały się z faktycznymi stanami magazynowymi produktów. I nikt nie wiedział , gdzie się podziewa ok. 10 procent z kilkuset tysięcznej ilości butli będących w obrocie (pełne były dostarczane do odbiorców, a puste wracały do ponownego napełnienia). Wywoływało to perturbacje grożące nawet zrywaniem kontraktów przez odbiorcę i płaceniem dlań odszkodowań za towar niedostarczony w zamówionym terminie lub nie takiej, jak wynikająca z umowy o dostawach ilości.
Czyli system wykazywał, ze np. jest 800 butli z acetylenem do odbioru w Brzegu (Opolszczyzna), spedycja wysyłała tam transport, który miał te butle zabrać i rozwieźć po najbliższych lokalizacyjnie agencjach. Po dotarciu do zakładu w Brzegu okazywało się , ze jest na magazynie np. tylko 400 butli.
Stres, bałagan i łatanie sytuacji dostawami w trybie awaryjnym z innych punktów, co wprowadzało elementy destrukcji w grafiku dostaw na dany dzień.
Powód okazał się prozaiczny. Kierowcy rozwożący butle po punktach odbioru (agencje terenowe) , czasami z przyczyn losowych (objazdy, awarie samochodów itp. ) nie dostarczali części butli, bo dojechali za późno, gdy agencje zostały zamknięte, a nie zawsze istniały możliwości pozostawienia towaru (pod brama takiego punktu) i powracali z nimi do bazy produkcyjnej. Butle były przekazywane do magazynu, a kierowca powinien był wpisać w system, ile i jakich butli zwraca. Ale bywało tak, że kierowca wracał późno, był zmęczony, niekiedy miał nerwowa rozmowę z kierownikiem zmiany spedycyjnej, albo jeszcze „awanturujący” telefon od zony i w efekcie „zapomniał” wpisać to, co przywiózł, a w międzyczasie jego „zwrotka” (z bramy wjazdowej) została przykryta zwrotkami innych kierowców. Stan magazynowy różnił się w ten sposób od stanu wskazywanego przez „komputer’. Jeśli wracało iluś kierowców i każdy z nich miał zwroty, to jeśli tylko, co któryś nie wpisał, albo z pośpiechu wpisał niedokładnie, różnice po pewnym czasie kumulowały się do istotnych rozbieżności, z konsekwencjami opisanymi wcześniej.
Matka-Scypiona @tomasz-kurowski | |
13 maja 2021 15:35 |
Fajny wpis. Już sobie wyobrazilam świat bez gotówki i awarię systemu bankowego. A tak będzie. I będą robić to specjalnie, żeby postawić do pionu niewolników.
A co do poczty angielskiej. Kilkanaście lat temu zarobki pocztowcow chyba najniższe w imperium. W większości urzędach pracowali emigranci, czyli głównie Hindusi.
ArGut @tomasz-kurowski | |
13 maja 2021 16:04 |
Fraza "going postal" wpasowuje się w aferę pocztową. Książka Terrego Prachetta o tym tytule pojawiła się w "wesołej brytani" w 2004 roku. Aż się chce połączyć kropeczki w tym obrazie. Im starszy i dojżalszy system tym komputery popełniają więcej niewymuszonych błędów.
Niewymuszony błędy widocznie będą nieodłącznym atrybytem systemów sztucznej inteligencji.
tomasz-kurowski @stanislaw-orda 13 maja 2021 14:57 | |
13 maja 2021 19:28 |
Brzmi jak dobrze przeprowadzona kontrola i skuteczne dochodzenie. Czy nie lepiej byłoby głębiej zawierzyć systemowi i pooskarżać parę osób o kradzież? :)
tomasz-kurowski @Matka-Scypiona 13 maja 2021 15:35 | |
13 maja 2021 19:29 |
Niewykluczone, że chodzi o te wspomniane franczyzy, bo tutejsze małe sklepiki na rogu prowadzą właśnie - aż stereotypowo - Hindusi.
stanislaw-orda @tomasz-kurowski 13 maja 2021 19:28 | |
13 maja 2021 19:43 |
Jak wiadomo, "system" przerabia jedynie to, co do niego wrzucono.
Nota bene, była to spółka brytyjska (oddział w Polsce, parę lat temu wyniosła się z nadwiślańskiego kraju, a swój segment rynkowy odsprzedała innemu chętnemu), zatem sami dla siebie chcieli dowiedzieć się, gdzie i jaki pies został pogrzebany.
tomasz-kurowski @ArGut 13 maja 2021 16:04 | |
13 maja 2021 19:47 |
Jedna z ostatnich udanych książek Pratchetta i sporo było tam i o komputeryzacji, albo przynajmniej o internecie. Jeśli chodzi o same systemy, to niestety im wyższa złożoność, tym łatwiej przychodzi ludziom traktowanie ich jako czarnych skrzynek.
Dodam pokrewnie z mojej działki. Jestem bioinformatykiem i większość mojej pracy ma charakter interdyscyplinarny, to znaczy - po ludzku - jako człowiek wyspecjalizowany w algorytmach i narzędziach analizy wielkich ilości danych biologicznych jestem w stałym kontakcie z biologami wyspecjalizowanymi we własnych dziedzinach. Ich specjalizacja i doświadczenie, wsparte naszymi analizami, pozwalają nam wspólnie rozwiązywać różne problemy biologiczne. Są jednak przy takiej współpracy różne problemy, z których bardzo charakterystycznym jest to, że - jak zdarza się zażartować bioinformatykom - "biolodzy naprawdę wierzą w te nasze wyniki". To znaczy każda analiza jest zawsze obarczona jakimś błędem statystycznym, choćby czysto losowym błędem pomiarowym. Przy setkach milionów pomiarów i wielkiej złożoności problemów miewa to znaczący wpływ na wyniki i niekoniecznie łatwo jest zrozumiale przekazać próbującemu rozumować na ich podstawie biologowi, które z wyników są pewne, które bardzo prawdopodobne, a które jedynie bardzo możliwe. Oni najchętniej, dla uproszczenia, uznaliby wszystko za pewnik, a prowadzący analizę również niekoniecznie lubi, gdy mu za nachalnie patrzą na ręce, więc w patologicznej sytuacji on zgrywa czarnoksiężnika, a biolodzy bezkrytycznie przyjmują stworzone czarną magią wyniki z dobrodziejstwem obarczonego błędem inwentarza.
stanislaw-orda @tomasz-kurowski 13 maja 2021 19:47 | |
13 maja 2021 19:53 |
wraz ze wzrostem złożoności obliczeń/wzrostu liczby iteracji) rośnie skala "kwantyzacji" ( niepewności) odnośnie precyzji co do wyniku końcowego, czyli zwiększa się odchylenie od zadanego /oczekiwanego parametru.
Tego nie da się przeskoczyć, gdyż wynika to z samej zasady "nieoznaczoności".
tomasz-kurowski @stanislaw-orda 13 maja 2021 19:43 | |
13 maja 2021 19:56 |
Jak wiadomo, "system" przerabia jedynie to, co do niego wrzucono.
Racja, w zasadzie o tym była też moja ostatnia notka. Co do dociekań to (kogo by się nie chciało obarczyć winą) pewne dobrze na własne potrzeby dociec prawdy, czego zresztą dokonał i opisywany Post Office. Tylko w razie nieodpowiednich wyników dociekań trzeba skutecznej unikać przecieków...
tomasz-kurowski @stanislaw-orda 13 maja 2021 19:53 | |
13 maja 2021 20:08 |
Tak jest i są to zresztą rzeczy mierzalne, lub przynajmniej możliwe do oszacowania. Czasem trudno jest je jednak zrozumiale przekazać. Na przykład przy składaniu genomów, które w formie przedstawionej biologowi są po prostu serią sekwencji biologicznych, pewne fragmenty są obarczone znacznie większą od innych niepewnością bo - powiedzmy - byliśmy w stanie zidentyfikować kolejność fragmentów w chromosomie, ale nie ich orientację. Tak więc dwie pozornie bliskie sekwencje mogą być w istocie bardzo odległe, bo pochodzą z dwóch różnych, sąsiadujących fragmentów, z których jeden (lub oba) zostały w genomie umieszczone w odwrotnej od rzeczywistej orientacji. Jednocześnie sekwencje na tym samym fragmencie są z dużo wyższym prawdopodobieństwem w prawidłowej względnej pozycji i orientacji. Tyle że biolog z reguły nie widzi tych fragmentów, nie interesują go, bo to artefakty procesu tworzenia sekwencji genomu. Interesuje go wynik końcowy.
stanislaw-orda @tomasz-kurowski 13 maja 2021 20:08 | |
13 maja 2021 20:33 |
tout est clair
MarekBielany @stanislaw-orda 13 maja 2021 19:43 | |
13 maja 2021 23:19 |
Rzeczywiście była taka firma (i jest) co prawie osiągnęła poziom monopolu. Chyba się dowiedzieli. Chyba Dwa : piję kawę z kubka tej firmy i widzę na żółtym tle C2H2 i inne takie tam. :)
stanislaw-orda @MarekBielany 13 maja 2021 23:19 | |
14 maja 2021 02:12 |
W Polsce nie miała szansy na osiągnięcie pozycji monopolisty. Zbyt silna była wówczas konkurencja firm niemieckich. No i od dawna juz nie ma jej (tej konkretnej brytyjskiej), bo w 2007 r. w jej polski segment wykupiła spółka amerykańska.
saturn-9 @tomasz-kurowski 13 maja 2021 14:11 | |
14 maja 2021 08:47 |
Aluzyjność tytułu i akapitu wprowadzającego versus sztywny system bazy danych. Było b. dobrze bo zero wypluło.
Do anihilacji nie doszło, przelewy dokonane ale to było tak jak z falą powodziową jednemu zabrało a innemu dało.
Czarna skrzynka wszystko wypluje. Terapia zajęciowa czyli dąsy na algorytmy a wirtualny walec historii działa.
MarekBielany @saturn-9 14 maja 2021 08:47 | |
14 maja 2021 23:27 |
No tak jeszcze się człowiek nie oswoił z technologią M(icro)EMS, a tu już zajawki N(ano)EMS.
A może to tylko trzyma się śladu po igle ?
:)
saturn-9 @MarekBielany 14 maja 2021 23:27 | |
15 maja 2021 07:10 |
"The vaccine does not cause a magnetic response when it's injected," [12.5.21]
Gospodarz wybaczy ten OT.
MarekBielany @stanislaw-orda 14 maja 2021 02:12 | |
15 maja 2021 23:40 |
Tak przypuszczałem. Chyba byłem świadkiem podania pomocnejniemieckiejdłoni (oczywiście w żabio/kijankowej perspektywie).
Nie jestem do końca pewny, czy mówimy o tej samej firmie, ale raczej nie ma znaczenia to jaka marka/szyld ?
stanislaw-orda @MarekBielany 15 maja 2021 23:40 | |
15 maja 2021 23:42 |
British Oxygene Company
MarekBielany @stanislaw-orda 15 maja 2021 23:42 | |
16 maja 2021 00:00 |
BOC nie ale AP.
To raczej tylko są nazwy.
MarekBielany @MarekBielany 16 maja 2021 00:00 | |
16 maja 2021 00:44 |
Najbardziej lakonicznie wspomniana osoba.
stanislaw-orda @MarekBielany 16 maja 2021 00:00 | |
16 maja 2021 09:45 |
Air Products zakupił BOC w 2007 r. (sfinalizowanie transakcji, bo przejmowanie składników majątkowych trawło około roku).
A moja kontrola to był rok 2004.
qwerty @stanislaw-orda 13 maja 2021 19:53 | |
16 maja 2021 17:28 |
bywa, że podczas rozwiązywania wielkich układow równań niewielki 'błąd' [np. efekt obcięcia dokładności] na diagonali skutkuje przedziwnymi zjawiskami numerycznymi, i nieraz takie 'błędy' wywołuje się świadomie/celowo
stanislaw-orda @qwerty 16 maja 2021 17:28 | |
16 maja 2021 20:50 |
wszystko w demokracji jest możliwe (poza zmianami na lepsze)
MarekBielany @stanislaw-orda 16 maja 2021 09:45 | |
16 maja 2021 23:04 |
Daty pasują, ale wektor był zwrócony odwrotnie. Tak to zapamiętałem, może dlatego co działo się plus minus dziesięć lat wcześniej na rynku krzemu. Finansowe startupy dla PV, ropa z Morza Północnego ...
Kiedy będzie lepiej ?
:)
Dzięki !
MarekBielany @tomasz-kurowski | |
16 maja 2021 23:09 |
To tak niedawno zmieniono barwy poczty polskiej.
stanislaw-orda @MarekBielany 16 maja 2021 23:04 | |
17 maja 2021 13:49 |
Ponoć lepiej to już było.
MarekBielany @stanislaw-orda 17 maja 2021 13:49 | |
17 maja 2021 22:57 |
Zawsze byliśmy młodsi (minor).
tomasz-kurowski @tomasz-kurowski | |
10 stycznia 2024 19:17 |
Wskrzeszę na moment tekst uzupełnieniem, że telewizja ITV wyemitowała na początku tego miesiąca czteroodcinkową serię pod tytułem "Mr Bates vs The Post Office", traktującą o opisywanym tu skandalu. Temat stał się nagle medialny, ciężko włączyć radio, by o nim nie usłyszeć, premier Rishi Sunak zapowiedział jakieś kroki legislacyjne, które mają pomóc ofiarom, a wspomniana na końcu tekstu Paula Vennells ogłosiła wczoraj, że zrzeka się tytułu komandora Orderu Imperium Brytyjskiego.
Z natłoku obowiązków nie śledzę tego blisko, ale coś się dzieje.
ArGut @tomasz-kurowski 10 stycznia 2024 19:17 | |
10 stycznia 2024 20:47 |
Profile premiera Rishi Sunaka, z różnych portali od LinkedIn-a po Facebooka piszą, że trzeba wyprostować sprawę ... bo to szkodzi "porządnym urzędnikom" ...