-

tomasz-kurowski : człowiek od genomów ([email protected])

Komputer mówi - łapaj złodzieja!

W emitowanym kilkanaście lat temu brytyjskim serialu komediowym "Mała Brytania", będącym w zasadzie serią dość ordynarnych skeczy, przewijała się grana przez Davida Walliamsa postać Carol Beer, uosabiająca najgorsze wady nieżyczliwej urzędniczki. Zwykła ona zbywać petenta paroma stuknięciami w klawiaturę i nie pozostawiającą pola do dyskusji odpowiedzą, że "komputer mówi nie", utrwaloną w powszechnej brytyjskiej świadomości w sensie podobnym do naszego "nie mamy pańskiego płaszcza i co pan nam zrobi".

Pisałem niedawno o sztucznej inteligencji, dzieląc się własnymi doświadczeniami i opinią, że najważniejsze związane z nią zagrożenia są raczej przyziemnej natury, tym jednak groźniejszej od wydumanych scenariuszy z dziedziny science fiction, że nie wymagającej równie wydumanych postępów naukowych. Miejscowa rzeczywistość przypomniała zaś ostatnio o stanowiącym niezły przykład podobnych zagrożeń skandalu, który chciałbym nieco przybliżyć, bo w Polsce chyba mało kto o nim słyszał, a zresztą i w Wielkiej Brytanii nie mówi się o nim za wiele.

Oto od roku 2000 brytyjskim Post Office wstrząsała nieustająca fala kradzieży, tudzież oszustw księgowych, a najdelikatniej - przypadków nieścisłości wskazujących na wyprowadzenie z systemu sporych sum pieniędzy. Post Office Ltd to stanowiąca część państwowej Poczty Królewskiej firma odpowiadająca za prowadzenie sieci tysięcy rozsianych po kraju punktów usług pocztowych i to właśnie z tych placówek znikało - jak wskazywał system - po kilka do kilkudziesięciu tysięcy funtów. Wewnętrzne dochodzenie uznało za winnych kierowników i pracowników placówek, z których ponad siedmiuset wytoczono procesy. Przekonywano ich do przyznania się do oszustw księgowych celem uniknięcia poważniejszego i mogącego skutkować więzieniem oskarżenia o kradzież. Część i tak trafiła do więzienia, niektórzy próbując pokryć braki pozaciągali prywatne kredyty, zdarzyło się też co najmniej jedno samobójstwo.

Decydujący zwrot akcji nastąpił w roku 2014, kiedy wyciekł wewnętrzny raport, sporządzony dla Post Office przez firmę Second Sight. Raport identyfikował prawdziwych sprawców nieścisłości: błędy w stworzonym przez Fujitsu systemie informatycznym Horizon, zawiadującym transakcjami placówek Post Office od 1999 roku. Post Office wprawdzie nakazał Second Sight zakończenie dochodzenia i zniszczenie materiałów, a także opublikował własny raport oczyszczający się z jakichkolwiek nieprawidłowości, ale sprawa się wydała. Powodowie i pozwani zamienili się w sądzie miejscami, a Post Office zapłacił pod koniec 2019 roku 58 milionów funtów odszkodowania 550 byłym pracownikom, którzy wytoczyli mu pozew zbiorowy (Bates & Others v Post Office Ltd).

Sprawy o uchylenie wcześniejszych wyroków skazujących toczyły się jednak dłużej i ostatecznie dopiero w kwietniu obecnego roku uchylono wyroki trzydziestu-dziewięciu ze skazanych kierowników placówek. W grudniu zeszłego roku uchylono sześć innych wyroków, a dwadzieścia-dwie podobne sprawy wciąż są w toku. Anglikańska duchowna Paula Vennells, która była szefem Post Office między rokiem 2012 a 2019, została pod koniec 2019 roku - "za zasługi dla Post Office i działalności charytatywnej" - komandorem Orderu Imperium Brytyjskiego. Z kolei jej następca Nick Read zapowiedział w kwietniu, że Horizon zostanie wkrótce zastąpiony nowym systemem. Ten już z pewnością będzie nieomylny.



tagi: little britain  post office 

tomasz-kurowski
13 maja 2021 09:46
39     2041    11 zaloguj sie by polubić

Komentarze:

atelin @tomasz-kurowski
13 maja 2021 10:32

Na pudelku było, ale ciekawe.

zaloguj się by móc komentować

gabriel-maciejewski @tomasz-kurowski
13 maja 2021 10:45

Każdy system jest nieomylny dlatego zawiadujący nim ludzie zawsze są na koniec nagradzani ;-)

zaloguj się by móc komentować

saturn-9 @tomasz-kurowski
13 maja 2021 10:46

To był czysty przypadek, bowiem kasa znikała ale nie została przelana na inne konta, tak z tekstu wynika, bo to byłby zamysł.  Taki bieg spraw... +

zaloguj się by móc komentować

Zyszko @tomasz-kurowski
13 maja 2021 12:19

Normalnie jak "afera mięsna" z PRL.

Dobrze, że nikogo nie powiesili (chociaż dla tego samobójcy marna pociecha) ani nawet nie wykastrowali. Że też nikomu nie dało do myślenia, że kilkaset osób w tym samym czasie w różnych miejscach zdecydowało się kraść. To znaczy, że albo ktoś bardzo  potrzebował tej afery, albo masowe podkradanie  (jak w PRL) jest w Królestwie  częścią systemu.

zaloguj się by móc komentować


tomasz-kurowski @atelin 13 maja 2021 10:32
13 maja 2021 14:06

Sugerowałem się niewiedzą kolegów, którzy widać nie czytają pudelka, ale myślę, że nie szkodzi jak najszerzej wspominać o takich wpadkach. Może powinienem był pisać wcześniej, bo nowości w sprawie wypłynęły niecały tydzień po mojej poprzedniej notce. W każdym razie lubię mieć takie historie na podorędziu, choćby na wypadek gdyby któremuś z kolegów znowu uwidziało się, że tylko w tej okropnej Polsce są afery. Podobnie skatalogowałem sobie na przykład sprawę lotniska Berlin Brandenburg, o której parę lat temu pisał valser.

zaloguj się by móc komentować

tomasz-kurowski @saturn-9 13 maja 2021 10:46
13 maja 2021 14:11

Z tego co się orientuję problem polegał głównie na "gubionych" lub - przeciwnie - dublowanych przez system operacjach, co wynikało różnorodnie z problemów z łączem, przerwach w dostawach prądu i podobnych czynników. Podliczenie wszystkiego ręcznie i porównanie danych po obu stronach umożliwiałoby ich weryfikację i identyfikację faktycznego problemu, ale zamiast tego przyjmowano za pewnik, że system ma rację.

Dałoby się z pewnością dużo bardziej szczegółowo opisać sprawę, ale przyznam się, że znowu notka powstała jedynie jako przydługi komentarz do poprzedniej.

zaloguj się by móc komentować

tomasz-kurowski @gabriel-maciejewski 13 maja 2021 10:45
13 maja 2021 14:13

To jest punkt w połowie drogi, gdzie spotykają się i serdecznie ściskają najgorsze tendencje owych zawiadowców i informatyków. Ci ostatni, jako ścisłowcy, z natury lubiący rozwiązania proste i eleganckie, na widok wielkiego, brzydko połatanego systemu zawsze pragną wyrzucić wszystko na śmietnik i stworzyć od zera nowy, piękny, koncepcyjnie klarowny system. Tyle że każda łata i nieelegancka poprawka to ślad po - wykrytym "w praniu" i z wysiłkiem naprawionym - realnym problemie, może i grubej aferze. Znajdą się takie i w nowym systemie i on też obrośnie podobną patyną. Nowy system, nowe problemy, nowe afery, nowe łaty, nowe ordery i tak się ten interes kręci. Za to faktyczny problem wspomniany powyżej, to jest nadmierne zaufanie wobec systemu, systemowo zostaje pominięty. Albo i spotęgowany.

zaloguj się by móc komentować

tomasz-kurowski @Zyszko 13 maja 2021 12:19
13 maja 2021 14:17

Te punkty pocztowe Post Office działają na zasadzie jakby franczyzy i są z reguły podczepione do lokalnych sklepików i podobnych punktów usługowych, więc może uznawano za normę, że drobni ciułacze-franczyzobiorcy czasem kradną i trzeba ich bić po łapach.

zaloguj się by móc komentować

stanislaw-orda @tomasz-kurowski 13 maja 2021 14:17
13 maja 2021 14:57

Taki przykład .

Naście lat temu robiłem  kontrolę w pewnej zagranicznej firmie, w której jednym z  segmentów produkcji była sprzedaż butli z gazami technicznymi poprzez sieć  agencji terenowych. Problem polegał na tym, iż wskazania  systemu elektronicznego, zawiadującego dystrybucją i logistyką nie zgadzały się z faktycznymi stanami magazynowymi produktów. I nikt nie wiedział , gdzie się podziewa ok. 10 procent z kilkuset tysięcznej ilości butli będących w obrocie (pełne były dostarczane do odbiorców, a puste wracały do ponownego napełnienia). Wywoływało to perturbacje grożące nawet zrywaniem kontraktów przez odbiorcę i płaceniem dlań odszkodowań za towar niedostarczony w zamówionym terminie lub nie takiej, jak wynikająca z umowy o dostawach ilości.  

Czyli system wykazywał, ze np. jest 800 butli z acetylenem do odbioru w Brzegu (Opolszczyzna), spedycja wysyłała tam transport, który miał te butle zabrać i rozwieźć po najbliższych lokalizacyjnie agencjach. Po dotarciu do zakładu w Brzegu okazywało się , ze jest na magazynie np. tylko 400 butli.

Stres, bałagan i łatanie sytuacji dostawami w trybie awaryjnym z innych punktów, co  wprowadzało elementy destrukcji w grafiku  dostaw na dany dzień.

Powód okazał się prozaiczny. Kierowcy rozwożący butle po punktach odbioru (agencje terenowe) , czasami z przyczyn losowych (objazdy, awarie samochodów itp. ) nie dostarczali części butli, bo dojechali za późno, gdy agencje zostały zamknięte, a nie zawsze istniały możliwości pozostawienia towaru (pod brama takiego punktu) i powracali z nimi do bazy produkcyjnej. Butle były przekazywane do magazynu, a kierowca powinien był wpisać w system, ile i jakich butli zwraca. Ale bywało tak, że kierowca wracał późno, był zmęczony, niekiedy miał nerwowa rozmowę z kierownikiem zmiany spedycyjnej, albo jeszcze „awanturujący” telefon od zony i w efekcie „zapomniał” wpisać to, co przywiózł, a w międzyczasie jego „zwrotka” (z bramy wjazdowej)  została przykryta zwrotkami innych kierowców. Stan magazynowy różnił się w ten sposób od stanu wskazywanego przez „komputer’. Jeśli wracało iluś kierowców  i każdy z nich miał zwroty, to jeśli tylko, co któryś nie wpisał, albo z pośpiechu wpisał niedokładnie, różnice po pewnym czasie kumulowały się do istotnych rozbieżności, z konsekwencjami opisanymi wcześniej.
 

zaloguj się by móc komentować

Matka-Scypiona @tomasz-kurowski
13 maja 2021 15:35

Fajny wpis. Już sobie wyobrazilam świat bez gotówki i awarię systemu bankowego. A tak będzie. I będą robić to specjalnie, żeby postawić do pionu niewolników. 

A co do poczty angielskiej. Kilkanaście lat temu zarobki pocztowcow chyba najniższe w imperium. W większości urzędach pracowali emigranci, czyli głównie Hindusi. 

zaloguj się by móc komentować

ArGut @tomasz-kurowski
13 maja 2021 16:04

Fraza "going postal" wpasowuje się w aferę pocztową. Książka Terrego Prachetta o tym tytule pojawiła się w "wesołej brytani" w 2004 roku. Aż się chce połączyć kropeczki w tym obrazie. Im starszy i dojżalszy system tym komputery popełniają więcej niewymuszonych błędów.

Niewymuszony błędy widocznie będą nieodłącznym atrybytem systemów sztucznej inteligencji. 

zaloguj się by móc komentować

tomasz-kurowski @stanislaw-orda 13 maja 2021 14:57
13 maja 2021 19:28

Brzmi jak dobrze przeprowadzona kontrola i skuteczne dochodzenie. Czy nie lepiej byłoby głębiej zawierzyć systemowi i pooskarżać parę osób o kradzież? :)

zaloguj się by móc komentować

tomasz-kurowski @Matka-Scypiona 13 maja 2021 15:35
13 maja 2021 19:29

Niewykluczone, że chodzi o te wspomniane franczyzy, bo tutejsze małe sklepiki na rogu prowadzą właśnie - aż stereotypowo - Hindusi.

zaloguj się by móc komentować

stanislaw-orda @tomasz-kurowski 13 maja 2021 19:28
13 maja 2021 19:43

Jak wiadomo,  "system" przerabia jedynie to, co do niego wrzucono.

Nota bene, była to spółka brytyjska (oddział w Polsce, parę lat temu wyniosła się z nadwiślańskiego kraju, a swój segment rynkowy odsprzedała innemu chętnemu), zatem  sami dla siebie chcieli  dowiedzieć się, gdzie i jaki pies został pogrzebany.

zaloguj się by móc komentować

tomasz-kurowski @ArGut 13 maja 2021 16:04
13 maja 2021 19:47

Jedna z ostatnich udanych książek Pratchetta i sporo było tam i o komputeryzacji, albo przynajmniej o internecie. Jeśli chodzi o same systemy, to niestety im wyższa złożoność, tym łatwiej przychodzi ludziom traktowanie ich jako czarnych skrzynek.

Dodam pokrewnie z mojej działki. Jestem bioinformatykiem i większość mojej pracy ma charakter interdyscyplinarny, to znaczy - po ludzku - jako człowiek wyspecjalizowany w algorytmach i narzędziach analizy wielkich ilości danych biologicznych jestem w stałym kontakcie z biologami wyspecjalizowanymi we własnych dziedzinach. Ich specjalizacja i doświadczenie, wsparte naszymi analizami, pozwalają nam wspólnie rozwiązywać różne problemy biologiczne. Są jednak przy takiej współpracy różne problemy, z których bardzo charakterystycznym jest to, że - jak zdarza się zażartować bioinformatykom - "biolodzy naprawdę wierzą w te nasze wyniki". To znaczy każda analiza jest zawsze obarczona jakimś błędem statystycznym, choćby czysto losowym błędem pomiarowym. Przy setkach milionów pomiarów i wielkiej złożoności problemów miewa to znaczący wpływ na wyniki i niekoniecznie łatwo jest zrozumiale przekazać próbującemu rozumować na ich podstawie biologowi, które z wyników są pewne, które bardzo prawdopodobne, a które jedynie bardzo możliwe. Oni najchętniej, dla uproszczenia, uznaliby wszystko za pewnik, a prowadzący analizę również niekoniecznie lubi, gdy mu za nachalnie patrzą na ręce, więc w patologicznej sytuacji on zgrywa czarnoksiężnika, a biolodzy bezkrytycznie przyjmują stworzone czarną magią wyniki z dobrodziejstwem obarczonego błędem inwentarza.

zaloguj się by móc komentować

stanislaw-orda @tomasz-kurowski 13 maja 2021 19:47
13 maja 2021 19:53

wraz ze wzrostem złożoności obliczeń/wzrostu liczby iteracji) rośnie skala "kwantyzacji" ( niepewności) odnośnie precyzji co do wyniku końcowego, czyli zwiększa się odchylenie od zadanego /oczekiwanego parametru.

Tego nie da się przeskoczyć, gdyż wynika to z samej zasady "nieoznaczoności".

zaloguj się by móc komentować

tomasz-kurowski @stanislaw-orda 13 maja 2021 19:43
13 maja 2021 19:56

Jak wiadomo,  "system" przerabia jedynie to, co do niego wrzucono.

Racja, w zasadzie o tym była też moja ostatnia notka. Co do dociekań to (kogo by się nie chciało obarczyć winą) pewne dobrze na własne potrzeby dociec prawdy, czego zresztą dokonał i opisywany Post Office. Tylko w razie nieodpowiednich wyników dociekań trzeba skutecznej unikać przecieków...

zaloguj się by móc komentować

tomasz-kurowski @stanislaw-orda 13 maja 2021 19:53
13 maja 2021 20:08

Tak jest i są to zresztą rzeczy mierzalne, lub przynajmniej możliwe do oszacowania. Czasem trudno jest je jednak zrozumiale przekazać. Na przykład przy składaniu genomów, które w formie przedstawionej biologowi są po prostu serią sekwencji biologicznych, pewne fragmenty są obarczone znacznie większą od innych niepewnością bo - powiedzmy - byliśmy w stanie zidentyfikować kolejność fragmentów w chromosomie, ale nie ich orientację. Tak więc dwie pozornie bliskie sekwencje mogą być w istocie bardzo odległe, bo pochodzą z dwóch różnych, sąsiadujących fragmentów, z których jeden (lub oba) zostały w genomie umieszczone w odwrotnej od rzeczywistej orientacji. Jednocześnie sekwencje na tym samym fragmencie są z dużo wyższym prawdopodobieństwem w prawidłowej względnej pozycji i orientacji. Tyle że biolog z reguły nie widzi tych fragmentów, nie interesują go, bo to artefakty procesu tworzenia sekwencji genomu. Interesuje go wynik końcowy.

zaloguj się by móc komentować


MarekBielany @stanislaw-orda 13 maja 2021 19:43
13 maja 2021 23:19

Rzeczywiście była taka firma (i jest) co prawie osiągnęła poziom monopolu. Chyba się dowiedzieli. Chyba Dwa : piję kawę z kubka tej firmy i widzę na żółtym tle C2H2 i inne takie tam. :)

zaloguj się by móc komentować

stanislaw-orda @MarekBielany 13 maja 2021 23:19
14 maja 2021 02:12

W Polsce nie miała szansy na osiągnięcie  pozycji monopolisty. Zbyt silna była wówczas konkurencja firm niemieckich. No i od dawna juz nie ma jej (tej konkretnej brytyjskiej), bo w 2007 r. w jej polski segment wykupiła  spółka amerykańska.

 

zaloguj się by móc komentować

saturn-9 @tomasz-kurowski 13 maja 2021 14:11
14 maja 2021 08:47

Aluzyjność tytułu i akapitu wprowadzającego versus sztywny system bazy danych. Było b. dobrze bo zero wypluło. 

 

Do anihilacji nie doszło, przelewy dokonane ale to było tak jak z falą powodziową jednemu zabrało a innemu dało.

 

Czarna skrzynka wszystko wypluje. Terapia zajęciowa czyli dąsy na algorytmy a wirtualny walec historii działa.

zaloguj się by móc komentować

MarekBielany @saturn-9 14 maja 2021 08:47
14 maja 2021 23:27

No tak jeszcze się człowiek nie oswoił z technologią M(icro)EMS, a tu już zajawki N(ano)EMS.

A może to tylko trzyma się śladu po igle ?

:)

zaloguj się by móc komentować

saturn-9 @MarekBielany 14 maja 2021 23:27
15 maja 2021 07:10

"The vaccine does not cause a magnetic response when it's injected," [12.5.21]

Gospodarz wybaczy ten OT.

zaloguj się by móc komentować

MarekBielany @stanislaw-orda 14 maja 2021 02:12
15 maja 2021 23:40

Tak przypuszczałem. Chyba byłem świadkiem podania pomocnejniemieckiejdłoni (oczywiście w żabio/kijankowej perspektywie).

Nie jestem do końca pewny, czy mówimy o tej samej firmie, ale raczej nie ma znaczenia to jaka marka/szyld ?

zaloguj się by móc komentować


MarekBielany @stanislaw-orda 15 maja 2021 23:42
16 maja 2021 00:00

BOC nie ale AP.

To raczej tylko są nazwy. 

zaloguj się by móc komentować


stanislaw-orda @MarekBielany 16 maja 2021 00:00
16 maja 2021 09:45

Air Products zakupił BOC w 2007 r.  (sfinalizowanie transakcji, bo przejmowanie składników majątkowych trawło około roku).

A moja kontrola to był rok 2004.

zaloguj się by móc komentować

qwerty @stanislaw-orda 13 maja 2021 19:53
16 maja 2021 17:28

bywa, że podczas rozwiązywania wielkich układow równań niewielki 'błąd' [np. efekt obcięcia dokładności] na diagonali skutkuje przedziwnymi zjawiskami numerycznymi, i nieraz takie 'błędy' wywołuje się świadomie/celowo

zaloguj się by móc komentować

stanislaw-orda @qwerty 16 maja 2021 17:28
16 maja 2021 20:50

wszystko w demokracji jest możliwe (poza zmianami na lepsze)

zaloguj się by móc komentować

MarekBielany @stanislaw-orda 16 maja 2021 09:45
16 maja 2021 23:04

Daty pasują, ale wektor był zwrócony odwrotnie. Tak to zapamiętałem, może dlatego co działo się plus minus dziesięć lat wcześniej na rynku krzemu. Finansowe startupy dla PV, ropa z Morza Północnego ...

Kiedy będzie lepiej ?

:)

Dzięki !

zaloguj się by móc komentować

MarekBielany @tomasz-kurowski
16 maja 2021 23:09

To tak niedawno zmieniono barwy poczty polskiej.

zaloguj się by móc komentować

stanislaw-orda @MarekBielany 16 maja 2021 23:04
17 maja 2021 13:49

Ponoć lepiej to już było.

zaloguj się by móc komentować


MarekBielany @stanislaw-orda 17 maja 2021 13:49
17 maja 2021 22:57

Zawsze byliśmy młodsi (minor).

zaloguj się by móc komentować

tomasz-kurowski @tomasz-kurowski
10 stycznia 2024 19:17

Wskrzeszę na moment tekst uzupełnieniem, że telewizja ITV wyemitowała na początku tego miesiąca czteroodcinkową serię pod tytułem "Mr Bates vs The Post Office", traktującą o opisywanym tu skandalu. Temat stał się nagle medialny, ciężko włączyć radio, by o nim nie usłyszeć, premier Rishi Sunak zapowiedział jakieś kroki legislacyjne, które mają pomóc ofiarom, a wspomniana na końcu tekstu Paula Vennells ogłosiła wczoraj, że zrzeka się tytułu komandora Orderu Imperium Brytyjskiego.

Z natłoku obowiązków nie śledzę tego blisko, ale coś się dzieje.

zaloguj się by móc komentować

ArGut @tomasz-kurowski 10 stycznia 2024 19:17
10 stycznia 2024 20:47

Profile premiera Rishi Sunaka, z różnych portali od LinkedIn-a po Facebooka piszą, że trzeba wyprostować sprawę ... bo to szkodzi "porządnym urzędnikom" ...

zaloguj się by móc komentować

zaloguj się by móc komentować