Sztuczna inteligencja w służbie służb

Żyjemy w czasach walki z terroryzmem i przestępczością zorganizowaną. Na co dzień w ramach tej  walki, państwa wykorzystują narzędzia oparte na technologiach teleinformatycznych oraz algorytmach sztucznej inteligencji, które wykorzystywane są w coraz większym stopniu. W kilku wcześniejszych wpisach zwracałem już uwagę na główny kierunek przepływu technologii. W przypadku sztucznej inteligencji, zmiany również płyną z Azji, a konkretnie z Chin. Wdrożony pilotażowo w największych miastach Państwa Środka system oceny obywateli, określany jako system kredytu społecznego (nie mylić z doktryną ekonomiczną, o której pewnie napiszę, ponieważ jej znamiona nosi część aktualnych działań rządów, będących odpowiedzią na zmiany technologiczne) lub systemem zaufania społecznego, wydaje się być realizacją najbardziej mrocznych idei opartych na działaniu nowych technologii, a mających swoje źródło w chęci zapewnienia sprawnego funkcjonowania i odbudowy zaufania obywatela do państwa.  Do końca 2020 roku, program ma być podobno wprowadzony w całych Chinach. Do realizacji założeń systemu wykorzystywana jest sztuczna inteligencja (AI, SI). Wiadomo, że jej zadaniem jest rozpoznawanie osób i ich zachowań oraz przyznawanie i odejmowanie punktów w ramach programu. Punkty można zyskać za zachowania pożądane przez system, natomiast traci się je za działania zdefiniowane jako złe. Są to oczywiście przestępstwa, łamanie przepisów (przechodzenie na czerwonym świetle, palenie w miejscach niedozwolonych, etc.), ale podobno również... kupowanie zbyt dużej ilości gier. Co do zachowań nagradzanych, wiadomo o nich znacznie mniej. Kary stosowane w ramach chińskiego rozwiązania potrafią być bardzo dotkliwe, ponieważ obejmują np. zakazy korzystania z publicznych środków transportu. Ponieważ w celu realizacji założeń chińskiego rozwiązania wykorzystywane są nowe technologie, a w szczególności sztuczna inteligencja, warto przyjrzeć się jej możliwościom, które w połączeniu z innymi technologiami są imponujące, a w niektórych przypadkach wręcz nieprawdopodobne (trochę jak hakowanie komputerów za pomocą dźwięków).

Uwaga! To co opisałem pod spodem, to możliwości jakie posiadają różne algorytmy, opracowane na całym świecie. Nie jest to opis możliwości chińskiej AI.

Przede wszystkim, należy pamiętać, że AI jest programem. Jednym z jej zadań jest rozpoznawanie obrazu - obywatela. Rozpoznawanie obrazu może służyć jak najbardziej pozytywnym rozwiązaniom, eliminującym współczesne cyfrowe patologie. Przykładem mogą być wysiłki Facebook'a, mające na celu eliminację tzw. "revenge porn", czyli filmów i zdjęć, mających na celu np. "odegranie się na byłej". Stosowana w podobny sposób sztuczna inteligencja "nauczyła się"... wyczuwać liczby. Pomimo tego, że chodzi w tym przypadku o rozwiązanie z Niemiec, a nie z Chin, trzeba mieć na uwadze fakt, że jest to forma intuicji. Zresztą o ile dobrze kojarzę, kilka lat temu natknąłem się na jakąś wzmiankę o wykorzystywaniu przez niemieckich śledczych sztucznej inteligencji w celu przewidywania przestępstw (zawsze mnie to zastanawiało - najpierw plotka o wynalazku wykorzystywanym przez służby, a dopiero potem o tym, że w ogóle się pojawił).

Rozpoznawanie obrazu to nie tylko identyfikacja twarzy, chociaż w tym przypadku możliwości są chyba największe (oczywiście biorąc pod uwagę wykorzystanie SI w systemach monitoringu) z uwagi na mnogość cech charakterystycznych, jakie mogą być analizowane w celu identyfikacji konkretnej osoby. Gdyby jednak komuś udało się założyć wystarczająco dobry kamuflaż, pozostaje jeszcze jego sylwetka. Algorytmy zbudowane przez Chińczyków są w stanie ją rozpoznawać i w tym przypadku nie pomoże żaden kostium, ponieważ rozpoznawanie to dotyczy sylwetki w ruchu (można się domyślać, że chodzi o analizę zmian położenia poszczególnych punktów ciała). Oczywiste jest, że najbardziej "widoczne" są osoby z jakimikolwiek niepełnosprawnościami, jednak już sam sposób chodzenia jest cechą charakterystyczną każdego z nas.

Prowadzone w ostatnich latach prace nad AI sprawiły, że pojawiła się jeszcze jedna możliwość jej wykorzystania. Otóż sztuczna inteligencja, na podstawie zapisów rezonansu magnetycznego i elektroencefalogramu jest w stanie dość dokładnie zobrazować ludzkie myśli, odtworzyć sny oraz rzeczy, które sobie tylko wyobrażamy (a jeśli tak, to prawdopodobnie również wspomnienia). Odbywa się to w oparciu o zmiany właściwości magnetycznych hemoglobiny w pobliżu aktywnych neuronów. Zakres możliwości wykorzystania takiej technologii można sobie wyobrazić. Wszelkiego rodzaju terapie związane z leczeniem chorób psychicznych (depresji, uzależnień, itd.), ale także... przesłuchania, wejdą na nowy poziom. W świecie smart, może nie być nawet konieczne wzywanie obiektu zainteresowania na rozmowę (wystarczy przyłożyć magnes do ekranu dotykowego, aby się przekonać). Jeśli weźmie się pod uwagę prace globalnych graczy (np. Facebook'a) nad interfejsem mózg - komputer oraz fakt, że tak naprawdę już teraz z każdej strony otoczeni jesteśmy internetem rzeczy, czuć Orwella i to tak bardzo, że nawet Deep Web nie pomoże (o tym, w którymś z kolejnych wpisów). Orwellowskie "myślozbrodnie" mogą stać się rzeczywistością (pisałem wcześniej o trzech wizjonerach, więc w tym momencie Orwell staje się tym czwartym - najbardziej mrocznym). No ale dość, bo tutaj już "czuć spisek" (na szczęście źródła podane w stopce są weryfikowalne).

Co nasza "cywilizowana" rzeczywistość ma wspólnego z chińskim systemem? Okazuje się, że zaczyna mieć. Można odnieść wrażenie, że Chiny są niejako odsuwane na boczny tor z powodu ostatnich podejrzeń dotyczących firmy Huawei oraz wojny handlowej z USA. Nie zmienia to jednak faktu, że algorytmy wykorzystywane w ramach systemu zaufania społecznego kupowane są przez inne państwa, czego przykładem może być chociażby Australia, gdzie będą one stosowane w celu ustalenia, czy na terytorium kraju nie znajdują się groźni przestępcy lub terroryści. Poza tym nie tylko Chińczycy tworzą sztuczną inteligencję. W Polsce, według najnowszych doniesień, system rozpoznawania postaci i mowy ma być wprowadzony nawet w senacie (teoretycznie - polityków też nie ominie). Sztuczna inteligencja może okazać się skutecznym narzędziem w walce z przestępczością, a w przypadku polityków, np. z korupcją. Może również usprawniać działanie instytucji państwowych tak jak w Estonii, gdzie to właśnie algorytmy będą miały za zadanie obróbkę danych dotyczących spraw w sądach.

Istnieją olbrzymie zagrożenia związane z wykorzystywaniem AI, bo przecież każdy kij ma dwa końce. Po pierwsze, należy mieć na uwadze możliwości hakerów, o których pisałem w poprzednim wpisie, chociaż w tym obszarze i tak przodują ośrodki naukowe. Po drugie, trzeba pamiętać o tym, że mający budować zaufanie do instytucji państwowych system, może działać wybiórczo. Tutaj znowu przykład z Chin, gdzie zaprzestano wykorzystywać algorytmy SI wykrywające korupcję (co nie zmienia faktu, że dzięki oficjalnemu systemowi, Państwo Środka jest chyba najbardziej transparentnym krajem, jeśli chodzi o inwigilację obywateli). Po trzecie, nieprzemyślana konstrukcja kar i nagród oraz ciągła inwigilacja może prowadzić do spychania znacznej części obywateli po równi pochyłej w kierunku społecznej degradacji, uderzając jednocześnie w popyt wewnętrzny, czego przykładem mogą być zakazy korzystania z niektórych usług, a więc zahamowanie związanych z tym płatności. To już uderza w gospodarkę. Zresztą system sam w sobie, może okazać się trawiącym państwa gospodarczym pasożytem, ponieważ przyczyniając się do rozbicia "szarej strefy" zlikwiduje nie tylko przestępczość, ale także element niwelujący błędy legislacyjne i równoważący rynek poprzez dostarczanie dóbr deficytowych (patrz: PRL) i regulację poziomu cen towarów, w przypadku których ktoś przesadził chociażby z opodatkowaniem. Ogólnie rzecz biorąc - broń obosieczna, która zamiast usprawnić działanie państw i instytucji, może uderzyć w nie same, na czym skorzystają tylko nieliczni. Nikt w tym przypadku nie jest w stanie dać nikomu na nic jakiejkolwiek gwarancji.

Źródła:
G. Stech, "Permanentna inwigilacja, czyli scoring po Chińsku", computerworld.pl
M. Kawalec-Segond, "Sztuczna inteligencja została wyposażona w intuicję", tvp.info
"Facebook nie pozwoli mścić się na byłych partnerach. Koniec z pokazywaniem ich nagich zdjęć", antyradio.pl
"Sztuczna inteligencja. Algorytmy pozwalają już na identyfikację człowieka po sposobie chodzenia i sylwetce", pulshr.pl
A. Stando, "Chinski system oceny obywateli na sprzedaż. Australijczycy kupili kontrowersyjne oprogramowanie", tech.wp.pl
"Senat chce wprowadzić sztuczną inteligencję", wiadomości.onet.pl
"Robot zastąpi sędziego? Estonia robi pierwszy krok", pulshr.pl
Grafika: Pixabay