Społeczeństwo nadzorowane — zarys problemu

Transkrypt

Społeczeństwo nadzorowane — zarys problemu
Piotr Grabowiec
Uniwersytet Wrocławski
Bogusław Piechota
Wyższa Szkoła Bankowa we Wrocławiu
Społeczeństwo nadzorowane
— zarys problemu
Abstrakt: Celem artykułu jest scharakteryzowanie złożonego zjawiska społeczno-politycznego, określonego teoretycznym pojęciem „społeczeństwo nadzorowane”. Do podjęcia próby rekonstrukcji oraz uwarunkowań i przyczyn zjawiska „społeczeństwa nadzorowanego” skłoniły autorów przekonanie o pojawianiu się coraz bardziej spektakularnych przejawów jego funkcjonowania, zagrażających
wolności obywatelskiej i szerzej: demokracji partycypacyjnej i społeczeństwu obywatelskiemu.
Przedstawione w artykule rozważania dotyczące społeczeństwa nadzorowanego mają w pewnym sensie charakter sygnalny. We współczesnej Europie problem społeczeństwa nadzorowanego
jest wciąż stosunkowo nowy, a zagadnienia dotyczące go nie są rozwiązywane kompleksowo. Nie
tylko Europa, lecz cały zglobalizowany świat stoi przed wielkimi wyzwaniami, jakie przynosi technologia pozwalająca odebrać człowiekowi jego prywatność, wolność, własność i prawo do obrony
wobec „płynnej inwigilacji”. Rozwiązywanie tych problemów jest wyzwaniem przyszłości, ale już dziś
trzeba szukać rozwiązań politycznych, prawnych i instytucjonalnych, które obronią człowieka przed
omnipotencją wszelkiej władzy.
Słowa kluczowe: społeczeństwo nadzorowane; demokracja; społeczeństwo obywatelskie
Surveillance society — outline of the problem
Abstract: The purpose of this article is to specify the complex social phenomenon, defined
as surveillance society. Its strong manifestation within society should be considered a threat to the
civil liberty; in a broad sense it is a threat to participatory democracy and civil society. These are the
reasons that convinced the author to attempt a reconstruction of the causes of this phenomenon and
analysis of its conditions.
In a certain sense, reflections presented in this article are of a warning character. In modern
Europe the issue of surveillance society can be considered a recent problem. However, it is not only
Europe, but the whole globalized world that is facing major challenges which are brought with technology that allows for taking away people’s privacy, freedom, property and right to defence against
“floating surveillance.” Resolving this issue is a challenge of the future, but nonetheless, to save individuals from the omnipotence of authority — political, legal and institutional solutions should be
searched for now.
Keywords: surveillance society, democracy, civil society
Rocznik Europeistyczny
Rocznik Europeistyczny 1, 2015
© for this edition by CNS
Księga_RE_1.indb 49
1
49
2015-09-08 13:14:30
Piotr Grabowiec, Bogusław Piechota
Wprowadzenie
Współczesny świat cywilizacji naukowo-technicznej oferuje człowiekowi
coraz nowocześniejsze formy „przeżywania życia” zarówno w obszarze prostej
konsumpcji, globalnej komunikacji, jak i wreszcie kondycji biologicznej (przedłużanie życia). Tym w zasadzie pozytywnym tendencjom towarzyszy zagrożenie
ograniczenia podstawowych praw podmiotowych człowieka i utrata kontroli nad
ośrodkami władzy, które coraz częściej nie są wynikiem funkcjonowania demokratycznych procedur. Możliwości technologiczne w coraz większym stopniu stają się
narzędziem nadmiernej kontroli życia prywatnego ze strony instytucji państwowych oraz prywatnych ośrodków dysponujących odpowiednią wiedzą techniczną. Zagrożenie bezpieczeństwa, jakie ujawniły wydarzenia z 11 września 2001 r.,
skłoniły władze państwowe do wzmocnienia inwigilacji obywateli, ingerując bardzo drastycznie w sferę prywatną. Przedstawiciele władzy przekonują społeczeństwo, że ceną za poczucie bezpieczeństwa jest ograniczenie sfery prywatnej. Obok
wykorzystywania sieci teleinformatycznych do nadzoru, coraz częściej stykamy
się z procederem bezprawnego przechowywania danych osobowych czy danych
medycznych. Coraz częściej stosuje się też monitoring wizyjny (CCTV — closed
circuit television) miejsc publicznych (ogrody, place, ulice, wnętrza budynków),
czego powodem jest rzekome dbanie o bezpieczeństwo zwykłego obywatela.
Zdaniem Zygmunta Baumana i Davida Lyona globalna rzeczywistość ponowoczesnego świata sprawia, że inwigilacja, która była dotąd najczęściej narzędziem
w ręku władzy państw narodowych, nabrała nowego wymiaru. Jak twierdzą autorzy Płynnej inwigilacji:
nowoczesne społeczeństwa wydają się dzisiaj tak amorficzne, że uzasadnione jest
określenie obecnej fazy ich rozwoju mianem „płynnej”. Współcześni obywatele,
pracownicy, konsumenci, przenoszący się z miejsca na miejsce i żyjący w nieustannym ruchu, często w poczuciu niepewności i braku trwałych więzi, zdają sobie
sprawę, że ich ruchy są monitorowane, obserwowane i śledzone. Nawet płynność
podlega inwigilacji1.
Jeżeli nawet diagnoza Baumana o płynnej nowoczesności jest w pewnym stopniu przesadzona, to na pewno nie można nie dostrzegać znaczenia zmian, jakie
nowoczesnym społeczeństwom przyniosły „globalna wioska cyfrowa” oraz globalny transport komunikacyjny. „Drugie życie sieci”, jak przekonuje Dider Lombard,
może i okazuje się ważne
w dziedzinie ochrony zdrowia oraz opieki zdrowotnej i społecznej. Przykładowo, pacjenci dotknięci chronicznymi schorzeniami (choćby cukrzycą) będą mieli
możliwość ciągłej transmisji danych biometrycznych przez telefon. Chorzy na Alzheimera będą mogli być na bieżąco geolokalizowani przez swoich bliskich, żeby
uniknąć ewentualnego zagubienia2.
1
2
50
Księga_RE_1.indb 50
Z. Bauman, D. Lyon, Płynna inwigilacja. Rozmowy, Kraków 2013, s. 5.
D. Lombard, Globalna wioska cyfrowa, Warszawa 2009, s. 240–241.
Rocznik Europeistyczny 1, 2015
© for this edition by CNS
2015-09-08 13:14:30
Społeczeństwo nadzorowane — zarys problemu
Ale zdobywanie i przechowywanie wiedzy o pacjencie może prowadzić do nadużyć, kiedy informacje stają się własnością firm ubezpieczeniowych lub potencjalnych pracodawców. Jak można zauważyć, większość, jeżeli nie wszystkie dzieła cywilizacji technicznej, zarówno służą człowiekowi w usprawnianiu życia, jak i mogą
stawać się czynnikiem je dehumanizującym. To zależy od naszej ludzkiej kondycji,
od świadomości społeczeństw i ich elit. Jak zauważa raport Agencji Praw Podstawowych (Fundamental Rights Agency), organizacji zajmującej się monitorowaniem przestrzegania praw obywatelskich w Unii Europejskiej, „ofiary naruszeń
prawa do ochrony danych osobowych często nie są świadome funkcjonowania
systemu chroniącego autonomię informacji. Obywatele nie wiedzą też, do kogo
mają się zgłaszać w przypadku ograniczenia swojej prywatności”3. W krajach UE
istnieją ustawy regulujące ochronę danych osobowych. Ramami ogólnymi była,
i formalnie nadal jest, dyrektywa 95/46/WE. Obecnie trwają prace nad dostosowaniem jej zapisów do wciąż zmieniających się uwarunkowań technologicznych oraz
gry interesów politycznych i biznesowych. Afera podsłuchowa, jaka rozpoczęła
się od informacji udzielonych przez Edwarda Snowdena, zmusza przedstawicieli różnych opcji politycznych w Parlamencie Europejskim do zbliżenia stanowisk
i przyspieszenia prac nad nową dyrektywą.
1. Geneza i podstawowe teorie
społeczeństwa nadzorowanego
Rozwój cywilizacji naukowo-technicznej, jaki rozpoczął się wraz z erą nowożytności, miał swe źródła w filozofii oświecenia opartej na racjonalizmie Kartezjusza, prawach natury, zwłaszcza szkockiej szkoły prawno-moralnej: Johna
Locke’a, Dawida Hume’a czy ideach Francisa Bacona, który w swej utopii Nowej
Atlantydy wyraził nadzieję na „rozszerzenie granic władztwa ludzkiego” w świecie
natury, wskazując kierunek zmian, jakim pójdzie człowiek zachodu4. Czynienie
sobie „ziemi poddanej” sprawiło, że nie tylko „rozszerzyliśmy granice” naszego
władania, lecz, jak przekonywała Hannah Arendt, wraz z wystrzeleniem pierwszego satelity staliśmy się „jakby” mieszkańcami wszechświata. Odrywając się od
Ziemi, której częścią byliśmy, przez naukę stworzyliśmy świat pojęć, których nie
potrafimy przetłumaczyć, tak aby nadawały się „do normalnego wyrażania ich
w mowie i myśli”. Toteż dalej Arendt konstatuje:
W takim przypadku nasz mózg, stanowiący fizyczne, materialne uwarunkowania
naszych myśli, byłby jak gdyby niezdolny nadążać za tym, co robimy, i odtąd
rzeczywiście potrzebowalibyśmy sztucznych urządzeń, które by za nas myślały
i mówiły […], stalibyśmy się w istocie bezsilnymi niewolnikami nie tyle naszych
3 J. Niklas, Agencja Praw Podstawowych: brakuje świadomości nt. ochrony danych osobowych,
http://panoptykon.org (dostęp: 5 lutego 2014).
4 F. Bacon, Nowa Atlantyda, Warszawa 1954, s. 113.
Rocznik Europeistyczny 1, 2015
© for this edition by CNS
Księga_RE_1.indb 51
51
2015-09-08 13:14:31
Piotr Grabowiec, Bogusław Piechota
maszyn, ile naszego wiedzieć-jak, bezmyślnymi istotami na łasce każdego urządzenia, które jest technicznie możliwe, bez względu na to, jak dalece byłoby zabójcze5.
Społeczeństwo nadzorowane to takie społeczeństwo, w którym nadzór staje się
coraz bardziej wszechobecny i coraz więcej sfer życia podlega systematycznej
i zorganizowanej kontroli. Nadzór jest sprawowany przez państwo, ale też instytucje ponadnarodowe oraz podmioty prywatne.
Stało się tak, ponieważ rozwój techniczny oderwał się od swych oświeceniowych korzeni i zaczął rozwijać się paralelnie do filozofii, która oderwała się od
szkoły natury i podporządkowała systemy etyczne i prawne „racjonalnemu prawodawcy” — władztwu państwa.
To Jeremy Bentham wyprowadził liberalizm z systemu prawa natury, uznając
racjonalne prawodawstwo za jedyne źródło prawa, które reguluje działania jednostek i społeczeństwa. Prawo to wola władzy (suwerena), innymi słowy państwa,
wyrażona w odpowiedniej formie, sterująca za pomocą dyrektyw ludzkimi zachowaniami. We Wprowadzeniu do zasad moralności i prawodawstwa uznał on,
że prawo racjonalne jest normą opartą na rachunku korzyści z dwóch rodzajów
władzy, jakie kierują ludzką naturą: „przyjemności” i „przykrości”. Racjonalność
prawodawstwa każe kalkulować, która władza jest bardziej użyteczna, to znaczy,
która dąży do maksimum szczęścia dla możliwie największej liczby ludzi. Przy
tym pomocniczą kategorią jest „interes” bezpośrednio związany z posiadaniem,
własnością — ostateczną instancją korzyści, a tym samym użyteczności, podstawy
utylitaryzmu. Prawo ma pomóc ludziom w podejmowaniu przez nich działań, zrozumieniu przez jednostki ich interesu i poprawnej kalkulacji: jakie działanie jest
dobre, jakie działanie zwiększa sumę przyjemności i zmniejsza sumę przykrości;
z przyjemności niekiedy trzeba zrezygnować, gdy kalkulacja wykaże, że przyjdzie
za nią zapłacić bardziej dotkliwą przykrością. Ponieważ nie każda jednostka jest
w stanie racjonalnie kalkulować i dostrzegać perspektywiczną przyjemność, prawo
ma jej w tym pomóc, przy użyciu dyrektyw, a także karania ze ich nieprzestrzeganie — ludzi czasem trzeba przymusić do właściwego rozumowania, kalkulowania
w kategoriach „przyjemności” „przykrości”, „interesu”, jednym słowem — utylitaryzmu, który dał władzy państwowej prawo nieograniczonej ochrony własności,
nawet kosztem ograniczenia wolności.
Nauczaniu owej kalkulacji szczególnie „opornych” jednostek, w s z e l k i e g o
r o d z a j u o s ó b , k t ó r e w i n n y s i ę z n a j d o w a ć p o d n a d z o r e m, miał
służyć system panoptikon (panopticon; gr. pan = wszystko; optikos = widzieć), opisany w pracy: Panoptikon albo Dom Nadzoru opisujący ideę nowych zasad budowy
wszelkich zakładów, w których wszelkiego rodzaju osoby winny się znajdować pod
nadzorem, w szczególności więzień, ale też aresztów, fabryk, warsztatów, przytułków,
5
52
Księga_RE_1.indb 52
H. Arendt, Kondycja ludzka, Warszawa 2000, s. 7.
Rocznik Europeistyczny 1, 2015
© for this edition by CNS
2015-09-08 13:14:31
Społeczeństwo nadzorowane — zarys problemu
lazaretów, manufaktur, szpitali, domów wariatów i szkół… (1787). Z tytułu wynika,
że wymyślona przez Benthama konstrukcja budynku umożliwiającego służbom
nadzoru obserwację znajdujących się w nim ludzi, tak by nie wiedzieli, czy i kiedy
są obserwowani, nie miała tylko dotyczyć więzień. Co ciekawe, Bentham planował
ukrycie służb nadzoru za weneckimi lustrami umieszczonymi w punktach obserwacyjnych — obecnie funkcje tych luster zastąpiły kamery telewizyjne.
Panoptikon to wywodzący się ze starożytnej greki neologizm zastosowany do
określenia projektu więzienia, jaki stworzony został przez Jeremy’ego Benthama. Walory architektoniczne tego projektu zapewniały niewidocznemu obserwatorowi podgląd wszystkich więźniów. Termin ten symbolizuje współczesną
debatę nad nadzorem. Stało się tak za sprawą Michela Foucaulta, który przez
figurę panoptikonu udowadniał, że technologie elektroniczne poszerzają zdolności obserwacyjne w takiej mierze, o jakiej Bentham nie mógł nawet marzyć6.
6
Napisana w 1958 roku praca Arendt, można śmiało powiedzieć, antycypowała
przyszłość, wskazując, że rozwój nowych technologii zagrozi kondycji człowieka. Społeczeństwo nadzorowane jest, jak należy sądzić, „złym owocem” z drzewa poznania, „owocem”, którego skutkiem jest coraz większy poziom zaniku sfery
prywatnej człowieka. Państwo, jak również wiele instytucji sektora prywatnego
reprezentowanego przez globalne korporacje transnarodowe (KTN), instytuty badawcze czy organizacje międzynarodowe, w coraz większym stopniu kontroluje
nasze zachowania w różnych wymiarach egzystencji ludzkiej. Ma to cel zarówno
ekonomiczny, jak i polityczny i nieograniczane musi prowadzić do omnipotencji
władzy. Problem w tym, że w świecie globalnym niełatwo wskazać rzeczywiste źródło władzy. Wydaje się ona rozproszona, o charakterze sieciowym, z trudnym dla
obywatela, należącego wciąż jeszcze do państwa narodowego, źródłem lokalizacji7.
Jeśli nie dostrzegamy źródła władzy, w zasadzie nie wiemy, komu się sprzeciwiać,
kto konkretnie decyduje o stopniu przekraczania naszej prywatności. Państwo,
które jeśli rozumieć je nie przez pryzmat instrumentalnie pojmowanych instytucji,
lecz jako wspólnotę polityczną obywateli, winno wspierać „strefę ochronną”, jaka
rozdziela życie prywatne od różnorakich form życia publicznego. Okazuje się jednak, iż państwo, a także instytucje władzy samorządowej, bardziej niż o obywatelską wolność troszczą się o swoje możliwości kontrolowania i podporządkowania
obywateli.
Ta troska ma swoiste podłoże. Z jednej strony pozwala instytucjom władzy na
bycie funkcjonalnymi i skutecznymi, a więc wiarygodnymi w oczach obywatela,
kiedy ma to dotyczyć ich poczucia bezpieczeństwa. Jednocześnie jednak, i to jest ta
druga strona, wiedza władzy o społeczeństwie staje się coraz większa, pozwalając
6
Zob. D. Lyon, Surveillance Studies: An Overview, Cambridge 2007, s. 198–204.
Zob. J. Staniszkis, Władza globalizacji, Warszawa 2003, passim; U. Beck, Władza i przeciwwładza w epoce globalnej, Warszawa 2005, passim.
7
Rocznik Europeistyczny 1, 2015
© for this edition by CNS
Księga_RE_1.indb 53
53
2015-09-08 13:14:31
Piotr Grabowiec, Bogusław Piechota
na zastosowanie jej w celu utrzymania władzy. Społeczeństwo nie ma też właściwych instrumentów kontrolowania sposobów przechowywania, zabezpieczania
i wreszcie wykorzystania informacji o nim. Rozwój masowej komunikacji, zwłaszcza infrastruktury informatycznej, sprawił, że przeciętny obywatel-użytkownik
sieci jest bezbronny zarówno wobec instytucji państwa, które zajmują się jego bezpieczeństwem, jak i, a może przede wszystkim, wobec ingerencji globalnych firm
internetowych, umożliwiających śledzenie naszych zachowań, typowania naszych
skłonności i konsumenckich nawyków.
Synoptikon to neologizm zaproponowany przez Thomasa Mathiesena. Zdaniem
Davida Lyona „synoptikon” „przeciwstawia klasyczny panoptikom, w którym »nieliczni obserwują wielu«, współczesnym mass mediom, w których »wielu obserwuje nielicznych«. Wynika z tego, że panoptikom może dziś znaleźć sprzymierzeńca
w środkach masowego przekazu. Najważniejsze wydaje się jednak to, że zdaniem
Mathiesena żadnej z form obecności panoptikonu w dzisiejszych społeczeństwach
nie da się rozpatrywać w oderwaniu od synoptikonu, już choćby dlatego, że reguły funkcjonowania tego pierwszego wpływają na efekty działania drugiego”8.
8
Błędem byłoby myśleć, że za genezą tego, co określa się jako społeczeństwo
nadzorowane, stoi wyłącznie rozwój naukowo-techniczny. Sama technologia bez
woli nią zarządzających nie mogłaby stanowić zagrożenia dla swoich użytkowników. Jednak potencjalne możliwości, które odsłania, w oczywisty sposób rodzą
pokusę ich wykorzystania do celów godzących w wolność i godność człowieka.
Nie zawsze mamy tu do czynienia ze złą wolą, za którą stoi interes polityczny bądź
ekonomiczny. Idea doskonałego społeczeństwa opartego na inżynierii społecznej nie
była jedynie pomysłem Platona, F. Bacona czy pozytywizmu socjologicznego Augusta Comte’a. W swoich epokach historycznych, adekwatnych do nich uwarunkowaniach technicznych, próbowali oni stworzyć model społeczeństwa doskonałego, bo
regulowanego przez system prawa, przypominającego współczesne społeczeństwo
nadzorowane. Wszyscy oni mieli jednak na uwadze nie „dobro” władzy, lecz dobro
obywateli. Inna sprawa, że niektóre z tych modeli zostały wykorzystane do budowy
systemów totalitarnych, w których system regulacji i nadzoru stał się totalny — permanentna inwigilacja obywateli nie pozostawiała im nawet najmniejszego marginesu wolności. Właśnie w tych systemach elity władzy i ich liderzy traktowali obywateli
przedmiotowo — jako instrumenty urzeczywistniające toksyczne ideologie.
Problem polega na tym, że to, co wydawało się możliwe jedynie w reżimie totalitarnym, bezwiednie, a może czasem zupełnie celowo, staje się udziałem reżimu
demokratycznego. Technologie informacyjne niepostrzeżenie i całkiem legalnie
dały władzy demokratycznej narzędzie sprawowania totalnej kontroli nad społeczeństwem. Sprzeciw wobec społeczeństwa nadzorowanego jest zatem próbą
przywrócenia demokracji właściwego jej katalogu wartości. Te zaś nie mogą być
8
54
Księga_RE_1.indb 54
Z. Bauman, D. Lyon, op. cit., s. 102.
Rocznik Europeistyczny 1, 2015
© for this edition by CNS
2015-09-08 13:14:31
Społeczeństwo nadzorowane — zarys problemu
realizowane bez dobrze funkcjonującego społeczeństwa obywatelskiego i „uczestniczącej” kultury politycznej.
Wraz z rozwojem nowoczesnego państwa rozwija się system zarządzania społeczeństwem przez wyspecjalizowany aparat instytucji. Michael Foucault w swojej pracy Nadzorować i karać. Narodziny więzienia poszukuje źródeł opresyjności
współczesnego państwa. „Panoptyzm”, jak go określa Foucault, czyli stworzony
przez J. Benthama w XVII wieku system nadzoru społeczeństwa, którego początkowym źródłem była konieczność zapanowania nad rozprzestrzenianiem się dżumy i innych chorób zakaźnych, stał się gotowym narzędziem podporządkowania
społeczeństwa. I oto, jak pisze Foucault, mamy sposób
sprawowania władzy nad ludźmi, kontrolowania ich relacji, rozplątywania niebezpiecznych związków między nimi. Zadżumione miasto, na wskroś przeniknięte
hierarchią, nadzorem, spojrzeniem, pisaniem, miasto znieruchomiałe pod wpływem ekstensywnej władzy, która w odmienny sposób wpływa na każde osobne ciało — oto utopia doskonale rządzonej civitatis. Dżuma (przynajmniej póki zostaje
w sferze rojeń) jest próbą, której przebieg pozwala zdefiniować idealne ćwiczenie
władzy dyscyplinarnej9.
Idee panoptikum rozwija Foucault. Termin ten stał się centrum teoretycznej
debaty dotyczącej nadzoru. Koncepcja ta nazwana została „superpanoptikon”
i powiązana ze znaczeniem baz danych oraz nadzorem elektronicznym w miejscu pracy10. Widzimy więc, że zasadniczą kategorią, z jaką wiąże się rozpatrywane zjawisko, jest pojęcie nadzoru. Bardzo dokładnie opisuje to, jak również
całą problematykę społeczeństwa nadzorowanego, raport sporządzony przez
międzynarodowy zespół ekspercki w ramach projektu badawczego11. Autorzy
wskazują, iż o nadzorze możemy mówić, kiedy mamy do czynienia „z celowym,
rutynowym, systematycznym i skonkretyzowanym zwracaniem uwagi na dane
osobowe, na potrzeby kontroli, nadawania uprawnień, zarządzania, wpływania
lub ochrony”12.
Problem nadzorowania zaczął być dostrzegalny wraz z procesem komputeryzacji firm w latach 70. Pojęcia „społeczeństwo nadzorowane” zaczęto jednak
używać dopiero w latach 80. Odwoływano się przy tym do prac Maxa Webera
i jego „biurokratycznej kontroli społecznej”, interpretując oczywiście jego słowa przez pryzmat roli technologii cyfrowych. Dziś wydaje się, że aby zrozumieć
problematykę społeczeństwa nadzorowanego, należy wyjść poza perspektywę
weberowską,
9
M. Foucault, Nadzorować i karać. Narodziny więzienia, Warszawa 1998, s. 239.
D. Lyon, op. cit., s. 201–202.
11 Raport o społeczeństwie nadzorowanym, opracowany przez Surveillance Studies Network na
potrzeby brytyjskiego Rzecznika ds. Informacji w roku 2006, http://www.giodo.gov.pl/268/id_art/2033/j/pl/ (dostęp: 14 marca 2013).
12 Ibidem, § 3.1.
10
Rocznik Europeistyczny 1, 2015
© for this edition by CNS
Księga_RE_1.indb 55
55
2015-09-08 13:14:31
Piotr Grabowiec, Bogusław Piechota
ponieważ dzisiejsze społeczeństwo nadzorowane jest nie tylko zaawansowane technologicznie, ale już dawno przekroczyło granice państwa i weszło do korporacji,
komunikacji a nawet rozrywki […]. Nadzór jest nierozłączny z tym, co nazywamy
„kierowaniem”. Ma znacznie szerszy zakres niż działanie rządów; „państwo komputerowe” jest już dziś przestarzałą ideą. Kierowanie odnosi się do różnych metod
sterowania społeczeństwem i regulowania jego życia. Oznacza kontrolę dostępu,
możliwości i szans, a nawet pomaganie w dokonywaniu wyborów, często z wykorzystaniem danych osobowych w celu określenia, kto co dostaje. Praktyki urzędnicze zbyt często zastępują zasady etyczne13.
Jak sądzi David Lyon, świat zmierza dopiero ku rzeczywistości, w której nasze
codzienne życie podlega nieustannemu nadzorowi. Ludzie są w coraz większym
stopniu uzależnieni od technologii komputerowych. W miejscu pracy technologie
nie tylko wymagają od nas klucza dostępu, lecz także śledzą nasze zachowania,
identyfikują miejsce przebywania. Nadzór stał się wszechobecny i rozumiany jako
coś zupełnie naturalnego w dzisiejszym świecie. Pojawia się w wielu sferach życia,
niekoniecznie w jakimś określonym porządku, ale w każdej z nich dostrzegalne są
pewne cechy: racjonalizacja, wprowadzenie nauki i technologii, klasyfikacja rzeczy i wiedza o nich14.
Społeczeństwo nadzorowane jest więc społeczeństwem, „w którym nadzór staje
się coraz bardziej wszechobecny i coraz więcej sfer życia podlega systematycznej
i zorganizowanej kontroli. Nadzór jest sprawowany przez państwo, ale też instytucje ponadnarodowe oraz podmioty prywatne”15.
2. Diagnoza rzeczywistości —
uwarunkowania instytucjonalne
Najbardziej widocznym przejawem instytucjonalnego wykorzystania nowoczesnych technik kontroli jest system monitoringu wizyjnego (CCTV — closed
circuit television). Jest on najbardziej popularnym dziś środkiem nadzoru społecznego. Używane przede wszystkim w celach zapewnienia bezpieczeństwa, CCTV
są instalowane w miejscach prywatnych i publicznych w celach tak różnych, jak:
kontrola ruchu drogowego, monitorowanie zachowań klientów lub obserwacja
pacjentów w szpitalach. Systemy te często są wzbogacone o tak zwaną pionową
panoramiczność oraz urządzenia noktowizyjne. Wraz z rozwojem sieci i postępującą cyfryzacją systemy te są coraz słabiej odporne na kradzież informacji przez
nie zdobywanych. Niskie koszty eksploatacji spowodowały, że kamery stają się
powszechnością w miejscach publicznych, przestrzeniach miejskich (place, ulice,
budynki użyteczności publicznej).
13
Ibidem, § 3.9.
Zob. D. Lyon, op. cit., s. 1–2.
15 http://nadzor.panoptykon.org/spo-ecze-stwo-nadzorowane (dostęp: 14 marca 2013).
14
56
Księga_RE_1.indb 56
Rocznik Europeistyczny 1, 2015
© for this edition by CNS
2015-09-08 13:14:31
Społeczeństwo nadzorowane — zarys problemu
CCTV (closed circuit television): Sieciowe połączenie kilku kamer wideo w taki
sposób, że obraz jest przesyłany do centralnego monitora lub urządzenia nagrywającego. Używane przede wszystkim w celach zapewnienia bezpieczeństwa,
CCTV są instalowane w miejscach prywatnych i publicznych. Celem może być
kontrola ruchu drogowego, monitorowanie zachowań klientów lub obserwacja
i nadzór nad pacjentami szpitala. Systemy monitoringu mogą być udoskonalone za pomocą pionowej panoramiczności lub urządzeń noktowizyjnych. Wraz
z rozwojem sieci i postępującą cyfryzacją systemy te są w coraz większym stopniu
narażone na kradzież informacji, jakie zostały zdobyte za ich pośrednictwem16.
16
Już 89% polskich miast powiatowych korzysta z możliwości monitoringu. Jednak
rozwój tej formy nadzoru wiele zawdzięcza wydarzeniom z 11 września 2001 r. To
właśnie po atakach na World Trade Center wzrosło zainteresowanie monitoringiem
nie tylko w USA, co wydawałoby się dość zrozumiałe, lecz także w innych krajach.
Jednak wraz z rozszerzoną i rozwiniętą technologicznie nową formułą nadzoru
w wielu krajach nie zostały wprowadzone zmiany prawne zabezpieczające obywateli w ich sferze wolności. Dobrym przykładem jest Polska, w której wspomniany
monitoring wciąż nie doczekał się jasnych rozwiązań prawnych. Jak zauważają autorzy raportu Wymagania w zakresie monitoringu, ustawa z dnia 29 sierpnia 1997 r.
o ochronie danych osobowych nie pozwala wielu zawartych w niej reguł zastosować wprost do „danych osobowych o charakterze obrazowym, które przetwarzane
są w systemach monitoringu”17. Paweł Waszkiewicz, definiując CCTV, stwierdza:
to system pozwalający na śledzenie z odległości zdarzeń rejestrowanych przez od
jednej do niekiedy nawet kilkuset kamer jednocześnie. W skład systemu wchodzą kamery, z których obraz jest transmitowany do centrum odbiorczego, którego
personel na monitorach może obserwować rejestrowane zdarzenia. Monitoring
wizyjny, określany też jako telewizja dozorowa, różni się od zwykłej telewizji tym,
że obraz z kamer jest przesyłany (przez kabel lub drogą radiową) i odbierany tylko
w centrum odbiorczym, a nie w nieograniczonej liczbie odbiorników18.
Innym rezultatem wydarzeń z 2001 r., jakie miały miejsce w Stanach Zjednoczonych, a przyśpieszających rozwój społeczeństwa nadzorowanego, było wprowadzenie biometrycznej identyfikacji cudzoziemców wjeżdżających do USA. Pasażerowie przybywający do Stanów Zjednoczonych i je opuszczający oprócz kontroli
celnej i straży granicznej zmuszeni są przejść procedurę pobrania ich odcisków
palców wskazujących z lewej i prawej ręki za pomocą skanera oraz wykonania
zdjęcia twarzy w formacie cyfrowym. Identyfikatory biometryczne stosowane są
do potwierdzenia tożsamości pasażerów, dzięki czemu mogą być oni kontrolowani za pośrednictwem Systemu Informacji o Przylocie/Odlocie (Arrival Departure
Information System (ADIS)). Dane te trafiają równocześnie do Systemu Zarządza16
Zob. D. Lyon, op. cit., s. 198–204.
Raport Wymagania w zakresie regulacji monitoringu, http://www.giodo.gov.pl (dostęp: 16 lutego 2013).
18 P. Waszkiewicz, Wielki Brat. Rok 2010, Warszawa 2011, s. 30.
17
Rocznik Europeistyczny 1, 2015
© for this edition by CNS
Księga_RE_1.indb 57
57
2015-09-08 13:14:31
Piotr Grabowiec, Bogusław Piechota
nia Informacją (Computer Linked Application Information Management System 3
(CLAIMS)), w którym przechowywane są informacje dotyczące cudzoziemców
występujących o zasiłki oraz do Międzyresortowego Systemu Kontroli Granicznej
(Interagency Border Inspection System (IBIS)), który zawiera informacje obserwacyjne. IBIS podłączony jest do Krajowego Centrum Informacji Kryminalistycznej
(Interpol and National Crime Information Center (NCIC)) oraz do Zautomatyzowanego Systemu Identyfikacji Biometrycznej (Automated Biometric Identification
System (IDENT)), który zawiera dane biometryczne cudzoziemców. Te systemy
baz danych rozszerzone są o kolejne podsystemy informacji. Należą do nich System Informacji o Studentach przebywających na wymianie (Student Exchange Visitor Information System (SEVIS)), system zawierający informacje o studentach zagranicznych przebywających w USA oraz Ujednolicona Konsularna Baza Danych
(Consular Consolidated Database (CCD)), zawierająca informacje o tym, czy dana
osoba ma ważną wizę lub czy wcześniej się o nią ubiegała19.
Można powiedzieć, że rząd federalny stworzył dużą liczbę instytucji, których
zadaniem jest stałe monitorowanie i nadzorowanie osób przybywających na amerykańskie terytorium i je opuszczających. Jeden z najbardziej zaawansowanych
technologicznie krajów na świecie wykorzystuje swoje możliwości do, jak to tłumaczą przedstawiciele władzy politycznej, zapewnienia bezpieczeństwa obywatelom. Trzeba pamiętać, że wprawdzie to sfera wojskowa wytworzyła najwcześniejsze nowoczesne przykłady zracjonalizowanej dyscypliny, jak również większość
technologii niezbędnych dla aparatu nadzoru, jednak to właśnie administracja
państwowa, sprawdzając dane wszystkich obywateli, czy to z powodu zbliżających
się wyborów, czy z powodu dbania o zdrowie obywateli, ukazała prawdziwe niebezpieczeństwo nowych możliwości.
Pozostawiając na moment aspekt nadzoru ze strony instytucji rządowych, należy
zwrócić się ku sferze ekonomicznej i roli globalnej sieci internetowej w nadzorowaniu obywateli rozumianych tu jako konsumentów. Taki nadzór zaczął się od badań
rynku, został zmodyfikowany przez działalność gospodarczą on-line, a teraz przy
użyciu technologii lokalizacyjnych, technik cybermarketingu znowu został skierowany ku światu mobilnych konsumentów20. Praktycznym sposobem realizowania
tak rozumianego marketingu jest wykorzystywanie niewielkich informacji tekstowych (cookies) rozsyłanych przez serwery i zapisywanych następnie na komputerach potencjalnych klientów. Domyślne parametry tych informacji pozwalają na
ich odczytanie jedynie serwerowi, który je wysłał. „Ciasteczka” są wykorzystywane
najczęściej w przypadku „liczników”, sond, sklepów internetowych, stron wymagających logowania, reklam i monitorowania aktywności odwiedzających. W „nadzorowaniu” konsumentów pomaga adres IP (Internet protocol), unikatowy dla każdego
komputera i w chwili włączania się do sieci daje sygnał obecności konkretnego użytkownika, którego protokół jest już znany interesującym się nim serwerom. W oczy19
20
58
Księga_RE_1.indb 58
http://nadzor.panoptykon.org/spo-ecze-stwo-nadzorowane (dostęp: 14 marca 2013).
D. Lyon, op. cit., s. 2.
Rocznik Europeistyczny 1, 2015
© for this edition by CNS
2015-09-08 13:14:31
Społeczeństwo nadzorowane — zarys problemu
wisty sposób ta forma śledzenia użytkownika nie jest wykorzystywana w celu marketingowym, ma ona zastosowanie zarówno w obszarze działalności służb specjalnych,
jak i działalności o charakterze przestępczym, a związanej z wyłudzaniem danych
czy kodów dostępowych do kont bankowych. Ogromnym problemem dla wolności
jednostki, a jednocześnie swoistym fenomenem naszych czasów, jest funkcjonowanie Facebooka. O ile nadzorowanie w dawnych okresach historii wymagało przymusu, kradzieży czy kupna informacji o życiu obywateli i często było tajną informacją
aparatu przymusu, o tyle dziś obywatele z własnej woli przekazują informacje, zdjęcia i poglądy właścicielom globalnego portalu internetowego. Podpisanie umowy
z Facebookiem wiąże się z brakiem praw do wielu umieszczanych na serwerach informacji, ale także z pozwoleniem na zarządzanie nimi.
Profil informacyjny (Date-double): Termin ten określa elektroniczny profil,
złożony z fragmentarycznych danych osobowych poszczególnej osoby. Wzrasta znaczenie społeczne profilu, ponieważ oceny i osądy są wystawiane na podstawie tych profili w różnych kontekstach. Profil informacyjny staje się częścią
składową indywiduum, komponentem identyfikacji, nawet jeżeli podmiot tych
danych kwestionuje ich prawdziwość21.
21
Należy w tym miejscu wrócić do problemu wykorzystania nowoczesnych technologii przez instytucje państwa. Echelon — bo o nim będzie mowa, to istniejąca
obecnie globalna sieć wywiadu elektronicznego, która powstała przy współpracy USA, Wielkiej Brytanii, Kanady, Australii i Nowej Zelandii i jest zarządzana
przez amerykańską służbę wywiadu NSA, a „prawdopodobnie” gromadzi i analizuje przekazy elektroniczne z całego świata. Echelon ma w wielu miejscach globu urządzenia, które służą do przechwytywania informacji płynących w kanałach
telekomunikacyjnych. System, jak się uważa, gromadzi i poddaje analizie przekazy
elektroniczne z całego świata (faksy, e-maile, transfery plików, jak również rozmowy telefoniczne). Szacuje się, że gromadzi on i przetwarza około trzech miliardów
przekazów elektronicznych na dobę. Jednak rząd USA nie potwierdził jak dotąd
istnienia tak skonstruowanej cyberstruktury22. Można jedynie sądzić, że jej istnienie ze względu na „pożyteczność” w służbie interesowi państw ją tworzących oraz
realne możliwości technologiczne jest wysoce prawdopodobne.
3. Diagnoza rzeczywistości —
uwarunkowania kulturowe
W poszukiwaniu uwarunkowań kulturowych najważniejsze wydaje się
powiązanie społeczeństwa nadzorowanego z inną ważną kategorią socjologiczną,
21
22
Zob. ibidem, s. 198–204.
http://pl.wikipedia.org/wiki/Echelon (dostęp: 14 marca 2013).
Rocznik Europeistyczny 1, 2015
© for this edition by CNS
Księga_RE_1.indb 59
59
2015-09-08 13:14:31
Piotr Grabowiec, Bogusław Piechota
a mianowicie społeczeństwem informacyjnym. Proces powstawania społeczeństwa informacyjnego, i w pewnym sensie nowego paradygmatu cywilizacyjnego,
rozpoczął się pod koniec lat 50. W swojej pracy Megatrendy amerykański socjolog John Naisbitt wskazał na dwa zjawiska, które sygnalizowały nadejście nowego
typu społeczeństwa. Po pierwsze, jak zauważa, w roku 1956 liczba pracowników
umysłowych w USA przewyższyła liczbę pracowników fizycznych. Po drugie, rok
później rozpoczęła się era globalnej komunikacji satelitarnej dzięki umieszczeniu
na orbicie okołoziemskiej pierwszego sztucznego satelity23. Ważnym impulsem
do rozwoju społeczeństwa informacyjnego i wynikających z tego zmian kulturowych, a także ekonomicznych i politycznych, były wydarzenia zimnej wojny, które zmuszały do stałego rozwoju systemów dowodzenia. Ich niezawodność miała
być zagwarantowana przez zastosowanie sieciowego połączenia punktów dowodzenia, tak aby w wypadku wybuchu jądrowego pozostałe zgrupowania bojowe
były w stałym kontakcie między sobą. Zdecentralizowanie sieci dowodzenia (sieci
komputerowych) przyczyniło się do rozwoju złożonych infrastruktur komunikacyjnych, które dziś funkcjonują w rozwiniętej formie internetu.
Przyjęło się definiować szerokie zjawisko społeczeństwa informacyjnego, stosując
kryteria klasyfikujące jego zasadnicze przejawy. Dlatego też wyróżniamy kryterium
technologiczne, ekonomiczne, przestrzenne, kulturowe, politologiczne i socjologiczne. Ujęcie technologiczne kładzie nacisk na traktowanie rozwoju nowoczesnych
technologii informacyjnych jako determinujących przemiany w funkcjonowaniu
nowoczesnych społeczeństw. Perspektywa ekonomiczna zwraca uwagę na znaczenie
informacji i tworzonej w jej wyniku wiedzy niezbędnej dziś do rozwoju ekonomicznego i stałej konkurencyjności. To dzięki informacji i nowym modelom zarządzania
nią możliwa jest przewaga konkurencyjna. Kryterium przestrzeni definiuje się przez
istnienie nowego typu społeczeństwa, w którym aktywność zawodowa, administracyjna, kulturowa, społeczna i polityczna realizuje się za pomocą infrastruktury sieci
komputerowych i komunikacji satelitarnej. Ujęcie kulturowe wskazuje rolę informacji, metod przekazu medialnego i ich wpływu na współczesną kulturę. Istotnym
przykładem zglobalizowanego społeczeństwa informacyjnego była działalność artystyczna Andy’ego Warhola, który przez podniesienie produktów masowej konsumpcji do rangi sztuki dokonał „spłaszczenia” swoistej kulturowej hierarchii wartości
zawartej w dotychczasowych konwencjach społecznych. Równość „przedmiotów”
stawała się „równością” poglądów, idei i prawd. Struktura sieci doskonale oddaje tak
ukształtowany obraz społeczeństwa24.
Dla dalszych rozważań dotyczących społeczeństwa nadzorowanego istotne
znaczenie ma kryterium politologiczne. Wskazuje się na przykład problematykę
władzy i rodzącego się podziału na „kreatorów oprogramowań komputerowych
i telekomunikacyjnych” oraz ich użytkowników. Jak określają to Aleksander Bard
23
J. Naisbitt, Megatrendy, Poznań 1997, s. 30.
P. Grabowiec, Społeczeństwo informacyjne — zakres i pojęcie, „Przegląd Historyczno-Politologiczny” 1, 2008, s. 26–27.
24
60
Księga_RE_1.indb 60
Rocznik Europeistyczny 1, 2015
© for this edition by CNS
2015-09-08 13:14:31
Społeczeństwo nadzorowane — zarys problemu
i Jan SÖderqvist, na naszych oczach rodzi się nowa klasa panujących — netokracja.
Ta klasa czy raczej elita współczesnego świata zdaje sobie sprawę z roli sieci i możliwości, jakie ona daje w sprawowaniu władzy nad społeczeństwami, w tym również nadzoru jako formy jej sprawowania25. Socjologowie wskazują natomiast na
potrzebę traktowania współczesnych społeczeństw jako złożonych sieci interakcyjnych, w których rodzą się zupełnie odmienne od wcześniejszych formy relacji
społecznych. Zwracają uwagę na problem tożsamości zbiorowych, nowe formy stylów życia i brak silnych więzi. Sieć informatyczna rodzi nowe potrzeby konsumpcji przez tworzenie dotychczas nieznanych możliwości partycypacji w segmencie
usług. Z socjologicznego ujęcia wypływa aspekt psychologiczny. Elias Aboujaoude
wskazuje, jak współczesnemu człowiekowi trudno utrzymać dychotomię między
istnieniem w świecie realnym a wirtualnym. Twierdzi, że
coraz częściej zasypujemy podział cyfrowy w nas samych i w coraz większym stopniu
łączymy i mylimy z sobą e-osobowość z osobowością, życie wirtualne z życiem, chmury obliczeniowe z bardziej przyziemnymi formami interakcji i transakcji. To właśnie
nazywamy „wizualizmem” i jest to nasza nowa rzeczywistość. Problemy staną się jeszcze poważniejsze, gdy fala technologii zdecydowanie się przetoczy, unosząc nas razem
z sobą, w kierunku większego zespolenia naszych różnych światów, większej wielozadaniowości i mniejszych gwarancji prywatności dla naszych zachowań w przestrzeni
wirtualnej. Już teraz jest wystarczająco źle. Następstwa zdominowania realnego życia
przez życie wirtualne nie są już teoretyczne i przejawy tego są widoczne wokół nas26.
Przedstawiony tu problem „wizualizmu” koresponduje z problemem zdiagnozowania problemów, jakie wynikają dla człowieka ze społeczeństwa nadzorowanego.
„Wirtualna osobowość naszych czasów” może nie potrafić dostrzegać prawdziwych
zagrożeń, jakie płyną z nadzorowania ich życia przez środki komunikacji elektronicznej. Nie potrafiąc rozdzielić dwóch światów, nie będą także dostrzegać wpływu,
jaki ma elektroniczne nadzorowanie na ich realny świat. Nie będą umieli właściwie
rozpoznać złożonych form manipulacji, jakim są lub mogą być poddawani.
Technologie informatyczne (IT/ICT): termin ten określa użycie systemów
elektronicznych do przetwarzania i przekazywania informacji. Szerzej IT może
odnosić się do sieci informatycznej, sprzętu komputerowego, oprogramowania
lub też do specjalistów IT . Są to podstawowe technologie, które ułatwiają dzisiaj
nadzór, jako że tworzą i zapewniają infrastrukturę, od której inne systemy, takie
jak wideo, genetyka i biometria, są uzależnione27.
27
W celu dopełnienia tych rozważań należy wskazać podstawowe cechy charakteryzujące społeczeństwo informacyjne. Można wyróżnić trzy takie zasadnicze cechy.
Po pierwsze, w społeczeństwie tym współczynnik stopnia wykorzystania informacji
zawartych w sieci do potrzeb życia codziennego jest bardzo wysoki. Po drugie, ce25
26
27
A. Bard, J. Söderqvist, Netokracja. Nowa elita władzy i życie po kapitalizmie, Warszawa 2006.
E. Aboujaoude, Wirtualna osobowość naszych czasów, Kraków 2012, s. 265.
Zob. D. Lyon, op. cit., s. 198–204.
Rocznik Europeistyczny 1, 2015
© for this edition by CNS
Księga_RE_1.indb 61
61
2015-09-08 13:14:31
Piotr Grabowiec, Bogusław Piechota
chuje je stosowanie jednorodnych technologii informacyjnych wykorzystywanych
w celach prywatnych, zawodowych, społecznych czy edukacyjnych. Po trzecie,
istotna jest tu możliwość mobilnej formy przekazywania i odbierania informacji,
zdolność komunikowania się w każdym miejscu i czasie. Społeczeństwo informacyjne tworzy, można tak sądzić, strukturę, szczególną bazę dla tego, co określamy
jako społeczeństwo nadzoru. Bez kulturowego wymiaru społeczeństwa informacyjnego w szerokim tego słowa znaczeniu, a więc jako przyswojenia i oczywistości
związanej z „kulturą” komunikowania, pracy, ekonomii, polityki i rozrywki, to, co
wiąże się z niebezpieczeństwem nadzoru, byłoby mniej niebezpieczne.
4. Definicyjny obszar
„społeczeństwa nadzorowanego”
Przytoczona w pierwszym podrozdziale definicja społeczeństwa nadzorowanego nie ma zasadniczych teoretycznych alternatyw. Tak jak „młoda” jest
diagnoza zjawiska, tak niewielki jest stopień zróżnicowania w jego definiowaniu.
W dużo większym stopniu niż w przypadku społeczeństwa informacyjnego możliwe jest tu zawężenie pola badawczego i definicyjnego zarazem. Ważniejsze w definiowaniu społeczeństwa nadzorowanego jest wskazanie zjawisk, w jakich się ono
przejawia. Cytowany już raport z września 2006 r. wskazuje, że przejawy te można
opisać w kilku procesach. Ważne jest to, że powstanie społeczeństwa nadzorowanego jest wynikiem rozszerzenia nadzoru z grup określanych w społeczeństwie
jako „podejrzane” czy „dewianci” na większość społeczeństwa. To podstawowa
teza dotycząca rozlewania się zjawiska nadzoru i wykorzystywania go przez różne
instytucje władzy i majątku. Autorzy raportu wskazują na trzy zasadnicze cechy:
selekcję, klasyfikację i namierzanie społeczne. Mówiąc o selekcji, wskazuje się na
różne dziedziny życia, w których ona występuje. Jedną z tych dziedzin jest dokonywanie zakupów. Konsumenci w wyniku zakupu określonych towarów poddawani
są selekcji. Dokonuje się to przez wypełnianie ankiet i dostarczanie sieciom handlowym informacji teleadresowych. Informacja zwrotna jest wynikiem selekcji
klientów i dostarczenia im przeznaczonych tylko dla nich ofert konsumpcyjnych.
28
Zarządzanie relacjami konsumenckimi (CRM — Customer Relationship Management): jest to strategia biznesowa polegająca na identyfikacji, rozwijaniu
i utrzymywaniu długotrwałych relacji konsumenckich. Szuka się metod, które pozwalają wyodrębnić najbardziej korzystne relacje konsumenckie (lub te z największym potencjałem), zapewniające tym konsumentom najwyższy poziom usługi
i odrzucać pozostałych. CRM stał się narzędziem technologii informacyjnych,
ponieważ jest on uzależniony od systemów oprogramowania. Może zostać użyty
jako środek nadzoru zarówno w biznesowym, jak i niebiznesowym kontekście28.
28
62
Księga_RE_1.indb 62
Zob. ibidem.
Rocznik Europeistyczny 1, 2015
© for this edition by CNS
2015-09-08 13:14:31
Społeczeństwo nadzorowane — zarys problemu
Klienci sami chętnie dostarczają informacji o sobie, licząc na korzystne upusty
cenowe. Uczestnictwo w programach lojalnościowych jest typowym systemem nagród. Selekcja odbywa się także w ramach badania struktury naszych wydatków.
To one decydują o kulturze obsługi klientów, stopniu profesjonalizacji pracowników skierowanych do tego celu. Istotnym narzędziem służącym segregacji jest
telefonia komórkowa. Jest ona postrzegana
przez konsumentów i sektor telekomunikacyjny jako osobiste urządzenie komunikacyjne, a możliwość komunikowania się z użytkownikami powoduje, że dane te
mają wartość handlową. Jednocześnie numer telefonu komórkowego jako wskaźnika jest uznawany za anonimowy element informacji. Wskaźnik jest jednak wystarczająco precyzyjny, aby umożliwić technikom eksploracje danych, odnajdowanie
danych osobowych z danych, które powinny być anonimowe. Dlatego też nadzór
telekomunikacyjny jednostek korporacyjnych potencjalnie sortuje konsumentów
według ich wartości gospodarczych i może tego dokonywać na podstawie nieuregulowanych danych na temat przekazywania, jak również danych dotyczących naliczania, chronionych ustawą o ochronie danych29.
Selekcją objęci są pasażerowie samolotów przybywający na lotniska krajów, które prowadzą odmienną politykę wobec potencjalnych zagrożeń. Osobne bramki
dla pasażerów z Unii Europejskiej, osobne dla przybyszy z USA czy inne dotyczące
przybyłych z państw „niebezpiecznych”. Stosowanie selekcji służy dzieleniu ludzi na
klasy, grupy społeczne o odmiennych cechach, mniej lub bardziej zagrażających stabilności społecznej i politycznej. Takiej klasyfikacji służyć mogą dowody osobiste,
będące swoistym kluczem elektronicznym do wielu baz danych jednocześnie.
Biometria: Fizjologiczne lub behawioralne cechy określające bądź weryfikujące tożsamość. Fizjologiczne bazują na pomiarach, badaniach i informacjach
pochodzących z ciała ludzkiego, takie jak: odcisk palców, rozpoznawanie tęczówki, geometria dłoni i rozpoznawanie twarzy. Cechy behawioralne bazują
na ludzkich działaniach i zawierają w sobie weryfikację głosu, dynamikę pisania
na klawiaturze komputerowej, weryfikację podpisu. Używane są podczas zautomatyzowanej i zdalnej identyfikacji i weryfikacji30.
30
Pojawia się ważny aspekt społeczeństwa nadzorowanego, czyli bazy danych. To
właśnie umiejętność przechowywania danych, ich zestawiania, szybkiej analizy
stwarza tak duże możliwości nadzorowania obywatela. Toteż
nadzór, jaki wiąże się ze służbami publicznymi, może być rozumiany jako „nadzór
danych”, systematyczne wykorzystanie systemów danych osobowych w dochodzeniu
lub monitorowaniu działań lub komunikacji jednej lub większej liczby osób. Wyrażenie to, w którego skład wchodzi słowo „nadzór”, zwraca uwagę na większe znaczenie baz danych niż służących do pilnowania ludzi środków audiowizualnych, jakie
stosowane są w państwach i przedsiębiorstwach. Bazy danych w połączeniu z inny29
Raport o społeczeństwie nadzorowanym, opracowany przez Surveillance Studies Network na
potrzeby brytyjskiego Rzecznika ds. Informacji w roku 2006, § 10.2.4.
30 Zob. D. Lyon, op. cit., s. 198–204.
Rocznik Europeistyczny 1, 2015
© for this edition by CNS
Księga_RE_1.indb 63
63
2015-09-08 13:14:31
Piotr Grabowiec, Bogusław Piechota
mi systemami nadzoru umożliwiają także nadzór algorytmiczny, wykorzystywanie
programów komputerowych służących do pracy z zarejestrowanymi obrazami lub
danymi i porównywanie ich z danymi znajdującymi się w bazie danych31.
Ważnym aspektem związanym z kwestią baz danych jest funkcjonowanie biurokracji, która w dużym stopniu tworzy i zarządza tymi bazami. Biurokracja jest
jedną z cech charakterystycznych dla nowoczesności i od początku swego istnienia
dawała impuls do nadzorowania. Nadzór wydaje się jedną z podstawowych funkcji
biurokracji. Nadawanie nazw, identyfikacja, liczenie, klasyfikowanie, prowadzenie
dokumentacji to podstawowe zadania dobrze zorganizowanej biurokracji. Staje się
ona dziś podstawowym trybem nadzoru z powodu jej „wszechwiedzy”, systemu
procedur i specyficznej anonimowości, która rozmywa odpowiedzialność pojedynczych jej członków. Oparta na hierarchii biur, przez które następuje komunikacja, kieruje przepływem informacji, korzystając z ustawowych przepisów o tajemnicy służbowej, i przez to jest w stanie być nieweryfikowalna i „bezosobowa”32.
Ostatnim aspektem jest namierzanie społeczeństwa. Tu oczywiście w grę wchodzą
systemy monitoringu miejsc publicznych, śledzenie ID naszych komputerów. Arsenał możliwości technicznych, jakie przynosi współczesna technologia, jest, o czym
była już mowa, dziś nie do końca znany społeczeństwom. Znaczenie technologii dla
rozwoju społeczeństwa nadzorowanego jest tym większe, im bardziej jest ona uznawana za coś oczywistego i w zdecydowanej liczbie przypadków niewidoczna, gdyż
najlepsze technologie to te, które znikają. Wplatają się w tkaninę codziennego życia
dotąd, aż stają się nie do odróżnienia. Cyfrowa, połączona w sieci technologia nadzoru zmierza w kierunku wszechobecności. Przetwarzanie bez granic, […] stwarza warunki do powstania wszechobecnego nadzoru. Jedną z zasadniczych kwestii
Ubicompu (ubiqutous computing — inaczej też „inteligentne otoczenie [AmI]) jest
koncepcja Uniform Resource Locator (URL) (jednolity lokalizator zasobów), znana większości dzięki korzystaniu z adresów internetowych. Jakkolwiek URL był
zawsze uważany za coś więcej. Uważa się, że jest w stanie dostarczyć informacji
o miejscu w sieci wszystkich przedmiotów i ludzi33.
5. „Społeczeństwo nadzorowane”
jako wyraz braku zaufania i umiejętności
konsensualnego dialogu społecznego
Rodzące się na naszych oczach społeczeństwo nadzorowane jest, jeśli można to tak określić, złożonym produktem nowoczesności i wynikiem nie tylko rozwoju najnowocześniejszych technologii informatycznych, lecz także zagrożeń, ja31
Raport o społeczeństwie nadzorowanym, opracowany przez Surveillance Studies Network na
potrzeby brytyjskiego Rzecznika ds. Informacji w roku 2006, § 9.6.3.
32 D. Lyon, op. cit., s. 52.
33 Raport o społeczeństwie nadzorowanym, opracowany przez Surveillance Studies Network na
potrzeby brytyjskiego Rzecznika ds. Informacji w roku 2006, § 9.10.1.
64
Księga_RE_1.indb 64
Rocznik Europeistyczny 1, 2015
© for this edition by CNS
2015-09-08 13:14:31
Społeczeństwo nadzorowane — zarys problemu
kie towarzyszą społeczeństwom demokratycznym ze strony przeciwników świata
zachodniego. Dużym uproszczeniem byłoby twierdzić, że społeczeństwo nadzorowane jest wynikiem osłabienia konsensualnych umiejętności prowadzenia dialogu
społecznego oraz stopniowego zaniku zaufania, będącego przecież podstawą kapitału społecznego. Powtórzmy, społeczeństwo nadzorowane jest takim typem społeczeństwa, „w k t ó r y m n a d z ó r s t a j e s i ę c o r a z b a r d z i e j w s z e c h obecny i coraz więcej sfer życia podlega systematycznej
i zorganizowanej kontroli. Nadzór jest sprawowany przez
państwo, ale też instytucje ponadnarodowe oraz podmioty
p r y w a t n e ”. Trzeba jednak zauważyć, że to właśnie w społeczeństwach o głębokich tradycjach funkcjonowania demokracji partycypacyjnej i społeczeństwa
obywatelskiego zaufanie ulega erozji, zamieniając się w lęk. Niknie więc zaufanie
międzyobywatelskie, albowiem wśród „nas” może nagle pojawić się terrorysta. Zaufanie „przepływa” do instytucji państwowych, mających rzekomo najlepsze sposoby zapewnienia nam bezpieczeństwa. Należy sądzić, że brak wzajemnego zaufania,
jaki występuje dziś w wielu krajach o dużo dłuższych tradycjach samorządzenia
niż w Polsce, wynika w większym stopniu z przyczyn niejako zewnętrznych, bo
niepochodzących z dotychczasowej praktyki społeczno-politycznej. Lęk przed terroryzmem oraz innymi formami przemocy, profesjonalizacja przestępczości i brak
(domniemany) zdolności obywateli do uchronienia się przed niebezpieczeństwem
— oto główne przyczyny tworzenia się społeczeństwa nadzorowanego w krajach
rozwiniętych. Wydaje się, że dotychczasowe struktury poziome i pionowe nie są
w stanie przeciwdziałać zagrożeniu. Oczywiście taka świadomość społeczna jest
skrzętnie wykorzystywana przez państwo i inne instytucje dysponujące władzą.
Utrzymując społeczeństwo w przeświadczeniu o braku możliwości przeciwdziałania zagrożeniu, instytucje te wskazują na siebie jako jedyne remedium na zastaną sytuację. Jeśli weźmiemy pod uwagę wszystko to, co w takim ujęciu problemu
wydaje się wiarygodne, to łatwo dostrzec, o czym była mowa w podrozdziale 1, że
nadużywa się tego, co nazywamy zaufaniem.
Problematykę społeczeństwa nadzorowanego możemy usystematyzować w proponowanych segmentach problemów34:
I n g e r e n c j a w p r y w a t n o ś ć — w coraz większym stopniu prywatna sfera obywatela zostaje przekroczona przez różnego rodzaju instytucje o charakterze
publiczno-politycznym, jak również prywatnym. Monitoring osiedli, ulic, szkół,
szpitali, koszy na śmieci, ale także miejsc tak intymnych jak toalety, dostarcza wiedzy o nas i naszych zachowaniach. Obecność w sieci internetowej, pozostawiająca
po nas „cyfrowe ślady”, jest doskonałym sposobem obserwacji zarówno naszych
kontaktów, jak i naszych upodobań, co w szczególny sposób interesuje korporacje
poszukujące informacji o potencjalnych i obecnych klientach.
34
Przyjmujemy tu zaproponowany przez organizację Panoptykon obszar zagadnień.
Rocznik Europeistyczny 1, 2015
© for this edition by CNS
Księga_RE_1.indb 65
65
2015-09-08 13:14:31
Piotr Grabowiec, Bogusław Piechota
D y s k r y m i n a c j a i w y k l u c z e n i e — jak zauważa Katarzyna Szymielewicz35, odwołując się do pracy współczesnego filozofa Giorgio Agambena Homo
sacer, obecny fenomen wykluczenia
polega na tym, że to niekoniecznie mniejszość (etniczna, religijna czy polityczna)
jest wykluczona przez większość. Piętno obcego, terrorysty — wroga naruszającego
porządek — może potencjalnie dotknąć każdego z nas. Na przestrzeni ostatnich
10 lat coraz bardziej zauważalna jest zmiana paradygmatu: od zasady domniemania niewinności, która do momentu prawomocnego skazania miała chronić nawet człowieka przyłapanego na gorącym uczynku, przechodzimy do założenia, że
każdy „nosi bombę w plecaku” — a zatem wszystkich należy poddać jednakowej
kontroli. Żeby z potencjalnie podejrzanego stać się rzeczywiście podejrzanym,
czasem wystarczy niewłaściwy profil, wygenerowany przez automatyczne systemy
monitoringu wizyjnego czy wszechobecne bazy danych. W tym systemie do wymierzenia kary dochodzi na długo przed wydaniem wyroku: osoba podejrzana jest
piętnowana, inwigilowana, a czasem zamykana — dla wspólnego dobra i na wszelki
wypadek36.
Kazus sprawy WikiLeaks ukazał światu problem z realizacją praw podstawowych. Albowiem oskarżenia, jakie zostały skierowane pod adresem strony, a przede
wszystkim jej założyciela Juliana Assange’a, nie tylko miały charakter aksjologiczny, lecz przede wszystkim sprawiły, co było zapewne intencją oskarżycieli, że
sam Assange z dnia na dzień stał się niebezpiecznym przestępcą, ściganym międzynarodowym listem gończym za domniemany gwałt, wreszcie został aresztowany
35 Katarzyna Szymielewicz była inicjatorką szeroko rozumianego przedsięwzięcia walki z przejawami społeczeństwa nadzorowanego. Rozpoczynając tuż po studiach pracę jako prawnik w międzynarodowej korporacji finansowej, jak sama mówiła: „przez moment uważałam, że to jest ciekawe, rozwijające intelektualnie zajęcie i że warto po studiach zająć się czymś konkretnym. Jednak dość szybko
dotarło do mnie, że po prostu nie odnajduję się w czysto komercyjnym przedsięwzięciu. Nie wiedziałam tylko, jak z tego wyjść i gdzie można robić »coś innego«. Czułam się jak w pułapce, miałam poczucie zakleszczenia […]. Kiedy się jest w bardzo angażującej pracy, to nawet jeśli pojawia się pomysł,
po prostu nie ma czasu, żeby go zrealizować. Po roku miotania się wyjechałam na studia do Londynu,
żeby zaczerpnąć świeżego powietrza i poszukać tego, o co mi chodzi”. W School of Oriental and African
Studies (Development Studies) studiowała przede wszystkim historię ruchów społecznych i teorię społeczeństwa obywatelskiego. Studia te wzbudziły w niej, jak można sądzić, dużą wrażliwość na problem
szeroko rozumianego wykluczenia społecznego, roli zróżnicowanych podmiotów politycznych i finansowych w tworzeniu nierówności społecznych, ale przede wszystkim ukazały siłę dobrze zorganizowanego społeczeństwa obywatelskiego, jego możliwości w zderzeniu z systemem polityczno-ekonomicznym. Chęć działania w „trzecim sektorze” była oczywistą potrzebą realizowania czegoś, co w życiu
człowieka można nazwać rodzajem misji i powołania. Samo poczucie konieczności zmieniania rzeczywistości przez organizacje pozarządowe i aktywne społeczeństwo obywatelskie to jeszcze za mało. Jak
twierdzi Szymielewicz, po zakończeniu studiów w Londynie jeszcze nie dostrzegała zasadniczej ścieżki
przyszłych działań. Chcąc przygotować się finansowo do wyjazdu do Ameryki Południowej, wróciła
do Polski, gdzie ostatecznie dojrzała do swego „powołania”. Tak oto powstała fundacja Panoptykon,
która została zarejestrowana przez Sąd Rejonowy dla m. st. Warszawy 17 kwietnia 2009 r., www.ngo.pl
Wiadomości.ngo.pl/wiadomości/669824.html (dostęp: 12 marca 2013).
36 http://panoptykon.org/taxonomy_vtn/term/52 (dostęp: 15 marca 2013).
66
Księga_RE_1.indb 66
Rocznik Europeistyczny 1, 2015
© for this edition by CNS
2015-09-08 13:14:31
Społeczeństwo nadzorowane — zarys problemu
przez brytyjską policję (do której sam się zgłosił), a jego konto bankowe zostało
zamrożone przez szwajcarski bank37.
Uderzenie przede wszystkim w interesy (w dużym stopniu w wizerunek polityczny) Stanów Zjednoczonych pokazały światu, jak bardzo prawa człowieka zależą od tego, „kto” i wobec „kogo” występuje. Wydarzenia związane z WikiLeaks
uzmysłowiły obserwatorom ogromną współzależność polityki i ekonomii. Nie
było bowiem przypadku w tym, że portal został
wyrzucony z serwerów firmy Amazon w USA (podobno wystarczył jeden telefon
od senatora). EveryDNS.net — amerykańska firma zarządzająca domenami — wypowiedziała umowę na nazwę Wikileaks.org […]. Przez cały czas serwery, na których wisi strona WikiLeaks, są atakowane przez hakerów. Firma PayPal zablokowała możliwość wpłacania pieniędzy dla WikiLeaks, a Visa i MasterCard ogłosiły, że
zawieszają przelewy na rzecz portalu38.
Te działania wymuszone na korporacjach wskazują, jak trudno jest obywatelowi bronić swoich racji, kiedy wchodzi on w konflikt z silnym państwem, mającym
możliwość szantażowania także biznesu. Nie znajdując prawnego uzasadnienia
swoich działań, które winno być przecież poprzedzone wyrokiem niezawisłego
sądu, potężni gracze polityczni i biznesowi postanowili zlikwidować problem,
z jednej strony zniesławiając Assange’a, z drugiej pozbawiając jego i cały projekt
WikiLeaks dostępu do finansów oraz infrastruktury komunikacyjnej.
Kolejnym problemem, z jakim spotykamy się w przypadku wykluczenia i dyskryminacji, jest kwestia dzielenia społeczeństwa na kategorie i różnicowanie obywateli ze względu na ich przynależność do nich. Proceder ten występuje zarówno
w sferze polityki bezpieczeństwa (działania antyterrorystyczne o charakterze prewencyjnym), jak i segregacji klientów. Zawyża się na przykład ceny biletów osobom, o których linia lotnicza wie (dzięki ID komputera), że są częstymi klientami
i przyzwyczaili się do danego przewoźnika. Uczenie społecznej czujności w tym
wypadku i walka z taką dyskryminacją i jej pochodnymi formami stanowi kolejny
cel działań fundacji.
B ł ę d y s y s t e m u — systemy statystyczne, które wykorzystuje się w celu skategoryzowania obywateli lub klientów, są na tyle niedoskonałe, że często prowadzą
do ograniczenia praw obywatelskich, wymagając od poszkodowanego udowodnienia swojej niewinności, co odwraca podstawową zasadę państwa prawa.
W z r o s t l ę k u , e r o z j a z a u f a n i a — tak jak podstawową kategorią kapitału społecznego i społeczeństwa obywatelskiego jest zaufanie, tak antytezą,
specyficznie tu rozumianą, jest strach — nadrzędna kategoria społeczeństwa
nadzorowanego. To strach sprawia, że obywatele w imię swojego bezpieczeństwa
ukrywają się za ogrodzeniami strzeżonych osiedli, pozwalają się monitorować
i wierzą w ogromną skuteczność nadzoru, mimo iż wiąże się on z utratą wolności
37
38
Ibidem.
Ibidem.
Rocznik Europeistyczny 1, 2015
© for this edition by CNS
Księga_RE_1.indb 67
67
2015-09-08 13:14:31
Piotr Grabowiec, Bogusław Piechota
i prywatności. Mamy do czynienia ze „sprzedawanym strachem” jako pewną formą produktu, którego „targetem” są w zasadzie wszyscy obywatele39.
M a s k o w a n i e z a m i a s t r o z w i ą z y w a n i a p r o b l e m ó w — ważnym
zagadnieniem jest aspekt manipulacyjny. Manipulacja polega na tym, że próbuje
się tłumaczyć społeczeństwu, iż blokowanie witryn internetowych czy monitorowanie przestrzeni publicznej zabezpiecza nas przed występowaniem niebezpiecznych czy szkodliwych zjawisk. Pozostawanie pod nadzorem 24 godziny na dobę
ma przynieść nam poczucie bezpieczeństwa. Problem polega na tym, że blokowanie niepożądanych informacji czy monitoring nie likwidują zjawiska, zakrywają je
przed naszymi oczami, a często maskują, powodując, iż nie potrafimy właściwie
reagować w chwili rzeczywistego zagrożenia.
R o z p r o s z e n i e o d p o w i e d z i a l n o ś c i i b i e r n o ś ć — świadomość
monitoringu sprawia, że społeczeństwo w coraz mniejszym stopniu gotowe jest
reagować, kiedy ktoś potrzebuje pomocy. Przekonanie, że odpowiednie służby dostrzegą problem i natychmiast przystąpią do jego rozwiązania, sprawia, iż w zasadzie postawa bycia solidarnym jest zastępowana postawą egoistycznej samoobrony. Nie ryzykujemy dla innych, bo władza ma wszystko pod kontrolą.
P r z y m u s z a m i a s t e t y k i — ostatnim z wymienionych problemów jest
podkreślany przez liderów organizacji Panoptykon, antywychowawczy charakter
nadzoru. Jak czytamy:
Nie rodzimy się z poczuciem odpowiedzialności za własne czyny — nabywamy
je wraz z życiowym doświadczeniem. Wykształcenie się mechanizmów kontroli
wewnętrznej wymaga pewnej swobody działania, przede wszystkim możliwości
popełnienia błędów i ponoszenia ich konsekwencji. Współcześnie od najwcześniejszego dzieciństwa jesteśmy poddawani coraz ściślejszej kontroli, która tę sferę
swobody drastycznie ogranicza. Miejsce wychowania i wpajania wartości zajmuje
przymus generowany przez nowe techniki kontroli. Zamiast kłaść nacisk na odpowiedzialność i standardy etyczne, promujemy bezrefleksyjny konformizm, który
może zniknąć, gdy tylko poluźniony zostanie nadzorczy gorset40.
Zakończenie
Rozwój naukowo-techniczny i wzrastające możliwości człowieka w tym
zakresie nie są jednak same w sobie zagrożeniem. Niebezpieczeństwo płynie jak
zawsze ze strony władzy — rozproszonej we współczesnym świecie i często trudnej
do identyfikacji — władzy, która jak zauważył Tocqueville, ma zawsze tendencje
do zagarniania wolności obywateli. Jeśli otrzymuje ona dziś dodatkowo doskonałe
narzędzia w postaci nowoczesnych technologii informacyjnych i monitoringu, jej
możliwości diametralnie rosną. We współczesnym świecie władza w dużo więk39 P. Grabowiec, Religia obywatelska jako propozycja integracji wspólnoty europejskiej, Wrocław
2013, s. 27.
40 http://panoptykon.org/taxonomy_vtn/term/52 (dostęp: 15 marca 2013).
68
Księga_RE_1.indb 68
Rocznik Europeistyczny 1, 2015
© for this edition by CNS
2015-09-08 13:14:31
Społeczeństwo nadzorowane — zarys problemu
szym stopniu niż kiedykolwiek należy do wielkich korporacji transnarodowych,
których dochód przerasta często dochody średnich państw. Oddziaływanie silnych
podmiotów prywatnych na sferę polityczną, która wciąż jeszcze formalnie decyduje o kształcie prawa, jest nazbyt często widoczna. Sprawa ACTA czy kwestia
dostępu do tanich leków ratujących życie, zależnych od własności patentowej instytutów badawczych i firm farmaceutycznych, to tylko niektóre obszary władzy,
której dysponentem nie jest demokratycznie sprawujące kontrolę społeczeństwo,
lecz elita władzy i majątku.
Nadzór był zawsze celem totalnych ustrojów i ich instytucji. Wiedza o każdym
obywatelu miała przecież dać pełną kontrolę i stworzyć „Lewiatanowi” nieograniczone pole do manipulacji społeczeństwem. Dziś, kiedy miliony danych pozostawiamy sami w sieci internetowej, marzenia totalitarnych przywódców spełniają
się i tylko obywatelski sprzeciw wobec wyraźnych trendów w wykorzystywaniu
współczesnych możliwości technologicznych może zahamować i zneutralizować
ambicje różnych ośrodków władzy.
Bibliografia
Aboujaoude E., Wirtualna osobowość naszych czasów, Kraków 2012.
Arendt H., Kondycja ludzka, Warszawa 2000.
Bacon F., Nowa Atlantyda, Warszawa 1954.
Bard A., Söderqvist J., Netokracja. Nowa elita władzy i życie po kapitalizmie, Warszawa 2006.
Bauman Z., Lyon D., Płynna inwigilacja. Rozmowy, Kraków 2013.
Foucault M., Nadzorować i karać. Narodziny więzienia, Warszawa 1998.
Grabowiec P., Religia obywatelska jako propozycja integracji wspólnoty europejskiej, Wrocław 2013.
Grabowiec P., Społeczeństwo informacyjne — zakres i pojęcie, „Przegląd Historyczno-Politologiczny” 1, 2008.
Lombard D., Globalna wioska cyfrowa, Warszawa 2009.
Lyon D., Surveillance Studies: An Overview, Cambridge 2007.
Naisbit J., Megatrendy, Poznań 1997.
Waszkiewicz P., Wielki Brat. Rok 2010, Warszawa 2011.
Netografia
http://nadzor.panoptykon.org/spo-ecze-stwo-nadzorowane.
http://pl.wikipedia.org/wiki/Echelon.
http://panoptykon.org/w_mediach.
http://panoptykon.org/taxonomy_vtn/term/52.
Niklas J., Agencja Praw Podstawowych. Brakuje świadomości nt. ochrony danych osobowych, http://
panoptykon.org.
Raport o społeczeństwie nadzorowanym, opracowany przez Surveillance Studies Network na potrzeby
brytyjskiego Rzecznika ds. Informacji w roku 2006, http://www.giodo.gov.pl/268/id_art/2033/j/pl/.
Rocznik Europeistyczny 1, 2015
© for this edition by CNS
Księga_RE_1.indb 69
69
2015-09-08 13:14:31