Hanna Kuczyńska
Rys. Sławomir Makal
Zanim czytelnik sięgnął dzisiaj po ten tekst, z pewnością zostawił szereg śladów swojej obecności w świecie cyfrowym. Podobne ślady pozostawione przez podejrzanych lub świadków mogą stać się bezcennym źródłem informacji dla organów ścigania zajmujących się badaniem zbrodni międzynarodowych. W życiu społecznym, które w dużej mierze toczy się już w wymiarze wirtualnym, również dokumentacja i ściganie najpoważniejszych zbrodni prawa międzynarodowego (tzw. core crimes, do których zalicza się: zbrodnia agresji, zbrodnie wojenne, zbrodnie przeciwko ludzkości i zbrodnia ludobójstwa) wymagają nowego podejścia do możliwości, które ten świat cyfrowy oferuje.
W świecie, który tak szybko stał się cyfrowy, śledztwa w sprawie najpoważniejszych zbrodni nie mogą być prowadzone wyłącznie w oparciu o środki analogowe. Korzystanie z danych cyfrowych jest konieczne ze względu na dużą skalę zdarzeń, dużą liczbę zaangażowanych osób, odległe terytorium zdarzeń. Nie sposób już wyobrazić sobie takiego śledztwa bez możliwości korzystania z takich materiałów jak: dane dostępne w otwartych źródłach, w szczególności w mediach społecznościowych, dane i zdjęcia satelitarne, mikro– i makro analiza zdjęć dostępnych w Internecie i w telewizji, dostępne online bazy danych (tzw. open source intelligence, OSINT), cyfrowe platformy prezentacji dowodów, a także chronolokacja, geolokacja, analiza cieni oraz dostępne online (a także specjalnie napisane) algorytmy służące analizie tych danych. Taka jakość (cyfrowa) i ilość (bogactwo materiału dowodowego) to zupełna nowość w procesie karnym i wymaga nowego podejścia, zarówno jeśli chodzi o typologię dowodów, zarządzanie nimi, jak i reguły dopuszczalności w procesie karnym. Zupełnie inaczej niż w sprawach o przestępstwa pospolite problemem nie jest niedobór dowodów, lecz ich nadmiar. Informacji cyfrowych o toczących się konfliktach zbrojnych jest po prostu za dużo, żeby było możliwe ich obejrzenie lub przeczytanie przez jedną osobę, a nawet zespół osób, co prowadzi do konieczności przyjęcia szczególnych metod radzenia sobie z tym nadmiarem, np. za pomocą mechanizmów big-data analysis. Pytanie do organów ścigania brzmi: jak wykorzystać środowisko cyfrowe na potrzeby procesu karnego; pytanie do sędziów – jak oceniać i na jakich zasadach oceniać i dopuszczać w ten sposób uzyskane dowody.
Ostatnie przykłady dokumentowania zbrodni międzynarodowych popełnianych w Syrii i na Ukrainie, jak również w Palestynie wskazują jasno na potrzebę zmiany paradygmatu gromadzenia dowodów zbrodni międzynarodowych; m.in. Syrian Archive i Commission for International Justice and Accountability gromadzą dowody w „otwartych źródłach”, w szczególności w mediach społecznościowych. Także w przypadku zbrodni popełnionych na Ukrainie dowody są gromadzone i weryfikowane w postaci cyfrowej, zarówno przez organizacje pozarządowe (jak Bellingcat czy eyeWitness to Atocities, Conflict Observatory), jak i rządowe (Prokuratura Generalna Ukrainy). Te raporty i zbiory danych wykorzystywane są w pracy organów ścigania państw i sądy orzekają na podstawie takiego materiału dowodowego (np. w osądzonej przez holenderskie sądy sprawie zestrzelenia samolotu MH17 Malaysian Airlines wykorzystano raport przygotowany przez Bellingcat, który w 2015 r. był w stanie udowodnić, że Ministerstwo Obrony Rosji manipulowało obrazami geoprzestrzennymi związanymi z zestrzeleniem samolotu, w tym zmieniało teren, usuwało obecność rosyjskich pojazdów wojskowych i zasłaniało ważne elementy miejsca katastrofy samolotu fałszywymi chmurami). Również Międzynarodowy Trybunał Karny wydaje orzeczenia, bazując na takich dowodach.
Finansowany przez Narodowe Centrum Nauki a realizowany w ramach Instytutu Nauk Prawnych Polskiej Akademii Nauk projekt badawczy „W poszukiwaniu sprawiedliwości za zbrodnie międzynarodowe w epoce cyfrowej” w zespole składającym się z prof. Karoliny Wierczyńskiej z INP PAN, dr Kai Kowalczewskiej z Digital Justice Center przy Uniwersytecie Wrocławskim oraz Michała Nasiłowskiego z Prokuratury Krajowej, a także autorki, ma na celu ustalenie, w jaki sposób powinno się odbywać dokumentowanie i udowadnianie zbrodni międzynarodowych przy użyciu narzędzi dostępnych w szeroko rozumianym środowisku cyfrowym. Założeniem głównym jest to, że w przypadku takich zbrodni podejście do dowodów jest i powinno być zupełnie inne niż w procesach o przestępstwa pospolite i powinno opierać się na dowodach cyfrowych. W celu uspokojenia osób zatroskanych pierwszym zdaniem niniejszej prezentacji projektu badawczego i śladami, które dzisiaj zostawiły w Internecie, należy podkreślić, że projekt przewiduje także udzielenie odpowiedzi na pytanie o konieczne gwarancje prawne dla naszej prywatności, których nowe mechanizmy gromadzenia dowodów nie powinny naruszać.
Nie tylko korzystanie z danych dostępnych w Internecie stało się niezbędne w ściganiu zbrodni międzynarodowych, ale także jesteśmy świadkami cyfrowej rewolucji i pierwszych przypadków użycia AI do zarządzania takimi danymi i ich analizy. Jako pierwszy, Międzynarodowy Trybunał Karny poinformował o użyciu sztucznej inteligencji w procesie analizy danych i zbierania dowodów przez Urząd Prokuratora MTK (OTP ICC). Uruchomiony w tym roku Project Harmony zakłada wykorzystywanie sztucznej inteligencji do analizowania dowodów. Stał się znakiem rozpoznawczym poprzedniego Prezydium MTK zachwalającego projekt w ten sposób: „Aby skuteczniej domagać się sprawiedliwości, musimy wykorzystać potęgę najnowocześniejszej technologii. W dzisiejszym świecie to nie luksus, to warunek działania” (zob. oświadczenie prokuratora MTK z 24.05.2023).
Project Harmony obejmuje różne komponenty, które zapewniają scentralizowane gromadzenie zawiadomień o popełnionych zbrodniach znajdujących się w jurysdykcji MTK (tzw. OTPLink), przechowywanie informacji i dowodów oraz integrują szereg narzędzi śledczych (umożliwiających dokonywanie dowodowych czynności poszukiwawczych) i analitycznych (oferujących możliwość dokonania ich analizy i zarządzanie nimi). Działanie tego algorytmu obejmuje szybką identyfikację wzorców, automatyczne tłumaczenia, identyfikację twarzy, wzbogacanie obrazu, tłumaczenia plików multimedialnych, ukierunkowane wyszukiwanie materiałów źródłowych, automatyczną transkrypcję oraz analizę nagrań wideo i obrazów. Choć żadna z tych innowacji sama w sobie nie jest nowością, połączone w ten sposób, mogą być nieocenione dla efektywności OTP w gromadzeniu, przechowywaniu, zabezpieczaniu, analizowaniu i ocenianiu wiarygodności dowodów. Na przykład narzędzia do identyfikacji twarzy mogą pomóc w ustalaniu potencjalnych wersji śledczych, dzięki szybszemu porównywaniu wielu obrazów, które mogą przedstawiać tę samą osobę. Algorytm ma także umożliwiać łatwe filtrowanie nieistotnych informacji, ułatwiając skupienie się na „najbardziej wiarygodnych i istotnych informacjach przefiltrowanych przez oprogramowanie e-Discovery” (zob. raport roczny OTP ICC za rok 2023).
Nie sposób pominąć narzędzi używanych w pracy Europolu, którego rolą jest także koordynowanie działań organów ścigających i dokumentujących zbrodnie międzynarodowe. Europol wykorzystuje sztuczną inteligencję w analizie danych mogących stać się dowodami w procesach karnych w celu wyodrębniania i klasyfikowania informacji z coraz większej liczby cyfrowych źródeł danych. Analitycy Europolu używają zestawu modeli sztucznej inteligencji do klasyfikowania obrazów poprzez automatyczne przypisywanie tagów do milionów zdjęć lub do wyodrębniania fragmentów tekstu, w tym nazwisk osób, lokalizacji, numerów telefonów lub kont bankowych. Algorytmy pozwalają także na wyszukiwanie specyficznych elementów w obrazach w bazie danych (np. kokainowych kostek z określonym logo) lub wykrywanie przydatnych informacji na zdjęciach (np. numer na drzwiach kontenera transportowego, tablice rejestracyjne samochodów). Po wykonaniu tej czynności analitycy mogą zweryfikować informacje wygenerowane przez sztuczną inteligencję i rozpocząć poszukiwanie korelacji: zdjęcia kokainy i powiązane wiadomości tekstowe mogą porównać z numerami kontenerów i lokalizacjami w miastach portowych, które są znane z handlu kokainą. Analitycy mogą następnie zawęzić zakres wyszukiwania, porównać informacje z innymi bazami danych Europolu i rozpocząć tworzenie wykresu łączącego różnych podejrzanych i ich działania. Są to decyzje podejmowane przez analityków nie przez AI. Klasyfikowanie milionów zdjęć i nagrań i wyodrębnianie w ich ramach określonych informacji jest jednak żmudną i czasochłonną pracą, którą sztuczna inteligencja może wesprzeć, aby „uwolnić ograniczone zasoby ludzkie”, które można lepiej wykorzystać gdzie indziej.
Użycie AI do analizy danych w procesie karnym zmusza do analizy skutków, a przede wszystkim potencjalnych zagrożeń, które ze sobą niesie. Analiza dowodów dokonywana przez algorytm musi zakładać, że jest on uczony na określonych zbiorach danych i zgodnie z określonymi wskazówkami. Systemy algorytmiczne mogą być jedynie tak dobre, jak dane, na których są trenowane, dlatego też dane wejściowe do modeli mają kluczowe znaczenie. Analiza dokonywana przez AI jest podatna na określone zagrożenia charakterystyczne dla cyfrowej analizy danych, w tym stronniczość analizy danych dokonywanej przez algorytmy oraz karmienie algorytmu celowo sfałszowanymi danymi. Jeśli chodzi o to pierwsze zagrożenie, np. w przypadku systemów rozpoznawania twarzy, model może być szkolony na zbyt mało zróżnicowanych zbiorach danych, co może prowadzić do niedokładnego i stronniczego rozpoznawania osób narodowości lub rasy, której przedstawiciele częściej popełniają przestępstwa. Mogą również wystąpić uprzedzenia związane z płcią wynikające z luk w dokumentacji dotyczącej krzywd wyrządzonych mężczyznom i kobietom lub z powodu norm społecznych. W rezultacie powstałe w ten sposób wyniki analizy mogą być podatne na „stronniczość algorytmu”, „algorytmiczne uprzedzenia” (algorithmic bias), np. w odniesieniu do kwestii rasowych, etnicznych lub związanych z płcią i prowadzić do wykluczenia z analizy określonych treści albo wręcz przeciwnie – nadania im nadmiernego znaczenia. Jeśli chodzi o drugie zagrożenie, to w epoce manipulacji informacyjnej i deepfake’ów nie można wykluczyć stosowania celowych zakłóceń danych poddawanych analizie. Model uczenia maszynowego może zostać celowo wprowadzony w błąd, aby nieprawidłowo sklasyfikować lub zidentyfikować obiekt lub osobę. Taka celowa dezinformacja może polegać np. na cyfrowej wymianie określonego munduru na inny lub na zmianie twarzy w ten sposób, aby wyglądała jak twarz innej osoby. Tworzone mogą być również specjalnie wielkie ilości danych, które mogą prowadzić do powstania fałszywej narracji: nie jest całkiem nierealistyczne wyobrażenie sobie wyrafinowanej, sponsorowanej przez państwo kampanii dezinformacyjnej, która dostarcza nieprawidłowych lub wprowadzających w błąd danych.
Należy jednak podkreślić, że używane przez organy ścigania algorytmy nie są jeszcze sztuczną inteligencją zgodnie z definicją tego pojęcia – nie podejmują bowiem samodzielnych decyzji. Ich zadaniem jest analiza danych i przedstawienie rezultatu, który nadal oceniany jest przez czynnik ludzki. To nie komputer podejmuje decyzję o ściganiu czy o znaczeniu uzyskanych rezultatów analizy i uznaniu ich za dowody w procesie karnym.
Realizowany projekt badawczy ma za zadanie odpowiedzieć na szereg pytań badawczych. Po pierwsze, badania muszą się rozpocząć od zdefiniowania typów dowodów cyfrowych, przyjmujących formę danych możliwych do wprowadzenia do procesu karnego. Z pewnością wydruk strony z Internetu (tzw. print screen) nie posiada niezbędnej „jakości procesowej”, nie jest wiarygodnym źródłem dowodowym, każdy bardziej uzdolniony uczeń szkoły podstawowej potrafi przygotować dokument wyglądający jak print screen. Należy więc sięgać do danych przechowywanych przez dostawcę usługi (providera) i uzyskiwać je ze źródła, w którym dane te nie mogły ulec zniekształceniu. Należy podkreślić istotność unijnych regulacji gromadzenia dowodów cyfrowych, od czasu przyjęcia rozporządzenia z dnia 12 lipca 2023 r. w sprawie nakazu wydania i zabezpieczania dowodów elektronicznych (rozporządzenie (UE) 2023/1543). Istotnym problem jest także ustalenie prawdziwego autora informacji przechowywanych w Internecie. Dane zamieszczane anonimowo lub fałszywie oznaczane mogą być przydatne, ale mogą także prowadzić do mylnych wniosków.
Drugie pytanie badawcze wiąże się z tym, jak poradzić sobie z olbrzymią ilością informacji dotyczących zbrodni międzynarodowych dostępnych w Internecie. Należy rozważać, czy w takiej sytuacji konieczne jest użycie algorytmów odpowiedzialnych za big-data analysis do zadań procesu karnego. Czy jednak analiza danych przez algorytm i wyszukiwanie dowodów obciążających to Orwellowski pomysł na robota-śledczego? Kluczowe jest tu nakreślenie granicy między wykorzystywaniem przez ludzi algorytmów pomagających w analizie dowodów, a przekazaniem im odpowiedzialności za podejmowanie określonych decyzji – mogą one dokonywać analizy dowodów, jednak nie ich oceny. Jak jednak zapewnić, że algorytm ten nie popełni błędu, że nie „wypluje” wyniku, który nigdy by nie powstał, gdyby dane analizował człowiek? Czy należy wprowadzić obowiązkową kontrolę czynnika ludzkiego (tzw. human-in-the-loop)? Nie można też zapominać o problemie równości broni w procesie karnym. Przecież algorytmu nie da się przesłuchać, więc kontrola obrony nad sposobem uzyskania materiału dowodowego przygotowanego przez oskarżenie przy użyciu sztucznej inteligencji staje się iluzoryczna.
Po trzecie, należy rozważyć, jak zapewnić wiarygodność uzyskanych dowodów cyfrowych; dowody w procesie karnym muszą mieć określoną jakość, nie mogą być przypadkowymi informacjami uzyskanymi online. Technologia deepfake jest coraz bardziej dostępna dla zwykłych użytkowników. Zaciera cienką granicę między rzeczywistością a fałszem. Może stanowić zarówno jeden ze sposobów popełniania przestępstw, jak i prowadzić do błędów wymiaru sprawiedliwości, gdy jest przedstawiana jako dowód. Obecnie możemy uważać technologię deepfake za główne wyzwanie dla wymiaru sprawiedliwości w sprawach karnych. Może go ona wręcz sparaliżować. Każdy dogmat procesu karnego może zostać podważony, gdy się okaże, że każdy dowód można zmanipulować. Każdy dowód może się stać niewiarygodny z założenia. Na szczęście technologie wykrywania danych sfałszowanych rozwijają się równie szybko jak technologie fałszowania danych. Założyć należy, że obowiązkowym etapem gromadzenia dowodu cyfrowego jest sprawdzenie jego wiarygodności, czy to dzięki powołaniu biegłego, czy też za pomocą wykorzystania przez organy ścigania specjalnych algorytmów wykrywających fałszerstwa.
Kolejne badane zagadnienie (spośród wielu, które wymagają analizy) dotyczy tego, jak sądy powinny oceniać dowody cyfrowe i dane uzyskane w procesie analizy danych przez algorytmy. Obecnie, gdy brakuje reguł dopuszczalności dowodów cyfrowych, sądy oceniają je tak samo jak wszystkie inne dowody, na zasadzie swobody dowodowej, analizując ich istotność i wiarygodność zgodnie z posiadanym doświadczeniem i logiką, w ramach całościowej oceny dowodów przedstawionych w sprawie.
Wreszcie nie można zignorować kwestii tego, w jaki sposób uregulować dostęp do prywatnych nośników danych: czy informacje te uzyskiwać z chmury, czy z samego urządzenia, i jak daleko może sięgać władza państwa kontrolowania zawartości tego, co znajduje się na naszym smartfonie. Niewątpliwie trzeba postawić granice tej ingerencji w życie prywatne. Czy należy opatrzyć każdy smartfon ostrzeżeniem: „Uwaga! Wszystko co przechowujesz w tym telefonie i do czego masz z niego dostęp może być użyte przeciwko tobie!”? Możliwe jest obecnie wytropienie zbrodniarza wojennego z wykorzystaniem informacji przechowywanych w używanych przez niego aplikacjach. Można się zdziwić, ile informacji o sobie podejrzani zostawiają w aplikacjach cyfrowych: UberEats, Glovo, Bolt, Instagram, Facebook czy nawet aplikacje fitnessowe i randkowe. Z drugiej strony, czy można kogoś zmusić do odblokowania własnego telefonu w celu uzyskania dostępu do samego telefonu? Przystawić mu palec do czytnika odcisków linii papilarnych? Pytanie to zresztą interesuje każdego z nas – na ile organy państwowe mogą zajrzeć do naszego cyfrowego życia.
Projekt badawczy systematyzuje te badania nie tylko pod kątem zagadnień teoretycznoprawnych i typologicznych, ale też zakłada przeprowadzenie badań empirycznych wśród prokuratorów i sędziów polskich, ukraińskich, niemieckich i szwedzkich, a także na forum MTK, co do rodzajów dowodów cyfrowych, które wykorzystywane są w ściganiu zbrodni międzynarodowych i co do warunków ich wprowadzenia do procesu, w tym też mechanizmów ich weryfikacji. Tytułem przykładu należy podać, że ukraińskie organy ścigania wyspecjalizowały się w wykorzystywaniu Internetu do gromadzenia dowodów zbrodni wojennych. W sprawie niemieckich obywateli, którzy zostali zastrzeleni lub zranieni w Hostomelu postępowanie przeprowadziła prokuratura ukraińska. Pokrzywdzony obywatel Niemiec został przyjęty do szpitala z licznymi ranami odłamkowymi głowy i udało mu się uciec później na zachodnią Ukrainę. Poszukując kierowcy ostrzelanej niemieckiej Skody, ukraińscy śledczy porównali tablicę rejestracyjną samochodu z bazą danych kontroli granicznej. Dzięki temu poznali nazwisko kierowcy. Korzystając z oprogramowania do rozpoznawania twarzy, śledczy byli w stanie zidentyfikować pięciu podejrzanych bojowników OMON. Strzelających żołnierzy uchwyciło kilka kamer monitoringu supermarketów, które godzinami filmowały ich z bliskiej odległości. Nagrania te porównano ze zdjęciami z portali społecznościowych i stron internetowych rosyjskich agencji bezpieczeństwa.
Celem projektu badawczego będzie zaprojektowanie zintegrowanej reakcji procesowej pozwalającej na wykorzystanie technologii w procesie karnym w postępowaniu dowodowym oraz zaplanowanie sposobu wykorzystania analizy przez algorytmy. Należy podkreślić, że prawidłowe sprawowanie wymiaru sprawiedliwości w sprawach karnych (zarówno krajowych, jak i międzynarodowych) wymaga gromadzenia, analizowania, weryfikowania i oceny dowodów cyfrowych w sposób koherentny i rzetelny pod względem metodologicznym i prawnym, gdyż tylko takie dowody mogą zostać uznane za dopuszczalne w procesie karnym.
Prof. dr hab. Hanna Kuczyńska, Zakład Prawa Karnego, Instytut Nauk Prawnych PAN. Jest członkiem Biura Studiów i Analiz Sądu Najwyższego w Izbie Karnej.
