Celina Maria Olszak
Rys. Sławomir Makal
Żyjemy w epoce, w której niewidzialne siły kształtują nasze wybory, opinie i tożsamości. Nie są to jednak siły nadprzyrodzone ani polityczne w ich tradycyjnym rozumieniu, są to algorytmy. Zbiory matematycznych instrukcji, ukryte za interfejsami naszych urządzeń, decydują o tym, jakie informacje docierają do naszej świadomości, jakie możliwości stają przed nami otworem, a jakie zostają nam, często bez naszej wiedzy, odebrane. Pytanie, czy algorytmy mają władzę, nie jest zatem pytaniem retorycznym ani abstrakcyjnym filozoficznym ćwiczeniem. Jest pytaniem fundamentalnym dla rozumienia współczesnej cywilizacji i, jak starać się będę wykazać, pytaniem równie pilnym dla środowiska naukowego, które algorytmicznym mechanizmom podlega w sposób rzadko poddawany krytycznej refleksji.
Zanim podejmiemy właściwą analizę, konieczne jest precyzyjne osadzenie pojęcia władzy w tradycji teoretycznej. Klasyczna definicja Maxa Webera mówi, że władza to zdolność narzucenia własnej woli innym, nawet wbrew ich oporowi. Eksponuje ona aspekt przymusowy i relacyjny. Michel Foucault, rozwijając tę perspektywę, w swoich analizach wskazał, że władza nie jest wyłącznie atrybutem określonych podmiotów, lecz przenika całą tkankę społeczną, tj. działa przez normy, dyskursy i praktyki, które kształtują to, co w danym porządku uznajemy za normalne, pożądane i możliwe. Władza w ujęciu Foucaultowskim nie tylko zakazuje, ale ona produkuje, tworzy podmioty, kategorie oraz granice poznania.
Z obu tych perspektyw algorytmy jawią się jako narzędzia władzy wyjątkowo skuteczne właśnie dlatego, że są niewidoczne. Nie krzyczą, nie grożą, nie wydają dekretów, a jednak nieustannie porządkują rzeczywistość. Decydują o kolejności wyników wyszukiwania, selekcji kandydatów do pracy, przyznawaniu kredytów i, jak zilustruję w dalszej części, decydują o tym, które badania i które uczelnie zasługują na uwagę świata nauki.
Pierwszym i być może najszerzej dostrzeganym wymiarem algorytmicznej władzy jest kształtowanie tego, co dociera do naszej świadomości. Platformy cyfrowe, od mediów społecznościowych po serwisy informacyjne, dawno przestały być neutralnymi pośrednikami treści. Są aktywnymi architektami przestrzeni poznawczej swoich użytkowników. Algorytmy rekomendacyjne, optymalizowane pod kątem maksymalizacji zaangażowania, systematycznie premiują treści wzbudzające silne emocje, tj. oburzenie, lęk czy polaryzację. Efektem jest dobrze udokumentowane zjawisko tzw. baniek informacyjnych i komór echa, w których jednostki i wspólnoty coraz głębiej zanurzają się w jednorodnym, samopotwierdzającym się obrazie rzeczywistości.
Należy podkreślić, że nie jest to efekt uboczny niedoskonałości technologii. To logiczna i przewidywalna konsekwencja modelu biznesowego, w którym czas spędzony przez użytkownika na platformie bezpośrednio przekłada się na przychody reklamowe. Algorytm realizuje cele swoich twórców z matematyczną precyzją. Sprawuje przy tym władzę, której skuteczność wynika właśnie z jej niewidoczności: użytkownik, przekonany o własnej suwerenności poznawczej, nie dostrzega, że pole jego możliwych wyborów zostało starannie przez algorytm zaprojektowane.
Władza algorytmów wykracza jednak daleko poza sferę informacyjną. W systemach oceny zdolności kredytowej, selekcji kandydatów do pracy, a nawet wymiaru sprawiedliwości, algorytmy podejmują lub współkształtują decyzje bezpośrednio determinujące życiowe szanse konkretnych ludzi. Sztandarowym, szeroko przebadanym przypadkiem jest amerykański system oceny ryzyka recydywy COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), wobec którego wykazano systematyczne i istotne statystycznie różnice w traktowaniu oskarżonych ze względu na rasę, ze wszystkimi konsekwencjami dla orzekanych wyroków.
Mechanizm dyskryminacji jest tu strukturalny, nie incydentalny. Algorytm uczony na danych historycznych nieuchronnie reprodukuje nierówności wpisane w te dane, tj. nierówności będące produktem dziesięcioleci lub stuleci niesprawiedliwości społecznej. Nadaje im przy tym pozór neutralności i naukowości, który jest znacznie trudniejszy do zakwestionowania niż jawna stronniczość ludzkiego decydenta. Matematyczna formuła staje się tarczą: „to nie my decydujemy, tu decydują dane”. Jest to jednak teza fałszywa, albowiem każdy wybór dotyczący tego, jakie dane zbierać, jak je mierzyć i jakie kryterium optymalizować, jest wyborem politycznym i etycznym, podejmowanym przez konkretnych ludzi w konkretnych warunkach społecznych.
Rosnąca rola algorytmów w podejmowaniu decyzji rodzi jeden z poważniejszych problemów ustrojowych naszych czasów: problem rozliczalności. Gdy decyzję podejmuje człowiek, tj. menedżer, urzędnik, sędzia, to istnieje podmiot, któremu można postawić zarzut i który można pociągnąć do odpowiedzialności. Gdy tę samą decyzję podejmuje system algorytmiczny, odpowiedzialność w sposób systemowy się rozmywa: producent oprogramowania powołuje się na specyfikację techniczną, instytucja zlecająca na rekomendacje ekspertów, a operator na autonomię narzędzia. Osoba pokrzywdzona wadliwą decyzją pozostaje sama wobec muru wzajemnych odesłań, bez realnej ścieżki odwołania.
Problem ten jest tym poważniejszy, że złożone modele uczenia maszynowego działają często jako systemy nieprzejrzyste, tzw. czarne skrzynki, których wewnętrzna logika pozostaje często niezrozumiała nawet dla ich konstruktorów. Tymczasem elementarne standardy praworządności wymagają, by decyzje władcze były uzasadnione i weryfikowalne. Algorytm, który potrafi powiedzieć jedynie „co”, lecz nie „dlaczego”, nie spełnia tego wymogu. Mamy tu do czynienia z fundamentalnym napięciem między efektywnością techniczną a standardami demokratycznego państwa prawa, których rozwiązanie wymaga nie tylko regulacji prawnych, ale i poważnej debaty aksjologicznej.
Dodatkowym wymiarem problemu jest skala. Ludzki decydent, nawet stronniczy, obejmuje swoją władzą ograniczoną liczbę spraw. Algorytm wdrożony w systemie ogólnokrajowym powiela ten sam błąd lub to samo uprzedzenie setki tysięcy razy, zanim zostanie zauważony. Skalowanie algorytmicznych decyzji oznacza skalowanie ich skutków, zarówno korzyści, jak i krzywd.
Za każdym algorytmem stoją konkretne interesy. Władza algorytmiczna nie jest bytem samodzielnym. Jest zakorzeniona w strukturach ekonomicznych i politycznych, które ją projektują, finansują i chronią. Kilka korporacji technologicznych o globalnym zasięgu (np. Alphabet, Meta, Amazon, Microsoft) dysponuje systemami, które w istotny sposób kształtują życie miliardów ludzi, a jednocześnie działają w warunkach ograniczonej transparentności i słabej regulacji. Ich algorytmy są chronione prawem własności intelektualnej, a ich kryteria projektowe pozostają poza jakąkolwiek demokratyczną kontrolą. Rodzi to problem ustrojowy bez precedensu. W każdej demokratycznej tradycji władza, która ma realny wpływ na życie obywateli, powinna podlegać zasadzie rozliczalności: mandatowi, kontroli oraz możliwości odwołania. Algorytmy sprawują tymczasem władzę bez żadnego z tych atrybutów. Równocześnie państwa, w tym państwa demokratyczne, coraz chętniej sięgają po narzędzia algorytmiczne do własnych celów kontrolnych: zarządzania granicami, oceny ryzyka społecznego czy nadzoru przestrzeni publicznej. Granica między cyfrową infrastrukturą usług a aparatem kontroli społecznej zaciera się w sposób, który powinien budzić poważny niepokój.
Pytanie o to, czy algorytmy mają władzę samodzielnie, czy jedynie jako narzędzia ludzkich aktorów, ma istotne konsekwencje praktyczne. Od jego rozstrzygnięcia zależy, kogo i jak możemy pociągnąć do odpowiedzialności. Bruno Latour, w ramach Teorii Aktora-Sieci, zaproponował pojęcie aktora nie-ludzkiego, czyli bytu, który nie jest podmiotem w sensie filozoficznym, lecz który uczestniczy w konstytuowaniu rzeczywistości społecznej przez swoje działanie. Algorytm jest takim aktorem. Oznacza to, że jego efekty są realne, jego oddziaływanie mierzalne, a jego rola w kształtowaniu możliwości i ograniczeń ludzkich aktorów jest niepodważalna.
Nie jest przy tym konieczne przypisywanie algorytmom intencjonalności czy świadomości, by uznać ich funkcjonalną władzę. Gdy złożony model językowy generuje odpowiedź, której nikt nie zaprojektował, lub gdy system rekomendacyjny odkrywa i eksploatuje wzorce podatności użytkowników, których twórcy nie przewidzieli, mamy do czynienia z emergencją, która wymyka się prostej dychotomii narzędzie/podmiot. Odpowiedzialność nie znika, lecz rozkłada się w sieci: między projektantami, instytucjami wdrażającymi i regulatorami, którzy zaniechali działania.
Spośród wszystkich przestrzeni, w których algorytmy sprawują władzę, środowisko akademickie zajmuje miejsce szczególne i szczególnie zobowiązujące. Nauka chętnie postrzega siebie jako przestrzeń rządzoną przez merytokrację, recenzję naukową i siłę argumentu, wolną od arbitralnych hierarchii. Jest to obraz głęboko zakorzeniony w samorozumieniu akademickim, sięgający korzeniami uniwersyteckiej tradycji średniowiecznych universitas magistrorum et scholarium, a w nowoczesnej formie zakodowany w Humboldtowskim ideale jedności badania i nauczania oraz w Mertonowskim etosie nauki, opartym na uniwersalizmie, wspólnotowości, bezinteresowności i zorganizowanym sceptycyzmie. Tymczasem algorytmy wniknęły głęboko w struktury tej przestrzeni, przejmując władzę nad tym, co uznaje się za wartościowe badanie, prestiżową uczelnię i wpływowego badacza, nierzadko bez świadomości samych zainteresowanych. Powstał w ten sposób paradoks fundamentalny: instytucje, których misją jest krytyczna refleksja nad rzeczywistością społeczną, same stały się przedmiotem algorytmicznej władzy, której mechanizmów nie poddają dostatecznie rygorystycznej analizie.
Globalne rankingi uczelni, takie jak: Shanghai Academic Ranking of World Universities, QS World University Rankings, Times Higher Education World University Rankings są pod tym względem przykładem modelowym i wymagają szczególnej uwagi. Każdy z nich opiera się na zestawie wskaźników przetwarzanych algorytmicznie: liczbie cytowań w prestiżowych bazach, współczynniku wpływu czasopism (Impact Factor), liczbie pracowników uhonorowanych nagrodą Nobla lub Medalem Fieldsa, stosunku liczby studentów do kadry akademickiej, międzynarodowej rozpoznawalności mierzonej ankietami reputacyjnymi, wielkości pozyskiwanego finansowania zewnętrznego. Formuła matematyczna, często skomplikowana, lecz zawsze redukcyjna, generuje liczbę, którą następnie kształtuje decyzje ministerstw, rektorów, kandydatów i pracodawców na całym świecie.
Należy podkreślić, że każdy z tych rankingów reprezentuje konkretną wizję tego, czym uniwersytet powinien być. Ranking szanghajski premiuje uczelnie badawcze o silnym profilu hard science; ranking QS przywiązuje znaczną wagę do reputacji wśród pracodawców; ranking THE eksponuje umiędzynarodowienie. Wybór wskaźników nie jest neutralny technicznie, jest aktem definicyjnym, decyzją o tym, jaki model uniwersytetu zasługuje na uznanie, a jaki należy traktować jako gorszy. W tym sensie algorytm rankingowy nie tylko mierzy rzeczywistość akademicką, ale on ją kształtuje, narzucając jednolity wzorzec doskonałości tysiącom różnorodnych instytucji o odmiennych misjach, tradycjach i społecznych zobowiązaniach.
Algorytm staje się arbitrem instytucjonalnego prestiżu, a prestiż jest w akademii walutą, od której zależy dostęp do finansowania, zdolność przyciągania utalentowanych pracowników i studentów, możliwość zawierania międzynarodowych partnerstw oraz długofalowe trajektorie instytucjonalne. Co więcej, prestiż algorytmicznie generowany ma charakter performatywny: sam fakt wysokiej pozycji w rankingu kreuje rzeczywistość, którą ranking rzekomo opisuje. Uczelnia oznaczona jako „top 100” przyciąga lepszych kandydatów, większe granty i bardziej cenionych pracowników, co w kolejnym cyklu pomiarowym utrwala jej pozycję. Mamy tu do czynienia z klasycznym mechanizmem Mertonowskiego „efektu św. Mateusza”: tym, którzy mają, będzie dane więcej.
Skutki tej algorytmizacji prestiżu są nierówne i niesprawiedliwe w sensie strukturalnym. Uczelnie funkcjonujące poza anglosaskim centrum nauki często znajdują się w mniej uprzywilejowanej pozycji. Dotyczy to szczególnie instytucji publikujących w językach innych niż angielski oraz prowadzących badania w obszarach humanistyki i nauk społecznych. Dyscypliny te opierają się bowiem przede wszystkim na monografiach i pracach zbiorowych, a nie na krótkich artykułach cytowanych w wąskich oknach czasowych. Z tego powodu znacznie trudniej poddają się logice wskaźników bibliometrycznych. W efekcie algorytmiczne systemy oceny systematycznie je niedowartościowują. Globalna mapa akademickiego prestiżu odwzorowuje i utrwala istniejące asymetrie geopolityczne, nadając im pozór wyniku obiektywnej oceny.
Zjawisko to ma szczególne znaczenie dla nauk ekonomicznych. Badania nad gospodarkami krajów rozwijających się, lokalnymi instytucjami finansowymi, regionalną polityką gospodarczą czy społecznymi skutkami transformacji ustrojowej, choć fundamentalnie istotne dla jakości życia milionów ludzi, stosunkowo rzadko trafiają do czasopism o najwyższym Impact Factor, które tradycyjnie premiują tematykę uniwersalistyczną i metody ekonometryczne oparte na danych z gospodarek wysokorozwiniętych. W konsekwencji ekonomista badający przemiany gospodarcze Europy Środkowo-Wschodniej staje przed wyborem: pozostać wiernym lokalnemu kontekstowi i zasileniu rodzimej polityki publicznej kosztem własnej widoczności w globalnych metrykach albo dostosować swój dorobek do priorytetów algorytmu, ryzykując utratę kontaktu z problemami, którym powinien służyć.
Jest to mechanizm tym bardziej niepokojący, że samonapędzający i kumulacyjny. Uczelnie peryferyjne, pozbawione zasobów generowanych przez wysoki ranking, nie są w stanie poprawić swojej pozycji w warunkach ustalonych przez sam algorytm. Pułapka strukturalna jest doskonała i właśnie dlatego wymaga świadomej, instytucjonalnej odpowiedzi ze strony liderów akademickich tych regionów, które w globalnej hierarchii nigdy nie znajdą się w pierwszej dziesiątce, niezależnie od jakości prowadzonych badań i poziomu kształcenia.
Analogiczny mechanizm działa na poziomie indywidualnego badacza, gdzie algorytmiczna władza przybiera formę szczególnie dotkliwą, gdyż dotyka karier konkretnych ludzi i strategii badawczych całych pokoleń naukowych. Platformy takie jak Google Scholar, Scopus czy Web of Science nie są neutralnymi bibliotekami nauki. Są algorytmicznymi filtrami decydującymi o widoczności dorobku naukowego, a poprzez tę widoczność o samej możliwości jego dalszej recepcji i rozwoju. Indeks Hirscha, Impact Factor czasopisma, liczba cytowań w określonym oknie czasowym, wskaźnik FWCI (Field-Weighted Citation Impact), Altmetric Score – to metryki, które obliczane i eksponowane są przez algorytmy, a instytucje akademickie przekształcają je w kryteria awansu, przyznawania grantów, ewaluacji jednostek, a w wielu krajach także w podstawę algorytmicznego rozdziału środków z budżetu państwa.
Konsekwencje tego zjawiska wykraczają daleko poza pojedyncze decyzje personalne. Mamy do czynienia z procesem, który socjolog nauki Yves Gingras trafnie określił mianem bibliometric reductionism, tj. sprowadzeniem oceny pracy intelektualnej do ilościowych wskaźników, których metodologiczne ograniczenia są znane od dziesięcioleci, lecz pozostają w praktyce ignorowane. Wskaźnik Hirscha nie odróżnia oryginalnego wkładu od cytowań krytycznych. Impact Factor czasopisma niewiele mówi o wartości pojedynczego artykułu. Liczba cytowań w pięcioletnim oknie systematycznie dyskryminuje badania długoterminowe i prace teoretyczne, których recepcja narasta przez dekady. A jednak te właśnie metryki, w imię operacyjnej wygody, stały się walutą oceny pracy naukowej.
Badacz, którego praca nie trafia do zaindeksowanych baz lub który z wyboru bądź konieczności publikuje w obszarach słabo cytowalnych, np. w naukach pedagogicznych, filozoficznych, prawnych, w historii regionalnej, w studiach nad lokalnymi gospodarkami, zostaje przez algorytm zepchnięty na margines akademickiego pola widzenia, niezależnie od rzeczywistej wartości i oryginalności swojego wkładu intelektualnego. Co więcej, presja metryczna zaczyna kształtować same wybory badawcze. Młodzi naukowcy, racjonalnie reagujący na bodźce, jakie wysyła system, wybierają tematy „bezpieczne metrycznie” zamiast trudniejszych, lecz potencjalnie bardziej oryginalnych. Algorytm formatuje w ten sposób przyszłość nauki, zanim ta przyszłość zdąży się wydarzyć.
Warto zwrócić uwagę również na pętle zwrotne, jakie algorytmy generują w obiegu wiedzy naukowej, gdyż ich kumulatywne działanie zagraża samej różnorodności poznawczej, na której opiera się siła nauki jako instytucji. Systemy rekomendacyjne Google Scholar, ResearchGate czy Academia.edu podpowiadają badaczom teksty podobne do tych, które już czytali, cytowali lub pobierali, zamykając obieg poznawczy w ramach coraz węższych subdyscyplin i utrwalając istniejące wzorce cytowań. Cytowania koncentrują się wokół tych samych węzłowych autorów i czasopism, wzmacniając ich pozycję w kolejnych obliczeniach rankingowych, podczas gdy oryginalne, interdyscyplinarne czy heterodoksyjne podejścia tracą widoczność tym szybciej, im rzadziej trafiają do głównego obiegu algorytmicznego.
Nauka, paradoksalnie, upodabnia się w ten sposób do mediów społecznościowych. Algorytm zaprojektowany jako narzędzie porządkowania wiedzy staje się czynnikiem ograniczającym jej różnorodność i oryginalność. Powstają akademickie bańki poznawcze, zamknięte światy cytowań, w których określone szkoły myślenia, metodologie i tematy stają się dominujące nie dzięki swojej intelektualnej wyższości, lecz dzięki sieciowemu efektowi algorytmicznej rekomendacji. Tymczasem postęp naukowy, jak uczy historia idei, rodzi się najczęściej na styku różnych dyscyplin, w spotkaniu odmiennych tradycji intelektualnych, w heterodoksji, która początkowo wydaje się marginalną. Algorytm, premiując to, co już jest centralne, systemowo utrudnia powstawanie tego, co mogłoby stać się centralne jutro.
Należy też dostrzec wymiar etyczny tej algorytmizacji. Wymiar, który dotyka samej tożsamości misji uniwersytetu. Wbudowane w metryki bibliometryczne założenia aksjologiczne, że to, co cytowane, jest cenne; że to, co mierzalne, jest istotne; że to, co dominuje w globalnym obiegu, jest godne emulacji, pozostają zwykle nieartykułowane, a tym samym niepoddawane krytyce. Tymczasem każda z tych przesłanek jest w istocie problematyczna i powinna być przedmiotem otwartej debaty wspólnoty akademickiej. Czy uniwersytet istnieje po to, by produkować cytowania, czy by służyć społeczeństwu? Czy nauka jest grą o pozycję w globalnym rankingu, czy zobowiązaniem wobec prawdy i wspólnego dobra? Pytania te nie są retoryczne, od odpowiedzi, jakich na nie udzielimy, zależy kształt akademii, jaką pozostawimy następnym pokoleniom.
W tym kontekście inicjatywy takie jak Deklaracja z San Francisco w sprawie Oceny Badań Naukowych (DORA) z 2012 roku czy Manifest z Lejdy w sprawie Wskaźników Badawczych (Leiden Manifesto) z 2015 roku stanowią pierwsze, lecz wciąż niewystarczające próby instytucjonalnej odpowiedzi środowiska naukowego na dominację metryk. Wskazują one drogę, tj. odejście od mechanicznego stosowania wskaźników, dowartościowanie różnorodności form publikacyjnych i językowych, uwzględnienie społecznego oddziaływania badań. Niestety, lecz ich praktyczne wdrożenie wymaga odwagi instytucjonalnej, której wciąż brakuje większości uczelni. Wyzwaniem dla liderów akademickich naszych czasów jest przekształcenie tych deklaracji w realne praktyki ewaluacyjne, zdolne stawić opór algorytmicznej redukcji wartości nauki do mierzalnego śladu.
Algorytmy mają władzę. Nie w sensie metaforycznym czy publicystycznym, lecz w głębokim, strukturalnym sensie. Kształtują one przestrzeń poznawczą, podejmują decyzje determinujące życiowe szanse, reprodukują i utrwalają istniejące nierówności, a zarazem tworzą nowe formy kontroli, nieznane poprzednim epokom. Ich władza jest tym poważniejsza, że ukryta za pozorem matematycznej neutralności, który skutecznie neutralizuje potencjał krytyki.
Środowisko akademickie zajmuje w tej debacie pozycję wyjątkową i zobowiązującą. Jesteśmy zarazem przedmiotem algorytmicznej władzy: nasze kariery, instytucje i hierarchie kształtują systemy, których logiki zbyt rzadko poddajemy krytycznej analizie. I jesteśmy podmiotem zdolnym do tej analizy: dysponujemy narzędziami intelektualnymi i instytucjonalnym autorytetem, które pozwalają odsłaniać mechanizmy tej władzy, artykułować alternatywy i wywierać wpływ na kształt regulacji. Milczenie akademii wobec algorytmizacji własnych struktur byłoby nie tylko intelektualnym zaniedbaniem, lecz formą bezrefleksyjnego współudziału.
Odpowiedzią na algorytmiczną władzę nie może być ani bezkrytyczna akceptacja postępu technologicznego, ani jałowe odrzucenie. Musi nią być dojrzała, demokratyczna refleksja nad tym, jakie wartości mają kodować systemy, którym powierzamy coraz więcej decyzji dotyczących naszego życia, naszych karier i naszej wiedzy. Algorytmy są zwierciadłem i jak każde zwierciadło nie tylko odbijają rzeczywistość, lecz ją nieuchronnie zniekształcają. To, co widzimy w tym odbiciu, zależy od tego, czy będziemy mieć odwagę zapytać: kto trzyma zwierciadło, w czyim interesie i po co?
Prof. dr hab. inż. Celina Maria Olszak, rektor Uniwersytetu Ekonomicznego w Katowicach
