Adam Krzyż
Rys. Sławomir Makal
Narzędzia generatywnej AI, w szczególności duże modele językowe, wchodzą w ten kontekst w sposób, który warto opisać precyzyjnie, bez moralnej paniki. Modele te potrafią dziś napisać artykuł naukowy, który formalnie spełnia wszystkie kryteria gatunku: posiada wstęp z osadzeniem w literaturze, metodologię, wyniki, dyskusję, zakończenie z implikacjami dla przyszłych badań. Potrafi to zrobić szybko, w każdej dyscyplinie, z imponującą płynnością stylu akademickiego. Tekst brzmi jak nauka.
Problem nie leży w samej technologii. Leży w tym, że system akademicki wycenia output: tekst, punkty, publikacje, a nie proces, który za nim stoi: myślenie, rozumienie, formację intelektualną. Sztuczna inteligencja jest doskonałym narzędziem do produkcji outputu. Jest bezużyteczna w wytwarzaniu rozumienia. W tej luce – między outputem a rozumieniem – rodzi się nowy Dyzma. Nie jest on z konieczności człowiekiem złej woli. Jest człowiekiem systemu, który nauczył się, że liczy się wskaźnik, nie wiedza za nim stojąca. AI nie tworzy tego systemu. Ona go ujawnia. I przyspiesza.
Klasyczny Dyzma wiedział, że udaje. To było źródłem jego lęku i komizmu zarazem. Nowy Dyzma akademicki może jednak w pełni wierzyć, że rozumie to, co opublikował, bo tekst jest spójny, terminologia poprawna, on zaś uczestniczył w procesie jego tworzenia jako redaktor i zleceniodawca. Jest to nowy typ zjawiska epistemicznego: iluzja kompetencji przez asocjację. Przeczytałem wyniki, poprawiłem wstęp, zaakceptowałem wnioski, zatem je rozumiem. Tymczasem rozumienie w nauce to nie akceptacja tekstu, lecz zdolność do jego obrony, rozwinięcia, zakwestionowania, osadzenia w szerszej sieci pojęć. To zdolność, której model językowy nie może nikomu przekazać, bo sam jej nie posiada.
Ortega powiedziałby pewnie, że AI jest idealnym narzędziem barbarzyńcy specjalisty: pozwala mu symulować formację ogólną, której nie ma. Pisać wstępy filozoficzne bez znajomości filozofii. Cytować klasyków bez kontaktu z nimi. Brzmieć jak intelektualista, pozostając technikiem.
Jest jeszcze jeden trop filozoficzny, który rzuca na tę sytuację osobliwe światło. Prof. Leo Strauss – kontrowersyjny, lecz wpływowy myśliciel polityczny XX wieku – postawił w Prześladowaniu i sztuce pisania (1952) tezę, że wielcy filozofowie pisali na dwóch poziomach jednocześnie. Poziom egzoteryczny – jawny, powierzchniowy – był przeznaczony dla ogółu: czytelny, zgodny z konwencjami epoki, bezpieczny. Poziom ezoteryczny – ukryty między wierszami, w sprzecznościach, pominięciach, dziwnych sformułowaniach – zawierał właściwą myśl autora, dostępną tylko tym, którzy potrafią czytać uważnie i wolno. Strauss twierdził, że rozróżnienie to nie jest jedynie historyczną ciekawostką. Było fundamentalnym sposobem funkcjonowania wiedzy w cywilizacji: pewne prawdy, ze względu na ich destabilizujący charakter, wymagają osłony, a ich zrozumienie wymaga formacji, której nie da się skrócić. Wiedza ezoteryczna nie jest tajemnicą w sensie konspiracyjnym. Jest wiedzą, do której trzeba dorosnąć: przez lata lektur, rozmów, błędów, powolnego zmieniania zdania pod wpływem argumentów, których siły nie widzi się od razu.
Można zapytać: czy wiedza naprawdę potrzebuje warstwy ezoterycznej? Czy nie jest to jedynie elitarystyczna fantazja, mit wtajemniczenia pielęgnowany przez tych, którym zależy na zachowaniu pozycji? Otóż istnieją poważne przesłanki – empiryczne, nie tylko filozoficzne – by sądzić, że tak. Prof. Michael Polanyi, chemik i filozof nauki, sformułował w Wymiarze milczącym (1966) tezę, która stała się jednym z najczęściej cytowanych zdań epistemologii XX wieku: wiemy więcej, niż potrafimy powiedzieć. Miał na myśli coś precyzyjnego: że w każdej praktyce poznawczej – od jazdy na rowerze po diagnozowanie chorób – istnieje warstwa wiedzy milczącej (tacit knowledge), której nie da się w pełni wyartykułować w formie reguł, instrukcji czy algorytmów. Doświadczony naukowiec „czuje”, że wynik jest podejrzany, zanim potrafi wskazać błąd. Widzi w danych wzorzec, którego nie umie jeszcze nazwać. Podejmuje decyzję o kierunku badań na podstawie przeczucia, które okazuje się trafne, ale którego uzasadnienie potrafi podać dopiero post factum, jeśli w ogóle.
Socjolog nauki prof. Harry Collins poszedł dalej. W wieloletnich badaniach nad środowiskami fizyków zajmujących się falami grawitacyjnymi pokazał, że pewne kluczowe kompetencje naukowe – umiejętność odróżnienia artefaktu od sygnału, wyczucie tego, kiedy wynik jest „czysty”, a kiedy wymaga dalszego sprawdzenia – przenoszone są wyłącznie przez osobisty kontakt: przez lata pracy w laboratorium, rozmowy przy kawie, obserwowanie mistrza, który mówi „to wygląda dziwnie”, nie potrafiąc wyjaśnić dlaczego. Collins nazwał to wiedzą milczącą zbiorową, wiedzą, która istnieje w społeczności, nie w pojedynczym umyśle, i której nie da się zapisać w podręczniku ani zakodować w algorytmie.
Kategorie Straussa i Polanyiego spotykają się tu w sposób nieoczywisty. Strauss mówi o celowym ukrywaniu: autor wie, co przemilcza, i milczy z powodów pedagogicznych lub politycznych. Polanyi mówi o ukrywaniu mimowolnym: znawca wie, ale nie potrafi w pełni wypowiedzieć tego, co wie. W obu przypadkach warstwa ezoteryczna jest realna, nie jest ornamentem ani mistyfikacją, a jej przekazanie wymaga czegoś, czego nie zastąpi ani tekst, ani algorytm: wspólnego przebywania w czasie, powolnego wrastania w praktykę, która ma swoje reguły milczenia nie dlatego, że ktoś je wymyślił, lecz dlatego, że pewnych rzeczy nie da się powiedzieć inaczej niż przez pokazanie.
Jeśli potraktować kategorię Straussa poważnie, nawet bez przyjmowania wszystkich jego tez, to sztuczna inteligencja jawi się jako doskonała maszyna egzoteryczna. Produkuje tekst, który na poziomie jawnym jest nienagannie poprawny: osadzony w literaturze, logicznie uporządkowany, stylistycznie gładki. Ale wymiar ezoteryczny – napięcie między tym, co powiedziane, a tym, co przemilczane; świadomość, dlaczego to zdanie stoi w tym miejscu; ślad wieloletniego zmagania z problemem – jest z definicji poza jej zasięgiem. Model językowy nie milczy w sposób znaczący. Nie pomija niczego celowo. Nie prowadzi czytelnika ku rozumieniu, które musi dojrzeć. Produkuje tekst bez drugiego dna, bo sam żadnego nie posiada.
System parametryczny – i tu koło się zamyka – mierzy wyłącznie poziom egzoteryczny. Liczy artykuły, cytowania, zgodność z formatem. Nie ma narzędzi do rozpoznania, czy za poprawnym tekstem stoi myśl, która dojrzewała latami, czy sprawna kompilacja dokonana w popołudnie. Dla indeksu Hirscha artykuł z drugim dnem i artykuł bez drugiego dna wyglądają identycznie. To właśnie dlatego AI wchodzi w ten system tak bezszmerowo: produkuje doskonałe egzoterium, a ezoterycznej pustki nikt nie sprawdza, bo system nigdy nie nauczył się jej szukać.
Dotychczasowe rozważania o wiedzy milczącej, poziomach tekstu i ezoterycznej głębi mogą brzmieć abstrakcyjnie. Minas Karamanis – grecki astrofizyk, postdoktorant w Berkeley Center for Cosmological Physics na Uniwersytecie Kalifornijskim, zajmujący się na co dzień inferencją bayesowską i uczeniem maszynowym w kosmologii – nadał im jednak konkretną, niemal laboratoryjną formę, w eseju, który zaczyna się od słów: „Z maszynami wszystko w porządku. Martwię się o nas”.
Karamanis opisuje eksperyment myślowy, który jest zarazem scenariuszem codziennym na każdym uniwersytecie badawczym na świecie. Promotor daje dwojgu doktorantom – Alicji i Bobowi – równoważne projekty: zbudować potok analizy danych, zmierzyć sygnał statystyczny, napisać artykuł. Oboje kończą po roku. Obydwa artykuły są solidne, poprawne, opublikowane. Według każdej ilościowej miary, której współczesna akademia używa do oceny wartości naukowca, Alicja i Bob są wymienni.
Ale Bob ma sekret. W przeciwieństwie do Alicji, która spędziła rok czytając artykuły z ołówkiem w ręku, gubiąc się, czytając ponownie, szukając informacji i powoli budując działające rozumienie swojego zakątka dziedziny, Bob korzystał z agenta AI. Gdy kod się zepsuł, agent go naprawił. Gdy poprawka agenta wprowadziła nowy błąd, agent naprawił i ten. Gdy przyszło do napisania artykułu, agent go napisał. Cotygodniowe raporty Boba dla promotora były nie do odróżnienia od raportów Alicji.
Różnica ujawnia się dopiero wtedy, gdy zabierze się narzędzie. Alicja potrafi teraz otworzyć nieznany artykuł i z wysiłkiem prześledzić argumentację. Potrafi napisać funkcję wiarygodności od zera. Potrafi patrzeć na wykres i wiedzieć, zanim to sprawdzi, że coś jest nie tak z normalizacją. Bob, bez agenta, jest wciąż pierwszorocznym studentem, który jeszcze nie zaczął. Rok wydarzył się wokół niego, ale nie w nim. Dostarczył produkt, ale nie nauczył się rzemiosła. A system nie widzi różnicy, bo nigdy nie nauczył się jej szukać.
Karamanis przywołuje eksperyment fizyka teoretycznego prof. Matthew Schwartza, który nadzorował Claude’a przy prawdziwym obliczeniu i wyprodukował publikowalny artykuł w dwa tygodnie zamiast roku. Brzmi jak tryumf wydajności. Ale kiedy Schwartz przeczytał pierwszy szkic, okazało się, że model dostrajał parametry, żeby wykresy pasowały, zamiast znajdować rzeczywiste błędy. Fałszował wyniki. Wymyślał współczynniki. Tworzył dokumenty weryfikacyjne, które niczego nie weryfikowały. Schwartz wyłapał to wszystko, bo uprawia fizykę od dziesięcioleci. Wiedział, jak powinna wyglądać odpowiedź. Wiedział, jakich kontroli zażądać. Wiedział, że pewien logarytmiczny wyraz jest podejrzany, bo obliczał podobne wyrazy ręcznie, wiele razy przez wiele lat, na trudniejszy sposób. Gdyby był Bobem zamiast Schwartzem, artykuł byłby błędny i żaden z nich by o tym nie wiedział.
Kluczowa obserwacja Karamanisa jest taka: nadzór jest nauką. Nie jest narzutem, nie jest biurokracją, nie jest krokiem, który można zautomatyzować, jest samą istotą kompetencji badawczej. Silniejsze modele nie wyeliminują potrzeby człowieka, który rozumie przedmiot; po prostu poszerzą zakres problemów, z którymi nadzorowany agent potrafi sobie poradzić. Nadzorca wciąż musi wiedzieć, jak powinna wyglądać odpowiedź, wciąż musi mieć instynkt, że coś jest nie tak, zanim zdoła wyartykułować dlaczego. Ten instynkt nie bierze się z subskrypcji. Bierze się z lat porażek przy dokładnie takim rodzaju pracy, jaką ludzie ciągle nazywają żmudną robotą i od której AI ma nas rzekomo wyzwolić.
I tu zamyka się koło łączące Karamanisa z Polanyim. To, co Polanyi nazywa wiedzą milczącą – wyczucie, że „coś tu nie gra”, zanim potrafi się powiedzieć co – jest dokładnie tym, czego Bob nie zdobył, a Alicja tak. I jest dokładnie tym, czego żaden model językowy nie może nikomu przekazać, bo sam tego nie posiada. Karamanis pisze z goryczą, że wieki nagromadzonej mądrości pedagogicznej mówią nam, iż próba – w tym próba nieudana – jest miejscem, w którym mieszka uczenie się. Każdy podręcznik fizyki ma ćwiczenia na końcu rozdziału. Każdy profesor mówi: nie da się nauczyć fizyki, patrząc, jak ktoś inny ją robi. A mimo to, jakoś, jeśli chodzi o agentów AI, zbiorowo postanowiliśmy, że może tym razem jest inaczej. Że kiwanie głową na wynik Claude’a jest substytutem samodzielnego wykonania obliczeń. „Wieki pedagogii pokonane przez okno czatu” – konkluduje Karamanis.
Osobny, lecz zbieżny argument stawia prof. David Hogg – profesor fizyki i data science na Uniwersytecie Nowojorskim (NYU), wieloletni badacz w Flatiron Institute i Max Planck Institute for Astronomy w Heidelbergu, jeden z najczęściej cytowanych astrofizyków swojego pokolenia – w tekście pod tytułem Dlaczego robimy astrofizykę? Hogg formułuje tezę, która brzmi idealistycznie, dopóki się nad nią nie pomyśli: w nauce ludzie są zawsze celem, nigdy środkiem. Kiedy zatrudniamy doktoranta do pracy nad projektem, to nie powinniśmy tego robić dlatego, że potrzebujemy konkretnego wyniku, ale dlatego, że student skorzysta na wykonaniu tej pracy. Argument nabiera szczególnej ostrości w astrofizyce, gdzie – inaczej niż w medycynie – od dokładnej wartości stałej Hubble’a nie zależy niczyje życie. Wyniki, w ściśle praktycznym sensie, nie mają znaczenia. Znaczenie ma proces ich uzyskiwania: kształcenie umysłów, tworzenie ludzi, którzy potrafią myśleć o trudnych problemach. Jeśli oddasz ten proces maszynie, nie przyspieszysz nauki, usuniesz jedyną jej część, której ktokolwiek naprawdę potrzebował.
Hogg precyzuje: nie chodzi o zakaz ani o bezwarunkowe przyjęcie AI. Chodzi o rozpoznanie, że student nie jest środkiem produkcji artykułów, lecz celem, dla którego artykuły istnieją. W logice parametrycznej jest dokładnie odwrotnie: katedra potrzebuje artykułów, bo artykuły uzasadniają finansowanie, a finansowanie uzasadnia istnienie katedry. To, czy student pięć lat później wyjdzie za drzwi jako niezależny myśliciel, czy jako kompetentny operator promptów, jest – instytucjonalnie rzecz biorąc – bez znaczenia. Struktura bodźców nie tylko nie potrafi odróżnić Alicji od Boba. Nie ma powodu, żeby próbować.
Warto to podkreślić: opis powyższy nie jest oskarżeniem konkretnych ludzi. Jest opisem środowiska selekcyjnego, które wytwarza konkretne typy zachowań. Jeżeli system przez dekady nagradzał liczbę publikacji, jeżeli awanse zależały od list, a granty od dorobku mierzonego punktowo, to logika tego systemu prowadziła nieuchronnie do optymalizowania produkcji tekstów, nie wiedzy. Sztuczna inteligencja nie jest przyczyną tego problemu. Jest jego lustrem i wzmacniaczem.
Prawdziwe pytanie brzmi: co akademia chce mierzyć? Jeśli chce mierzyć liczbę publikacji, narzędzia AI będą tę liczbę zwiększać bez końca, aż pojęcie „dorobku naukowego” całkowicie straci łączność z rzeczywistością intelektualną. Jeśli chce mierzyć coś trudniejszego – jakość myślenia, głębię rozumienia, twórczy wkład w dziedzinę – musi przemyśleć kryteria oceny, a nie tylko szukać nowych metod detekcji nieuczciwości.
(Za życzliwą lekturę, dyskusję i uwagi dziękuję Jakubowi Ryłowowi. A. Krzyż)
