Ghost in the machine

W powieści George’a Orwella Brak tchu pojawia się postać przyjaciela głównego bohatera, w oczach którego na tym świecie nigdy nie ma nic nowego, gdyż każdy mechanizm polityczny czy społeczny, każde pozornie nieznane wcześniej zjawisko stanowi powtórzenie zdarzeń i postaci z czasów starożytnych (bo też po prostu na tej epoce zna się najlepiej). Hitler (utwór powstał w 1939 roku) to dla niego po prostu kolejne wcielenie tyrana małej greckiej polis, co uniemożliwia mu dostrzeżenie zagrożenia, jakie przywódca ten stanowi dla jego ukochanej „starej, dobrej Anglii”. Coś podobnego obserwuję w opiniach wielu przedstawicieli średniego i starszego pokolenia na temat dynamicznego rozwoju sztucznej inteligencji: wyrabiają sobie wyraziste zdanie już po pierwszych, powierzchownych kontaktach. ChatGPT halucynował, zatem AI to humbug i ludzie prędzej czy później się zorientują. Odpowiedź DeepSeeka na dane pytanie była w miarę oczywista, więc to tylko taka wyszukiwarka i agregator, może trochę na sterydach. Albo w drugą stronę: niech duża część społeczeństwa, szczególnie z branży kreatywnej, co rychlej przekwalifikowuje się na spawaczy czy hydraulików, bo ich akurat „ejaj” nie zastąpi…

Stoimy wciąż u progu rewolucji, nadal głównie rozpoznajemy teren. Narzędzia oparte na różnych odmianach AI zaczynają ujawniać rozmaite ograniczenia, ale to wciąż dopiero początek. Żeby mieć choć mgliste wyobrażenie, co może się w najbliższej przyszłości zmienić, warto znać nie tylko obecne wyniki korzystania z tych narzędzi (czyli właśnie halucynacje), ale przede wszystkim wiedzieć, jak sztuczna inteligencja naprawdę działa – w ogólnych, zrozumiałych dla laika zarysach duże modele językowe (LLM-y) i inne rodzaje AI nie są czarnymi skrzynkami. Jerry Kaplan umie wyjaśnić to na tyle przejrzyście, że jego książka jest dla każdego, kto chce wiedzieć, a jednocześnie na tyle szczegółowo, że pozwala mu na prognozowanie zmian w oparciu o znane już czytelnikowi mechanizmy; jest tym, kto stara się wyjaśniać, a nie wizjonerem czy prorokiem. Niektóre jego spostrzeżenia mogą być niepokojące, ale nigdy nie są katastroficzne.

Przy lekturze nie można się czasem oprzeć wrażeniu, że autor bagatelizuje niektóre problemy spoza jego specjalności (np. bezrobocie technologiczne w dłuższym horyzoncie czasowym jest chyba jednak poważniejszym problemem, niż mu się zdaje), ale znacznie istotniejsze są jego wskazówki co do potencjalnych zagrożeń płynących z wykorzystania AI w codziennym życiu, np. zalewanie mediów społecznościowych i innych kanałów informacyjnych samopowielającymi się treściami o zerowej wiarygodności czy nadmierne zaufanie do algorytmów w sądownictwie (co już dzieje się w Chinach). Zwraca też uwagę na nierozwiązane jak dotąd kwestie dotyczące możliwości popełniania przestępstw (a przynajmniej błędów skutkujących odpowiedzialnością karną lub inną) przez autonomicznie działające podmioty AI. Kogo należy wówczas pociągnąć do odpowiedzialności: twórcę narzędzia, osobę nim się posługującą, a może samo narzędzie? Czy w nieodległej przyszłości AI będzie ponosiła odpowiedzialność, ale także cieszyła się pewnymi prawami (np. nie będzie jej można po prostu wyłączyć czy skasować)?

Końcowe partie książki dotyczą kwestii filozoficznych, w tym regularnie (i na ogół powierzchownie) podnoszonej kwestii, czy sztuczna inteligencja może być świadoma? Kaplan potrafi przede wszystkim bez osuwania się w ogólniki wskazać, że może to być świadomość zupełnie innego typu niż nasza (i że generalnie nadmierne antropomorfizowanie AI bywa zwodnicze). Przyszłość to inna, płynna, dynamicznie zmienna codzienność, nie zaś kojący hurraoptymizm lub kasandryczność wpędzająca w bezradność.

Jerry KAPLAN, Generatywna AI. Wszystko, co warto wiedzieć, tłum. Agnieszka Adamczyk-Karwowska, Wydawnictwo Naukowe PWN, Warszawa 2025.