Jak tylko usłyszałem termin sztuczna inteligencja, od razu pomyślałem: a czy istnieje sztuczna głupota? Bo głupota nie jest brakiem inteligencji. Jest jej aspektem.
Skoro istnieje termin sztuczna inteligencja, to czy nie powinien istnieć też termin sztuczna głupota? Głupota przecież nie jest brakiem inteligencji, ale jest jej aspektem. Tylko coś inteligentnego może być głupie.
Od paru miesięcy nosiłem się z pomysłem na ten tekst. Wiem, to nie najlepiej o mnie świadczy, bo inteligencja umie reagować szybko, ale ja dopiero teraz trafiłem na esej, który rozjaśnił mi umysł.
Myśli pomógł mi usystematyzować esej Davida Krakauera, badacza systemów i prezesa Santa Fe Institute, „Co czyni ludzi głupimi?” (Nautilus, lipiec 2026). Krakauer pisze, że jeśli nie ma inteligencji, to nie ma też głupoty. Kamień nie może być głupi. Ptak może być nazwany głupim, choć to dyskusyjne. Ale naprawdę głupi może być dopiero człowiek, a im jest bardziej inteligentny, tym w pewnym sensie może być głupszy.
Definicji inteligencji jest wiele, ale w tym przypadku przyjmijmy, że inteligencja to zdolność efektywnego rozwiązywania problemów. Głupota zatem będzie zdolnością do ich komplikowania, nawarstwiania, zaciemniania. Im więcej inteligencji, tym problem skuteczniej, szybciej rozwiązany. Im więcej głupoty, tym większa matnia.
Głupota to nieadekwatność podejmowanych działań. Głupota to także brak rewizji strategii. Ślepota na katastrofalne wyniki.
Słynne, głupie postaci z popkultury
Tak właśnie głupotę odgrywają wspaniale komiczne postaci z popkultury. Warto im się przyjrzeć, bo najlepiej napisane głupie postaci świetnie ilustrują ważne aspekty głupoty.
Kierownik biura z serialu „The Office” jest żenująco głupi właśnie w tych momentach, gdy brnie. Chciałoby mu się powiedzieć, żeby po prostu przestał, ale on patrzy w kamerę, pragnie się wykazać i wpada w spiralę żenady. Tu zapamiętujemy wysiłek w obronie porażki. Angażowanie coraz większych zasobów, by przekonać siebie oraz innych, że czarne jest białe.
Tak samo inspektor Clouseau z „Różowej Pantery”. Jest przekonany o własnej skuteczności i godności. Śmieszy nas uporem, ślepotą na sygnały niebezpieczeństwa. On reprezentuje absolutną odporność na informacje. Pomija to, co jest niezgodne z jego strategią. Wszystko rozumiane jest tak, by nie podważyć założeń. Nie jest tak pracowity jak ten gość z „The Office”, ale jego głupota też jest ekspansywna.
Wuj Bogdan z serialu „1670” po szlachecku ucieleśnia tę samą głupotę w podstawowym sensie. Z niezgrabną i niezachwianą pewnością przekonany jest o własnej wspaniałości. Nic tego nie zmieni. Głupota jest przecież niezdolna do samooceny. Bogdan nawet nie pobiera informacji z otoczenia. Jest głupi w zasadzie bez wysiłku. Nie robi błędów. On jest błędem. Jednym, wielkim, długim błędem.
Drabinka głupoty
Te trzy postaci różnią się ilością wysiłku wkładanego w głupotę. I to nie jest przypadek. Głupota ma piętra. Ułożyłem sobie z tego drabinkę. Kolejne jej szczeble to więcej głupoty.
Szczebel pierwszy to nieadekwatność reakcji. Zła strategia, a nie brak strategii. Sama w sobie nie jest jeszcze głupotą. Nieadekwatna reakcja może wynikać z jednorazowej, złej oceny. Wtedy nie jest głupotą. Ale może być efektem braku danych lub chaosu. One mogą sprzyjać głupocie, ale nie są głupotą. Głupota potrzebuje czegoś więcej.
Szczebel drugi to nierozpoznanie nieadekwatności. Już zrobiliśmy błąd, ale go nie widzimy. Tu mieszka wuj Bogdan, który nawet nie pobiera informacji z otoczenia.
Szczebel trzeci to upór w nieadekwatności. Sygnały docierają i są mylnie oceniane. To piętro Clouseau. Moja strategia działa. To, co inni postrzegają jako katastrofę, ja widzę jako zwycięstwo.
I wreszcie szczebel czwarty, poziom kierownika z „The Office”: tu jego inteligencja pracuje pełną parą, by obronić głupotę. Aktywne samooszukiwanie, manipulacja sobą oraz innymi, żeby unieważnić, schować katastrofę, która już się wydarzyła. Absolutny zakaz rozmowy o porażce, przeciwdziałanie analizie. Czemu się nie udało? Pech! Za mało starań! A może nawet sabotaż!
Szczeble łatwo rozróżnić jednym testem: pokaż komuś dowód, że się myli. Na szczeblu drugim zareaguje zdziwieniem, bo niczego nie zauważył. Na trzecim kontrargumentem. Na czwartym zaneguje istnienie problemu, zaproponuje zmianę tematu. Jeśli uzna, że się nie udało, to poda złe wyjaśnienie. Nie nauczy się z błędu absolutnie niczego.
Jest i szczebel piąty, najgorszy, systemowy i podobny do głupoty maszynowej. Porażka w ogóle nie dotyka sprawcy, bo jej koszty ponosi kto inny. Pętli zwrotnej nie ma. Zapamiętajmy ten aspekt głupoty.
Głupota ludzi, ideologii i zwierząt
Według Krakauera głupota to sytuacja, w której błąd jest nawet „udoskonalany” i utrwalany, wręcz instytucjonalizowany. Przez to może się replikować i wywoływać dalsze skutki. Głupota nie dzieje się w sposób pojedynczy, ale powtarzalny, a skutki się nawarstwiają, czyli z czasem boli coraz bardziej. Gdy mówimy o epidemii głupoty, możemy mieć w pewnym sensie rację.
Krakauer poczytał o głupocie i przypomina klasyków tematu.
Robert Musil w wykładzie o głupocie z 1937 roku odróżnił głupotę poczciwą od inteligentnej. Poczciwa to zwykłe ograniczenie poznawcze: ktoś, a chyba też coś, nie jest w stanie pojąć argumentu (Wuj Bogdan). Inteligentna aktywnie wykorzystuje zasoby intelektu, by bronić błędów. Student, który nie rozumie dowodu matematycznego jest głupi w tym pierwszym sensie. Głupi w sposób inteligentny jest profesor, który buduje elegancki gmach teoretyczny w obronie tezy, której fałszywość jest jasna (kierownik z „The Office”).
Głupota zasługuje na traktowanie zupełnie serio, ale można się też zastanawiać, czy nie bywa siłą pożyteczną. Erazm z Rotterdamu w „Pochwale głupoty” z 1511 roku pisał, że głupota jest siłą napędową ludzkości. Zbytnia pewność siebie i złudzenia sprawiają, że zabieramy się za rzeczy, za które normalnie byśmy się nie zabrali. Ważne nie jest to, czy cywilizacja produkuje głupotę, bo z pewnością wyprodukuje, tylko czy wyprodukuje taką głupotę, którą potem jest w stanie sama przetrwać.
Bardzo ciekawy jest politologiczny aspekt głupoty. Często widzimy, obserwując zaangażowanych politycznie znajomych i przyjaciół, jak wyłączali mózg. Krakauer przypomina obserwacje Dietricha Bonhoeffera, niemieckiego teologa i uczestnika antyhitlerowskiego spisku, który tuż przed aresztowaniem w 1943 roku notował: ludzie pod wpływem władzy oddają umiejętność niezależnego osądu, rezygnują z krytycznego myślenia i stają się w pewnym sensie głupimi narzędziami władzy.
A Carlo Cipolla, włoski historyk gospodarki, definiował głupotę jako postępowanie, które wywołuje straty u innych, nie przynosząc sprawcy żadnego zysku, a czasem przynosząc mu wręcz szkodę. Głupi zaszkodzi innym, a sam nawet nie zarobi.
Wracając do pytania, czy ptak może być głupi. Czemu odpowiedź nie jest oczywista? Bo heurystyka kiedyś skuteczna może przestać być skuteczna, gdy zmienią się warunki. Krakauer przywołuje gatunki zwierząt, które w świecie zmienionym przez człowieka zaczynają ginąć, podążając za sztucznymi światłami albo zjadając śmieci. Im większa zdolność organizmu, systemu do kontroli własnego zachowania, tym potencjalnie większa głupota, gdy tego nie robi.
Głupota systemowa
Zaciekawiła mnie głupota systemowa, bo ona ma wiele cech podobnych do głupoty maszynowej. Używając definicji Krakauera, gospodarka centralnie planowana, socjalistyczna, komunistyczna byłaby przykładem systemowej głupoty. Wbrew informacjom, wbrew efektom, system był podtrzymywany, a czasem nawet psuty i pogarszany pod pozorem reform. Wtedy głupota staje się horrorem.
Mnie przychodzi tu na myśl Wielki Skok w Chinach i związane z nim pomysły gospodarcze. Ale Rosja czasów stalinizmu również wytworzyła głupotę zupełnie nieśmieszną.
Krąży też inna definicja Krakauera, spoza tego eseju: głupota to także stosowanie reguły, przy której więcej danych nie poprawia wyniku, a wręcz zwiększa szansę błędu. Czy to nie brzmi jak krytyka socjalizmu albo PRL?
Systemowa głupota pożera dane i produkuje jeszcze więcej głupoty. I dlatego tak przypomina maszynę.
Głupota maszynowa
Sztuczna inteligencja, przy całej umowności tego terminu, to systemy zdolne rozpoznawać wzorce i reagować autonomicznie. Jeżeli inteligencja da się skalować, czyli rozbudowywać, to będziemy mieli też skalowalną głupotę. Jeśli da się automatyzować, to będzie automatyzowalna głupota.
Jej przykładem według Krakauera są rzecz jasna halucynacje modeli językowych. Halucynacje to fałszywy tekst płynny, szczegółowy i na domiar złego przekonujący. Szkodliwość tej głupoty wynika z optymalizowania systemu pod kątem przyjazności zamiast prawdziwości. Ale także z tego, że jeśli maszyna będzie się mylić w ten sposób, to często tego nawet nie wykryjemy, bo zdolności potrzebne do wykrycia błędu oddelegowaliśmy właśnie do niej. Używając jej, ogłupiliśmy się sami i głupota zaczęła być niemożliwa do wykrycia, do obalenia, do zatrzymania.
Głupota maszynowa może być tak wyrafinowana, że jest też nieodróżnialna od inteligencji. Krakauer przywołuje tu Douglasa Adamsa i odpowiedź na wielkie pytanie o życie, wszechświat i całą resztę: 42. Odpowiedź doskonale pewna siebie i doskonale bezużyteczna.
Ważną cechą sztucznej głupoty będzie więc to, że może być poza zasięgiem ludzkiej detekcji. Jest to o tyle logiczne, że jeżeli sam proces jest nieprzejrzysty, to głupota jest również nieprzejrzysta.
Maszynowa głupota nie ma wewnętrznej dynamiki konformizmu, jak głupota ludzka. Raczej trwa, niż się rozrasta, jeśli jej ludzie nie pomagają. Tylko że my jej pomożemy. Głupota maszynowa i głupota ludzka będą się na siebie nakładać i wzmacniać. Maszyna dostarczy pewnego siebie błędu w dowolnej skali, człowiek dostarczy obrony, uporu i złej atrybucji porażki. To może być niesamowicie niszczące. I tu wraca szczebel piąty drabinki: model nigdy nie ponosi kosztu swojej pomyłki. Koszt ponosi człowiek obok. Systemowi czasem nie brakuje zdolności korekty. Brakuje mu sygnału oraz motywacji, bo maszyny nie mają motywacji.
Przykłady maszynowej głupoty
Australijski Robodebt przez cztery lata ścigał ludzi za rzekome nadpłaty zasiłków, uśredniając roczny dochód na okresy dwutygodniowe. Przy pracy dorywczej to metoda bez sensu, a właśnie dorywczo pracują ludzie na zasiłku. Najciekawszy jest jednak sposób, w jaki system zabezpieczono przed własnym błędem: ciężar dowodu odwrócono. To obywatel musiał udowodnić, że długu nie ma. Maszyna z definicji nie mogła się mylić. Komisja królewska naliczyła 416 tysięcy bezprawnych długów i nazwała to mechanizmem prymitywnym i okrutnym, ani sprawiedliwym, ani legalnym (Law Society Journal, Uniwersytet Oksfordzki).
Brytyjska poczta poszła dalej. Jej system księgowy Horizon pokazywał w placówkach niedobory, których nie było, a poczta ścigała za nie swoich kierowników sądownie. Skazano około tysiąca osób, były więzienia i bankructwa, z tą sprawą wiąże się co najmniej trzynaście samobójstw. Błędy w oprogramowaniu istniały od początku i, jak przyznał po latach szef europejskiego oddziału Fujitsu, były dobrze znane wszystkim stronom. Biegły wiedział o nich, składając zeznania, na podstawie których zapadały wyroki. To już nie jest niewiedza. To jest budowanie sądowego aparatu obrony błędu przez dwadzieścia lat. I rzecz dla nas najważniejsza: Horizon nie był żadną sztuczną inteligencją, tylko zwykłym systemem księgowym. Do maszynowej głupoty nie potrzeba AI. Wystarczy maszyna, której wierzymy bardziej niż ludziom (Computer Weekly, The Register).
W amerykańskich szpitalach wdrożono model przewidujący sepsę, czyli stan, w którym każda godzina zwłoki zwiększa śmiertelność. Zewnętrzne badanie pokazało, że model nie widział aż dwóch trzecich przypadków, a prawie dziewięć na dziesięć jego alarmów było fałszywych. Personel więc na takie alarmy obojętniał, co oznacza, że w sumie maszyna nawet pogorszyła czujność ludzi. A przecież miała ich wspierać. Ale najlepsze jest to, dlaczego ten model wyglądał dobrze. Jedną ze zmiennych, na których się opierał, było podanie antybiotyku. A antybiotyk podaje się wtedy, gdy lekarz już podejrzewa sepsę. Model w dużej mierze nie przewidywał niczego. Wykrywał podejrzenie lekarza i odsyłał mu je z powrotem jako własną prognozę. Do tego był objęty tajemnicą handlową, więc szpitale nie mogły zajrzeć do środka. Nikt nie wiedział, że to nie działa, bo nikt nie mógł sprawdzić (JAMA Internal Medicine, Fierce Healthcare).
Jak bronić sztucznej inteligencji przed sztuczną głupotą?
Krakauer wzywa do tworzenia nauki o głupocie, równie rygorystycznej jak nauki o inteligencji. Dorzucę do niej moją drabinkę, bo z każdego szczebla wynika jedno konkretne wymaganie wobec maszyn podejmujących decyzje.
Z nieadekwatności wynika potrzeba rozpoznawania przez maszyny, kiedy dostaną sygnał, że wyuczone, wbudowane zachowanie nie działa. Ptak rozbija się o szybę, bo przez miliony lat przezroczyste zawsze znaczyło puste. Niestety bardzo często ptaki tak giną. Czy te, które przeżyją, uczą się unikać budynków i szyb? Maszyna powinna umieć przyjąć sygnał, że coś nie działa. Mieć na to miejsce i potencjał przetworzenia.
Z nierozpoznania wynika wymóg drugi: maszyna ma znać niepewność własnej odpowiedzi i mieć prawo powiedzieć „nie wiem”. W przypadku modeli językowych jest niestety odwrotnie. Czy to jest cecha pożądana w każdym systemie? Pewnie nie, ale w niektórych tak.
Z uporu wynika wymóg trzeci: maszyna ma zmieniać zdanie pod wpływem dowodu. Dowodu, nie nacisku. Z modelami językowymi jest dziś przewrotnie. Wystarczy zapytać „jesteś pewien?”, a model często zmieni dobrą odpowiedź na złą, bo samo pytanie traktuje jak sygnał, że coś jest nie tak. Z kolei poproszony, żeby sam sprawdził własne rozumowanie, częściej zepsuje odpowiedź poprawną, niż naprawi błędną. Nie ma w tym magii: model sprawdza się tym samym aparatem, którym popełnił błąd, więc niczego nowego nie widzi. Sędziuje ten sam zawodnik, który strzelał. Upór i uległość wyglądają na przeciwieństwa, a u maszyny są jednym i tym samym defektem: zmiana zdania nie jest sprzęgnięta z dowodem. Ludzki uparciuch przynajmniej wie, czego broni.
Ze złej atrybucji wynika wymóg czwarty: skutki decyzji trzeba mierzyć po jej wykonaniu i łączyć z tą decyzją. System, który nie wie, co zepsuł, będzie to psuł seryjnie.
A ze szczebla piątego wynika wymóg najważniejszy: koszt błędu w jakiejś formie musi wracać do systemu i do tego, kto go wdrożył. Maszyna nie ma motywacji, więc powód do korekty musi jej zbudować człowiek, takim rozkładem kosztów, w którym pomyłka nie boli wyłącznie użytkownika zewnętrznego. Claude Code w tym momencie podpowiada mi, że pisała o tym w 2016 roku Cathy O’Neil. Jej „broń matematycznej zagłady” to systemy nieprzejrzyste, skalowalne i z kosztami zrzucanymi na innych. Dopóki tego nie zrobimy, sztuczna głupota będzie bezkarna, czyli trwała.
Krakauer pisze, że „głupota nie jest tym, co zostaje, gdy zabierzemy inteligencję. Jest aktywnym mechanizmem, który ma własną logikę, dynamikę i zdolność nieograniczonego, pasożytniczego wzrostu na pomysłowości. W świecie, który ma obsesję na punkcie coraz silniejszych technologii poznawczych, rozumienie głupoty może być najinteligentniejszą rzeczą, jaką zrobimy” (tłum. własne). Im większy potencjał poznawczy i manipulacyjny, tym większe zagrożenie głupotą.
Te wielkie centra obliczeniowe sztucznej inteligencji są po części centrami głupoty.