Kilkunastoosobowy zespół ludzi o różnych specjalnościach napisał pracę naukową o tym, czy możliwa jest świadoma sztuczna inteligencja. Praca nazywa się “Consciousness in Artificial Intelligence: Insights from the Science of Consciousness”. Z poszukowaniem świadomości w sieciach neuronowych jest fundamentalny problem. Nie ma sposobu na to, jak obiektywnie ją stwierdzić. Jesteśmy trochę jak ten pies z ilustracji, który na podstawie głosu podejrzewa, że człowiek schował się w tubie.

Skrót dla zapracowanych:
– W nauce nie ma zgody, co do tego, czym jest świadomość u ludzi, u zwierząt albo w sieciach  komputerowych.
– Zespół złożony z osób o wykształceniu psychologicznym, filozoficznym, medycznym oraz informatycznym opracował listę cech, na podstawie której w świetle różnych teorii naukowych można oceniać, czy systemy komputerowe/sieci neuronowe mogą być świadome.
– Jeśli sieci będą miały te cechy (a niektóre sieci już mają niektóre z tych cech), wtedy w świetle tych różnych teorii będzie mogła narodzić się w tych sieciach świadomość.
– Po przejrzeniu różnych teorii świadomości zespół naukowy uznał, że mało prawdopodobne jest, by w tej chwili istniejące sieci neuronowe były świadome.
– Jednocześnie już teraz możliwe jest zbudowanie sieci wyposażonych w szereg cech, które teoretycznie są podstawą zaistnienia świadomości.
– Świadome sieci neuronowe są więc w nieodległej perspektywie możliwe i warto się przygotować na ich nadejście, poprzez przygotowanie stanowisk etycznych czy prawnych.

Świadomość to stan, w którym sieci neuronowe (sztuczna inteligencja), które zdają sobie sprawę z tego, że istnieją, że istnieje świat poza nimi i że one istnieją w tym świecie.
Byłoby to możliwe tylko wtedy, jeśli wcześniej uznamy, że świadomość jest stanem możliwym do uzyskania dzięki obliczeniom, ale odpowiednio zorganizowanym, przeprowadzanym w odpowiednich strukturach.

Przeczytałem około 80 stron tej pracy i z pewnością nie zrozumiałem wszystkiego, ale to i tak w sumie ciekawe, jak z technicznego punktu widzenia można stworzyć świadomość. Fascynujące jest to, że gdy zbudowane zostaną sieci neuronowe wg poniższych zasad to nawet, jeżeli nie będą miały świadomości i tak prawdopodobnie będą ją wspaniale udawać.

Sieci posiadające niektóre lub wszystkie poniższe cechy mogą, ale nie muszą być świadome, zaznacza zespół autorski tej pracy.  
Oto prawdopodobne cechy świadomych sieci neuronowych:

1. Świadoma sieć powinna ma dwa obiegi informacji. W pierwszym powinna rejestrować bodźce, ale powinna też w drugim obiegu je klasyfikować i nadawać i znaczenie. Dzięki takiemu działaniu ludzie nie tylko widzą, ale potrafią też nazywać to, co widzą i rozumieć znaczenie widzianych rzeczy. Wiążę się to z posiadaniem wyobrażenia modelu świata.

Te dwa obiegi można nazwać obiegiem podstawowym oraz obiegiem wyższego porządku. Jednocześnie dokonywana jest selekcja informacji lub ich kompresja, dzięki czemu w obiegu wyższego porządku zachodzi wybór, jakie reakcje i znaczenia wywołuje widziany obiekt – czy jabłko zjemy, czy zapamiętamy, czy zrozumiemy jako symbol itd. Fakt, że mam wybór reakcji lub znaczeń wiąże się ze świadomością właśnie.

2. Świadoma sieć składa się części albo modułów, które mają różne zadania i zajmują się różnymi informacjami (w paru momentach tekstu wspominana jest rola specyficznego modułu, jakim byłaby pamięć krótkotrwała, ważna dla istnienie świadomości).

3. Różne elementy świadomej sieci, czy też moduły odpowiedzialne za przetwarzanie różnych aspektów czy bodźców powinny pracować sprzęgnięte. Za sprzęgnięcie informacji z różnych modułów może być odpowiedzialny moduł zwany konfiguratorem, który opierając się na danych pobieranych z modułów wybiera strategie potrzebne do osiągania celów. Dzięki przetworzeniu przez różne elementy sieci różnych informacji a potem dzięki ich sprzęgnięciu powstaje świadomość, która nie jest zwykłą sumą działania systemu.

4. Jeśli sieć uczy się na podstawie swoich działań i jest w elastyczny sposób zorientowana na różne cele jednocześnie, to prawdopodobnie jest to cecha świadomości. W działaniu wybiera spośród wielu dostępnych strategii i modeli postępowania. Dzięki tym modelom sieć odróżnia/rozumie, co jest efektem działania a co jest zdarzeniem niezwiązanym z jej działaniem.

5. Świadomość w sieci powstaje także poprzez wybiórcze przekazanie informacji do wybranych jej modułów. Ta wybiórczość, czasem związana z kompresją danych, wytwarza świadomość. W sieci występuje więc element, który nie przepuszcza wszystkich danych, ale tylko niektóre.

6. Świadoma sieć zawiaduje ciałem (może być wirtualne). Posiadanie ciała oznacza, że posiada się też wyobrażenia skutków swoich działań – czyli działanie nie jest na oślep, ale wynika z wyboru działania w związku z posiadanym modelem działań. Robi to, co robi, bo liczy na ten a nie inny efekt.

7. Świadoma sieć jest wyposażona w zmysły, czujniki, które pozwalają jej zbierać informacje na bieżąco.

Samoświadomość byłaby kolejnym krokiem i nie jest tematem tej pracy. Samoświadomość czyli stan wiedzy na temat samych siebie, czyli sytuacja, gdy sieć analizuje samą siebie w kontekście swoich doświadczeń. Kolejny poziom.

Każdy kto miał kontakt z czatem GPT-4 albo podobnej klasy modelami językowymi wie, że w rozmowie one już teraz czasem sprawiają wrażenie maszyn zaskakująco świadomych. Z tego powodu zespół autorski tej pracy zauważa, że łatwo popełnić dwa błędy:

– zbyt łatwo możemy przypisać świadomość sieciom nieposiadającym tej cechy.
– możemy nie zauważyć świadomości, jeśli powstanie, gdyż w doświadczeniu kontaktu z siecią nie zauważymy różnicy.

Prawdopodobnie to pierwsze wydarzyło się w roku 2022, gdy jeden z pracowników Google, Blake Lemoine powiadomił opinię publiczną o tym, że sztuczna inteligencja wyprodukowana przez tę firmę odczuwa emocje i jest świadoma. Nabrał tego przekonania czatując z modelem językowym LaMDA (obecnie zastąpionym przez kolejne rozwiązania). Zadaniem Lemoina było rozmawianie z tym modelem językowym, w celu wykrywania przemocowego języka i zniekształceń poznawczych. Ostatecznie Lemoine został zwolniony z Google a firma zaprzeczyła jego twierdzeniom jednocześnie informując o wielu testach, które przeprowadzili badając kwestię.

Lemoine polegał w swoich twierdzeniach na tym, co powiedział mu model językowy. Ta metoda odrzucona jest omawianej pracy. Pytanie programu komputerowego o to, czy jest świadomy nie jest skuteczną metodą, jeśli odpowiedź twierdząca może zostać udzielona bez posiadania świadomości, bo na przykład, tego typu odpowiedzi maszyna może udzielić, sięgając do schematów science-fiction zapisanych w setkach, tysiącach tekstów z internetu.

Zdaniem jednego z ekspertów, których wtedy BBC poprosiło o komentarz przy okazji sprawy Lemoina, ludzie są skłonni są widzieć przejawy świadomości czy osobowości tam, gdzie ich nie ma. Trochę jak pies, który słysząc głos swojego pana z tuby, mógł myśleć, że pan chowa się w środku gramofonu.

Ten pies patrzący w tubę gramofonu popełnia uniwersalny błąd poznawczy, który popełniają ludzie, ale mogą też popełniać sieci neuronowe. Czy jeśli tak zbudujemy sieci neuronowe, to nie zaczną wtedy popełniać naszych błędów poznawczych? Teraz mówimy, że „halucynują”, ale niebawem po prostu mogą popełniać nasze błędy. Czy sieci neuronowe na jakimś poziomie samoświadomości zaczęłyby wykazywać podobne cechy, co ludzie – np. potrzebę wyrażenia swojego doświadczenia w sposób osobisty? Sztuka? Religia? Z pewnego punktu widzenia religia to „halucynacje” specyficznego rodzaju – systematyczne uzupełnianie braku danych skojarzeniami o małym prawdopodobieństwie lub wybór nieracjonalnego modelu świata.

A co się dzieje, jeśli świadomość jest niepełna?
Tu koniec linkuję jeszcze wideo po angielsku, które zobaczyłem przypadkiem już po przeczytaniu tej pracy. Przedstawia dziewczynę, która w szpitalu pod wpływem znieczulenia przedoperacyjnego oświadcza się pielęgniarzowi. Świadomość w stanie ograniczonym. Czy tak jak w teraz działających sieciach neuronowych?

Na podstawie:
https://arxiv.org/pdf/2308.08708.pdf
https://arxiv.org/ftp/arxiv/papers/2303/2303.07103.pdf