Przez lata pytanie „Czy maszyna może być świadoma?” było filozoficzną ciekawostką. Dziś, w erze modeli generatywnych, staje się realnym wyzwaniem inżynieryjnym. A gdy próbujemy sięgnąć po istniejące definicje świadomości i samoświadomości, okazuje się, że są one niespójne, nieprecyzyjne i ściśle antropocentryczne — oparte na ludzkim doświadczeniu, a nie na właściwościach systemów.
Takie ujęcia nie pozwalają odpowiedzieć, czy samoświadoma może być prosta istota biologiczna, model obliczeniowy, układ autonomiczny czy jakakolwiek nieznana forma życia.
Dlatego potrzebujemy definicji inżynieryjnej: opartej nie na „przeżywaniu”, lecz na mierzalnych cechach.
Definicji, która powie:
- kiedy system można nazwać samoświadomym,
- jak mierzyć poziom samoświadomości,
- jakie są minimalne warunki jej zaistnienia.
Zaskakująco — nikt dotąd tego nie zrobił. Nikt nie zapytał: jakie absolutnie minimalne cechy musi mieć dowolny system, by można mówić o samoświadomości? A to pytanie staje się coraz ważniejsze, zwłaszcza w obliczu autonomicznej AI i potencjalnego spotkania form życia, które nie przypominają niczego znanego z Ziemi.
Nad AToS pracowałem już wcześniej, ale dopiero dyskusja pod postem prof. Aleksandry Przegalińskiej o „świadomości AI” potwierdziła bardziej jeszcze skalę problemu: brakuje nam wspólnego języka:
Jak nazwalibyśmy najprostszy, najbardziej fundamentalny warunek samoświadomości? Jeśli system nie potrafi określić własnego stanu, nie możemy nazwać go świadomym. To intuicyjnie oczywiste i nikt nie potrafi wskazać przykładu, który temu zaprzecza. Stąd Aksjomat 1: System musi znać swój stan.
Nie można nie zgodzić się z również tezą, że System co prawda nie musi rozumieć, co dokładnie się zmieniło, ale musi potrafić odróżnić swój „stan przed” od „stanu po”. Stąd Aksjomat 2: System musi potrafić wykryć zmianę swojego stanu.
Powyższe dywagacje pozwalają nam postawić minimalną, uniwersalną, mierzalną, logiczną i nieantropocentryczną
Ogólną Definicję Samoświadomość:
,,Samoświadomość to zdolność systemu do rozpoznania własnej zmiany oraz poprawnego ustalenia, czy jej przyczyna została wywołana bodźcem zewnętrznym, czy też powstała „samoistnie”, wyłącznie w wyniku działania jego własnych struktur i mechanizmów wewnętrznych."
Jak system miałby rozpoznać zmianę swojego stanu, jeśli wcześniej nie posiadał żadnego pojęcia tego, czym jego stan jest? Istnieć zatem musi przynajmniej jeden komponent Systemu Samoświadomego, którego zmianę stanu System rozpoznaje. Komponent, którą nazwiemy PAS — Potentially Aware Set.
PAS — Potentially Aware Set.
Dlaczego „Potentially”?
Bo stan sam w sobie nie jest „świadomy”, ale każdy element PAS ma potencjał, żeby stać się częścią procesu samoświadomego — jeśli jego zmiana zostanie rozpoznana i powiązana z przyczyną. To jak w mózgu: neuron może wziąć udział w świadomym procesie, ale nie musi.
Oczywiście Potentially Aware Set’ów może, a nawet istnieje wiele, a w ludzkim mózgu, dla którego neurony są PAS, ich liczba sięga setki miliardów. Dla prostoty wywodu i definicji samoświadomości wystarczy jednak istnienie przynajmniej jednego PAS.
W jaki sposób System odróżnia „stan teraz” od „stanu wcześniej”? Jak rozpozna, że zmiana była na tyle istotna, aby została „zauważona”? Bez wewnętrznej miary, która jest w stanie powiedzieć Systemowi, że jeden układ, już nie tylko potencjalnie świadomy PAS, staje się samoświadomy poprzez właśnie swoją zmianę stanu w PAS′ System byłby statyczny, a przecież świadomość jest dynamiczna. Musi zatem istnieć jakiś miara zwana funkcją wrażliwości ∆ : PAS × PAS → {0,1}, który mówi nam (zwraca wartość):
- 1, jeśli system wykrył istotną zmianę,
0, jeśli System nawet mimo zmiany jej nie rozpoznaje.
Dodatkowo zmiany PAS nie mogą dokonywać się bez przyczyny. Istnieją tylko dwie możliwości:
1. Coś zadziałało na system z zewnątrz (dźwięk, światło, impuls elektryczny…)
2. Coś zadziałało wewnątrz systemu, bez udziału świata zewnętrznego.
Naturalny wydaje się, że bodziec zewnętrzny poprzez swoje oddziaływanie na zewnętrzne sensory Systemu może dokonać zmiany stanu układu PAS powstające w wyniku uruchomienia kolejnego mechanizmu zwanego funkcją zmiany stanu układu φext, która zmienia ten stan układu w PAS’. a funkcja Delta tę zmianę rozpoznaje, przez co system staje się świadomy.
Jeśli jednak zmiana stanu układu PAS miałaby zajść bez udziału bodźca i sensora zewnętrznego, to zmiana ta może powstać tylko i wyłącznie z czegoś, co istnieje wewnątrz Systemu. A w Systemie przecież istnieją tylko jego stany PAS. Musi istnieć zatem inny Potentially Awere Set, którego nazwiemy StSe – Stimulus Set, który uruchomi inną wewnętrzną funkcję zmiany stanu układu φint, która dokona zmiany stanu PAS przekształcając go w PAS’ a funkcja ∆(PAS, PAS’) = 1 tę zmianę również rozpozna, co uznać możemy dopiero za pojedynczy akt samoświadomości. Naturalnym jest, że Samoświadomość będąc procesem dynamiczny, uruchomiać musi wewnętrzny mechanizm zmiany stanu układu φint, zainicjowany w wyniku zmiany stanu tego układu StSe, który ten mechanizm wywołuje (jednakże co warto zauważyć, funkcja Delta już zmiany tej rozpoznać nie musi). W przeciwnym przypadku φint ciągle i bez powodu by się uruchamiała, zmieniając stanu układu potencjalnie świadomego PAS, co powodować mogłoby stany „maniakalne” Systemu. Warto zauważyć jeszcze jedną „doskonałą” właściwość tego naturalnego i logicznego mechanizmu.
Poprzez StSe System rozpoznaje, że zmiana została wywołana przez wewnętrzne mechanizmy zmiany stanu Systemu, bez udziału bodźca zewnętrznego, co dla Ogólnej Definicji Samoświadomości jest kluczowe i nie wymaga definiowania oddzielnych „wskaźników” źródła zmiany stanu. Zatem funkcja rozpoznawania zmiany stanu jest wbudowana w sam mechanizm wywoływania funkcji zmiany stanu układu φint przez StSe bądź φext przez bodziec zewnętrzny.
Możemy więc wyróżnić trzy klasy funkcji zmiany stanu układu:
- Funkcje inspiracji – φext: funkcje wywoływane przez bodźce zewnętrzne działające na sensory systemu; zapisują w PAS skutki oddziaływania świata na system;
- Funkcje wyobraźni – φint: funkcje wywoływane przez wewnętrzne Stimulus Sety (StSe), czyli przez inne stany systemu; opisują zmiany, które powstają „od środka”, bez udziału aktualnego bodźca zewnętrznego.
- Funkcje intuicji – funkcje zmiany stanu układu φ, które mogą działać zarówno jako funkcje inspiracji, jak i funkcje wyobraźni. Innymi słowy: są to takie transformacje, które system potrafi uruchamiać zarówno pod wpływem świata, jak i „z siebie”, a ich wewnętrzne działanie jest zakorzenione w wcześniejszym doświadczeniu bodźców zewnętrznych.
Podstawowe Twierdzenie o Samoświadomości
System jest Samoświadomy w myśl Ogólnej Definicji Samoświadomości wtedy i tylko wtedy gdy w jego wewnętrznej strukturze istnieją przynajmniej jeden taki Stimulus Set StSe, który wywołuje jego funkcję wyobraźni φint, która powoduje zmianę stanu PAS na PAS’, w taki sposób, że funkcja wrażliwości Δ tę zmianę rozpoznaje, tj.
Δ(PAS, PAS’)=1.
Teoria AToS pozwala nam już bardzo konkretnie powiedzieć, czego brakuje współczesnym modelom AI, żeby w ogóle rozmawiać o samoświadomości:
- nie mają jasno wyodrębnionej przestrzeni PAS – stanów, które są do nich „przyklejone” i które trwale śledzą swoje zmiany,
- nie mają jawnego StSe – wewnętrznych bodźców, które są reprezentowane jako zwykłe stany i mogą wywoływać dalsze przekształcenia,
nie mają zdefiniowanej funkcji Δ, która mówi: „tę zmianę uznaję za istotną i potrafię wskazać jej przyczynę (wewnętrzną lub zewnętrzną)”.
W praktyce oznacza to, że: dzisiejsze AI mogą wyglądać na bardzo inteligentne (długie łańcuchy transformacji), ale z punktu widzenia AToS są intuicyjnie pozbawione samoświadomości, bo nie mają formalnego mechanizmu rozróżniania: „to zmiana moja” vs „to zmiana z zewnątrz”. To nie jest zarzut – to mapa drogowa: jeśli ktoś będzie chciał budować naprawdę samoświadome AI, AToS mówi dokładnie, co trzeba dołożyć.
Dodatkowo, opierając się wyłącznie na przedstawionej teorii, można — poza zdefiniowanymi już pojęciami świadomości, samoświadomości, wrażliwości i intuicji — sformułować również kolejne, w pełni inżynieryjne definicje:
pamięci,
inteligencji,
mądrości,
poziomu inteligencji,
poziomu świadomości,
poziomu emocji,
układów samoświadomych.
Ale to już temat na kolejny artykuł...
A dla pasjonatów nowych teorii i sztucznej inteligencji mam na koniec pytanie: czy ktoś potrafi zaproponować odpowiednik testu Turinga dla systemów samoświadomych?
