Dalej o AI (wywiad z panem Zarembą)

Obecnie działanie AI polega na trenowaniu i testowaniu na podstawie dostępnych danych. W ten sposób tworzy się określone modele AI. AI jest w stanie ogarniać olbrzymią ilość danych treningowych. Na początku trenowano AI na podstawie różnego zakresu danych. Było to związane z podejściem statystycznym. Ale okazało się, że w modelach opartych na statystyce nie ma możliwości rozwojowych. Dlatego rozwój AI przeszedł na systemy sieci neuronowych. To pozwoliło na wykorzystywanie nieograniczonych ilości danych. W wywiadzie padło stwierdzenie, że w przypadku transformerów (chyba chodzi właśnie o sieci neuronowe) nie ma ograniczeń. 

W przypadku człowieka mamy jeden proces obejmujący te dwie czynności. Człowiek trenuje się (chyba lepiej jest powiedzieć, że trenuje swoją wiedzę czy poznanie) na podstawie danych, które pochodzą z jego własnego doświadczenia. Natomiast komputer trenuje się na danych dostarczonych mu przez człowieka. Uproszczając powiemy, że człowiek uczy się na własnych danych, zaś komputer uczy się na danych człowieka. 

W interpretacji pana Zaremby można dostrzec utożsamianie uczenia się człowieka z uczeniem się AI. Pada takie stwierdzenie, że informacje wchodzą do mózgu jako bity. Można to chyba rozumieć w ten sposób, że mózg działa na zasadzie przepływów energetycznych (elektrycznych?). Otóż sieci neuronowe mają symulować strukturę połączeń mózgowych. To by pozwalało na swobodne przebieganie pomiędzy różnymi danymi i łączenie ich na zasadzie analogii. Dlatego nie pojawiają się ograniczenia w manipulowaniu danymi. To pozwalało na trenowanie AI (chata) na wszystkich danych z internetu. 

Specjalista wyróżnił dwa procesy wkładania wiedzy do modeli AI. Pierwszy polega na zgromadzeniu dużej ilości danych z internetu. Chodzi o to, aby model nauczył się pojmować to, co my znamy i co zostało utrwalone. Za tym idzie proces testowania, gdzie sprawdza się, jak model pojmuje dostarczone dane (np. pytamy, jak interpretuje jakiś obrazek). Pojawia się problem, czy w ten sposób trenujemy rozumienie danych, czy tylko ich opis? Drugi proces polega na tym, że testowany model otrzymuje nagrodę za właściwe zachowanie (ale czy to jest równoznaczne z rozumieniem). 

Wiadomo, że człowiek tworzy pewne wartości w oparciu o zdobywane informacje. Komputer tego nie wykona, ale podobno można tworzyć modele replikujące ludzkie wartości. Czy będą się one nimi posługiwały? Raczej nie wiadomo. Ale już w dzisiejszym działaniu AI (chatGPT) okazuje się, że działające modele są w stanie tworzyć (czy może wymyślać?) coś, czego my nie znaliśmy (podawany przykład ruchów w Go albo przykłady tłumaczenia podawane przez Dukaja)

Jeszcze zmagania z problemem AI

Dla mnie wydaje się, że AI jest przegrzebywaniem (z zawrotną szybkością) wytworów ludzkiego myślenia (ogólnie ludzkiej twórczości). Ale jak to się stało, że sama zdobyła zdolność tworzenia nowych dzieł (wytworów)? Czyżby to znaczyło, że zdołała odkryć zasady twórczości na podstawie tego, co oglądała? Czy robi to jedynie na zasadzie podobieństwa (Profesor Dragan definiował inteligencję AI jako umiejętność dostrzegania analogii)? A może to oznacza, że ludzka twórczość nie ma realnych zasad, lecz dokonuje się całkiem swobodnie? I jeszcze jedno pytanie, jaka była tutaj pomoc człowieka (zarządzanie algorytmami)? 

Jak pojmują AI ???

Dukaj o AI

Zdaniem Dukaja, błędem jest myślenie o AI jako jednym bycie. Nie można więc traktować AI jako czegoś jednorodnego. Nie ma jednej AI, bo to nie jest hardware lecz software. Według niego AI to jest pewien proces manipulowania na symbolach. Chodzi tu o procedury sekwencyjnej manipulacji symbolami (operacje w systemie 0-1-kowym). Dlatego Dukaj uważa, że początkiem AI było stworzenie przez myślenie człowieka jakichś symboli. Na zasadzie manipulacji symbolami powstał na przykład ludzki język.

Zdaniem pisarza, AI jest ultymatywną meta-technologią. To oznacza, że można ją zastosować i wykorzystać do każdej technologii. Ale problemem AI jest możliwość popadnięcia w technologiczną osobliwość, co oznacza, że stracimy kontrolę nad jej rozwojem i sterowanymi technologiami. Jest więc pytanie, czy da się ograniczyć AI moralnie? 

Dragan o AI

Dragan traktuje AI jako narzędzie. Narządzie kontroluje człowiek, może więc je wykorzystać dobrze lub źle. Ale Profesor wskazuje na trzecią możliwość, że narzędzie samo zdecyduje, co ma robić. Jak postępować, żeby AI nam służyła (żeby nie mogła się wyemancypować)?

AI posługuje się algorytmami. Jednak Profesor twierdzi, że nie rozumiemy, jak działają algorytmy. Można przyjąć, że funkcjonuje jakaś wirtualna przestrzeń algorytmów. AI działa, jak doskonała wyszukiwarka. Zadajemy jej algorytm poszukujący, co chcemy osiągnąć, ale nie wiemy zupełnie, co ona znajdzie. To znaczy, że nie mamy kontroli nad tym, co znajdujemy. Profesor nie widzi możliwości zatrzymania rozwoju AI. Może należałoby uzgodnić cele wyszukiwania (cele algorytmów) z naszymi ludzkimi celami działania. 

Dyskusja Dukaja z Draganem

Pada pytanie, jak opisać AI? Dukaj powtarza swoją definicję, AI to dla niego operowanie na symbolach poza mózgiem człowieka. Inteligencja zaczęła się od posługiwania się symbolami. Naddatek wiedzy pojawia się na podstawie operacji inteligencji, ale człowiek nie wiedział, co się dzieje w tych operacjach.

Dragan odrzuca definicję Dukaja, gdyż twierdzi, że stosowanie bezmyślnych algorytmów nie jest inteligencją. Dla niego inteligencja (AI) jest umiejętnością dostrzegania analogii. W podejściu ilościowym polega to na kompresowaniu danych. To jest miarą AI. Szczytem inteligencji jest algorytm, który kompresuje maksymalną ilość danych. Jednak działanie AI polega na interpretowaniu pytania wejściowego. Ale nie wiemy, co znajdzie wyszukiwanie AI. Profesor uważa, że AI ma swoje braki. Nie potrafi na przykład planować i rozwijać strategii działania.

Pada pytanie, czy AI zdominuje człowieka. Dukaj jest tu pesymistą i uważa, że nie da się powstrzymać zagrożenia dla człowieka (koniec człowieka?). Jeśli posługujemy się takim narzędziem, to w pewnym momencie przestajemy je kontrolować. Zaczynamy wtedy ślepo słuchać poleceń AI i sami stajemy się narzędziem. Natomiast Dragan twierdzi, że po prostu nie wie, jak to można zrobić. Ale nie jest za powstrzymywaniem działania AI. 

Świadomość według Penrose'a

Zdolność rozumienia jest zasadniczą cechą świadomych istot. Zapytany w wywiadzie, jak to się stało, że świadomość pojawiła się u ludzi, stwierdził, że doprowadziła do tego zdolność rozumienia. Według niego ogólna zdolność rozumienia powstała na zasadzie selekcji naturalnej. Świadomość nie jest zarezerwowana tylko dla ludzi. Jednak u zwierząt ma ona zupełnie inny charakter, jest to charakter uczuciowy.

Rozumienie angażuje świadomość. Rozumieć coś to znaczy, że zdajemy sobie z czegoś sprawę. Zdaniem Penrose’a, rozumienie wyraża się w myśleniu. Ja bym powiedział, że chodzi o myślenie jasne i wyraźne. Wiedzieć, że coś jest prawdziwe, oznacza moje rozumienie, że jest prawdziwe i dlaczego tak jest. Fizyk przytacza twierdzenie Gödla (głosi ono, że w każdym rozsądnym systemie matematycznym zawsze będą prawdziwe stwierdzenia, których nie da się udowodnić), że mamy w poznaniu jakieś zasady, które stosujemy, ale nie wiemy, czy są prawdziwe. Prawda jest oparta na moim rozumieniu zasad. Jeśli rozumiem te zasady, to uznaję, że są prawdziwe. Zasady same w sobie nie mówią nam, że są prawdziwe. Jeżeli używam pewnych zasad i wiem, że one działają, to osiągam prawdę. To wszystko dzieje się w świadomości człowieka.

Świadome myślenie nie jest analogiczne do komputerowego przetwarzania danych. Praca komputera jest zapisana w systemie 0-1-kowym. W ten sposób mamy zdefiniowane procedury postępowania. To oznacza, że dla komputera przyjęte zasady i postępowanie według nich są zapisane w systemie 0-1-kowym. Ale w komputerach nie ma świadomości rozumienia. Zdaniem fizyka przetwarzanie komputerowe nie jest mechaniką kwantową. Ono jest systemem logicznym opartym na twierdzeniu Gödla. Natomiast podejrzewa, że świadomość jest oparta na mechanice kwantowej.