Usprawnienia moralne i polityczne potrzebne człowiekowi

Możemy postawić tezę, że całe moralne działanie człowieka zależy od aktywności osoby. Przy czym należy zaznaczyć, że aktywność osobowa nie polega na samodzielnym i niezależnym działaniu władz duchowych. To pokazuje, że nie wolno uważać za osobę świadomości człowieka, jak postulował Scheler. Świadomość jest efektem samodzielnego działania władz duchowych bez żadnego odniesienia do realności i jej własności transcendentalnych. Jeżeli bowiem zabraknie aktywności osobowej, to wówczas władze zaczynają działać „na własną rękę”, czyli podejmują swobodne działania. Umysł przechodzi do swobodnego myślenia, wola zaczyna dokonywać wolnych wyborów, a uczuciowość będzie się skłaniać do dowolnego przeżywania cielesnych przyjemności.

Jednak takie postępowanie oparte na wolności działania traci zupełnie  odniesienie do zasad moralnych. Wolność działania polega na pomijaniu jakichkolwiek zasad. Człowiek zaczyna poszukiwać wtedy dowolnych wartości, czyli należałoby powiedzieć, że zaczyna tworzyć w oparciu o myślenie dowolne wartości bez żadnego związku z realnością. Przecież to nasze myślenie – zwłaszcza wolne myślenie – tworzy sobie i kreuje przeróżne wartości (sławy, pieniądza, czy popularności). Jednak wykreowanych w ten sposób wartości nie można uznać za zasady moralne. Zasadami moralnymi są przede wszystkim realne własności osobowe oraz bezpośrednie skutki z nich wynikające. Skutkiem prawdy jest wypowiadanie słowa prawdy o realnym świecie oraz uznanie tego, co realne, czyli wiara. Skutkiem dobra jest chcenie osobowego dobra i wynikająca stąd miłość osobowa (umiłowanie dobra drugiej osoby). Skutkiem piękna jest przeżywanie piękna, jakie niesie ze sobą życie, oraz radość i nadzieja na nowe życie.

Moralność nie jest kwestią świadomości. Moralność jest przeciwieństwem świadomości, zaś świadomość jest zanegowaniem moralności. Nie można więc wyprowadzać moralności z wartości tworzonych przez świadomość (czyli przez wolność myślenia). Moralność jest bowiem efektem poznania faktycznej realności człowieka, natomiast świadomość jest tworzeniem wirtualnego świata możliwości a nie realności. Należy wiedzieć, że myślenie nie tworzy realności, lecz stwarza jedynie dowolne możliwości działania (tak naprawdę działania pozorowanego).

Musimy wiedzieć, że sfera duchowości, czyli działania władz duszy, jest obszarem stawania się (realności stawania się – fieri non esse). To oczywiście pozwala na działania wspomnianych władz. Władze duchowe są tylko możnościami działania (potentiae animae). Przeprowadzają więc swoje działania. Natomiast efektem podejmowania tych samych działań jest powstawanie trwałej dyspozycji. Taką dyspozycję traktowano jako pewnego rodzaju siłę i moc do działania, i określano ją mianem virtus, na język polski tłumaczona jako cnota. Powstawanie cnót jako trwałych dyspozycji jest w etyce określane jako tworzenie charakteru moralnego człowieka. Można przyjąć, że ten tradycyjnie rozumiany charakter moralny stanowi to, co dzisiaj nazwalibyśmy osobowością. Osobowość człowieka jest jakąś trwałą dyspozycją do moralnego działania. Ale konieczna uwaga, nie wolno mylić osobowości z osobą, gdyż występują one na dwóch różnych poziomach. Osoba jest podmiotem istnienia i można ją zaliczyć do poziomu egzystencjalnego. Natomiast osobowość przynależy do poziomu esencjalnego, gdyż stanowi wyposażenie naszej duchowości. Osoba jest trwałą i niezmienną realnością (pertinet ad esse), a osobowość należy do realności stawania się (pertinet ad fieri).

Działania moralne napędzane przez akty osobowe kontemplacji, sumienia i upodobania doprowadzają do powstania trwalej dyspozycji duchowej. Dzięki tym działaniom powstają najważniejsze usprawnienia i udoskonalenia charakteru moralnego, czyli osobowe cnoty moralne – wiary, miłości i nadziei. Działania i cnoty moralne odnoszą nas do konkretnych osób, które spotykamy na swej drodze życiowej i z którymi podejmujemy wspólne życie. Działania moralne dotyczą bowiem bezpośrednio osobowej realności człowieka. Wiara dotyczy uznania realności osobowej człowieka, czyli tego, że człowiek jest osobą (realnością o charakterze nadprzyrodzonym). Chodzi oczywiście o wiarę ujętą szerzej niż religijna. Miłość osobowa dotyczy bezpośrednio afirmacji ludzkiej osoby a nie jakichś pobocznych cech lub zdarzeń. Wreszcie nadzieja daje nam radość ze spełnienia dobrego życia i oczekiwanie życia prawdziwie osobowego. Działania moralne rozumiemy więc raczej wąsko, jako odnoszące się do tego, co w człowieku stanowi realność osobową.

Już etyka grecka podpowiadała nam, że istnieją dodatkowe usprawnienia naszego działania. Nazwano je cnotami kardynalnymi. Ale musimy wiedzieć, że cnoty kardynalne dotyczą działania człowieka w odniesieniu do współpracy grupowej, do działalności wspólnotowej. Te cnoty – roztropności i rozsądku (w połączeniu z namysłem); sprawiedliwości i wynikającej z niej praworządności; czy wreszcie powściągliwego umiaru w korzystaniu z dobrodziejstw otaczającego nas świata – pozwalają nam lepiej funkcjonować na gruncie instytucjonalnym. Są one potrzebne i konieczne we współpracy i współdziałaniu razem z innymi ludźmi. Opiera się na nich bezkonfliktowa współpraca w realizacji interesów grupowych. Dlatego cnoty kardynalne mają zastosowanie w działalności wszelkiego rodzaju instytucji społecznych i politycznych oraz w działalności firm i przedsiębiorstw. Stąd Grecy pojmowali je jako cnoty polityczne, konieczne do stworzenia idealnego polis.

W podsumowaniu możemy stwierdzić, że właściwe poznanie i rozumienie realności osoby ludzkiej pozwala nam rozwinąć kwestię ludzkiego działania i postępowania, i to zarówno w relacjach między poszczególnymi osobami jak również w kontekście szerszej współpracy instytucjonalnej i politycznej. Bez jasnego i jednoznacznego postawienia sprawy pojmowania osoby jako podmiotowej realności istnienia ludzkiego nie będziemy mieli możliwości rozwiązywania wszelkich problemów, z jakimi boryka się dzisiaj społeczeństwo wielu krajów. 

Usprawnienia polityczne

Dzisiaj już wiemy, że należy dokonać oddzielenia działań moralnych, które dotyczą konkretnych i pojedynczych osób, od działań pożytecznych społecznie (utylitarnych), które dotyczą funkcjonowania instytucji i organizacji społecznych (publicznych) oraz gospodarczych. Działania moralne człowieka są oparte na aktywności podmiotowości osoby (na aktach własności osobowych) i łączą ludzi relacjami osobowymi (wiary, miłości i nadziei). Natomiast działania utylitarne, które mają za zadanie skuteczność działania i które powinny prowadzić do realizacji konkretnych interesów, są podejmowane w ramach współpracy i współdziałania węższych lub szerszych grup zorganizowanych instytucjonalnie na zasadzie sprawności politycznych (nazywanych dawniej sprawnościami etycznymi czy też cnotami kardynalnymi).

Gdy Grecy zastanawiali się nad tym, jak skutecznie i dobrze ma działać państwo, wtedy wypracowali jasne zasady działania politycznego, czyli faktyczne usprawnienia duchowe człowieka. Były to cnoty  rozsądku albo roztropności, sprawiedliwości i prawa (dziś powiemy praworządności), czy wreszcie powściągliwego umiaru (we wszystkich poczynaniach). Arystoteles stwierdził, że te zasady jako usprawnienia ludzkiego działania muszą być zawarte jako trwałe dyspozycje w duszy człowieka. Powinniśmy dążyć do wypracowania w sobie takich sprawności (cnót etycznych).

Przez całe wieki aż do dzisiaj traktuje się te sprawności jako zasady moralne. Ale należy oddzielić je od realnych zasad moralnych, które mają sens i wydźwięk osobowy. Zasadami osobowymi są w tym względzie cnoty wiary, miłości i nadziei, ponieważ są one stosowane jedynie wobec pojedynczych osób. W ramach współpracy grupowej nie ma sensu stosowania takich zasad osobowych, bo tam chodzie tylko o skuteczność i pożyteczność działania. A samo współdziałanie instytucjonalne określane jest przez prawo (umowy prawne), które oczywiście musi być oparte na sprawiedliwości, a nie dowolności ustawowej. Dlatego w zakresie współpracy społecznej lub gospodarczej obowiązują tylko zasady etyczne a nie głębokie zasady moralne. Chodzi przecież o realizację interesów a nie o doskonalenie czy zbawienie człowieka.

Cyber-uzależnienie (nowy feudalizm)

Poznanie jest niezbędne człowiekowi do życia. Jest mu potrzebne do zrozumienia siebie i odkrycia celu swojego życia. Poznanie zawsze było związane ze zdobywaniem potrzebnych informacji. Człowiek szukał informacji w realnym świecie albo w świecie kultury.

Dawniej człowiek sam musiał szukać informacji. Musiał podjąć wysiłek poznawczy. Odwiedzał muzea i galerie, przesiadywał w bibliotekach, zwiedzał starożytne zabytki, żeby poznać, jak żyli kiedyś ludzie. Dzisiaj człowiek otwiera komputer albo włącza telefon, a informacja odszukuje go sama. Ale nie wiadomo, czy ta atakująca informacja jest chciana i potrzebna. Okazuje się, że internet lepiej wie, czego potrzebuje i poszukuje odbiorca. Można zapytać, czy podawana odbiorcy informacja jest jeszcze nadal informacją, czy staje się już propagandą lub reklamą. 

Człowiek popada z tego powodu w zależność. Można powiedzieć, że podlega infofeudalizmowi. Poszukując dostępu do informacji wchodzi na obcy teren zarządzany przez cyber-feudała (Big Tech) i w gruncie rzeczy uzależnia się od jego decyzji. A z czasem ulega tej zależności w sposób całkowity, cokolwiek będzie chciał robić. 

Dawniej zdobywanie informacji było oparte na zaangażowaniu i trudzie (czyli pracy) pojedynczego człowieka. Dzisiaj informacje atakują człowieka ze wszystkich stron (cyber mediów) bez jego wysiłku i zaangażowania, ponieważ dostarczanie informacji zostało zmonetaryzowane jako produkt marketingowy. Takie bombardowanie informacjami wpływa bezpośrednio na działanie naszej świadomości. Okazuje się, że zaczynamy wówczas myśleć cudzymi myślami i wypowiedziami. 

Dyskusja o książce Varoufakisa

Odbyła się ciekawa dyskusja na temat książki Varoufakisa Technofeudalizm. Podkreślano przede wszystkim ekspansję Big Tech-ów, wskazując, że dążą one do jak największej kontroli przy przepływie informacji. Te wielkie Info Tech-y zdobyły kontrolę nad przepływem informacji. Stały się w życiu człowieka (niemal każdego człowieka) super pośrednikiem w załatwianiu wszelkich spraw. Jak powiedział Musk, chcą być aplikacją do wszystkiego, czyli pośrednikiem we wszystkich ludzkich poczynaniach, we wszelkiej wymianie informacji. 

Chodzi więc o zdobycie totalnej kontroli nad tym, gdzie i jak powstaje i przepływa ludzkie doświadczenie (właściwie myślenie). To ostatecznie może prowadzić do kontrolowania i sterowania naszym myśleniem, co zauważył w swoim komentarzu pan Orzeł. Ale trzeba wiedzieć, że coś takiego jest planem Wielkiego Demona, który jest panem i władcą wszelkiego myślenia i który nauczył myślenia samego człowieka. Wydaje się, że jest to jedyny sposób, żeby zapanować nad człowiekiem i zmusić go do całkowitego posłuszeństwa. 

Pokażemy ci, jak wspaniałe jest myślenie. Pokażemy ci, jak masz myśleć i wtedy będziesz w pełni sobą i będziesz wreszcie szczęśliwy (w swoim myśleniu a nie w swoim działaniu). Po co masz nad wszystkim się głowić, my pomyślimy o tym za ciebie. Jesteśmy doskonałą aplikacją dla lub do twojego życia, bo my stoimy między tobą, między twoim myśleniem a twoim przeżywaniem działania. To naprawdę jest demoniczna procedura.

Rozwój czy antyrozwój (degrowth)

Do niedawna rozwój i wzrost gospodarczy zapewniał kapitalizm. Dotyczyło to kapitalizmu produkcyjnego w XX wieku. Oczywiście był z tym związany jeden poważny problem w postaci dwóch wojen światowych. Ale to nie zahamowało rozwoju kapitalizmu. Od strony państwowej wspierał go system demokracji liberalnej pozwalającej ludziom działać swobodnie w sferze gospodarczej. 

Ale w nowym wieku zaczęto podejrzewać, że możliwości kapitalizmu i liberalnej demokracji się wyczerpały. Dlaczego tak się stało? Otóż dominację przejął kapitał spekulacyjny tworzony w oparciu o technologie informacyjne. Jest to kapitał pochodzący z handlu informacjami. Udostępniając ludziom wirtualny świat internetu wykorzystano przepływ informacji do celów handlowo-reklamowych, które stwarzały nieograniczone zyski. Dzięki temu rewolucja informatyczna pokonała i zostawiła w tyle kapitalizm produkcyjny. Nowy kapitalizm informacyjny nie inwestuje swoich pieniędzy w rozwój produkcji lecz zajął się finansowaniem własnych lub obcych pomysłów ideologicznych. Wszystko to razem stało się groźne dla liberalnej demokracji, ponieważ zaczęło wypaczać pracowitość i zadowolenie obywateli. Stąd mamy mowę o kryzysie demokracji. Liberalna demokracja przestała być gwarantem dobrobytu społecznego. Demokracja funkcjonowała poprawnie dopóki ludzie kierowali się zasadami moralnymi. Dziś podważono i odrzucono wszelkie zasady życia społecznego. 

Dlatego lewicowi krytycy negują wiarygodność rozwoju kapitalizmu. Coraz silnie jest eksponowana koncepcja degrowth, czyli rezygnacji ze wzrostu gospodarczego. Uważa się, że aby dalej żyć, ludzie powinni zrezygnować ze wzrostu. Różni szaleni aktywiści głoszą ideologiczne hasła typu - koniec wzrostu albo śmierć. Twierdzi się, że na skończonej planecie nie jest możliwy nieskończony wzrost albo że świat nieskończonych możliwości rozwoju właśnie się kończy. Jeśli postęp gospodarczy przyspiesza, to ziemia się wyjaławia i umiera. Taka koncepcja antyrozwojowa zaczyna obowiązywać jako kierunek myślenia o przyszłości. Ale jest to myślenie ideologiczne bez podstaw teoretycznych. Jest to raczej jakaś strategia polityczna niż opracowanie problemu. Widzieliśmy to najlepiej na przykładzie histerycznych wystąpień pani Grety T. 

Ale mamy również poglądy przeciwstawne. Są naukowcy, którzy twierdzą, że gdyby wzrost gospodarczy opierał się tylko na skończonych zasobach materialnych, wtedy nasze dni byłyby policzone. Jednak ten wzrost polega również na nowych metodach technologicznych wykorzystywania tych zasobów. To obecny postęp technologiczny pozwala utrzymać wzrost i rozwój gospodarczy. Jest oczywiście potrzebny wysiłek intelektualny, czyli będą się liczyć także zasoby intelektualne. Uważa się, że niewyczerpalny wszechświat pomysłów człowieka pozwoli nam przezwyciężyć skończoność materialną planety. (Zob.#WWR 192)

Ciekawy dodatek do tych rozważań znajdziemy w podcaście pana Orła (Przeg. tyg.). Stwierdza on, że Zachód - przede wszystkim UE - stawia na odprzemysłowienie, co oznacza, że brudny przemysł należy wysłać do innych krajów Azji i Ameryki. A my zajmiemy się usługami na wysokim poziomie związanymi z AI. Na tej podstawie Chiny stały się fabryką świata i dalej rozwijają się w przemysłowej konkurencji. Już dziś Chiny są bardziej konkurencyjne niż UE i osiągają znaczną marżę finansową. UE nie jest w stanie wyzwolić motorów konkurencyjności, przedsiębiorczości, innowacyjności, bo to wymagałoby zmiany systemu politycznego (równoważnej współpracy państw). Dlatego Chińczycy wygrają z Europą.

Jeszcze o AI

Zaremba wyróżnił pięć poziomów AI, które działają na podobieństwo człowieka. 1) Pierwszym jest tzw. test Turinga. Jest to ten poziom, gdy możemy swobodnie rozmawiać z modelem językowym komputera. Chat GPT przeszedł ten test właściwie już w praktycznym działaniu. Komputer odpowiada wtedy od razu i nie wiemy, czy rozmawiamy z maszyną czy z człowiekiem. 2) Drugi poziom dotyczy modeli, które rozwiązują dane problemy z różnych dziedzin. Taki działanie wymaga już określonego czasu około 10 minut. Można to porównać do rozumowania człowieka w różnych sprawach. 3) Trzeci poziom obejmuje modele AI określane mianem agendy lub agentów. Ich działania obejmują już zadania w świecie wymagające długiego czasu. Padło stwierdzenie o aktach w świecie (ale chodzi chyba o świat wirtualny internetowy), bo przykładem było budowanie strony internetowej. 4) Czwarty poziom dotyczy modelu - naukowca, który ogarnia poważne problemy naukowe i jest zdolny patrzeć na to z różnych perspektyw. Bada więc rozważanie problemu i jego podstawowe założenia. Tutaj AI wykryła, że u Einsteina założeniem jest liniowa teoria czasu. 5) Piątym poziomem byłaby zdolność organizacji całego złożonego procesu działania (np. danej firmy czy przedsiębiorstwa), czyli analizowania, planowania, podejmowania decyzji i wdrażania tego w realu. Specjalista stwierdził, że to może się dokonać już za 10 lat. Ostatecznym wnioskiem okazała się teza, że AI jest całą klasą technologii, a nie jakimś jednym określonym osiągnięciem technologicznym.

Dalej o AI (wywiad z panem Zarembą)

Obecnie działanie AI polega na trenowaniu i testowaniu na podstawie dostępnych danych. W ten sposób tworzy się określone modele AI. AI jest w stanie ogarniać olbrzymią ilość danych treningowych. Na początku trenowano AI na podstawie różnego zakresu danych. Było to związane z podejściem statystycznym. Ale okazało się, że w modelach opartych na statystyce nie ma możliwości rozwojowych. Dlatego rozwój AI przeszedł na systemy sieci neuronowych. To pozwoliło na wykorzystywanie nieograniczonych ilości danych. W wywiadzie padło stwierdzenie, że w przypadku transformerów (chyba chodzi właśnie o sieci neuronowe) nie ma ograniczeń. 

W przypadku człowieka mamy jeden proces obejmujący te dwie czynności. Człowiek trenuje się (chyba lepiej jest powiedzieć, że trenuje swoją wiedzę czy poznanie) na podstawie danych, które pochodzą z jego własnego doświadczenia. Natomiast komputer trenuje się na danych dostarczonych mu przez człowieka. Uproszczając powiemy, że człowiek uczy się na własnych danych, zaś komputer uczy się na danych człowieka. 

W interpretacji pana Zaremby można dostrzec utożsamianie uczenia się człowieka z uczeniem się AI. Pada takie stwierdzenie, że informacje wchodzą do mózgu jako bity. Można to chyba rozumieć w ten sposób, że mózg działa na zasadzie przepływów energetycznych (elektrycznych?). Otóż sieci neuronowe mają symulować strukturę połączeń mózgowych. To by pozwalało na swobodne przebieganie pomiędzy różnymi danymi i łączenie ich na zasadzie analogii. Dlatego nie pojawiają się ograniczenia w manipulowaniu danymi. To pozwalało na trenowanie AI (chata) na wszystkich danych z internetu. 

Specjalista wyróżnił dwa procesy wkładania wiedzy do modeli AI. Pierwszy polega na zgromadzeniu dużej ilości danych z internetu. Chodzi o to, aby model nauczył się pojmować to, co my znamy i co zostało utrwalone. Za tym idzie proces testowania, gdzie sprawdza się, jak model pojmuje dostarczone dane (np. pytamy, jak interpretuje jakiś obrazek). Pojawia się problem, czy w ten sposób trenujemy rozumienie danych, czy tylko ich opis? Drugi proces polega na tym, że testowany model otrzymuje nagrodę za właściwe zachowanie (ale czy to jest równoznaczne z rozumieniem). 

Wiadomo, że człowiek tworzy pewne wartości w oparciu o zdobywane informacje. Komputer tego nie wykona, ale podobno można tworzyć modele replikujące ludzkie wartości. Czy będą się one nimi posługiwały? Raczej nie wiadomo. Ale już w dzisiejszym działaniu AI (chatGPT) okazuje się, że działające modele są w stanie tworzyć (czy może wymyślać?) coś, czego my nie znaliśmy (podawany przykład ruchów w Go albo przykłady tłumaczenia podawane przez Dukaja)

Jeszcze zmagania z problemem AI

Dla mnie wydaje się, że AI jest przegrzebywaniem (z zawrotną szybkością) wytworów ludzkiego myślenia (ogólnie ludzkiej twórczości). Ale jak to się stało, że sama zdobyła zdolność tworzenia nowych dzieł (wytworów)? Czyżby to znaczyło, że zdołała odkryć zasady twórczości na podstawie tego, co oglądała? Czy robi to jedynie na zasadzie podobieństwa (Profesor Dragan definiował inteligencję AI jako umiejętność dostrzegania analogii)? A może to oznacza, że ludzka twórczość nie ma realnych zasad, lecz dokonuje się całkiem swobodnie? I jeszcze jedno pytanie, jaka była tutaj pomoc człowieka (zarządzanie algorytmami)? 

Jak pojmują AI ???

Dukaj o AI

Zdaniem Dukaja, błędem jest myślenie o AI jako jednym bycie. Nie można więc traktować AI jako czegoś jednorodnego. Nie ma jednej AI, bo to nie jest hardware lecz software. Według niego AI to jest pewien proces manipulowania na symbolach. Chodzi tu o procedury sekwencyjnej manipulacji symbolami (operacje w systemie 0-1-kowym). Dlatego Dukaj uważa, że początkiem AI było stworzenie przez myślenie człowieka jakichś symboli. Na zasadzie manipulacji symbolami powstał na przykład ludzki język.

Zdaniem pisarza, AI jest ultymatywną meta-technologią. To oznacza, że można ją zastosować i wykorzystać do każdej technologii. Ale problemem AI jest możliwość popadnięcia w technologiczną osobliwość, co oznacza, że stracimy kontrolę nad jej rozwojem i sterowanymi technologiami. Jest więc pytanie, czy da się ograniczyć AI moralnie? 

Dragan o AI

Dragan traktuje AI jako narzędzie. Narządzie kontroluje człowiek, może więc je wykorzystać dobrze lub źle. Ale Profesor wskazuje na trzecią możliwość, że narzędzie samo zdecyduje, co ma robić. Jak postępować, żeby AI nam służyła (żeby nie mogła się wyemancypować)?

AI posługuje się algorytmami. Jednak Profesor twierdzi, że nie rozumiemy, jak działają algorytmy. Można przyjąć, że funkcjonuje jakaś wirtualna przestrzeń algorytmów. AI działa, jak doskonała wyszukiwarka. Zadajemy jej algorytm poszukujący, co chcemy osiągnąć, ale nie wiemy zupełnie, co ona znajdzie. To znaczy, że nie mamy kontroli nad tym, co znajdujemy. Profesor nie widzi możliwości zatrzymania rozwoju AI. Może należałoby uzgodnić cele wyszukiwania (cele algorytmów) z naszymi ludzkimi celami działania. 

Dyskusja Dukaja z Draganem

Pada pytanie, jak opisać AI? Dukaj powtarza swoją definicję, AI to dla niego operowanie na symbolach poza mózgiem człowieka. Inteligencja zaczęła się od posługiwania się symbolami. Naddatek wiedzy pojawia się na podstawie operacji inteligencji, ale człowiek nie wiedział, co się dzieje w tych operacjach.

Dragan odrzuca definicję Dukaja, gdyż twierdzi, że stosowanie bezmyślnych algorytmów nie jest inteligencją. Dla niego inteligencja (AI) jest umiejętnością dostrzegania analogii. W podejściu ilościowym polega to na kompresowaniu danych. To jest miarą AI. Szczytem inteligencji jest algorytm, który kompresuje maksymalną ilość danych. Jednak działanie AI polega na interpretowaniu pytania wejściowego. Ale nie wiemy, co znajdzie wyszukiwanie AI. Profesor uważa, że AI ma swoje braki. Nie potrafi na przykład planować i rozwijać strategii działania.

Pada pytanie, czy AI zdominuje człowieka. Dukaj jest tu pesymistą i uważa, że nie da się powstrzymać zagrożenia dla człowieka (koniec człowieka?). Jeśli posługujemy się takim narzędziem, to w pewnym momencie przestajemy je kontrolować. Zaczynamy wtedy ślepo słuchać poleceń AI i sami stajemy się narzędziem. Natomiast Dragan twierdzi, że po prostu nie wie, jak to można zrobić. Ale nie jest za powstrzymywaniem działania AI. 

Świadomość według Penrose'a

Zdolność rozumienia jest zasadniczą cechą świadomych istot. Zapytany w wywiadzie, jak to się stało, że świadomość pojawiła się u ludzi, stwierdził, że doprowadziła do tego zdolność rozumienia. Według niego ogólna zdolność rozumienia powstała na zasadzie selekcji naturalnej. Świadomość nie jest zarezerwowana tylko dla ludzi. Jednak u zwierząt ma ona zupełnie inny charakter, jest to charakter uczuciowy.

Rozumienie angażuje świadomość. Rozumieć coś to znaczy, że zdajemy sobie z czegoś sprawę. Zdaniem Penrose’a, rozumienie wyraża się w myśleniu. Ja bym powiedział, że chodzi o myślenie jasne i wyraźne. Wiedzieć, że coś jest prawdziwe, oznacza moje rozumienie, że jest prawdziwe i dlaczego tak jest. Fizyk przytacza twierdzenie Gödla (głosi ono, że w każdym rozsądnym systemie matematycznym zawsze będą prawdziwe stwierdzenia, których nie da się udowodnić), że mamy w poznaniu jakieś zasady, które stosujemy, ale nie wiemy, czy są prawdziwe. Prawda jest oparta na moim rozumieniu zasad. Jeśli rozumiem te zasady, to uznaję, że są prawdziwe. Zasady same w sobie nie mówią nam, że są prawdziwe. Jeżeli używam pewnych zasad i wiem, że one działają, to osiągam prawdę. To wszystko dzieje się w świadomości człowieka.

Świadome myślenie nie jest analogiczne do komputerowego przetwarzania danych. Praca komputera jest zapisana w systemie 0-1-kowym. W ten sposób mamy zdefiniowane procedury postępowania. To oznacza, że dla komputera przyjęte zasady i postępowanie według nich są zapisane w systemie 0-1-kowym. Ale w komputerach nie ma świadomości rozumienia. Zdaniem fizyka przetwarzanie komputerowe nie jest mechaniką kwantową. Ono jest systemem logicznym opartym na twierdzeniu Gödla. Natomiast podejrzewa, że świadomość jest oparta na mechanice kwantowej.