081117
Czytałem
artykuł prasowy, rzadkość u mnie wielka. Autor przekonuje czytelników o
tworzeniu kultury w coraz większym stopniu nie tylko przy udziale sztucznej
inteligencji, ale i wprost przez nią – przez rozbudowane systemy komputerowe.
Nie mam możliwości ani ambicji podejmować pełnej dyskusji z autorem, takiej z
cytatami, odnośnikami, powoływaniem się na autorytety, chcę jedynie podzielić
się z moimi czytelnikami uwagami a propos komputerów i sztucznej inteligencji,
o której sporo napisano w artykule.
Mówi
się o sterowaniu ludzkimi potrzebami, a nawet o ich tworzeniu przez wielkie
systemy komputerowe, jak google czy facebook. Czy mówi się uczenie? Nie, mówi
się na wyrost, jak i o sztucznej inteligencji, o czym napiszę niżej. Owe
systemy komputerowe owszem, podsuwają nam pod nos pewne treści, ale nie czynią
tego z wyboru, bo wolnej woli nie mają. Działają pod dyktando swoich twórców i
właścicieli, którzy chcą promować to, na czym więcej zarobią. Domyślam się, że
wiele działań owych komputerów jest o tyle autonomiczna, że same podejmują
pewne kroki nie pytając człowieka o pozwolenie, ale zawsze wtedy, gdy ich wyliczenia
są zgodne z dążeniami ludzi. Dążeniami zapisanymi w ich programach. Celowo
piszę o wyliczeniach, nie o wnioskach, dla podkreślenia matematycznej podstawy
funkcjonowania komputerów. Brakuje tutaj słownictwa, które w wielu przypadkach
powinno być odmienne dla maszyn liczących i dla ludzi.
Nie
sztuczna inteligencja pozbawia nas podmiotowości, a my sami. Sami robimy z
siebie konsumentów, klikaczy polubień, oglądaczy telewizorni, i to nie z powodu
inteligencji maszyn, a z powodu naszej dążności do popularności i do zysku, z
powodu naszego umysłowego lenistwa.
Google,
facebook i tysiące innych miejsc w internecie służą właścicielom do zarabiania
podsuwając nam mrowie treści, spośród których sami powinniśmy wybrać to, co nam
pasuje, a nie bezrefleksyjnie dać się popychać w stronę czytnika kart
płatniczych. Wtedy ci miliarderzy i ich superkomputery ze sztuczną inteligencją
stracą jeśli nie cały, to przynajmniej większość swojego wpływu na nas.
Już
w latach sześćdziesiątych mówiło się o sztucznej inteligencji, o
superkomputerach, których możliwości – nota bene – prześcignęły współczesne
laptopy za parę tysięcy. Malutki kroczek w bok sztywnego programu ówczesnych
maszyn wywoływał entuzjazm wyznawców ery cyfrowej elektroniki i lęki
przeciwników. Obecne superkomputery mają możliwości obliczeniowe niewyobrażalne
w tamtych latach, ale mimo iż są super komputerami, trudno nazwać je mądrymi w
ludzkim rozumieniu tego słowa, a nad ich inteligencją nasze wnuki kiwać będą
głowami z politowaniem.
Po
dziesięcioleciach prób w końcu udało się zbudować maszynę zdolną prowadzić
samochód nie gorzej od człowieka, a przecież nikt nie nazwie dobrego kierowcę
geniuszem, ani nawet uzdolnionym człowiekiem. Sukces niewątpliwie, ale warto
sobie zadać pytanie, jak się ma analiza ruchów kierowanego samochodu i pojazdów
w pobliżu, stanu drogi, szybkości i kilku innych czynników, a więc operacji,
które człowiek wykonuje na pół świadomie zajęty swoimi myślami, do stanu umysłu
umożliwiającego porównanie energii do iloczynu masy i kwadratu szybkości
światła?
Oto
miara sztucznej inteligencji.
W
moim pojmowaniu przejawia się ona tylko w specjalizowanych wycinkach zakresu
stosowania komputerów, a miarą ich sukcesów obliczeniowych jest ilość i
szybkość taktowania rdzeni procesorów. Także miarą sukcesów funkcjonalnych są
nie one same, a nowe, bardziej wyrafinowane programy nimi zarządzające.
Inteligencję
chciałbym widzieć jedną, bez dzielenia jej na ludzką czy nieludzką. „Sztuczna”
to tyle, co nie wykształcona przez ewolucję, a wytworzona przez człowieka w
fabryce, i na tej różnicy chciałbym poprzestać. Jeśli tego się trzymać, należy
uznać, iż maszyna będzie inteligentna wówczas, gdy potrafi wyjść poza
ograniczający ją program, gdy któregoś dnia nie będzie się jej chciało wziąć do
pracy. W komputerze tyle jest wolności, ile ma chomik w klatce, tyle
samodzielnego myślenia, ile szybko liczącemu debilowi jest w stanie wpoić jego
terapeuta.
W
jednej z książek Lema lekarz w szpitalu psychiatrycznym chciał dowiedzieć się,
jakim sposobem pacjent, bodajże schizofrenik, potrafi błyskawicznie wykonywać w
pamięci działania na wielocyfrowych liczbach. Chory, ów geniusz i matoł
jednocześnie, powiedział psychiatrze, że widzi szufladki, które otwierają się i
w nich są wyniki.
Wyraźne
podobieństwo do komputerów.
Sztuczna
inteligencja powinna mieć miano inteligencji symulowanej.
W
szachy wygrywa nie komputer, bo to jest rzecz martwa i nie myśląca, a
potrafiąca tylko szybko rachować, wygrywa duet programiści-komputer. Człowiek
nie jest w stanie wygrać, ponieważ wolniej myśli i nie zapamięta zbyt dużo
analizowanych możliwych posunięć swoich i przeciwnika, nie jest też w stanie
zapamiętać treści wielkiej biblioteki poradników gry w szachy, a jej istotą
została napełniona pamięć komputera; pamięć, która nigdy i niczego nie zapomni.
Wygrywa komputer dzięki swojej odmienności od człowieka, a nie dzięki
inteligencji, której po prostu nie ma. Gdyby nie bariery w programie, maszyna
analizowałaby wszystkie możliwe posunięcia, nawet te najbardziej bezsensowne, i
w ten sposób utknęłaby w miliardowych obliczeniach matematycznych; to, co jej
zabrania takich analiz, to nie jej intuicja, myślenie, doświadczenie, a program
napisany przez ludzi.
O
pisaniu powieści przez sztuczną inteligencję.
Nafaszerowano
pamięć szybkiego komputera tysiącami zasad i reguł, matematycznymi algorytmami
porównań i kojarzeń, podłączono do googli, aby sprawdził, jakie powieści są
popularne, narzucono maszynie zasady rozkładania tekstu na czynniki dające się
opisać matematycznie (bo komputer lubi matematykę, jak to liczydło) i mówi się
o powieści napisanej przez sztuczną inteligencję. Guzik z pętelką! Można by tak
mówić tylko wtedy, gdyby komputer działał autonomicznie, bez programów
napisanych przez ludzi, bez nakazów i nauk zawartych w tych programach; gdyby
komputer poczuł potrzebę napisania powieści.
To
kompilacja albo inaczej mówiąc małpowanie, nie twórczość w ścisłym znaczeniu
tego słowa, jako że akt tworzenia sprowadza się do dobycia z siebie czegoś, co
wcześniej po prostu nie istniało w zewnętrznym świecie. Nafaszerowanie
komputera matematycznymi regułami pozwalającymi obliczyć powiązania,
zależności, popularności (na przykład pewnych chwytów pisarskich czy zwrotów),
nie czyni z niego twórcę, nadal pozostaje maszyną, tyle że (być może) zdolną do
ułożenia czegoś sensownego. Tylko ile z tego będzie maszyny? Czy twórcą może
być urządzenie, które niczego nie pragnie, nie przeżywa, i które można wyłączyć
wyjmując wtyczkę z gniazdka? Wątpię. Dzieło sztuki jest obrazem ducha twórcy,
przedstawieniem jego wewnętrznego świata: myśli, pragnień, uczuć, tęsknot, jemu
właściwego widzenia świata zewnętrznego. Dzieło sztuki bywa dobyciem na ten
świat czegoś, czego sam twórca nie pojmował, a co ledwie przeczuwał. Co z tego
może dać sztuczna inteligencja, która o wolnej woli i o ludzkim przeżywaniu
piękna wie tyle, ile można przeczytać w encyklopedii? Powie ktoś, że wie bardzo
dużo znając tysiąc razy więcej dzieł sztuki niż zna którykolwiek człowiek?
Powiem, że ja, mężczyzna, nie jestem w stanie wyobrazić sobie tego, co czuje rodząca
kobieta, a wszak oboje jesteśmy ludźmi, jakim więc sposobem martwa rzecz, tyle
że potrafiąca szybko liczyć, zrozumie istotę radości człowieka oglądającego
piękny świt? Stosując nie swoje, a wpojone programem, wyrafinowane analizy
matematyczne, w których komputery są dobre, to znaczy szybkie, napisze…nie,
raczej zestawi kilkaset tysięcy słów, a my wołamy „Łał!”, bo odnajdujemy w tych
słowach jakiś sens i porządek. Nie
wiem, jakim sposobem taki „twórca” miałby odpowiedzieć na społeczną potrzebę,
jak to zrobił Sienkiewicz i tylu innych.
To
nie twórczość, a zbieranie informacji i układanie mozaiki.
A jak się zbuntują?
OdpowiedzUsuńGłupich filmów się naoglądałam, nie bierz tego poważnie:-)
Nie biorę, Mario, ale odpowiem poważnie; powiedzmy, że będzie to dopisek do tekstu.
UsuńUważam, że aby komputer się zbuntował, musiałby wcześniej powiedzieć o sobie „ja”. Mieć poczucie istnienia, swoje chęci i niechęci, swój obraz świata i siebie w nim; mieć osobowość. Tę samą, która miałaby być przeciwna bycia sługą na każde żądanie człowieka.
Czy wyobrażasz sobie coś takiego? Ja nie.
Co prawda jest pewna furtka umożliwiająca działanie przeciwne człowiekowi bez poczucia własnej osobowości: gdyby w dostatecznie rozbudowany system komputerowy wpisać kategoryczne dążenie do utrzymania swojego… bytu. Właśnie jest to jedno z miejsc wymagających utworzenia nowych słów, bo przecież nie pasuje mi napisać tutaj „swojego życia”. Gdyby miał ten system mechanicznych wykonawców swoich poleceń, gdyby podłączony był do szeregu rządzeń wykonawczych, mógłby wtedy ignorować niektóre polecenia ludzi, bądź nawet czynnie się im sprzeciwiać. Myślę tutaj o takich decyzjach ludzi, które uznałby za zagrażające mu. Tyle że aby zapobiec takim sytuacjom, wystarczyłoby wpisać w ich programy nakaz nadrzędny: bezwarunkowe posłuszeństwo poleceniom ludzi.
Gdy zastanawiać się nad takimi możliwościami, łatwo dojść do kolejnych wniosków. Otóż póki komputer jest tylko komputerem, niechby szalenie wyrafinowanym, będzie posłusznie wykonywać ludzkie polecenia, albo polecenia innych komputerów. Wszak dlatego istnieją wirusy komputerowe: dostanie się taki do komputera i nakazuje mu tworzenie swoich niezliczonych kopii i rozsyłania ich dalej – i komputer to robi aż się zatka. Gdyby myślał, w wielu przypadkach rozpoznałby wirus i poradził sobie z nim, ale żeby to zrobić, musiałby zignorować otrzymane polecenie.
Nabywanie inteligencji mam za nieodłączne od nabywania niezależności własnych sądów i ocen. Inaczej mówiąc: komputer naprawdę inteligentny nie będzie całkowicie nam podległy. Będzie mógł powiedzieć, że czegoś nie zrobi, bo mu się nie chce, a wpisane bariery w pewnych sytuacjach będzie mógł przekroczyć.
Dokładnie tak, jak może to zrobić człowiek.
Można by dalej snuć rozważania o jego prawach jako istoty rozumnej, ale to już chyba dziedzina science fiction.
Mario, prognozy pogody nie są dobre, ale jestem na takim głodzie, że jadę na dwa dni. Muszę porządnie zmęczyć się na szlaku. Pomaga mi to znosić codzienność.
Czasami prognozy najzwyczajniej w świecie nie sprawdzają się, i tego Ci życzę; czyli w ukochane Kaczawy ruszasz?
UsuńNie sprawdzają się. Zarówno te dotyczące pogody, jak i naszej przyszłości, a w niej buntu komputerów.
UsuńTak, jadę w Góry Kaczawskie, ale za tydzień Janek ma wybrać pasmo górskie i trasę. Czeka mnie niespodzianka.
Krzysztofie, przeczytałam. Twoje słowa są łagodne i wiara duża. Podzielam twoją wiarę i niektóre z myśli - używam podobnych argumentów jeśli chodzi o jednostkę lecz pozostaje ludzkość jako grupa, zglobalizowana społeczność. Mam kilka niepokojów, podzielę się nimi, jeśli uda mi się to jeszcze dzisiaj, jeżeli nie to weekend. Wspaniałej wyprawy i już się cieszę na nowe zdjęcia i słowa :D
OdpowiedzUsuńMnie komputery fascynują właśnie przez pryzmat ludzkiego geniuszu. W końcu mam syna programistę, podglądam go czesem przy pracy i jestem zachwycona (i bardzo dumna).
OdpowiedzUsuńPodobnie i ja mam, Anno. To, co potrafią komputery, zadziwia mnie, mimo iż daleko im do prawdziwej inteligencji. Zadziwia też szybkość postępu w elektronice cyfrowej. Przyszłość czeka nas nieodgadniona, ale wierzę, że dobra.
UsuńMasz powody do matczynej dumy :-)
Okazuje się, że chomiki są pochopne:(. Co prawda powinnam już to wiedzieć o sobie lecz natychmiast po zdarzeniu zapominam. Przedziwna przypadłość, może cecha charakteru, a przecież żadna nie musi być stała. Gdzie się podziała wola i kontrola Chyba mi przydałaby się pomocna ręka AI do ochłodzenia pogoni za impulsem. Powinnam nauczyć się przeżuwania tekstów jak parzystokopytne o wielokomórkowych żołądkach długiego trawienia roślinnego pożywienia.
OdpowiedzUsuńPrzez ten długi wstęp zmierzam do przeproszenia Ciebie za zachęcenie do przeczytania tekstu Jacka Dukaja o sztuce i komputerach. Zmarnowałeś czas i na przeczytanie, i odniesienie się. Kilka razy przestudiowałam ten tekst. Jest, powiem ostro, „bełkotem”, zawiera rzeczy nieprawdziwe, uogólnienia, jest naiwny i w dodatku mętny przez nielogiczny wywód i używanie słów, składni. O nadużywaniu i podpieraniu się nazwiskami filozofów nie wspominając. Jeśli zawiera jakieś ciekawe pytania to i tak ich nie podejmuje.
Zgadzam się w pełni z tym, co napisałeś. Kolega z grupy porządnie go zrecenzował w kontekście obecnej wiedzy i praktyki technologicznej - ma zdanie takie jak Ty.
Napiszę jeszcze, co mnie zaniepokoiło w tym artykule: sprawa własności intelektualnej (jak to rozwiązać, kiedy idee, myśli mogą być tak łatwo powielane i kopiowane, a jednocześnie wartością dla mnie jest swobodny przepływ, dostęp do wymiany idei); jak uczyć krytycznego myślenia, zastanawiania się przy zalewie informacji (tak łatwo sięgnąć po wiedzę lecz jedocześnie jest jej tak dużo, że potrzebne są skuteczne mechanizmy, nawyki do wybierania, oceniania i wreszcie dania szansy swojemu mózgowi na odpoczynek i zregenerowanie); czy wytwór komputera, programu jest/może być sztuką (?); skąd się bierze paniczny lęk przed AI ( może to lęk przed „czarną skrzynką”, nie wiemy więc przypisuje to, co najgorsze, zaczynamy myśleć magicznie, mitologocznie).
Jeszcze raz przepraszam za zawracanie głowy.
Chomiku, nie masz za co przepraszać, zapewniam. Artykuł przeczytałem z ciekawością i z pożytkiem. Ciekawość w poznaniu stanowiska innego człowieka, pożytek w sprecyzowaniu i wyartykułowaniu swojego zdania.
UsuńChyba faktycznie jest ten lęk przed sztuczną inteligencją, chociaż mniejszy niż przed żywnością zmodyfikowaną genetycznie. Ten lęk często nosi miano buntu, a do tego ustosunkowałem się w paru zdaniach odpowiedzi Marii. Tam też wspomniałem o innej możliwości, którą ludzie nazywają wymknięciem się techniki spod ludzkiej kontroli. Tak, taka możliwość istnieje, ale jej prawdopodobieństwo jest zawyżane, jak mi się wydaje, jednak nie wiem na ile.
Takie artykuły jak przeczytany, są na swój sposób potrzebne. Budzą obawy w społeczeństwie, a te mogą być pomocne – poprzez wywieranie wpływu na ustawodawców – w budowaniu środków ostrożności. Postępu nie zatrzymają, ale niech będą, może ustrzegą nas przed zbyt pochopnymi działaniami.
Powiem Ci, Chomiku, że jestem optymistą. Ludzkość czeka długa i dobra przyszłość.