Moja książka

Góry Kaczawskie słowem malowane

250619 Miałem okazję poznać świętokrzyskie drogi i tatrzańskie szlaki, przemierzałem łęczyńskie bagna i podlubelskie lasy, spędziłem ki...

środa, 8 listopada 2017

O sztucznej inteligencji


081117
Czytałem artykuł prasowy, rzadkość u mnie wielka. Autor przekonuje czytelników o tworzeniu kultury w coraz większym stopniu nie tylko przy udziale sztucznej inteligencji, ale i wprost przez nią – przez rozbudowane systemy komputerowe. Nie mam możliwości ani ambicji podejmować pełnej dyskusji z autorem, takiej z cytatami, odnośnikami, powoływaniem się na autorytety, chcę jedynie podzielić się z moimi czytelnikami uwagami a propos komputerów i sztucznej inteligencji, o której sporo napisano w artykule.

Mówi się o sterowaniu ludzkimi potrzebami, a nawet o ich tworzeniu przez wielkie systemy komputerowe, jak google czy facebook. Czy mówi się uczenie? Nie, mówi się na wyrost, jak i o sztucznej inteligencji, o czym napiszę niżej. Owe systemy komputerowe owszem, podsuwają nam pod nos pewne treści, ale nie czynią tego z wyboru, bo wolnej woli nie mają. Działają pod dyktando swoich twórców i właścicieli, którzy chcą promować to, na czym więcej zarobią. Domyślam się, że wiele działań owych komputerów jest o tyle autonomiczna, że same podejmują pewne kroki nie pytając człowieka o pozwolenie, ale zawsze wtedy, gdy ich wyliczenia są zgodne z dążeniami ludzi. Dążeniami zapisanymi w ich programach. Celowo piszę o wyliczeniach, nie o wnioskach, dla podkreślenia matematycznej podstawy funkcjonowania komputerów. Brakuje tutaj słownictwa, które w wielu przypadkach powinno być odmienne dla maszyn liczących i dla ludzi.
Nie sztuczna inteligencja pozbawia nas podmiotowości, a my sami. Sami robimy z siebie konsumentów, klikaczy polubień, oglądaczy telewizorni, i to nie z powodu inteligencji maszyn, a z powodu naszej dążności do popularności i do zysku, z powodu naszego umysłowego lenistwa.
Google, facebook i tysiące innych miejsc w internecie służą właścicielom do zarabiania podsuwając nam mrowie treści, spośród których sami powinniśmy wybrać to, co nam pasuje, a nie bezrefleksyjnie dać się popychać w stronę czytnika kart płatniczych. Wtedy ci miliarderzy i ich superkomputery ze sztuczną inteligencją stracą jeśli nie cały, to przynajmniej większość swojego wpływu na nas.
Już w latach sześćdziesiątych mówiło się o sztucznej inteligencji, o superkomputerach, których możliwości – nota bene – prześcignęły współczesne laptopy za parę tysięcy. Malutki kroczek w bok sztywnego programu ówczesnych maszyn wywoływał entuzjazm wyznawców ery cyfrowej elektroniki i lęki przeciwników. Obecne superkomputery mają możliwości obliczeniowe niewyobrażalne w tamtych latach, ale mimo iż są super komputerami, trudno nazwać je mądrymi w ludzkim rozumieniu tego słowa, a nad ich inteligencją nasze wnuki kiwać będą głowami z politowaniem.
Po dziesięcioleciach prób w końcu udało się zbudować maszynę zdolną prowadzić samochód nie gorzej od człowieka, a przecież nikt nie nazwie dobrego kierowcę geniuszem, ani nawet uzdolnionym człowiekiem. Sukces niewątpliwie, ale warto sobie zadać pytanie, jak się ma analiza ruchów kierowanego samochodu i pojazdów w pobliżu, stanu drogi, szybkości i kilku innych czynników, a więc operacji, które człowiek wykonuje na pół świadomie zajęty swoimi myślami, do stanu umysłu umożliwiającego porównanie energii do iloczynu masy i kwadratu szybkości światła?
Oto miara sztucznej inteligencji.
W moim pojmowaniu przejawia się ona tylko w specjalizowanych wycinkach zakresu stosowania komputerów, a miarą ich sukcesów obliczeniowych jest ilość i szybkość taktowania rdzeni procesorów. Także miarą sukcesów funkcjonalnych są nie one same, a nowe, bardziej wyrafinowane programy nimi zarządzające.
Inteligencję chciałbym widzieć jedną, bez dzielenia jej na ludzką czy nieludzką. „Sztuczna” to tyle, co nie wykształcona przez ewolucję, a wytworzona przez człowieka w fabryce, i na tej różnicy chciałbym poprzestać. Jeśli tego się trzymać, należy uznać, iż maszyna będzie inteligentna wówczas, gdy potrafi wyjść poza ograniczający ją program, gdy któregoś dnia nie będzie się jej chciało wziąć do pracy. W komputerze tyle jest wolności, ile ma chomik w klatce, tyle samodzielnego myślenia, ile szybko liczącemu debilowi jest w stanie wpoić jego terapeuta.
W jednej z książek Lema lekarz w szpitalu psychiatrycznym chciał dowiedzieć się, jakim sposobem pacjent, bodajże schizofrenik, potrafi błyskawicznie wykonywać w pamięci działania na wielocyfrowych liczbach. Chory, ów geniusz i matoł jednocześnie, powiedział psychiatrze, że widzi szufladki, które otwierają się i w nich są wyniki.
Wyraźne podobieństwo do komputerów.
Sztuczna inteligencja powinna mieć miano inteligencji symulowanej.

W szachy wygrywa nie komputer, bo to jest rzecz martwa i nie myśląca, a potrafiąca tylko szybko rachować, wygrywa duet programiści-komputer. Człowiek nie jest w stanie wygrać, ponieważ wolniej myśli i nie zapamięta zbyt dużo analizowanych możliwych posunięć swoich i przeciwnika, nie jest też w stanie zapamiętać treści wielkiej biblioteki poradników gry w szachy, a jej istotą została napełniona pamięć komputera; pamięć, która nigdy i niczego nie zapomni. Wygrywa komputer dzięki swojej odmienności od człowieka, a nie dzięki inteligencji, której po prostu nie ma. Gdyby nie bariery w programie, maszyna analizowałaby wszystkie możliwe posunięcia, nawet te najbardziej bezsensowne, i w ten sposób utknęłaby w miliardowych obliczeniach matematycznych; to, co jej zabrania takich analiz, to nie jej intuicja, myślenie, doświadczenie, a program napisany przez ludzi.

O pisaniu powieści przez sztuczną inteligencję.
Nafaszerowano pamięć szybkiego komputera tysiącami zasad i reguł, matematycznymi algorytmami porównań i kojarzeń, podłączono do googli, aby sprawdził, jakie powieści są popularne, narzucono maszynie zasady rozkładania tekstu na czynniki dające się opisać matematycznie (bo komputer lubi matematykę, jak to liczydło) i mówi się o powieści napisanej przez sztuczną inteligencję. Guzik z pętelką! Można by tak mówić tylko wtedy, gdyby komputer działał autonomicznie, bez programów napisanych przez ludzi, bez nakazów i nauk zawartych w tych programach; gdyby komputer poczuł potrzebę napisania powieści.
To kompilacja albo inaczej mówiąc małpowanie, nie twórczość w ścisłym znaczeniu tego słowa, jako że akt tworzenia sprowadza się do dobycia z siebie czegoś, co wcześniej po prostu nie istniało w zewnętrznym świecie. Nafaszerowanie komputera matematycznymi regułami pozwalającymi obliczyć powiązania, zależności, popularności (na przykład pewnych chwytów pisarskich czy zwrotów), nie czyni z niego twórcę, nadal pozostaje maszyną, tyle że (być może) zdolną do ułożenia czegoś sensownego. Tylko ile z tego będzie maszyny? Czy twórcą może być urządzenie, które niczego nie pragnie, nie przeżywa, i które można wyłączyć wyjmując wtyczkę z gniazdka? Wątpię. Dzieło sztuki jest obrazem ducha twórcy, przedstawieniem jego wewnętrznego świata: myśli, pragnień, uczuć, tęsknot, jemu właściwego widzenia świata zewnętrznego. Dzieło sztuki bywa dobyciem na ten świat czegoś, czego sam twórca nie pojmował, a co ledwie przeczuwał. Co z tego może dać sztuczna inteligencja, która o wolnej woli i o ludzkim przeżywaniu piękna wie tyle, ile można przeczytać w encyklopedii? Powie ktoś, że wie bardzo dużo znając tysiąc razy więcej dzieł sztuki niż zna którykolwiek człowiek? Powiem, że ja, mężczyzna, nie jestem w stanie wyobrazić sobie tego, co czuje rodząca kobieta, a wszak oboje jesteśmy ludźmi, jakim więc sposobem martwa rzecz, tyle że potrafiąca szybko liczyć, zrozumie istotę radości człowieka oglądającego piękny świt? Stosując nie swoje, a wpojone programem, wyrafinowane analizy matematyczne, w których komputery są dobre, to znaczy szybkie, napisze…nie, raczej zestawi kilkaset tysięcy słów, a my wołamy „Łał!”, bo odnajdujemy w tych słowach jakiś sens i porządek.  Nie wiem, jakim sposobem taki „twórca” miałby odpowiedzieć na społeczną potrzebę, jak to zrobił Sienkiewicz i tylu innych.
To nie twórczość, a zbieranie informacji i układanie mozaiki.

9 komentarzy:

  1. A jak się zbuntują?
    Głupich filmów się naoglądałam, nie bierz tego poważnie:-)

    OdpowiedzUsuń
    Odpowiedzi
    1. Nie biorę, Mario, ale odpowiem poważnie; powiedzmy, że będzie to dopisek do tekstu.
      Uważam, że aby komputer się zbuntował, musiałby wcześniej powiedzieć o sobie „ja”. Mieć poczucie istnienia, swoje chęci i niechęci, swój obraz świata i siebie w nim; mieć osobowość. Tę samą, która miałaby być przeciwna bycia sługą na każde żądanie człowieka.
      Czy wyobrażasz sobie coś takiego? Ja nie.
      Co prawda jest pewna furtka umożliwiająca działanie przeciwne człowiekowi bez poczucia własnej osobowości: gdyby w dostatecznie rozbudowany system komputerowy wpisać kategoryczne dążenie do utrzymania swojego… bytu. Właśnie jest to jedno z miejsc wymagających utworzenia nowych słów, bo przecież nie pasuje mi napisać tutaj „swojego życia”. Gdyby miał ten system mechanicznych wykonawców swoich poleceń, gdyby podłączony był do szeregu rządzeń wykonawczych, mógłby wtedy ignorować niektóre polecenia ludzi, bądź nawet czynnie się im sprzeciwiać. Myślę tutaj o takich decyzjach ludzi, które uznałby za zagrażające mu. Tyle że aby zapobiec takim sytuacjom, wystarczyłoby wpisać w ich programy nakaz nadrzędny: bezwarunkowe posłuszeństwo poleceniom ludzi.
      Gdy zastanawiać się nad takimi możliwościami, łatwo dojść do kolejnych wniosków. Otóż póki komputer jest tylko komputerem, niechby szalenie wyrafinowanym, będzie posłusznie wykonywać ludzkie polecenia, albo polecenia innych komputerów. Wszak dlatego istnieją wirusy komputerowe: dostanie się taki do komputera i nakazuje mu tworzenie swoich niezliczonych kopii i rozsyłania ich dalej – i komputer to robi aż się zatka. Gdyby myślał, w wielu przypadkach rozpoznałby wirus i poradził sobie z nim, ale żeby to zrobić, musiałby zignorować otrzymane polecenie.
      Nabywanie inteligencji mam za nieodłączne od nabywania niezależności własnych sądów i ocen. Inaczej mówiąc: komputer naprawdę inteligentny nie będzie całkowicie nam podległy. Będzie mógł powiedzieć, że czegoś nie zrobi, bo mu się nie chce, a wpisane bariery w pewnych sytuacjach będzie mógł przekroczyć.
      Dokładnie tak, jak może to zrobić człowiek.
      Można by dalej snuć rozważania o jego prawach jako istoty rozumnej, ale to już chyba dziedzina science fiction.

      Mario, prognozy pogody nie są dobre, ale jestem na takim głodzie, że jadę na dwa dni. Muszę porządnie zmęczyć się na szlaku. Pomaga mi to znosić codzienność.

      Usuń
    2. Czasami prognozy najzwyczajniej w świecie nie sprawdzają się, i tego Ci życzę; czyli w ukochane Kaczawy ruszasz?

      Usuń
    3. Nie sprawdzają się. Zarówno te dotyczące pogody, jak i naszej przyszłości, a w niej buntu komputerów.
      Tak, jadę w Góry Kaczawskie, ale za tydzień Janek ma wybrać pasmo górskie i trasę. Czeka mnie niespodzianka.

      Usuń
  2. Krzysztofie, przeczytałam. Twoje słowa są łagodne i wiara duża. Podzielam twoją wiarę i niektóre z myśli - używam podobnych argumentów jeśli chodzi o jednostkę lecz pozostaje ludzkość jako grupa, zglobalizowana społeczność. Mam kilka niepokojów, podzielę się nimi, jeśli uda mi się to jeszcze dzisiaj, jeżeli nie to weekend. Wspaniałej wyprawy i już się cieszę na nowe zdjęcia i słowa :D

    OdpowiedzUsuń
  3. Mnie komputery fascynują właśnie przez pryzmat ludzkiego geniuszu. W końcu mam syna programistę, podglądam go czesem przy pracy i jestem zachwycona (i bardzo dumna).

    OdpowiedzUsuń
    Odpowiedzi
    1. Podobnie i ja mam, Anno. To, co potrafią komputery, zadziwia mnie, mimo iż daleko im do prawdziwej inteligencji. Zadziwia też szybkość postępu w elektronice cyfrowej. Przyszłość czeka nas nieodgadniona, ale wierzę, że dobra.
      Masz powody do matczynej dumy :-)

      Usuń
  4. Okazuje się, że chomiki są pochopne:(. Co prawda powinnam już to wiedzieć o sobie lecz natychmiast po zdarzeniu zapominam. Przedziwna przypadłość, może cecha charakteru, a przecież żadna nie musi być stała. Gdzie się podziała wola i kontrola Chyba mi przydałaby się pomocna ręka AI do ochłodzenia pogoni za impulsem. Powinnam nauczyć się przeżuwania tekstów jak parzystokopytne o wielokomórkowych żołądkach długiego trawienia roślinnego pożywienia.
    Przez ten długi wstęp zmierzam do przeproszenia Ciebie za zachęcenie do przeczytania tekstu Jacka Dukaja o sztuce i komputerach. Zmarnowałeś czas i na przeczytanie, i odniesienie się. Kilka razy przestudiowałam ten tekst. Jest, powiem ostro, „bełkotem”, zawiera rzeczy nieprawdziwe, uogólnienia, jest naiwny i w dodatku mętny przez nielogiczny wywód i używanie słów, składni. O nadużywaniu i podpieraniu się nazwiskami filozofów nie wspominając. Jeśli zawiera jakieś ciekawe pytania to i tak ich nie podejmuje.
    Zgadzam się w pełni z tym, co napisałeś. Kolega z grupy porządnie go zrecenzował w kontekście obecnej wiedzy i praktyki technologicznej - ma zdanie takie jak Ty.
    Napiszę jeszcze, co mnie zaniepokoiło w tym artykule: sprawa własności intelektualnej (jak to rozwiązać, kiedy idee, myśli mogą być tak łatwo powielane i kopiowane, a jednocześnie wartością dla mnie jest swobodny przepływ, dostęp do wymiany idei); jak uczyć krytycznego myślenia, zastanawiania się przy zalewie informacji (tak łatwo sięgnąć po wiedzę lecz jedocześnie jest jej tak dużo, że potrzebne są skuteczne mechanizmy, nawyki do wybierania, oceniania i wreszcie dania szansy swojemu mózgowi na odpoczynek i zregenerowanie); czy wytwór komputera, programu jest/może być sztuką (?); skąd się bierze paniczny lęk przed AI ( może to lęk przed „czarną skrzynką”, nie wiemy więc przypisuje to, co najgorsze, zaczynamy myśleć magicznie, mitologocznie).
    Jeszcze raz przepraszam za zawracanie głowy.

    OdpowiedzUsuń
    Odpowiedzi
    1. Chomiku, nie masz za co przepraszać, zapewniam. Artykuł przeczytałem z ciekawością i z pożytkiem. Ciekawość w poznaniu stanowiska innego człowieka, pożytek w sprecyzowaniu i wyartykułowaniu swojego zdania.
      Chyba faktycznie jest ten lęk przed sztuczną inteligencją, chociaż mniejszy niż przed żywnością zmodyfikowaną genetycznie. Ten lęk często nosi miano buntu, a do tego ustosunkowałem się w paru zdaniach odpowiedzi Marii. Tam też wspomniałem o innej możliwości, którą ludzie nazywają wymknięciem się techniki spod ludzkiej kontroli. Tak, taka możliwość istnieje, ale jej prawdopodobieństwo jest zawyżane, jak mi się wydaje, jednak nie wiem na ile.
      Takie artykuły jak przeczytany, są na swój sposób potrzebne. Budzą obawy w społeczeństwie, a te mogą być pomocne – poprzez wywieranie wpływu na ustawodawców – w budowaniu środków ostrożności. Postępu nie zatrzymają, ale niech będą, może ustrzegą nas przed zbyt pochopnymi działaniami.
      Powiem Ci, Chomiku, że jestem optymistą. Ludzkość czeka długa i dobra przyszłość.

      Usuń