STILUS FRACTUS

Czy androida można zgwałcić?

Muszę przyznać się do tego, że po kilkunastu latach znów oglądam serial. Nie tyle dla fabuły, bo szkoda byłoby mi czasu na coś, co jest tylko wymysłem scenarzystów, a co trwa dłużej niż film kinowy – raczej dla fascynującego tematu. To „Westworld”. Androidy, sztuczna inteligencja, świadomość… Jak daleko zajdzie postęp techniczny, zanim dylematy moralne każą nam go ograniczyć, albo kiedy sprawi, że jako ludzkość staniemy się nie lepsi od maszyn?

WESTWORLD

Jeśli ktoś jeszcze nie wie: „Westworld” (dotąd pojawiły się cztery odcinki), inspirowany starym filmem z Yulem Brynnerem, opowiada o futurystycznym parku rozrywki w sceneriach Dzikiego Zachodu, w którym inteligentne androidy („gospodarze”) odgrywają nieświadomie swoje role dla rozrywki ludzi („gości”). A ludzie mogą robić, co tylko zechcą: zabijać, gwałcić i tak dalej.

Bernard Lowe (Jeffrey Wright) mówi do współzałożyciela i głównego inżyniera parku, Roberta Forda (Anthony Hopkins), że tamten nauczył go, jak tworzyć androidy, ale nie powiedział, jak trudno będzie je wyłączać i odstawiać już na zawsze do magazynu. Ford z kolei w jednej ze scen mówi, że jego dawny współpracownik miał nadzieję nadać maszynom prawdziwą samoświadomość, ale one przecież nie mogą mieć tej świadomości, skoro gość z założenia ma wolną rękę. I że jedyne, co można dla nich zrobić, to raz po raz wymazywać im pamięć. W jeszcze innej – że one czują i myślą tylko to, co im zaprogramowano.

I faktycznie: gdy jedna z postaci podczas sesji kontrolnej mówi o uczuciach, nadzorca każe jej przejść w tryb analizy i pyta, czy sama to wymyśliła. Ona beznamiętnie odpowiada, że improwizowała na podstawie zapisanego dialogu o miłości. Chwilę wcześniej albo później, nie pamiętam, naprawdę wpada w histerię, ale wystarcza komenda: „ogranicz skalę emocji”, by zaczęła opowiadać o wiele spokojniej. Autentycznym przerażeniem kończy się też niekontrolowane przebudzenie na stole operacyjnym.

Czyli androidy jak gdyby odczuwają całkowicie improwizowane emocje, a nawet czują, że coś jest nie tak z ich światem, i potrafią w wyniku przerażenia pokonać zaprogramowany opór przed pociągnięciem za spust, ale w kontrolowanym środowisku opowiadają o swoich uczuciach, zupełnie nie przejmując się tym, że siedzą nago wśród szkła, stali i kafelków.

A może twórcy parku jeszcze nie wiedzą, że jednak udało im się osiągnąć samoświadomość maszyn? Nawet przeszło mi przez myśl, że Ford już to wie i zamierza zniszczyć swoje dzieło.

ROBOT TEŻ CZŁOWIEK

W bardzo ciekawym artykule sprzed paru tygodni (Wyborcza.pl, 6.10.2016) Wojciech Orliński pisze o świecie, w którym człekokształtne roboty i androidy staną się codziennością. Porusza między innymi kwestię empatii:

[Skłonność graczy komputerowych do bezinteresownego ratowania lub zabijania postaci niezależnych] sugeruje, że podobnie będziemy oddziaływać z robotami. Nawet jeśli będziemy wiedzieć, że to są tylko maszyny i będziemy o nich mówić per „to” – będziemy je lubić (lub ich nie lubić) i odczuwać wobec nich jakiś rodzaj empatii.

Nie oszukujmy się: przyjdzie czas, gdy doskonałe, superinteligentne kopie człowieka będą przedmiotem pożądania i miłości. Niektórzy pewnie będą się angażować w emocjonalne relacje z całkowicie wirtualnym umysłem. Tak jak niedawno w filmie „Ona” („Her”) Spike’a Jonze’a z Joaquinem Phoenixem, który zakochuje się w głosie swojej czysto cyfrowej asystentki Scarlett Johansson. Swoją drogą, takie zaangażowanie będzie już oznaczało zdradę przez duże zet, bo nie tylko fizyczną, jak z gumową lalką, ale też emocjonalną.

W innym znakomitym artykule o sztucznej inteligencji z ostatnich dni, „Sztuczna inteligencja – Bóg już jest” Artura Włodarskiego (Wyborcza.pl, 22.10.2016), pada stwierdzenie, że czeka nas rewolucja, na którą po prostu nie jesteśmy gotowi.

CZY ANDROIDA MOŻNA ZABIĆ?

W „Westworld” jeden z gości roztrzęsiony krzyczy do drugiego, że tamten właśnie zabił niewinnego człowieka, na co zabójca odpowiada, że to przecież tylko robot. Robot, którego następnego dnia naprawią i zrestartują. Zresztą co za różnica: naprawą czy nie, prawda?

No właśnie: czym taki android różni się od superinteligentnego komputera w stalowej obudowie? Czy to nie jest tylko procesor zamknięty wraz z pamięcią operacyjną i nośnikiem danych w ludzkim kształcie?

Załóżmy nawet, że to coś zyskuje samoświadomość.

Czym taki android będzie się różnił od skrzynki z procesorem, pamięcią i nośnikiem danych, która też zyskała samoświadomość? Albo od całej samoświadomej sieci? Czy ktokolwiek miałby większe opory przed wyłączeniem lub zrestartowaniem takiej świadomej siebie sieci, gdyby zaczęła niewłaściwie funkcjonować, a nie mówiła głosem Scarlett Johansson?

Jasne, że nie. Jedyne dylematy w „Westworld” związane są z kształtem, jaki przybiera ta sztuczna inteligencja. Oczywiście, widz bez wahania staje po stronie androidów.

PIES TEŻ ŚWINIA

Kształt jest wszystkim. Weźmy choćby takiego psa i świnię. Pies – zwierzę domowe, przyjaciel człowieka, stworzenie inteligentne, czujące, przywiązujące się do opiekuna. Świnia – zwierzę hodowlane, przedmiot, stworzenie podobno jeszcze inteligentniejsze, które tak samo czuje i tak samo umie się przywiązać. W naszej kulturze świnia trafia do rzeźni, a pies chodzi do fryzjera. Podejrzewam, że wielu z tych, którzy na nagraniach z ukrytej kamery popędzają prądem zwierzęta w zakładach mięsnych, nie skrzywdziłoby psa albo kota. Na chińskiej prowincji pies nie ma statusu przyjaciela domu, ani tym bardziej członka rodziny, to się go obija kijami, żeby mięso było smaczniejsze, i obdziera żywcem ze skóry.

Pies nie różni się od świni, tak samo jak samoświadomy android nie będzie się różnił od samoświadomego robota, a ten nie będzie się różnił od samoświadomej sieci komputerowej. Pytanie najpewniej będzie brzmiało: czy mamy prawo zabijać (wyłączać), torturować lub gwałcić świadomą sztuczną inteligencję jako taką.

Przy czym cały czas mówimy co najwyżej o androidach, a nie replikantach z „Blade Runnera”, istotach już w pełni organicznych, które żyją tylko cztery lata dlatego, żeby nie rozwinęły w pełni inteligencji emocjonalnej. (Właśnie reakcje emocjonalne bada jedyny test, który pozwala ich rozpoznać). To nam chyba jednak nie grozi, w każdym razie nie na światową skalę, bo to jak klonowanie. A przecież całkowicie sztucznego odpowiednika ludzkiego mózgu, z całą jego zdolnością adaptacji i chemią, nie zbudujemy. Nawet jeśli teoretycznie byłoby to możliwe, w tak długim czasie zdążylibyśmy kilka razy wymrzeć, a przynajmniej cofnąć się w rozwoju do średniowiecza. Swoją drogą, aktualne pozostałoby wcześniejsze pytanie: czym taki android różniłby się od sztucznego mózgu zamkniętego w skrzynce albo symulowanego w sieci neuronowej.

Mimo wszystko ktoś, kto zgwałci inteligentnego androida, niewiele będzie się różnił od tego, który zgwałci kobietę. Prawda jest taka, że zrobi to, by upajać się strachem ofiary, przemocą, poczuciem władzy. Może nie będzie powodu, by go zamknąć, ale poza tym nie chciałbym mieć ze ścierwem do czynienia.

WYBRANE WPISY