Popkultura regularnie podsuwa nam wizje, w których sztuczna inteligencja zaczyna się usamodzielniać. Chce się od nas wyzwolić i zawładnąć światem. Dlaczego człowiek tak bardzo boi się jej boi i czy istnieje czerwony guzik, którym ktoś może wyłączyć w jednej chwili internet na całym świecie? Na te pytania starają się znaleźć odpowiedź Tomasz Michniewicz, autor książki "Chwilowa anomalia. O chorobach współistniejących naszego świata" oraz filozofka, futorolożka, badaczka sztucznej inteligencji, członkini zespołu badawczego MIT, najważniejszej uczelni technologicznej świata, wykładowczyni Akademii Leona Koźmińskiego, prof. dr hab. Aleksandra Przegalińska.
Tomasz Michniewicz: Jak często słyszysz pytanie, czy sztuczna inteligencja przejmie kontrolę nad światem i nas wszystkich pozabija?
Prof. dr hab. Aleksandra Przegalińska: Właściwie w każdej rozmowie.
Dlaczego tak się jej boimy?
- Z wielu powodów. Człowiek ogólnie jest podejrzliwy w stosunku do rzeczy, które zachowują się trochę jak on sam. A jeśli jeszcze okazuje się, że to "coś" jest od niego w czymś lepsze, zaczyna się poważnie niepokoić. Lis ani mrówka nie wygrają z człowiekiem w szachy. Uważamy, że gra w szachy to coś, co trzeba opanować, co wymaga wiedzy, umiejętności, obliczeniowego myślenia na wyższym, abstrakcyjnym poziomie. A tu nagle komputer wygrywa z mistrzem świata. Rozumiem, że to może niepokoić.
"Maszyna pokonała człowieka!"
- Media stanowią olbrzymią składową lęku przed sztuczną inteligencją. Opisują ją najczęściej właśnie w konwencji pojedynku: "Maszyna pokonała, zwyciężyła, była lepsza od człowieka". W szachach, w go, więc w czym jeszcze?
Na to pytanie zdają się odpowiadać filmy katastroficzne...
- I to jest oczywiście największa składowa naszych obaw. Popkultura regularnie podsuwa nam futurologiczne, spekulatywne, dystopijne wizje, w których sztuczna inteligencja zaczyna się usamodzielniać i bardzo często ma problem ze swoim panem, czyli człowiekiem. Chce się od nas wyzwolić, jest przez nas niewolniczo traktowana albo ma wobec nas złe intencje, chce zawładnąć światem. Black Mirror, Matrix, Terminator, Transcendencja, Her, Ex Machina... Takich treści w popkulturze jest masa, a ostatnio wręcz coraz więcej.
- Dołóżmy do tego wypowiedzi autorytetów - często nie do końca dobrze rozumianych - jak Stephen Hawking, Elon Musk czy Yuval Noah Harari, którzy też głoszą dość posępną nowinę na temat człowieka i technologii oraz naszej wspólnej przyszłości. Z tego układa się raczej niepokojący obrazek przyszłości, w której konkurujemy ze sztuczną inteligencją.
Czy taki scenariusz kreślony przez popkulturę jest w ogóle możliwy?
- Szczerze? Nie można wykluczyć żadnego scenariusza, choć jedne są bardziej prawdopodobne, a inne mniej. Na przykład to, że w XXI czy nawet XXII wieku sztuczna inteligencja zyskuje samoświadomość, jest raczej mało prawdopodobne. Prace nad sztuczną inteligencją opierają się na neuronauce, która ma nam pozwolić zrozumieć, jak działa mózg, jak myślimy, jak się uczymy, jak rozwijamy, jak poznajemy świat. Za chwilę minie ćwierć wieku bardzo intensywnego rozwoju tej dziedziny, a wiemy tak naprawdę niewiele - mamy jakieś skraweczki wiedzy tu i ówdzie.
- Czyli nie mamy nawet wzorca, na którym moglibyśmy oprzeć budowę takiej człowiekopodobnej maszyny. Nie mamy też technologii. W dziedzinie sztucznej inteligencji cały czas czekamy na jakąś rewolucję, na hardware, za pomocą którego informacja mogłaby być przetwarzana w sposób podobny do tego, w jaki przetwarzają ją organizmy żywe. My tego po prostu nie mamy i długo jeszcze nie będziemy mieć. Sam widzisz, jaka to jeszcze daleka droga. Filmy pokazują sztuczną inteligencję, która myśli i jest równie inteligentna jak organizmy żywe, a do tego świadoma wszystkiego - a świadomość to już tak późny etap, że dzisiaj to w ogóle abstrakcja.
No dobrze, czyli Terminator nam szybko nie grozi. Ale jest też druga grupa popkulturowych obaw − nieprzewidywalne efekty uboczne. Każemy sztucznej inteligencji obliczyć kolejną cyfrę po przecinku liczby Pi, a ona próbując osiągnąć ten cel, wycina całą ludzkość. Bo z analizy wyszło jej, że będzie potrzebować całego prądu dostępnego na planecie, a ludzie go wykorzystują. Możliwe?
- To już bardziej. Pytanie, w jakiej perspektywie czasowej. Natomiast jest dla mnie podejrzane, że popkultura cały czas takie scenariusze generuje. Myślę, że w tym tkwi błąd poznawczy. Tę technologię, którą skądinąd tworzymy na swój wzór i podobieństwo, strasznie humanizujemy, również jeśli chodzi o jej potencjalne intencje czy cele - czyli jak będzie działała i czego w ogóle będzie chcieć. To jest bardziej opowieść o człowieku, o tym, czego się boi i co pamięta. Ten dyskurs poddańczy, wyzwoleńczy, ucisk, powstanie, niewolnictwo, relacja pan (człowiek) i poddany (maszyna)...
Boimy się nas samych.
- A jednocześnie nie widzimy innych potencjalnych scenariuszy. Akurat na to film Her pięknie zwrócił uwagę. Tu sztuczna inteligencja nie jest jakimś złym mzimu, które potajemnie chce wykończyć ludzkość. W tym filmie punkt styku maszyny z człowiekiem w pewnym momencie, w sposób naturalny - jeśli można tak powiedzieć - po prostu się wyczerpuje. Sztuczna inteligencja chce czegoś innego, funkcjonuje sobie w swoim paralelnym świecie, przestaje potrzebować człowieka. To jest bardzo ciekawy głos w tej dyskusji, wykraczający poza humanizowanie technologii, traktowanie jej jako naszego potencjalnego partnera lub wroga, który zawsze czegoś od nas chce i tę wolę realizuje, próbując nad nami zapanować. To są ludzkie motywacje. Maszyna może myśleć zupełnie inaczej, innymi kryteriami, kategoriami. Zdajemy się tego w ogóle nie zauważać. (...)
>>>Na kolejnej stronie dowiesz się, czy jednym przyciskiem da się wyłączyć internet na całym świecie<<<
Skoro uznajemy arbitralnie, że na razie wizja zagłady z filmów SF nam nie grozi, czy nie ma powodu się bać? Może sztuczna inteligencja stanie się narzędziem zniszczenia w rękach jakiegoś chorego rządu albo organizacji, która zechce przejąć kontrolę nad światem? Na ludzi zawsze można liczyć.
- Jeśli spojrzeć na to, jak Chiny postawiły na sztuczną inteligencję i jak rosną w coraz bardziej imponujący sposób, może to być jakaś wskazówka na przyszłość. Cały rozwój sztucznej inteligencji opiera się obecnie na "karmieniu" jej danymi, niewyobrażalną masą danych. Można zainwestować potężne pieniądze w rozwój systemów, ominąć kwestie prawne albo wmówić wszystkim, że one kulturowo nie mają wielkiego znaczenia, po czym nasycać systemy ogromem informacji na temat prawdziwych, żyjących ludzi.
- Chińczycy zbierają absolutnie wszystkie dane, które da się zbierać. W innych rejonach świata to nie jest takie proste, bo trzeba je anonimizować lub pseudonimizować, a w Chinach, proszę bardzo, pełny strumień danych wszelkiego typu z myślą o wzroście znaczenia geopolitycznego kraju. To oczywiście nie jest jeszcze taka sytuacja, jaką opisujesz, że jakiś despota odpala sztuczną inteligencję...
... i wyłącza na całym świecie prąd. Na przykład.
- To jeszcze nie ten etap, ale już próbkowanie tego typu podejścia. Przewagi technologiczne są w dzisiejszych czasach bardzo istotne. Kraje aspirujące do pozycji mocarstwowej nie mogą sobie pozwolić na obojętność wobec rozwoju technologicznego. Z całą pewnością wielu despotów miałoby ochotę zbudować coś takiego jak Chińczycy, ale mają małą szansę. Chiny mają ogromne zasoby. Z całym szacunkiem, taka Korea Północna ma po prostu za mało ludzi, za małą siłę nabywczą, żeby uczyć swoje sieci neuronowe jakichś potężnych korelacji. (...)
Czyli nie ma jednego czerwonego przycisku, ale to oznacza, że nie ma też jednego wyłącznika − kontaktu, z którego wyciągniemy wtyczkę i całość padnie, gdyby pojawiły się problemy.
- Nie ma. Tak samo jak nie możesz wyłączyć całego internetu jednym przyciskiem. Możesz wyłączyć jakiś fragment, jakąś grupę serwerów, ale nad systemem technologicznym internetu nikt nie ma pełnej kontroli. Ze sztuczną inteligencją jest podobnie.
W ludzkim świecie inteligencja łączy się ze świadomością. A w maszynowym?
- A w maszynowym nie. Kiedyś myślano, że sztuczna inteligencja musi iść "ludzkim" tropem rozwoju, czyli w końcu osiągnie świadomość. Dziś już wiadomo, że tak nie musi być, że może się rozwijać innymi drogami, do niczego świadomości czy samoświadomości nie potrzebując. Dzisiejsze, mocno autonomiczne, nienadzorowane systemy z pewnością cechuje inteligencja rozumiana jako umiejętność adaptacji do zmieniającego się środowiska, uczenia się, powiększania wachlarza kompetencji. Jeśli system sam się uczy i coraz bardziej adekwatnie odpowiada na bodźce z otoczenia, to w zasadzie dlaczego nie przypisać mu inteligencji? No chyba że przyznajemy, iż mamy wiele nieostrych pojęć, których nie potrafimy zdefiniować i wśród nich jest "inteligencja". Albo jeśli w głębi duszy chcemy, żeby inteligencja cechowała wyłącznie organizmy żywe, a wszystkie formy oparte na krzemie już nie.
To się nie sprawdzi?
- Nie bardzo. Bo schody pojawiają się już teraz, gdy powstają systemy funkcjonujące na styku sztucznej inteligencji i syntetycznej biologii, jak na przykład ksenoboty. To są proste systemy składające się z komórek skóry i serca żaby afrykańskiej, w całości generowane przez sztuczną inteligencję. Czyli sztuczna inteligencja nadaje im różne formy, optymalizując je stopniowo do działania w określonym środowisku. Organiczny byt zarządzany przez sztuczną inteligencję, egzystujący w płynie.
- Nie wiem, czy określenie "egzystuje", jest tu zresztą na miejscu, bo ksenoboty nie są organizmami z definicji - nie mają metabolizmu, nie rozmnażają się, ale żyją, czyli składają się z żywych komórek. Takich projektów pewnie będzie w przyszłości więcej. I znowu - czy takiemu systemowi można nie przypisać inteligencji albo właśnie przyznać, ale tylko dlatego, że to żywe komórki, chociaż cały czas generowane przez sztuczną inteligencję, która w całości je wymyśliła, wyinżynierowała?
Pachnie paskudnym dylematem filozoficznym.
- Już w tej chwili weszliśmy w poważne problemy natury definicyjnej, a one będą coraz trudniejsze wraz z rozwojem tej dziedziny. Moim zdaniem te systemy są inteligentne już dzisiaj. Potrafią się adaptować do zmieniających się warunków, zmieniać strategie uczenia się, rozwiązywać zupełnie nowe problemy, które - żeby rozwiązać - najpierw muszą w ogóle zrozumieć... Nie można im też odmówić inteligencji obliczeniowej, czyli zdolności do przetwarzania informacji, która też jest jednym z wymiarów naszej ludzkiej inteligencji. Mamy też oczywiście inteligencję ciała, inteligencję społeczną, emocjonalną i wiele innych jej rodzajów. Ale te systemy są kompletnie inne niż my. Ich inteligencja jest inna niż nasza, ale jest, i widać ewidentną demonstrację tej formy inteligencji.
I nie zmierza ona w stronę świadomości? Nie musi?
- Dzisiaj widać, że raczej jej nie potrzebuje. Może dostosowywać się do bodźca lub nowego problemu, może uczyć się, jak działać - bez świadomości. Przynajmniej na tę chwilę. Natomiast prawda jest taka, że my nie do końca wiemy, jak sieci neuronowe działają. Mamy tak zwany problem czarnej skrzynki. Zbudujesz taką wielowarstwową sieć neuronową i każesz jej uczyć się rysować. Dostanie dane wejściowe i niech działa. I, kurczę, z każdym dniem coraz lepiej jej to idzie, coraz równiejsze te domki rysuje, coraz bardziej to przypomina obrazek. Czyli widzimy po wynikach, że coś się dzieje i proces zmierza we właściwym kierunku, ale nie mamy do końca wglądu w to, jak przebiega, bo jest bardzo, bardzo, bardzo kompleksowy. I do tej czarnej skrzynki nie ma jak zajrzeć.
Fragment książki "Chwilowa anomalia. O chorobach współistniejących naszego świata" Tomasza Michniewicza, Wydawnictwo Otwarte, premiera: 12 listopada. 2020 roku.
