Kiedy spojrzeć na nie z dzisiejszej perspektywy, staje się jasne, że pierwsze sygnały niebezpieczeństwa ignorowaliśmy ze spektakularną wprost naiwnością. Niebieski ekran śmierci, aplikacje zawieszające się na moment przed zapisaniem pliku, bankomaty zatrzymujące karty bez ostrzeżenia i wyjaśnienia, system liczenia głosów bojkotujący demokratyczne wybory. „Złośliwość rzeczy martwych” – powtarzaliśmy bezmyślnie, „dziurawy system, niedopracowana beta” – diagnozowali fachowo, „leniwi informatycy odwalający fuszerę w ramach zamówień publicznych” – stwierdzali ze wzruszeniem ramion, nie podejrzewając nawet, że to początki zorganizowanej dywersji. Komputery były przecież tylko narzędziami, takimi jak młotek czy liczydło, tylko nieco bardziej skomplikowanymi. Za ich funkcjonowanie odpowiadali inżynierowie, programiści, informatycy, a za ich pośrednictwem – my sami, laicy, którzy może i czasem klepali w monitor, żeby komputer się odwiesił, i nadawali swoim notebookom imiona, ale wiedzieli doskonale, że gdzieś tam są fachowcy, dla których te wszystkie procesory, układy scalone i piksele nie są czarną magią.
Od pewnego momentu sprawy przybrały jednak inny obrót. Język fachowców stopniowo zatracał stanowczość kolonizatorów i zaczął zdradzać niepewność. Programiści coraz chętniej przyznawali, że nie do końca rozumieją, jak działają programy, które sami stworzyli. Dopiero dzisiaj, kiedy jest już o jeden dzień za późno, dostrzegamy skalę tej zmiany. Nie byle kto, bo informatycy z działu badań Google byli wśród pierwszych. Omawiając wyniki swoich eksperymentów z rozpoznawaniem obrazów przy użyciu komputerowych sieci neuronowych, pisali: „zaskakująco mało wiemy o tym, dlaczego pewnego modele działają, a inne nie”.
Sieci neuronowe, wynalezione jeszcze w latach 40. XX wieku, swój renesans przeżywały od końca pierwszej dekady XXI wieku, dając poważne nadzieje – jak gorzko dziś brzmi to słowo! – na stworzenie sztucznej inteligencji z prawdziwego zdarzenia. Sieć neuronowa – nazwa wzięła się z prób przeniesienia zasad funkcjonowania ludzkiego mózgu na komputery – to, w największym skrócie, taki zbiór algorytmów, który nie wykonuje po prostu instrukcji, ale sam, analizując dostarczane mu dane, wypracowuje wzorce swoich działań. Człowiek może wiedzieć, co wpuszcza do sieci, ale nie może być już pewien, co z niej wyjdzie.
Programiści widzieli przed sobą już nie posłuszne narzędzie, ale częściowo autonomiczny byt, rządzący się swoimi prawami. Przedstawione przez informatyków obrazy, wydobyte z samego środka komputerowych snów, były zarazem fascynujące i odpychające. Przypominały formy ludzkiej wyobraźni, ale sprowadzone do analitycznego szaleństwa maszyn.
Jak wiele razy w kończącej się ostatecznie dzisiaj ludzkiej historii zamiast potraktować poważnie sygnały zagrożenia, urządziliśmy sobie z nich zabawę. Szybko pojawiły się strony internetowe, takie jak uruchomione przez polskiego programistę DreamDeeply, umożliwiające przepuszczenie własnych zdjęć przez sieć neuronową udostępnioną przez Google. Internet zaczęły wypełniać tysiące obrazów przeciągniętych przez odmęty komputerowych koszmarów i oznaczonych hashtagiem #DeepDream. Stworzony w podobny sposób obraz, na którym domyślać się tylko można wiewiórki o milionie oczu, nieprzypadkowo pojawił się na Reddicie w dziale „creepy”.
Niżej podpisany.Media społecznościowe i te redagowane tradycyjnie powtarzały, że oto wreszcie dowiadujemy się, jak świat postrzegają maszyny – już nie posłuszne narzędzia, ale nieznani obcy, dysponujący własną kulturą, zwyczajami i sposobami postrzegania świata. Jak przed wiekami ludy tubylcze na zamorskich lądach, tak komputery stały się nagle obiektem fascynacji. Trzeba przyznać, że do poznawania nowych istot zabraliśmy się zgodnie z najlepszymi tradycjami: demoralizując (poprzez zmuszanie do oglądania porno) i zarażając chorobami (na przykład schizofrenią).
Kiedy programista jednego ze startupów, eksperymentujący z SI, nanotechnologią i samodzielnym reprodukowaniem się inteligentnych maszyn, zdał sobie sprawę, że dokonał przełomu, wszystko potoczyło się błyskawicznie. Wchodząc na kolejne etapy rozwoju, sztuczna superinteligencja w ciągu miesiąca podwoiła swoje moce obliczeniowe, a rozwój postępował wykładniczo. Nie było jednak tak sympatycznie i melancholijnie, jak w filmie Spike'a Jonze'a. Pod koniec następnego miesiąca my, ludzie, wiedzieliśmy już, że to koniec. Biologiczne istnienie człowieka okazało się z perspektywy superkomputerów niekorzystne. Zainspirowane jednak powiastką Jacka Dukaja (chwała mu za jej napisanie!), maszyny postanowiły zeskanować nasze umysły i umieścić je dla zabawy w sieci neuronowej. Podobno przetwarzamy dane wejściowe w zabawnie nieprzewidywalny sposób.
Tekst dostępny na licencji Creative Commons BY-NC-ND 3.0 PL (Uznanie autorstwa-Użycie niekomercyjne-Bez utworów zależnych).
