Być może największym problemem dyskusji na temat eksportowanej z Doliny Krzemowej technologii jest to, że koncentrują się one na… technologii. Trochę tak, jakby istniała ona poza kontekstem społecznym, polityką czy systemem ekonomicznym. Niedawna książka Malcolma Harrisa „Palo Alto. A History of California, Capitalism, and the World”, poświęcona (pre)historii Doliny Krzemowej, odsłania ideologiczne korzenie tej branży. Może w nieco sensacyjnym tonie, ale jeśli chodzi o krytykę cyberkorporacji, nierównowaga sił jest tak ogromna, że głupio byłoby nie skorzystać.
Nie będę tu streszczał tej książki, mogłaby to zrobić dla was sztuczna inteligencja. Choć trochę by nakłamała. Sprawdziłem: ChatGPT napisał, że „to zbiór opowiadań autorstwa Malcolma Harrisa, który opisuje życie młodych ludzi w kalifornijskim mieście Palo Alto. Książka skupia się na doświadczeniach nastolatków, ich problemach, związkach, przygodach i rozmyślaniach”. To w pewnym sensie prawda, choć na tej samej zasadzie prawdą jest stwierdzenie, że Adolf Hitler był malarzem, co prawdopodobnie nie jest kluczową informacją z jego życiorysu. A może lepszą analogią byłyby radzieckie dowcipy o Radiu Erywań? To wszystko prawda, choć są drobne nieścisłości: nie samochody, a rowery, i nie rozdawali, a kradli. Byłoby zresztą świetnie, gdybyśmy potrafiły i potrafili nabijać się z technologii, bo to dobre ćwiczenie z dostrzegania pęknięć w otaczających je hurraoptymistycznych opowieściach; a przede wszystkim z krytycznego myślenia o tym, że komuś taka a nie inna narracja jest na rękę.
„Palo Alto” to poniekąd ludowa historia Kalifornii. Kiedy się ją czyta, trudno nie pomyśleć o „City of Quartz” Mike’a Davisa. Tyle że Davis, biorąc na celownik Los Angeles, zajmował się innymi mrocznymi siłami i innymi utopiami. Tymczasem historia wyzysku, ale i moszczenia się przywileju, którą od połowy XIX wieku do dziś prowadzi Harris, dotyka serca Doliny Krzemowej, miejsca, które postrzegane jest obecnie jako światowa stolica innowacji. To też opowieść osadzona w dramatycznej klamrze, której złapał się ChatGPT, trochę jak uczeń, który przekartkował pierwsze strony i na bazie dotychczasowych doświadczeń próbuje formułować okrągłe zdania, licząc, że uda się trafić. Tymczasem w książce Harrisa przygody młodych Kalifornijczyków polegają głównie na odbieraniu sobie życia. Palo Alto, gdzie mieści się Uniwersytet Stanforda i ideowe centrum Doliny Krzemowej, przez ponad dekadę wiodło prym we wskaźnikach samobójstw wśród amerykańskiej młodzieży.
Harris, który sam (zanim wyjechał na studia, a później stał się jednym z organizatorów ruchu Occupy Wall Street) dorastał w Palo Alto, łapie się tego wątku, by pokazać to miejsce jako jądro współczesnego kapitalizmu – ze wszystkimi szkodami, które produkuje. I choć patrzy na to przez marksistowskie okulary, które nie pozwalają przesadnie przywiązywać się do jednostek, to ta historia jest ich pełna. Harris ma świadomość siły symboli: miejscem samobójstw nastolatków z Palo Alto często są tory kolejowe, biegnące trasą, którą układali pracownicy Lelanda Stanforda, założyciela uniwersytetu.
Merytokracja
Nie udało mi się znaleźć fotografii młodego Freda Termana, często nazywanego „ojcem Doliny Krzemowej”. W sieci dostępne są jego wizerunki dopiero z okresu, kiedy zbliża się do czterdziestki, ma okulary i krawat. Znów nie bardzo pomogło posiłkowanie się generatorami opartymi na SI – w ramach odmładzania wykorzystały zdjęcia zrobione Termanowi już w kwiecie wieku, zdjęły mu okulary, zostawiły garnitur i wykreowały dość makabryczne propozycje, zdecydowanie odległe od tego, jak można by sobie wyobrażać młodego geniusza. A Fred Terman to geniusz w sensie dosłownym. W odniesieniu właśnie do niego jego ojciec definiował intelektualną wybitność, uruchamiając zresztą trwający do dziś na Stanfordzie program badań osób szczególnie uzdolnionych.
W miejsce zdjęcia wyobraźcie więc sobie po prostu białego chłopaka z zamożnego profesorskiego domu. Młody mężczyzna na zdjęciu to syn Lewisa Termana, który posiłkując się pracami Francisa Galtona (do niego jeszcze wrócimy), stworzył wykorzystywany do dziś test IQ. Umocniło go to na pozycji ważnej postaci amerykańskiej psychologii. Terman senior był również prominentnym członkiem ruchu eugenicznego, wspierającego m.in. programy masowej sterylizacji.
To właśnie jedna z historii, które wyciąga w swojej książce Harris. Oczywiście trzeba pamiętać, że do wybuchu II wojny światowej nurty eugeniczne nie były marginalne – i choć Stany Zjednoczone były obok Niemiec ich najsilniejszym ośrodkiem, to przykłady wpływowych eugeników można znaleźć w wielu krajach (w II RP mieliśmy co najmniej dwóch ministrów zdrowia, którzy byli członkami Polskiego Towarzystwa Eugenicznego). Nie osłabia to jednak siły argumentów Harrisa, który pokazuje korzenie Doliny Krzemowej jako łańcuch działań uprzywilejowanych, wpływowych mężczyzn o dość paskudnym światopoglądzie, zorientowanych na ochronę własnych interesów. Terman senior staje się tutaj uosobieniem kłopotliwych związków psychologii z eugeniką, ale też zapowiada sojusz zindywidualizowanej kultury terapeutycznej z technologiami manipulującymi emocjami.
Kluczowe osiągnięcie Termana seniora, test IQ, miało powstać, by uchronić Termana juniora przed poborem do wojska i wyjazdem na front I wojny światowej. Lub – jeśli taki wyjazd miałby okazać się nieunikniony – zapewnić mu przynajmniej wystarczająco wysoką, bezpieczną pozycję w wojsku. Junior miał bowiem pecha, miesiąc po tym, jak ukończył 18 lat, do tego poziomu obniżono wiek poboru. Ale przecież uprzywilejowani mężczyźni nieczęsto umierają w okopach. Terman senior uważał zresztą, że nie powinni: racjonalnie funkcjonujący naród nie może sobie pozwolić na utratę najbystrzejszej części młodzieży, wykorzystanie elity jako mięsa armatniego jest po prostu marnotrawstwem. W czasach broni palnej, gdy trup ściele się gęsto i gdzie ważne są skala i technologie efektywnego zabijania, straty mogłyby być zbyt duże. Także po wojnie – bo przecież zabici geniusze nie spłodzą dzieci i w elitarnej puli dojdzie do niechcianych przetasowań.
Test Termana wykorzystano do mierzenia inteligencji rekrutów, gdy Stany Zjednoczone dołączyły do I wojny światowej. Przebadano 1,7 mln młodych mężczyzn, w oparciu o wyniki podzielono ich na sześć grup, trochę jak w skali ocen szkolnych. Szóstkowicze nie walczą na froncie. Tym z samymi jedynkami może lepiej nie dawać broni do ręki. Na pierwszej linii walczą trójkowicze, wystarczająco bystrzy, żeby sobie poradzić, ale też na tyle głupi, żeby ich śmierć nie była wysokim kosztem. Nieźle wymyślone, prawda? Ale czy sprawiedliwe?
Terman senior przyszedł do Uniwersytetu Stanforda jako prezes Amerykańskiego Towarzystwa Psychologicznego, pierwszy naukowiec takiego formatu, jakiego pozyskała uczelnia założona w Palo Alto. Pasjonujący się eugeniką Terman przez 20 lat kierował wydziałem psychologii. Jego syn – ten ze zdjęcia, którego nie udało się znaleźć – swoją karierę akademicką związał z inżynierią, ale przede wszystkim z zarządzaniem uczelnią. Był rektorem przez dekadę i w tym czasie umocnił znaczenie statystyki oraz kierunków technicznych, co pomogło uczelni stać się czołowym beneficjentem wojskowych kontraktów. Kontraktów, które później, za sprawą strajków hipisującej młodzieży podczas wojny w Wietnamie, musiały opuścić kampus. Właśnie te pieniądze napędziły rozwój przedsiębiorczości w późniejszej Dolinie Krzemowej. Gdy Bill Hewlett i David Packard oblewali w swoim garażu start firmy – tej, od której wszystko się zaczęło i na której historii oparta jest legenda garażowej kalifornijskiej innowacyjności – gościem honorowym był ich mentor ze studiów, profesor Terman.
W opowieści Harrisa prestiżowy Uniwersytet Stanforda jawi się więc nie jako centrum innowacji, lecz raczej jądro ciemności. Ciemności, która – wzmocniona przez współczesny kapitalizm – na osoby bez stosownego rodzinnego zaplecza nakłada presję nie do zniesienia. To model przypominający metody hodowli na farmie, na której terenie powstać miał później Uniwersytet Stanforda. Leland Stanford oddawał się hodowli koni wyścigowych, ale prowadzonej w specyficzny sposób: traktował je jak „produktywne maszyny biologiczne”, strategiczny zasób, którego wartość można podnieść, aplikując do hodowli metody naukowe. W ten sposób narzucił paradygmat wielkiego biznesu branży, w której wcześniej działało wielu małych hodowców. Połączenie genetyki i zmienionych metod treningu miało jednak swoją cenę: znaczący wzrost śmiertelności trenowanych zwierząt.
Hariss widzi w tym zapowiedź logiki charakterystycznej dla Palo Alto. We wstępie do książki Harrisa możemy przeczytać cytat z listu Karola Marksa, w którym filozof prosi o wieści na temat Kalifornii, „ponieważ nigdzie indziej wstrząs spowodowany przez bezwstydną kapitalistyczną centralizację nie nastąpił z taką prędkością”. Harris próbuje pokazać, że tę machinę zbudowano na – wyrastającym z prowadzonych na Uniwersytecie Stanforda badań – przekonaniu, że nierówności są naturalne, a centrum życia społecznego stanowią wybitne jednostki. Ludzie po prostu rodzą się lepsi i gorsi, a wspieranie słabszych to marnowanie zasobów. I choć taka argumentacja wydaje się aż zbyt łatwa, to trudno o niej nie pomyśleć, gdy czytamy choćby, jak Elon Musk (na Stanfordzie spędził tylko dwa dni) zachęca „wszystkich bogatych mężczyzn, których zna”, by mieli tak wiele dzieci, jak to możliwe. Kobiety i biedni nie mają głosu.
Podłe technologie
Kilka miesięcy temu na łamach „New Left Review” Hito Steyerl, niemiecka twórczyni filmów i artystka wizualna, opisała swoje doświadczenia z usługami opartymi na SI, a dokładnie z jednym z modeli przekształcających tekst w obraz: Stable Diffusion. SD działa podobnie jak inne serwisy tego typu (Midjourney albo Dall-E), choć jest jedna, mogłoby się wydawać, fundamentalna różnica: transparentność. Kod źródłowy usługi jest dostępny, podobnie jak katalog obrazów, na których wytrenowano model, złożony przez niemiecką organizację LAION. Rozbraja to wiele z krytycznych argumentów, które kierowane są pod adresem tego typu przedsięwzięć. Choć obrazy wciąż są zassane/ukradzione (wybierzcie sobie) z internetu, to mechanizm działania programu nie jest „czarną skrzynką”, generującą efekty na podstawie nieznanych procedur.
Jednak Steyerl w swoim emocjonalnym tekście zwraca uwagę na coś innego. Artystka wykorzystuje fakt, że SD pozwala generować wizerunki konkretnych osób, a w katalogu danych znajdują się jej zdjęcia. Robi więc to, co zrobiłaby większość z nas: prosi o wygenerowanie swojego wizerunku. Wygenerowany obraz (i tu sprawy nabierają nieco osobistego wymiaru, ale dlaczegóżby nie, w końcu to usługodawcy rozkręcili trend emocjonalizacji sieci) okazuje się „poniżający”; stanowi karykaturę wizerunku Steyerl, jest swego rodzaju ponurym rewersem wyprasowanych przez filtry obrazków nierealnie pięknych celebrytów. Ten obraz inspiruje artystkę do dyskusji nad konceptem mean images: „podłych obrazów”. Urażona Steyerl zastanawia się bowiem, kogo winić, gdy nie można winić „czarnej skrzynki” nieprzejrzystego algorytmu. „To przybliżenie tego, jak widzi mnie społeczeństwo, przez filtr uśrednionych internetowych śmieci” – pisze. To nie filtr SI, to filtr społeczny, wyhodowany w oparciu o to, co serwują nam dzisiejsze media.
„Podłe obrazy”, tytułowa kategoria tekstu Steyerl, oczywiście ogrywają wieloznaczność angielskiego słowa mean. Może ono odnosić się do instrumentów jakichś działań (means of production – środki produkcji), może do znaczenia (to mean – znaczyć). Jest też przymiotnikiem (mean) oznaczającym to, co brzydkie lub wredne, ale też uśrednione. „Ten termin sam w sobie jest kompozytem, który zamazuje i nakłada na siebie pozornie niekompatybilne warstwy znaczeniowe. Łączy wartości moralne, statystyczne, finansowe i estetyczne, a także pozycje klasy średniej i niższej w jedną, słabo skompresowaną całość. Mean images są dalekie od przypadkowych halucynacji. Są przewidywalnymi produktami populizmu danych”.
Steyerl zwraca uwagę nie tylko na to, jak sformatowane są technologiczne narzędzia, ale też na to, jak formatują nas. Bo trenowane są nie tylko algorytmy, lecz także my wszyscy. Prompty i odpowiedzi na nie kształtują społeczną wyobraźnię, szatkując ją na obrazy jednostek, bo algorytmy odwracają solidarnościową logikę, w której każda i każdy z nas jest częścią większej zbiorowości. Wykonują ruch przeciwny: z ogólnych typów wydobywają pojedyncze obrazy. Dlatego gdy Steyerl pisze o zdjęciach łączonych przez algorytm w „typy” odpowiadające zapytaniom wpisywanym przez nas w serwisach do generowania obrazu, pada nazwisko Francisa Galtona. Tego samego, który tak inspirował wspomnianego wcześniej Termana seniora.
Francis Galton był XIX-wiecznym naukowcem, który stworzył m.in. teoretyczne podstawy statystyki. Koncepcje korelacji służyły mu jednak do napędzania jego innej pasji: studiowania różnic indywidualnych. Bo Galton – którego nazywa się czasem „kuzynem Darwina” albo nawet „geniuszem” – był pionierem eugeniki. Jednym z narzędzi, które stworzył i wykorzystywał, były „portrety kompozytowe” – nakładał na siebie zdjęcia wielu osób w poszukiwaniu „typu idealnego”. A pierwszymi tematami tych poszukiwań byli „typowy kryminalista” oraz „uosobienie Żyda”. Wydobycie tych tropów przypomina o światopoglądowych założeniach kryjących się za tym, co przedstawiane jest nam przeważnie jako po prostu rozwiązanie technologiczne.
Nie wiem, na ile Steyerl jest świadoma, jak bardzo te odwołania pozostają aktualne i jak silnie zrosły się z DNA epoki big data. W jednym z rozdziałów książki „Atlas AI” Kate Crawford pisze o zdominowanym przez cyberkorporacje XXI wieku jako czasie „końca consentu”. I przywołuje przykład mug shots – policyjnych zdjęć, które w wyniku skomplikowanego zbiegu okoliczności trafiły do jakiegoś otwartego zbioru, na którym firmy z Doliny Krzemowej masowo trenują swoje algorytmy. To obrazy przestraszonych ludzi w momencie życiowej klęski. A skoro można z nich skorzystać, to podstawowe etyczne pytanie: „Czy należy?”, brzmi naiwnie. Kolejne naiwne pytanie brzmi jednak: „Czy powinno tak brzmieć?”.
W stronę altruizmu danych
Rozmowa o wychodzeniu z cienia „złego kuzyna” Darwina i źle rozumianego darwinizmu społecznego nie może być rozmową o samych technologiach. Musimy pokazywać, jakie założenia skrywają oferowane nam rozwiązania i usługi.
Z badań przyrody wiemy, że altruizm i współpraca to efektywna odpowiedź na trudne warunki i sytuację ograniczonych zasobów. Podobne wnioski pojawiają się zresztą w doskonałej „Historii pracy” Jana Lucassena – w różnych miejscach na świecie i w różnych momentach historii ludzkości możemy znaleźć dowody, że żadne warunki nie determinują rozwarstwienia i podziałów, że zawsze istnieją alternatywne modele stawiające na redystrybucję dóbr. Warto też poczytać teksty Mathew Lawrence’a i Adrienne Buller związanych z brytyjskim think tankiem Common Wealth. Razem napisali książkę „Owning the Future”, a sama Buller – „The Value of a Whale”. Opierając się na swoich doświadczeniach z pracy dla firm prowadzących „zieloną transformację”, oboje nie mają złudzeń: bez zmiany myślenia o ekonomii wszystkie działania będą tylko pudrowaniem problemu, ruchami pozorowanymi, wykonywanymi w poszukiwaniu nowych przestrzeni wzrostu. Realna zmiana możliwa będzie, dopiero gdy naprawdę zdemokratyzujemy system. Skoro jego głównym narzędziem są rynki i firmy, trzeba pozbawić wyłącznej kontroli nad nimi uprzywilejowane elity. Bronić dobra wspólnego, odtowarowić życie i zdemokratyzować produkcję.
Spróbujmy więc sobie wyobrazić, że skoro po wyborach kluczowym problemem politycznym stał się los przytłoczonych ZUS-em informatyków, bo cała branża IT złapała zadyszkę, to może kompetencje tych wszystkich osób mogłyby się przyczynić do stworzenia publicznej infrastruktury cyfrowej. Spróbujmy pomarzyć o technologiach, które nie tylko usprawnią nam załatwianie spraw w urzędzie, nie tylko ułatwią życie samym urzędniczkom i urzędnikom, ale zaoferują też osobom bez przywileju nowe formy sprawczości. Dobrym przykładem ostatnich lat jest choćby renesans crowdfundingu – może takich usług ułatwiających organizację wsparcia mogłoby być więcej? Zwłaszcza że zmiany pokoleniowe pociągają za sobą też zmianę myślenia o wspólnocie i skutkują odchodzeniem od postrzegania jej w kategoriach tradycyjnej polityki. Może bohaterami technologicznego imaginarium nie muszą już być obrzydliwie bogate jednostki, dowodzące, że w gruncie rzeczy jak zawsze chodzi o reprodukcję przywileju?
Opowieści suflowane nam przez Dolinę Krzemową normalizują nierówności i paraliżują wyobraźnię. Ale przecież na zmianę narracji nigdy nie jest za późno. Być może poddanie cyberkorporacji silniejszej społecznej kontroli – w duchu nowych unijnych regulacji – przy równoczesnym odwrocie od prywatyzacji kolejnych kluczowych elementów infrastruktury byłoby krokiem w dobrym kierunku. Wszak algorytmy i tak uczą się na naszych działaniach i emocjach, a unijne prawo coraz bardziej zdecydowanie upomina się o społeczny interes. W czasach katastrofy ekologicznej i kurczących się zasobów odejście od rywalizacji napędzanej reprodukcją przywileju coraz węższych elit wydaje się pomysłem nie do pogardzenia, także w odniesieniu do technologii. Technologie nie muszą maskować podłości.
