W ciągu ostatnich kilkunastu miesięcy, które upłynęły od uruchomienia ChatGPT, „sztuczna inteligencja” rozsiadła się w centrum dyskusji o nowych technologiach – i słusznie. Byłoby jednak wspaniale, gdyby w tych debatach częściej pojawiały się argumenty, jakich w „Atlasie Sztucznej Inteligencji” używa Kate Crawford. Ta ważna, a przy tym przystępna książka w blisko trzy lata po amerykańskiej premierze ukazała się właśnie po polsku. Moment wydaje się doskonały: Parlament Europejski właśnie przyjął rozporządzenie AI Act.
Oczywiście trzy lata w świecie, w którym regularnie pojawiają się nowe wersje dużych modeli językowych, nowe oparte o nie usługi, ale też wiadomości o kolejnych przełomach, po których nic już nie będzie takie jak wcześniej, to szmat czasu. Tak się złożyło, że oryginał „Atlasu” przeczytałem krótko po premierze i sam byłem ciekaw powrotu do tej lektury. Spoiler: książka nie zestarzała się ani trochę, co dobitnie pokazuje, jak wielu rzeczy na temat AI udaje nam się nie powiedzieć, nawet kiedy rozmawiamy o niej tak często. A przecież nie jest to rozmowa, w której powinni brać udział wyłącznie biznes i branża IT. Zwłaszcza teraz, gdy Unia Europejska na poważnie zabiera się za regulacje branży AI.
O czym mówimy, kiedy mówimy o AI
Interes społeczny – a może szerzej: dobro wspólne, do którego włączyć można byłoby też nie-ludzi – lokuje się w centrum „Atlasu Sztucznej Inteligencji”. Kate Crawford jest australijską badaczką mediów, z imponującym CV współpracy z czołowymi, nie tylko amerykańskimi uczelniami, oraz z publikacjami w topowych czasopismach. Ma również na swoim koncie liczne aktywności artystyczne i współpracę choćby z Trevorem Paglenem czy Vladanem Jolerem, którzy podobnie jak ona wydają się nie tylko krytycznie myśleć o technologii, ale też o tym, jak tę krytykę komunikować, żeby miała jakiekolwiek szanse w konfrontacji z marketingowym językiem korzyści.
Kate Crawford, „Atlas sztucznej inteligencji. Władza, pieniądze i środowisko naturalne”. Przeł. Tadeusz Chawziuk, Wydawnictwo Uniwersytetu Jagiellońskiego, 336 stron, w księgarniach od lutego 2024Bo Crawford, choć pracuje również dla Microsoft Research, jednostki badawczej giganta z Redmond, ma wobec tzw. sztucznej inteligencji wiele zastrzeżeń. Nie wciągajcie jednak autorki „Atlasu” na listę osób, które „straszą” AI. Najlepiej w ogóle darujcie sobie takie proste podziały. Jednym z problemów dyskusji o technologii są przecież te wszystkie toporne etykiety: jesteś technooptymistką czy technopesymistką? To przecież pytania, na które nie da się odpowiedzieć – bo nowe technologie nie są gotowymi pakietami w magiczny sposób manifestującymi się w jedynym możliwym kształcie. Akceptuj w całości lub wcale? To tak nie działa, bo nic tak nie działa. Dodatkowa trudność wyartykułowana w „Atlasie” dotyczy jeszcze innej kwestii: o czym właściwie mówimy, kiedy mówimy o AI? O „inteligentnym” głośniku? A może o systemach przetwarzania danych, z których istnienia zazwyczaj nie zdajemy sobie sprawy? Crawford pomaga jednak tę dyskusję doprecyzować, bo te często bardzo różne rozwiązania łączy wspólna logika – i to jej poświęcony jest „Atlas”.
Crawford upomina się o odczarowanie myślenia o technologii, która w teoretycznie racjonalnym świecie coraz częściej przyjmowana jest „na wiarę” i postrzegana jako samoistny byt działający niezależnie od kontekstów społecznych, kulturowych, politycznych czy historycznych. Nazywa to „zaczarowanym determinizmem”, bo AI traktowane jest jak coś, co ma się wymykać naszym kategoriom pojmowania, a równocześnie być najlepszym istniejącym narzędziem do poznania świata. Kate Crawford – trochę jak Mariana Mazzucato w książkach o ekonomii – z tym determinizmem nie chce się pogodzić. Dekonstruuje więc jego ukryte założenia i stawia proste pytania, które w rozmowach o AI pojawiają się zbyt rzadko.
Książka podzielona jest na części-kategorie, które dla technologii budują kontekst. Są to: ziemia, praca, dane, klasyfikacje, afekty, państwo, a także władza i kosmos. Czym w ogóle jest inteligencja? W jakiej relacji pozostaje z planetą? Kto wykonuje tu pracę? Skąd biorą się dane, jak są klasyfikowane? Ale też: jakie działania powinniśmy wartościować pozytywnie, a jakie próbować ograniczać czy wręcz eliminować?
Charakter polityczny
Lektura „Atlasu” współgra z zapisami równocześnie kompromisowego, jak odważnego w skali globu AI Act przyjętego niedawno przez Parlament Europejski. Ta regulacja musi oczywiście jeszcze zostać odpowiednio wdrożona, a jej skuteczność będzie można ocenić dopiero za kilka lat, ale tak czy inaczej ma ona szansę wzmocnić dyskusje na temat konsekwencji użycia systemów AI. Jej zapisy wprowadzają choćby zakaz użycia niektórych systemów AI, a przed tymi dopuszczalnymi stawiają wymóg transparentności, dotyczącej także źródeł danych, na których trenowane są modele.
AI Act potencjalnie ma więc szansę stać się impulsem, by dyskusję o „sztucznej inteligencji” wyprowadzić poza grono eksperckie. Bo przecież żeby rozmawiać o AI, nie trzeba mieć rozległej wiedzy statystycznej czy informatycznej. W końcu to przede wszystkim dyskusja o kształcie umowy społecznej, w której negocjujemy bilans zysków i strat. Jak pisze Crawford: „Sama używam określenia «sztuczna inteligencja» na oznaczenie potężnej przemysłowej struktury obejmującej politykę, pracę, kulturę i kapitał. (…) W celu zrozumienia, że sztuczna inteligencja ma z zasady polityczny charakter, musimy wykroczyć poza sieci neuronowe, statystyczne rozpoznawanie wzorców i zapytać o to, co i dla kogo się optymalizuje, a także kto podejmuje decyzje. Potem możemy prześledzić implikacje takich wyborów”.
Stąd już krótka droga do efektownej myśli, że sztuczna inteligencja nie jest ani sztuczna – bo zostaje skonstruowana w określony sposób reprezentujący założenia twórców, ani inteligentna – chyba że uznamy, że inteligencja polega na szybkim wykonywaniu obliczeń.
Zasoby
Wpisując się w materialny zwrot w badaniu mediów, Crawford przypomina, że za hasłami o postępie kryje się eksploatacja zasobów nie tylko Ziemi, ale też nas samych, bo przecież to nasza praca i tworzone przez nas treści służą karmieniu modeli AI. Sztuczna inteligencja jest bowiem oparta na ekstraktywizmie. Jedną z mocniejszych metafor „Atlasu” jest stwierdzenie, że branża nowych technologii to po prostu nowy rodzaj globalnej kopalni, w której wydobywa się już nie tylko surowce naturalne (choć je także), ale i dane. Jej funkcjonowanie opłaca się więc często wtedy, kiedy z rachunku wyłączymy straty, które jej funkcjonowanie przynosi otoczeniu.
Zresztą te rachunki czasem płacone są zupełnie bezpośrednio: w książce opisana jest historia negocjacji towarzyszących uruchomieniu serwerowni Google, obejmujących wiele zupełnie przyziemnych kwestii – od zwolnień z podatków, przez dedykowane linie energetyczne, po odprowadzanie ścieków. Bo przecież za niewidocznymi „chmurami” stoją nie tylko farmy serwerów, ale też niezbędny dla ich działania dostęp do tradycyjnej infrastruktury publicznej. Nie przypadkiem takie inwestycje wyrastają w miejscach ważnych dla, mogłoby się wydawać, rządzącej się inną logiką epoki przemysłowej: też potrzebują dużo prądu i zanieczyszczają dużo wody.
Namacalne fakty
Tym, co jest być może największą wartością tej książki, jest jej forma, zdolność autorki do budowania nie tylko błyskotliwych metafor, ale i kreślenia mocnych obrazów, nierzadko bardzo osobistych. Rozdział poświęcony niszczeniu środowiska otwiera scena, w której Crawford odwiedza słone jeziora w Nevadzie, gdzie wydobywa się lit – dewastacja krajobrazu przestaje być już tylko paradą cyferek, staje się czymś bliskim i przejmującym. Część poświęconą danym autorka ilustruje opowieścią o przeglądaniu przez nią bazy zdjęć policyjnych, które są wykorzystywane do treningu AI – bez zgody i wiedzy uwiecznionych na fotografiach osób ani ich rodzin. Po takim wstępie stwierdzenie, że branża AI zakłada, „że wszystko jest danymi i że wszystko może być wykorzystane”, brzmi mniej abstrakcyjnie.
Crawford zdarza się grać na emocjach, przede wszystkim pokazuje jednak, jak wyglądają procesy stojące za działaniem AI. Czasem, by dać czytelniczkom i czytelnikom możliwość wydania własnego etycznego osądu, innym razem, by zaskoczyć skalą uproszczeń. Dobrym przykładem jest choćby opowieść o afektach i finansowanej przez amerykański wywiad pracy psychologa Paula Ekmana z lat 60., która zaowocowała uniwersalną teorią odczytywania emocji jednostki na podstawie mimiki twarzy. I to jakoś pocieszające, że czytając te fragmenty, będzie można westchnąć z ulgą, że żyjemy akurat w tym miejscu na Ziemi, gdzie tego typu rozwiązania mają szansę zostać wyeliminowane.
Co nie zmienia faktu, że przytaczane w książce przykłady szokują. I nie chodzi tu o skrajny idealizm, „Atlas” nie jest pisany z naiwnej pozycji zdziwienia bezwzględnością świata. Jest jasne, że nauka, podobnie zresztą jak polityka, musi być oparta na budowie uproszczonych modeli. Są jednak modele lepsze i gorsze. Musimy więc patrzeć, zachęca Crawford, mitycznym „amerykańskim naukowcom”, a coraz częściej raczej „amerykańskim wynalazcom” na ręce. Dokonywane przez nich rozstrzygnięcia wpływają przecież na świat, w którym żyjemy my wszyscy, a rozwiązania oparte na AI stają się częścią infrastruktury naszej codzienności. Mamy więc prawo – a może nawet obowiązek? – krytycznie się im przyglądać. Bo nawet przy unijnym wsparciu, ale bez społecznej presji, skorygowanie kursu rozpędzonej biznesowej machiny będzie trudne.
Przy tym wszystkim Crawford nie sugeruje, że AI sama w sobie jest zła. „Atlas” pomaga po prostu zrozumieć słabości i ukryte założenia stojące za aktualnym kształtem rozwijanych technologii. A bez tego trudno sobie wyobrazić ich lepsze warianty.
