Fragment Wstępu
(strony:11-14)

Wyobraźmy sobie alternatywną rzeczywistość, w której w celu opisania dowolnych środków transportu stosuje się tylko zbiorcze pojęcie „pojazd”. Jest ono na tyle pojemne, że obejmuje samochody, autobusy, rowery, statki kosmiczne oraz wszelkie inne metody przemieszczania się z punktu A do punktu B. W takim świecie zwyczajna rozmowa może przyprawić o ból głowy. Ludzie toczą burzliwe dyskusje na temat wpływu pojazdów na środowisko naturalne, ale jedni mówią o rowerach, a drudzy o ciężarówkach. Na polu techniki rakietowej właśnie doszło do przełomu i media informują, że pojawiły się nowe, szybsze pojazdy, więc widzowie dzwonią do salonów samochodowych (ups, oczywiście chodzi o salony pojazdowe), żeby spytać o dostępność tych modeli. Klienci, zagubieni w świecie pełnym pojazdów, łatwo padają ofiarami wszechobecnych oszustów. Jeśli w powyższym scenariuszu zastąpimy słowo „pojazd” wyrażeniem „sztuczna inteligencja”, otrzymamy całkiem dokładny opis sytuacji, z którą mamy obecnie do czynienia. 

Sztuczna inteligencja (Artificial Intelligence, czyli w skrócie AI) stała się terminem zbiorczym obejmującym luźno powiązane ze sobą rozwiązania technologiczne. Taki ChatGPT niewiele ma wspólnego z – powiedzmy – oprogramowaniem bankowym oceniającym zdolność kredytową klientów ubiegających się o pożyczkę. Choć i jedno, i drugie klasyfikujemy jako AI, w kluczowych kwestiach – opisujących ich zasadę działania, zastosowanie, użytkowników oraz ograniczenia – nie mogłyby się bardziej od siebie różnić. 

Zarówno chatboty, jak i generatory obrazów, takie jak Dall-E, Stable Diffusion czy Midjourney, określamy mianem generatywnej sztucznej inteligencji. Ten rodzaj AI pozwala w ciągu kilku sekund uzyskać różnorakie treści; w przypadku chatbotów będą to odpowiedzi na zapytania (prompty), nierzadko sformułowane w całkiem naturalny sposób, a generatory obrazów tworzą materiały wizualne na podstawie niemal dowolnego opisu, ot, choćby takiego: „ubrana w różowy sweterek krowa stoi w kuchni”. Jeszcze inne specjalizują się w generowaniu mowy czy nawet muzyki. 

Technologie generatywnej AI rozwijają się w zawrotnym tempie, a mówimy tu o imponujących i namacalnych zmianach. Musimy jednak jeszcze trochę poczekać, zanim uda się je przekuć w pełnoprawny, niezawodny produkt, którego nikt nie zdoła wykorzystać w celach niezgodnych z jego przeznaczeniem. Nie zmienia to faktu, że popularyzacji technologii tego typu towarzyszą entuzjazm, lęk i dezinformacja. 

Czymś innym jest predykcyjna AI tworząca prognozy wykorzystywane przy podejmowaniu decyzji. W dziedzinie utrzymania porządku publicznego AI może spróbować odpowiedzieć na pytanie: „Do ilu przestępstw dojdzie jutro w danej okolicy?”. W zarządzaniu zasobami: „Jak wysokie jest prawdopodobieństwo, że konkretne urządzenie ulegnie w przyszłym miesiącu awarii?”. A przy zatrudnianiu pracowników: „Jak określony kandydat poradzi sobie na tym stanowisku?”. 

Aktualnie zarówno sektor prywatny, jak i rządowy korzystają z predykcyjnej AI, choć z jej efektywnością bywa różnie. Bardzo trudno jest zgadnąć, co przyniesie przyszłość, a sztuczna inteligencja nijak nam w tym nie pomoże. Jasne, możemy oddelegować ją do analizy dostępnych danych, aby wyłowiła prawidłowości statystyczne – na przykład jeśli pożyczkobiorca ma stałe zatrudnienie, to prawdopodobnie spłaci pożyczkę – co samo w sobie może być użyteczne. Ale problem polega na tym, że predykcyjnej AI często przypisuje się funkcje, którymi ta nie dysponuje, i wykorzystuje się ją do podejmowania decyzji wpływających na życie i karierę konkretnych osób. To na tym polu najczęściej spotykamy się z nieuczciwym promowaniem cudownych właściwości AI. 

Kiedy piszemy o „cudownych właściwościach”, mamy na myśli zastosowania, do których AI nie została zaprojektowana i którym nie podoła. Jako że termin „sztuczna inteligencja” obejmuje obszerny katalog technologii i zastosowań, większość z nas nie potrafi z marszu rozróżnić, które rodzaje AI zapewniają efekty zgodne z opisem, a które obiecują użytkownikom gruszki na wierzbie. I jest to poważny problem społeczny, bo umiejętność oddzielenia ziarna od plew ma kluczowe znaczenie, jeśli chcemy w pełni wykorzystać potencjał AI, a jednocześnie uniknąć ewentualnych zagrożeń – często manifestujących się na naszych oczach. 

Niniejsza książka ma charakter poradnika ułatwiającego zorientowanie się, które rozwiązania algorytmiczne to pic na wodę oraz kiedy szum wokół sztucznej inteligencji jest nieuzasadniony. Wyposażymy czytelników w zestaw podstawowych pojęć umożliwiających rozróżnienie generatywnej i predykcyjnej sztucznej inteligencji oraz wszelkich innych rodzajów AI. Dostarczymy wam zdroworozsądkowych kryteriów, dzięki którym zdołacie ocenić, czy twierdzenia o domniemanych postępach na polu AI są prawdą, czy bujdą. Dzięki temu będziecie z większym dystansem podchodzić do wiadomości traktujących o sztucznej inteligencji i zwracać uwagę na niuanse, które częstokroć trudno dostrzec na pierwszy rzut oka. Lepsze zrozumienie natury sztucznej inteligencji zaspokoi waszą ciekawość naukową i będzie miało przełożenie na umiejętność wykorzystania – lub powstrzymania się od wykorzystania – AI w życiu codziennym oraz pracy. Spróbujemy też przekonać czytelników i czytelniczki, że predykcyjna AI nie tylko obecnie nie działa zgodnie z opisem, ale także najprawdopodobniej nigdy nie będzie tak działać, gdyż przewidywanie ludzkiego zachowania jest co do zasady problematyczne. I wreszcie liczymy, że czytelnicy i czytelniczki rozważą kwestię osobistej odpowiedzialności – oraz możliwości odmiany stanu rzeczy – w odniesieniu do szkodliwych zastosowań wszystkich takich narzędzi. 


Fragment rozdziału 2 "Jakie błędy popełnia predykcyjna AI"
Kiedy automatyzacja zajdzie za daleko 

W 2013 roku Holandia wdrożyła algorytm wykrywający wyłudzenia zasiłków z pomocy społecznej. Zastąpiła nim poprzedni system, w którym każdą decyzję analizował człowiek. Na podstawie samego algorytmu i korelacji statystycznej stawiano ludziom poważne zarzuty, niepoparte żadnymi innymi dowodami. 

Przejściu na w pełni zautomatyzowany system towarzyszyło wiele negatywnych skutków. Po pierwsze obywateli pozbawiono możliwości podważenia decyzji urzędu. Niedokładne lub nieaktualne rządowe dane często skutkują bezpodstawnymi posądzeniami o oszustwo, których w nowym systemie nie dało się cofnąć. Po drugie dane, na których oparto oskarżenie, nie były udostępniane i osoba obwiniana nie mogła się dowiedzieć, dlaczego zarzucono jej oszustwo. 

Przez kolejne kilka lat algorytm błędnie posądził około trzydziestu tysięcy rodziców o oszustwo i wyłudzanie zasiłku na dziecko. Od niektórych z oskarżonych administracja rządowa zażądała zwrotu nawet ponad stu tysięcy euro – co w katastrofalny sposób odbiło się na ich kondycji psychicznej i finansowej. Chyba najbardziej wstrząsający jest fakt, że jednym z kryteriów dokonywanej przez algorytm oceny była narodowość. Niezależnie od innych czynników osoby pochodzące z Turcji, Maroka oraz krajów Europy Wschodniej były bardziej narażone na oskarżenie o oszustwo. 

Pomimo niedoskonałości algorytmu korzystano z niego w Holandii przez łącznie sześć lat. Ujawnienie w 2019 roku informacji o zasadach działania systemu spotkało się z oburzeniem opinii publicznej. Holenderski urząd ochrony danych osobowych zbadał towarzyszące korzystaniu z algorytmu przypadki naruszeń prywatności i nałożył na urząd podatkowy – odpowiedzialny za jego stworzenie – karę w wysokości 3,7 miliona euro, największą w historii kraju. Był to jeden z powodów, dla których w 2021 roku premier Holandii podał swój rząd do dymisji. 

Przytoczony przykład ilustruje sytuację, w której automatyzacja poszła o krok za daleko, a od decyzji podjętych przez sztuczną inteligencję nie przysługuje ścieżka odwoławcza. To niejedyny przykład spektakularnych porażek zautomatyzowanych schematów działania w wykrywaniu nadużyć – a zdarzało się, że AI nie była zaangażowana w proces decyzyjny. W stanie Michigan (Stany Zjednoczone), po wdrożeniu algorytmu mającego wyłapywać nienależnie przyznany zasiłek dla osób bezrobotnych, w latach 2013–2015 błędnie odebrano mieszkańcom 21 milionów dolarów31. Z kolei obywatele Australii musieli w latach 2016–2020 zwrócić 721 milionów dolarów australijskich tak zwanego robodługu („Robodebt”, jak ochrzczono ten skandal). 

Aby uniknąć oskarżeń o zbyt daleko idącą automatyzację, twórcy AI często dopisują drobnym druczkiem zalecenie o konieczności zachowania ludzkiego nadzoru nad działaniami sztucznej inteligencji. To nic innego jak spychanie odpowiedzialności na inne podmioty, nijak nieprzynoszące zamierzonego efektu.

Latem 2022 roku władze miasta Toronto posłużyły się AI, aby przewidzieć, kiedy poziom bakterii na kąpieliskach będzie zagrażał bezpieczeństwu plażowiczów. Twórca modelu przekonywał, że trafność prognoz oprogramowania przekracza 90 procent. W rzeczywistości radziło sobie znacznie gorzej – w wyniku błędnej analizy w 64 procentach przypadków, kiedy jakość wody pozostawiała wiele do życzenia, plaże były otwarte. 

Kiedy dziennikarze zaczęli dopytywać urzędników miejskich o efektywność użytego narzędzia, ci zapewniali, że AI nie działała w pełni autonomicznie, gdyż ostateczna decyzja należała do nadzorującego ją człowieka. Jakiś czas później media odkryły, że ów nadzorca ani razu nie zmienił decyzji zasugerowanej przez AI. 

Ten scenariusz nie jest rzadkością. Jeśli chodzi o nadzór, to programiści z branży AI oferują jedno, a sprzedają drugie. Aby sprzedać predykcyjną sztuczną inteligencję, obiecują w pełni autonomiczne narzędzie i skupiają się na wizji ograniczenia liczby etatów oraz przyszłych oszczędnościach. A kiedy AI zawiedzie, programiści powołują się na „drobny druczek”, z którego wynika, że oprogramowania nie należy stosować bez ludzkiego dozoru. 

Ale nawet jeśli użytkownik dostosował się do wymogu, często bywa tak, że człowieka obecnego w procesie decyzyjnym ograniczają czas, nieznajomość tematu lub brak wystarczających uprawnień. Zarządzający AI urzędnik może być przepracowany, nie dysponować przygotowaniem koniecznym do podważenia decyzji sztucznej inteligencji lub po prostu nie mieć motywacji do nadstawiania karku. 

Przytoczymy teraz skrajny przykład takiej sytuacji. Amerykańska firma ubezpieczeniowa UnitedHealth zmusiła swoich pracowników, aby zatwierdzali wszystkie decyzje AI, również te nietrafione. Grożono, że zbyt częste ich podważanie będzie skutkowało zwolnieniami. Po czasie wyszło na jaw, że sztuczna inteligencja myliła się w ponad 90 procentach przypadków.

Nawet jeśli nie dojdzie do katastrofy na płaszczyźnie organizacyjnej, nadmierna wiara w poprawność autonomicznych decyzji (tak zwana automation bias, czyli „wiara w narzędzia autonomiczne”) jest normą. Dotyczy ludzi ze wszystkich sfer życia, poczynając od pilotów, a na lekarzach kończąc. Kiedy w trakcie symulacji lotu system autonomiczny informował o nieistniejącej awarii silnika, 75 procent pilotów go wyłączało. Dla porównania analogiczną pomyłkę popełniło tylko 25 procent pilotów korzystających z listy kontrolnej. Skoro w tę pułapkę wpadają piloci, którzy w pracy ryzykują przecież własnym życiem, to czego się spodziewać po urzędnikach…? 

Niezależnie od źródła problemu, efekt zawsze jest ten sam: przerzucanie na sztuczną inteligencję podejmowania dalekosiężnych decyzji dotyczących czyjegoś życia przy jednoczesnym pozbawianiu podmiotu postępowania szansy na dochodzenie swoich racji.
str. 64-67