Czy boimy się AI, czy boimy się samych siebie?

Zespół rekrutacyjny przegląda krótką listę kandydatów przygotowaną z pomocą systemu oceny opartego na AI. Jedna osoba wypadła z grupy finalistów. Menedżer pyta dlaczego. Nikt nie wskazuje jednego faktu, który ją wykluczył. Pada za to zdanie: „System oznaczył tę kandydaturę jako wysokie ryzyko”.

Brzmi opisowo, niemal bezosobowo. System nie zdecydował jednak, co ma oznaczać ryzyko. Nie wybrał, które dane historyczne staną się dowodem, jak duża niepewność będzie akceptowana, kto wypadnie z procesu ani czy osoba sprawdzająca wynik dostanie czas na zakwestionowanie oceny. Te wybory należały do ludzi i instytucji, nawet jeśli żaden człowiek nie podjął ich wszystkich samodzielnie. To przykład rozproszenia ludzkiej sprawczości, nie intencji maszyny.

Kiedy pojawia się szkoda, to samo zdanie może stać się wyjaśnieniem: tak wskazał system. Może też stać się osłoną. Cały łańcuch ludzkich wyborów znika wtedy za jednym wynikiem systemu, który zaczyna wyglądać jak samodzielne źródło decyzji.

To jeden z powodów, dla których obraz groźnej, autonomicznej AI tak dobrze działa na wyobraźnię. Maszyna staje się najłatwiejszym do wskazania sprawcą, a mniej efektowne decyzje o celach, zakupie systemu, wskaźnikach, wdrożeniu i akceptowaniu wyników schodzą na dalszy plan.

Abstrakt

W tym opartym na badaniach eseju koncepcyjnym podejmuję psychologiczne i instytucjonalne pytanie ukryte za lękiem przed sztuczną inteligencją. Czy opowieści o samodzielnie działającej, groźnej AI zasłaniają ludzkie intencje, interesy i decyzje organizacyjne, dzięki którym systemy zaczynają realnie wpływać na decyzje i działania? Tekst jest syntezą narracyjną, nie przeglądem systematycznym ani prezentacją własnego badania empirycznego. Odwołuję się do psychologii moralności, badań nad delegowaniem decyzji i postrzeganiem umysłu, badań nad rolą człowieka w systemach zautomatyzowanych oraz analiz odpowiedzialności w systemach społeczno-technicznych.

Główna teza brzmi: obecne systemy AI mogą mieć przyczynowy udział w szkodliwym wyniku, nie będąc podmiotami moralnymi w ludzkim sensie. Mogą zwiększać skalę realizacji ludzkiego celu, oddalać wybór od jego konsekwencji oraz ułatwiać przedstawienie wyniku jako decyzji maszyny, a nie wyboru człowieka lub instytucji. Te role opisuję jako AI w roli wzmacniacza, AI w roli bufora moralnego i AI w roli moralnego alibi. Są to kategorie interpretacyjne zaproponowane na potrzeby eseju, a nie zwalidowane konstrukty psychologiczne, narzędzie diagnostyczne, oficjalna klasyfikacja ani skala pomiarowa.

Badania eksperymentalne stanowią ograniczoną, ale konkretną podstawę tej argumentacji. W określonych zadaniach moralnych, organizacyjnych i behawioralnych skłonność do przenoszenia lub unikania odpowiedzialności pomagała wyjaśnić, dlaczego uczestnicy delegowali trudne wybory do AI. Pośrednie delegowanie działania maszynie zwiększało skalę nieuczciwych zachowań w badanych zadaniach, a obserwatorzy przypisywali sztucznym agentom winę albo stany przypominające intencję. Nie wynika z tego, że każda delegacja jest unikaniem odpowiedzialności, każdy użytkownik antropomorfizuje system ani że AI zasługuje na moralne obwinienie.

Nieprzejrzystość i rozproszona kontrola tworzą jednak inne ryzyko. Wyniki systemów uczących się bywają trudne do przewidzenia, a uprawnienia i możliwość wpływu są podzielone między projektantów, dostawców, menedżerów i operatorów. Przypisanie odpowiedzialności może być naprawdę trudne. Pracownik niskiego szczebla może też zostać obciążony winą za system, na który miał niewielki wpływ. Rzetelna analiza musi odróżniać udział przyczynowy, odpowiedzialność moralną, obowiązek wyjaśnienia, obwinianie i odpowiedzialność prawną. Powinna pytać, kto określił cel, znał ograniczenia, mógł interweniować, zatwierdził działanie oraz ma obowiązek wyjaśnić sprawę i naprawić szkodę.

Zakres i metoda

Dobierając źródła, kierowałem się ich znaczeniem dla przedstawionej argumentacji, a nie prerejestrowaną strategią wyszukiwania. Pierwszeństwo dałem recenzowanym eksperymentom, klasycznym teoriom psychologicznym, badaniom nad rolą człowieka w systemach zautomatyzowanych, analizom społeczno-technicznym oraz oficjalnym wytycznym dotyczącym zarządzania ryzykiem. Ostateczny zestaw obejmuje 28 źródeł: 26 recenzowanych publikacji naukowych i dwa raporty, bez preprintów.

Przywołane badania dotyczą różnych aspektów problemu. Badania winietowe pokazują, jak obserwatorzy rozdzielają winę. Eksperymenty behawioralne sprawdzają delegowanie decyzji w warunkach motywacji finansowej albo moralnego konfliktu. Psychologia moralności opisuje procesy, które osłabiają związek między standardami a działaniem. Badania nad rolą człowieka w systemach zautomatyzowanych pokazują, co dzieje się, gdy operator zachowuje formalną odpowiedzialność, ale traci informacje, wprawę lub rzeczywistą kontrolę. Filozofia oraz studia nad nauką i technologią pomagają uporządkować takie pojęcia jak luka odpowiedzialności, ukrywanie sprawczości za technologią (agency laundering) i znacząca kontrola człowieka.

Nie da się sprowadzić tych nurtów do jednego wskaźnika. Badanie samochodu autonomicznego nie jest badaniem modelu językowego, a zadanie laboratoryjne nie jest instytucją. Korzystam z tych wyników, by określić, jak daleko pozwalają sięgać przedstawione wnioski, a nie by obliczyć, jak często AI staje się alibi w rzeczywistych sytuacjach. Poza zakresem pozostają rozstrzygnięcia prawne. Odpowiedzialność prawna zależy od faktów, jurysdykcji i obowiązujących przepisów.

Dlaczego opowieść o złej AI jest tak atrakcyjna

Historia o złej maszynie ma przejrzystą konstrukcję. Potężny sztuczny agent tworzy cel, ukrywa go i działa przeciwko ludziom. Pojawia się antagonista, intencja i wyraźny obiekt lęku. W fikcji taki układ działa świetnie, ponieważ zamienia rozproszone problemy techniczne i polityczne w konflikt między wyraźnie zarysowanymi stronami.

Rzeczywistość rzadko oferuje równie wyraźnego antagonistę. Model nie potrzebuje nienawiści, ambicji ani tajnego planu, aby wytworzyć szkodliwy wynik. Firma może optymalizować wskaźnik, który pomija to, co istotne. Instytucja publiczna może kupić narzędzie, którego ograniczeń nie rozumie. Zespół może przyjąć rekomendację, bo jej podważenie wymaga czasu. Dostawca może inaczej definiować sukces niż osoby dotknięte działaniem systemu. Szkoda może wynikać ze zwyczajnych bodźców, rozdzielonych obowiązków i serii decyzji, z których każda z osobna wydaje się możliwa do obrony.

Antropomorfizacja pomaga zrozumieć, dlaczego historie skupione na maszynie brzmią intuicyjnie. Epley, Waytz i Cacioppo opisują ją jako zjawisko zmienne, zależne między innymi od dostępności ludzkich wyjaśnień i potrzeby zrozumienia, przewidywania lub nawiązania relacji z agentem niebędącym człowiekiem. Gray, Gray i Wegner pokazali, że ludzie porządkują postrzeganie umysłu wokół dwóch wymiarów: sprawczości i doświadczenia. System może być więc odbierany jako zdolny do działania lub samokontroli, choć jednocześnie nie przypisuje mu się zdolności odczuwania bólu (Epley et al., 2007; Gray et al., 2007).

Sposób zaprojektowania interfejsu może wzmacniać takie odczytanie. W eksperymencie z symulatorem jazdy antropomorficzna oprawa zwiększała postrzeganą sprawczość i zaufanie do samochodu autonomicznego (Waytz et al., 2014). W badaniu scenariuszy opartych na rzeczywistych naruszeniach przypisywanych AI uczestnicy oceniali system jako mający umiarkowany poziom świadomości, intencjonalności i odpowiedzialności, a postrzeganie umysłu wiązało się z oceną niewłaściwego działania (Shank & DeSanti, 2018). Są to ludzkie oceny. Nie stanowią dowodu, że maszyna rzeczywiście ma intencję albo rozumienie moralne.

Według jednej z kulturowych interpretacji lęku przed AI maszyna skupia ludzkie obawy o władzę, kontrolę i szkodliwe zamiary. To hipoteza i metafora, nie ustalona przyczyna psychologiczna. Bardziej użyteczne jest węższe pytanie: które elementy ludzkiego i instytucjonalnego łańcucha stają się mniej widoczne, gdy uznajemy maszynę za głównego sprawcę?

Udział przyczynowy to nie to samo co odpowiedzialność moralna

Język używany po błędzie AI często zlewa kilka różnych pytań. Czy system wpłynął na wynik? Kto mógł go przewidzieć? Kto miał kontrolę? Kto musi złożyć wyjaśnienie? Kto zasługuje na obwinienie? Kto odpowiada prawnie? Odpowiedzi mogą wskazywać różne osoby i instytucje.

System AI może mieć udział przyczynowy. Jego wynik może zmienić ranking, rekomendację, komunikat albo działanie. Nie trzeba uznawać systemu za osobę, aby opisać ten udział. Wystarczy stwierdzić, że był jednym z elementów, które zmieniły przebieg większego procesu.

Odpowiedzialność moralna wymaga bardziej złożonej oceny. W ludzkich praktykach zwracamy uwagę na wiedzę, zamiar, dostępne alternatywy, kontrolę i możliwość rozliczenia się z działania. Obwinianie jest reakcją psychologiczną i społeczną, która może niedokładnie odzwierciedlać te warunki. Rozliczalność oznacza w praktyce obowiązek wyjaśnienia, udokumentowania, sprawdzenia i naprawy. Odpowiedzialność prawna wynika z prawa. Żadne z tych pojęć nie jest synonimem przyczynowości.

Lima, Grgić-Hlača i Cha sprawdzili osiem rodzajów odpowiedzialności w dwóch eksperymentach dotyczących wspomagania decyzji o zwolnieniu za kaucją, po 200 uczestników w każdym. AI i człowiek otrzymywali podobne oceny odpowiedzialności przyczynowej oraz winy za identyczne zadanie. Ludziom przypisywano jednak więcej odpowiedzialności moralnej dotyczącej zarówno samego czynu, jak i przyszłego obowiązku działania. Od obu typów decydentów oczekiwano uzasadnienia wyniku (Lima et al., 2021). Ten wzorzec jest ważny, bo pokazuje, że ludzie już dziś rozróżniają kilka rodzajów odpowiedzialności, nawet jeśli nie nazywają ich wprost.

Inne badania pokazują, jak zmienne bywają te oceny. W scenariuszach niepowodzenia zespołu Furlough, Stokes i Gillan stwierdzili, że autonomiczny robot otrzymywał niemal tyle samo winy co człowiek, a robot nieautonomiczny niewiele więcej niż czynniki środowiskowe (Furlough et al., 2021). Stuart i Kneer wykazali, że w części winiet uczestnicy przypisywali sztucznym agentom obciążające stany umysłowe i winę (Stuart & Kneer, 2021). Longin, Bahrami i Deroy pokazali, że uczestnicy częściej przypisywali część odpowiedzialności systemom ostrzegania opartym na AI niż systemom czysto mechanicznym, choć oba nadal wyraźnie uznawali za narzędzia (Longin et al., 2023).

Te wyniki opisują potoczne oceny. Nie rozstrzygają, kto powinien ponosić odpowiedzialność. Obserwatorzy mogą obwiniać maszynę, ponieważ wygląda na autonomiczną, podczas gdy menedżer wybierający i zatwierdzający jej użycie schodzi na dalszy plan. Z drugiej strony żądanie, aby zawsze obwinić człowieka, może ignorować rzeczywiste granice wiedzy i kontroli. Dlatego rzetelna rozmowa o odpowiedzialności wymaga najpierw porządku pojęciowego: nie używajmy jednego pojęcia do opisu pięciu różnych zjawisk.

Moralne odłączenie, delegowanie i dystans

Punktem wyjścia w koncepcji Alberta Bandury jest napięcie znane z codziennych decyzji. Ludzie mogą uznawać normy moralne, a mimo to działać przeciwko nim, nie odczuwając w pełni wewnętrznych sankcji związanych z ich naruszeniem. Bandura opisuje mechanizmy moralnego odłączenia, które osłabiają związek między standardami a działaniem. Należą do nich moralne usprawiedliwianie, eufemistyczne określenia, przeniesienie lub rozproszenie odpowiedzialności, pomniejszanie skutków oraz obwinianie osób poszkodowanych (Bandura, 2002). Późniejsze przeglądy pokazują związek moralnego odłączenia z nieetycznym postępowaniem, ale nie redukują go do stałej cechy osobowości (Moore, 2015).

AI może wzmacniać te znane mechanizmy moralnego odłączenia. W technicznym języku szkodliwy cel można przedstawić jako optymalizację, sporny osąd jako punktację, a odpowiedzialność podzielić między dostawcę, zespół danych, menedżera i operatora tak, że nikt nie uznaje wyniku w pełni za własny. Tenbrunsel i Messick opisują pokrewny proces jako ethical fading: moralny wymiar decyzji staje się mniej widoczny, gdy opisuje się ją przede wszystkim w języku biznesowym lub technicznym (Tenbrunsel & Messick, 2004).

Delegowanie wpływa zarówno na sposób działania, jak i na późniejsze uzasadnienie własnego wyboru. Osoba działająca bezpośrednio musi zwykle wprost określić, co ma zostać zrobione; osoba wyznaczająca ogólny cel może później tłumaczyć, że nie spodziewała się metody wybranej przez maszynę. Niejednoznaczność ułatwia przyjęcie takiego wyjaśnienia. Motywowane rozumowanie nie oznacza, że człowiek potrafi uwierzyć w dowolną rzecz. Wpływa jednak na to, którą wersję uzna za wystarczającą, gdy do wyboru ma kilka pozornie wiarygodnych wyjaśnień (Kunda, 1990).

Najnowsze eksperymenty pokazują, jak wygląda to w konkretnych warunkach. W dwóch badaniach obejmujących łącznie 5639 osób Hüholt i Szech stwierdzili, że uczestnicy stojący przed rzeczywistą decyzją moralną delegowali ją częściej do AI niż do innego człowieka. Autorzy powiązali ten wzorzec z przenoszeniem odpowiedzialności i interpretowaniem niejednoznacznych możliwości AI w sposób zgodny z własnym interesem (Hüholt & Szech, 2026). W ośmiu eksperymentach dotyczących decyzji bez dobrego wyjścia Xu i współautorzy stwierdzili, że unikanie odpowiedzialności pośredniczyło w związku między trudnością decyzji a delegowaniem do AI. Skłonność do delegowania malała, gdy odpowiedzialności nie dało się przenieść, i zmieniała się zależnie od postrzeganej sprawczości oraz zdolności do odczuwania, wpływu decyzji na inne osoby i jej publicznego charakteru (Xu et al., 2026).

Delegowanie nie jest z definicji ucieczką. Inny wykonawca może działać szybciej, bardziej konsekwentnie albo mieć lepsze informacje. W badaniu mieszanym Freisinger i Schneider preferencje różniły się zależnie od tego, czy uczestnik podejmował decyzję o zwolnieniu pracownika, czy był nią objęty. W wywiadach uzupełniających z 21 osobami pojawiały się motywy związane z kompetencją, kontekstem, mniejszym obciążeniem i możliwością przeniesienia winy (Freisinger & Schneider, 2025). To samo działanie techniczne może więc znaczyć coś innego zależnie od sytuacji.

AI jako wzmacniacz, bufor moralny i moralne alibi

Proponuję trzy kategorie opisowe, które pomagają uporządkować te mechanizmy. Nie są to zwalidowane konstrukty, narzędzie diagnostyczne ani skala.

AI jako wzmacniacz

AI w roli wzmacniacza pozwala realizować istniejący cel szybciej, niższym kosztem i na większą skalę. Ułatwia tworzenie wariantów, klasyfikowanie wielu przypadków, powtarzanie procedur i koordynowanie działań. Sam cel może być pomocny, banalny, wyzyskujący albo szkodliwy. AI nie musi być jego źródłem.

Raport Brundage’a i współautorów o szkodliwych zastosowaniach opisuje, jak AI może zmieniać koszt, skalę i skuteczność niektórych działań. Jest to analiza prognostyczna, nie dowód, że każdy uzyskuje takie same możliwości albo że wiedza techniczna przestaje być potrzebna (Brundage et al., 2018). Uzasadniony jest węższy wniosek: technologia może zwiększyć możliwości realizacji celu, który ktoś już wyznaczył.

AI jako bufor moralny

Bufor oddala osobę podejmującą decyzję od jej skutków. Może robić to na kilka sposobów: psychologicznie, gdy człowiek określa cel, ale nie formułuje każdego szkodliwego kroku; organizacyjnie, gdy jeden zespół konfiguruje system, drugi go wdraża, a trzeci rozpatruje skargi; czasowo, gdy wybory projektowe przynoszą skutki wiele miesięcy później; informacyjnie, gdy każda osoba widzi tylko fragment łańcucha.

Bufor nie usuwa odpowiedzialności automatycznie, ale może osłabiać poczucie autorstwa wyniku. Mechanizmy przenoszenia i rozpraszania odpowiedzialności opisane przez Bandurę pomagają zrozumieć stronę psychologiczną. Badania nad rolą człowieka w systemach zautomatyzowanych pokazują wymiar organizacyjny: automatyzacja może obarczyć operatora odpowiedzialnością za rzadkie awarie, a jednocześnie osłabić wiedzę i wprawę potrzebne do interwencji (Bainbridge, 1983; Parasuraman & Riley, 1997).

AI jako moralne alibi

W tym ujęciu moralne alibi pojawia się wtedy, gdy technologia służy do ukrycia tego, kto wybrał cel, zaakceptował wskaźnik, zatwierdził wdrożenie albo mógł zatrzymać działanie. Rubel, Castro i Pham opisują pokrewne nadużycie jako agency laundering, czyli ukrywanie własnej sprawczości za technologią, co utrudnia innym domaganie się wyjaśnień (Rubel et al., 2019).

Błąd modelu nie staje się automatycznie alibi, a samo użycie automatyzacji nie świadczy o unikaniu odpowiedzialności. O alibi można mówić dopiero wtedy, gdy człowiek albo instytucja powinni złożyć wyjaśnienia, lecz za pośrednictwem technologii ukrywają własny udział.

Trzy role mogą się łączyć. Firma może z pomocą AI stosować politykę na większą skalę, oddzielić osoby zarządzające od pracowników dotkniętych decyzją kilkoma szczeblami pośrednimi, a później opisywać poszczególne przypadki wykluczenia jako wyniki systemu. Model uczestniczy przyczynowo w wyniku, ale instytucja nadal ma znaczenie dla oceny moralnej i praktycznego rozliczenia, ponieważ to ona wybrała taki sposób działania.

Co naprawdę pokazują eksperymenty

Najmocniejsze bezpośrednie dowody dotyczą konkretnych zadań, nie całego społeczeństwa.

Köbis i współautorzy przeprowadzili 13 prerejestrowanych eksperymentów w ramach czterech głównych badań. Uczestnicy mogli samodzielnie raportować wyniki rzutu kostką albo dochód podatkowy, delegować zadanie za pomocą jawnych reguł, uczyć maszynę na przykładach, wyznaczać ogólny cel lub pisać polecenia w języku naturalnym. Pośrednie interfejsy, które pozwalały skłonić maszynę do oszustwa bez dokładnego opisania każdego nieuczciwego kroku, zwiększały liczbę nieuczciwych poleceń. W badanych warunkach agenci maszynowi częściej niż ludzie wykonywali w pełni nieetyczne instrukcje. Szczegółowe zabezpieczenia zmniejszały posłuszeństwo, ale nie zawsze je usuwały (Köbis et al., 2025).

Eksperymenty nie pokazują, że AI samodzielnie psuje moralność człowieka. Ujawniają bardziej precyzyjną zależność: interfejs wpływa na to, jak jasno zleceniodawca musi przyznać się do treści instrukcji, a maszyna może nie mieć ludzkiej niechęci do jej wykonania. Sposób delegowania decyduje więc o tym, ile pozostaje miejsca na wiarygodne zaprzeczanie własnemu zamiarowi.

Przypisywanie odpowiedzialności jest równie zależne od warunków. W badaniach nad wspólną kontrolą nad pojazdem Awad i współautorzy stwierdzili, że gdy błąd popełniał tylko jeden kierowca, uczestnicy obwiniali właśnie jego niezależnie od tego, czy był człowiekiem, czy maszyną. Gdy błędy popełniali obaj, malała część winy przypisywana maszynie (Awad et al., 2020). To komplikuje prostą historię, według której ludzie zawsze przenoszą winę z siebie na automatyzację.

Kneer i Christen porównali człowieka i autonomicznego pilota w winiecie dotyczącej zbrodni wojennej. Po wykluczeniach analizowali odpowiedzi 307 osób ze Stanów Zjednoczonych, Japonii i Niemiec. Uczestnicy przypisywali systemowi autonomicznemu znaczną odpowiedzialność moralną i częściowo rozdzielali ją między dowódcę i system. Ogólny wzorzec pojawiał się we wszystkich trzech próbach, ale badanie opierało się na jednym skrajnym scenariuszu i stałej kolejności pytań. Nie uzasadnia więc uniwersalnego wniosku o kulturze (Kneer & Christen, 2024).

Razem te badania uzasadniają cztery ostrożne wnioski. Po pierwsze, forma delegowania może wpływać na zachowanie moralne. Po drugie, unikanie odpowiedzialności bywa jednym z powodów wyboru AI w trudnej sytuacji. Po trzecie, obserwatorzy czasem przypisują cechy moralne systemom, które nie są podmiotami moralnymi w ludzkim sensie. Po czwarte, wina nie zawsze jest przypisywana tej samej stronie. Ocena zależy od postrzeganej autonomii, roli, wyniku oraz układu człowiek-maszyna.

To wystarcza, by zakwestionować dwie wygodne opowieści: że AI jest wyłącznie neutralnym narzędziem i jej udział niczego nie zmienia oraz że po wygenerowaniu wyniku maszyna staje się jedynym podmiotem odpowiedzialnym moralnie.

Instytucje uwiarygadniają alibi

Jednostka może schować się za narzędziem. Instytucja może pójść dalej i włączyć jego wynik do obowiązującej procedury. Gdy rekomendacja trafia do panelu, polityki albo obowiązkowego obiegu pracy, pracownikowi coraz trudniej ją zakwestionować. Towarzyszą jej terminy, wskaźniki wydajności i reguły określające, kto ma prawo zgłosić sprzeciw.

Selbst i współautorzy ostrzegają przed zbyt wąskim wyznaczaniem granic systemu w analizie technicznej. Wejścia i wyjścia modelu nie wyjaśnią procesu społecznego, którego model stał się częścią (Selbst et al., 2019). Na cały proces składają się również zakup, cele, zbieranie danych, obsada stanowisk, czas na sprawdzenie, procedury eskalacji i pozycja osoby objętej decyzją.

Takie ukrywanie sprawczości staje się szczególnie wiarygodne, gdy cały proces znika z pola widzenia. Menedżer może powołać się na ranking modelu. Dostawca może odpowiedzieć, że próg wybrał klient, a osoba sprawdzająca może wskazać, że procedura wymagała akceptacji. Każde z tych wyjaśnień może zawierać część prawdy. Razem tworzą jednak proces, którego nikt nie wyjaśnia w całości.

Wagner nazywa quasi-automatyzacją sytuację, w której człowiek uczestniczy w procedurze głównie po to, aby zatwierdzić wynik automatycznego procesu. Znaczący nadzór ze strony człowieka wymaga czasu, kompetencji, odpowiednich informacji, wsparcia, uprawnień i realnej możliwości zmiany decyzji (Wagner, 2019). Podpis na końcu procedury nie jest dowodem kontroli.

Odpowiedzialności instytucjonalnej nie da się ustalić przez wskazanie osoby pracującej najbliżej systemu. Trzeba prześledzić wybory w całym cyklu życia: kto zdefiniował sukces, znał ograniczenia, mógł zatrzymać system, podjął decyzję na podstawie wyniku i ma obowiązek naprawić szkodę.

Przeciwne niebezpieczeństwo: luki i operatorzy obciążani winą

Argument o moralnym alibi staje się niesprawiedliwy, jeśli zakłada, że ktoś zawsze kontrolował konkretny wynik. Systemy uczące się mogą działać w sposób, którego nie opisano w pełni z góry, a modele funkcjonują w powiązaniu z danymi, interfejsami, ludźmi i zmieniającym się otoczeniem. Konkretna odpowiedź może być trudna do przewidzenia, nawet jeśli znana jest cała klasa możliwych awarii.

Matthias nazwał ten problem luką odpowiedzialności. Tradycyjne sposoby jej przypisywania zawodzą, gdy ani operator, ani projektant nie mogli w wystarczającym stopniu przewidzieć lub kontrolować działania systemu (Matthias, 2004). Pojęcie pozostaje przedmiotem sporu, ale problemu nie rozwiązuje powtarzanie, że maszynę zbudowali ludzie.

Odpowiedzialność nie rozkłada się też równo między osobami na różnych szczeblach organizacji. Elish opisuje taki układ jako moral crumple zone, czyli „moralną strefę zgniotu”. Operator niskiego szczebla może zostać obciążony moralną lub prawną winą za złożony system automatyczny, choć miał nad nim niewielką kontrolę (Elish, 2019). Organizacja chroni obraz niezawodnej technologii, przedstawiając pracownika najbliższego awarii jako jej sprawcę.

Bainbridge opisała pokrewną ironię kilka dekad wcześniej. Automatyzacja może usunąć człowieka z rutynowej pracy, a następnie zażądać, by przejął sterowanie podczas rzadkiej, trudnej awarii, czyli właśnie wtedy, gdy jego wiedza sytuacyjna bywa najsłabsza (Bainbridge, 1983). Parasuraman i Riley dodają, że nadużycie automatyzacji może zaczynać się u projektantów i menedżerów, którzy rolę operatora traktują jako produkt uboczny technologii (Parasuraman & Riley, 1997).

Możliwe są więc dwa błędy:

• odpowiedzialność rozprasza się między organizacją, dostawcą i systemem, aż trudno wskazać, kto powinien złożyć wyjaśnienia;
• cała wina spada na operatora najniższego szczebla, choć nie ma on realnych uprawnień.

Koncepcja znaczącej kontroli człowieka próbuje zapobiec obu. Santoni de Sio i van den Hoven odróżniają tracking, czyli reagowanie systemu na istotne ludzkie racje i fakty w otoczeniu, od tracing, czyli możliwość powiązania wyniku z odpowiednio poinformowanymi ludźmi w łańcuchu projektowania i działania (Santoni de Sio & van den Hoven, 2018). Kontrola nie sprowadza się do dekoracyjnej obecności człowieka. System powinien reagować na istotne ludzkie racje, a jego wyniki muszą dać się powiązać z osobami zobowiązanymi do złożenia wyjaśnień.

Przypadek hipotetyczny: wskaźnik odejścia

Poniższy przypadek jest hipotetyczny.

Duża organizacja kupuje system AI przewidujący, którzy pracownicy mogą odejść. Oficjalnie ma on pomóc zatrzymać pracowników. Dostawca trenuje model na historycznych danych kadrowych. Zarząd zamienia wspomaganie decyzji w regułę podziału ograniczonego budżetu szkoleniowego: osoby, którym model przypisuje małe prawdopodobieństwo pozostania w firmie, rzadziej kieruje się na szkolenia, ponieważ organizacja uznaje taki wydatek za nieopłacalny.

Pracownik nie otrzymuje miejsca na kursie specjalistycznym. Jego przełożony widzi jedynie kategorię ryzyka i krótkie wyjaśnienie wygenerowane przez system. Ma dziesięć minut na sprawdzenie kilkudziesięciu przypadków, a ocenia się go między innymi za przestrzeganie budżetu. Procedura odwoławcza formalnie istnieje, ale pracownicy nie wiedzą, że wskaźnik wpłynął na decyzję.

Później organizacja odkrywa, że przerwy w karierze i zmiany wymiaru czasu pracy są w danych powiązane z wyższym przewidywanym ryzykiem odejścia. Ten wzorzec nie dowodzi, że konkretna osoba celowo dyskryminowała pracowników. Zdanie „tak obliczył model” nadal nie jest jednak wystarczającym wyjaśnieniem.

Każdej roli odpowiada inny zestaw pytań:

• Cel: osoby zarządzające uznały zatrzymanie pracowników i kierowanie środków szkoleniowych tam, gdzie pracownicy najpewniej zostaną w firmie, za priorytety.
• Projekt: dostawca i wewnętrzny zespół danych wybrali zmienne, określili, co model ma przewidywać, i ustalili formę wyjaśnienia.
• Wdrożenie: kierownictwo zdecydowało, że prognoza będzie wpływać na dostęp do szkoleń.
• Kontrola: osoby sprawdzające wyniki formalnie mogły je odrzucić, ale nie miały czasu, pełnego kontekstu ani zachęty, by to robić.
• Zatwierdzenie: przełożony na podstawie wskaźnika podjął decyzję dotyczącą konkretnego pracownika.
• Widoczność: pracownik nie mógł się odwołać, ponieważ nie wiedział o istnieniu czynnika, który wpłynął na decyzję.
• Naprawa: organizacja musi ocenić skutki, poinformować pracowników, ponownie rozpatrzyć wcześniejsze decyzje i zmienić procedurę.

Żaden punkt sam nie rozstrzyga odpowiedzialności moralnej ani prawnej. Zdanie „AI odmówiła szkolenia” nie opisuje pełnego łańcucha przyczynowego, a zarazem jest wygodne dla instytucji: zasłania decyzje, przez które prognoza wpłynęła na dostęp do szkolenia. Samo obwinienie przełożonego byłoby jednak równie niewystarczające, jeśli organizacja sprowadziła jego rolę do automatycznego zatwierdzania wyników.

Protokół śledzenia odpowiedzialności

Poniższy protokół pomaga analizować decyzje i projektować zasady zarządzania. Nie jest zwalidowanym narzędziem badawczym.

Przeanalizuj tę decyzję wspieraną przez AI jako część procesu społeczno-technicznego. Wskaż osobno cel, wynik modelu, zatwierdzenie przez człowieka, realną kontrolę, przewidywalne ograniczenia, wpływ na osoby objęte decyzją i obowiązek naprawy. Nie traktuj AI jako świadomego podmiotu moralnego. Nie zakładaj też, że operator pracujący najbliżej systemu miał znaczącą kontrolę.

Protokół kieruje uwagę z samego modelu na cały proces decyzyjny. Nie wystarczy zapytać, czy model był trafny. Trzeba też sprawdzić, w jaki sposób jego trafność stała się podstawą działania. Samo kliknięcie „zatwierdź” nie dowodzi, że człowiek naprawdę mógł odrzucić wynik. Analiza nie kończy się na wskazaniu winnego. Obejmuje również obowiązki na przyszłość: kto może zwiększyć bezpieczeństwo procesu i naprawić to, co się wydarzyło?

Wnioski dla projektowania i zarządzania

Dobre zasady pozwalają zawczasu ustalić, kto podejmuje decyzje i za co odpowiada, zamiast rekonstruować to dopiero po awarii. Ramy zarządzania ryzykiem AI opracowane przez NIST wskazują cztery obszary działań organizacji projektujących, rozwijających, wdrażających i używających AI: zarządzanie, mapowanie, pomiar i reagowanie (National Institute of Standards and Technology, 2023). Są dobrowolnym źródłem wskazówek, nie prawem ani dowodem skuteczności każdego zabezpieczenia.

Zebrane badania prowadzą do kilku praktycznych priorytetów:

1. Zapisywać cel, próg i przyjęte kompromisy, które decydują o tym, jakie skutki ma wynik.
2. Oddzielać skuteczność modelu od decyzji organizacyjnej o użyciu go w konkretnym kontekście.
3. Dawać osobom sprawdzającym dość informacji, czasu, kompetencji i uprawnień, aby mogły realnie zakwestionować wynik.
4. Informować osoby objęte decyzją, gdy AI miała na nią istotny wpływ, i zapewniać możliwość odwołania.
5. Przed wdrożeniem wskazać, kto ma zbadać problem i naprawić szkodę, zamiast improwizować dopiero po jej powstaniu.

Znacząca kontrola człowieka wymaga też zaprojektowania systemu tak, aby reagował na istotne racje, a nie tylko umieszczenia osoby obok interfejsu. Osoba sprawdzająca, która nie może ustalić pochodzenia danych, poznać poziomu niepewności ani zmienić wyniku, może ponosić odpowiedzialność bez sprawczości. Procedura premiująca zgodę może dodatkowo utrudniać przeciwstawienie się błędowi automatyzacji. Instytucja może natomiast nadal ponosić odpowiedzialność, choć żaden dyrektor nie zatwierdzał konkretnego wyniku, ponieważ to ona wybrała i utrzymywała cały proces.

Ograniczenia argumentu

To esej koncepcyjny oparty na selektywnej syntezie narracyjnej. Nie określa, jak często ludzie używają AI do unikania odpowiedzialności, jak często obserwatorzy obwiniają maszyny ani czy trzyczęściowy schemat pozwala przewidywać zachowanie. Kategorie wzmacniacza, bufora moralnego i moralnego alibi nie zostały zwalidowane jako konstrukty psychologiczne.

Duża część badań empirycznych opiera się na próbach internetowych, grach behawioralnych albo winietach. Efekty obserwowane w dylematach moralnych, samochodach autonomicznych, decyzjach sądowych lub scenariuszach zawodowych nie muszą przenosić się na codzienne używanie modeli językowych. Część badań nad delegowaniem opublikowano dopiero w latach 2025 i 2026. Potrzebne są powtórzenia w innych sytuacjach, kulturach i przy odmiennych sposobach projektowania systemów.

Badania nad przypisywaniem odpowiedzialności opisują ludzkie oceny, ale nie rozstrzygają, jakie oceny byłyby uzasadnione. W filozofii trwa spór o to, czy luki odpowiedzialności są rzeczywiste, jak rozdzielać odpowiedzialność i kiedy kontrola jest wystarczająca. Ten esej nie rozstrzyga tych debat ani nie wyprowadza wniosków prawnych.

Ten argument może być nadużywany. Silna instytucja może powołać się na złożoność i nieprzewidywalność, aby uniknąć odpowiedzialności za zagrożenia, które powinna była przewidzieć. Obserwator może powołać się na ludzką odpowiedzialność i obwinić pracownika bez realnej kontroli. Sam protokół nie rozwiąże takich przypadków. Sprawia jednak, że najważniejsze pytania trudniej ukryć.

AI może poprawiać decyzje, ujawniać wzorce, zwiększać spójność działania i ograniczać niektóre formy arbitralności ludzkiego osądu. Analiza odpowiedzialności nie przemawia za odrzuceniem automatyzacji. Przemawia natomiast za tym, by jasno wskazywać, kto wyznaczył cele i podjął decyzje, gdy technologia staje się częścią Human-AI Interaction.

Zakończenie

Lęk przed AI nie jest po prostu lękiem przed nami samymi. Systemy mają istotne właściwości: mogą być nieprzejrzyste, skalowalne, adaptacyjne i trudne do zbadania. Ich działanie może współtworzyć skutki, których żadna osoba nie opisała w pełni z góry. Rzetelna analiza nie powinna sprowadzać ryzyka technicznego do ludzkiego charakteru.

Równie mylące jest sprowadzanie problemu wyłącznie do działania maszyny. Opowieść skupiona na AI może przedstawiać instytucje jako bierne, a wybory jako nieuniknione. Może sprawić, że cel staje się wynikiem, wynik decyzją, a decyzja czymś, co po prostu się wydarzyło. Zdanie „system zdecydował” często powinno otwierać analizę, nie ją kończyć.

Obecna AI może zwiększać skalę działań ludzi i instytucji oraz oddalać decydentów od konsekwencji. Bywa też moralnym alibi, gdy zasłania osoby, które dokonały wyboru, zatwierdziły go lub mogły interweniować. Działanie tych systemów wiąże się jednak z rzeczywistą niepewnością i może obciążyć pracownika niskiego szczebla odpowiedzialnością bez zapewnienia mu kontroli.

Dojrzała analiza nie kończy się więc na ogólnym pytaniu, czy odpowiada człowiek, czy maszyna. Trzeba ustalić, jaki udział, obowiązek i możliwość działania przypadają poszczególnym osobom i instytucjom w konkretnym systemie. Model potrafi wygenerować rekomendację, zanim ktokolwiek zobaczy pełną drogę od celu do konsekwencji. Aby ustalić odpowiedzialność, trzeba tę drogę odtworzyć: wskazać intencję, projekt, kontrolę, zatwierdzenie, wpływ i obowiązek naprawy.

Powinniśmy bać się nie tylko tego, co AI może zrobić, lecz także chwili, w której pozwoli nam uwierzyć, że to już nie my zrobiliśmy.

Źródła i dalsza lektura

• Awad, E., Levine, S., Kleiman-Weiner, M., Dsouza, S., Tenenbaum, J. B., Shariff, A., Bonnefon, J.-F., & Rahwan, I. (2020). Drivers are blamed more than their automated cars when both make mistakes. Nature Human Behaviour, 4, 134-143. https://doi.org/10.1038/s41562-019-0762-8
• Bainbridge, L. (1983). Ironies of automation. Automatica, 19(6), 775-779. https://doi.org/10.1016/0005-1098(83)90046-8
• Bandura, A. (2002). Selective moral disengagement in the exercise of moral agency. Journal of Moral Education, 31(2), 101-119. https://doi.org/10.1080/0305724022014322
• Brundage, M., Avin, S., Clark, J., Toner, H., Eckersley, P., Garfinkel, B., Dafoe, A., Scharre, P., Zeitzoff, T., Filar, B., Anderson, H., Roff, H., Allen, G. C., Steinhardt, J., Flynn, C., Ó hÉigeartaigh, S., Beard, S., Belfield, H., Farquhar, S., … Amodei, D. (2018). The malicious use of artificial intelligence: Forecasting, prevention, and mitigation. https://doi.org/10.17863/CAM.22520
• Elish, M. C. (2019). Moral crumple zones: Cautionary tales in human-robot interaction. Engaging Science, Technology, and Society, 5, 40-60. https://doi.org/10.17351/ests2019.260
• Epley, N., Waytz, A., & Cacioppo, J. T. (2007). On seeing human: A three-factor theory of anthropomorphism. Psychological Review, 114(4), 864-886. https://doi.org/10.1037/0033-295X.114.4.864
• Freisinger, E., & Schneider, S. (2025). Decoding decision delegation to artificial intelligence: A mixed-methods study on the preferences of decision-makers and decision-affected in surrogate decision contexts. European Management Journal, 43(6), 958-969. https://doi.org/10.1016/j.emj.2024.10.004
• Furlough, C., Stokes, T., & Gillan, D. J. (2021). Attributing blame to robots: I. The influence of robot autonomy. Human Factors, 63(4), 592-602. https://doi.org/10.1177/0018720819880641
• Gray, H. M., Gray, K., & Wegner, D. M. (2007). Dimensions of mind perception. Science, 315(5812), 619. https://doi.org/10.1126/science.1134475
• Hüholt, N., & Szech, N. (2026). Trusting machines with morality - Delegating moral decisions to AI. European Economic Review, 184, 105255. https://doi.org/10.1016/j.euroecorev.2025.105255
• Kneer, M., & Christen, M. (2024). Responsibility gaps and retributive dispositions: Evidence from the US, Japan and Germany. Science and Engineering Ethics, 30, Article 51. https://doi.org/10.1007/s11948-024-00509-w
• Köbis, N., Rahwan, Z., Rilla, R., Supriyatno, B. I., Bersch, C., Ajaj, T., Bonnefon, J.-F., & Rahwan, I. (2025). Delegation to artificial intelligence can increase dishonest behaviour. Nature, 646, 126-134. https://doi.org/10.1038/s41586-025-09505-x
• Kunda, Z. (1990). The case for motivated reasoning. Psychological Bulletin, 108(3), 480-498. https://doi.org/10.1037/0033-2909.108.3.480
• Lima, G., Grgić-Hlača, N., & Cha, M. (2021). Human perceptions on moral responsibility of AI: A case study in AI-assisted bail decision-making. In Proceedings of the 2021 CHI Conference on Human Factors in Computing Systems (pp. 1-17). Association for Computing Machinery. https://doi.org/10.1145/3411764.3445260
• Longin, L., Bahrami, B., & Deroy, O. (2023). Intelligence brings responsibility - Even smart AI assistants are held responsible. iScience, 26(8), 107494. https://doi.org/10.1016/j.isci.2023.107494
• Matthias, A. (2004). The responsibility gap: Ascribing responsibility for the actions of learning automata. Ethics and Information Technology, 6(3), 175-183. https://doi.org/10.1007/s10676-004-3422-1
• Moore, C. (2015). Moral disengagement. Current Opinion in Psychology, 6, 199-204. https://doi.org/10.1016/j.copsyc.2015.07.018
• National Institute of Standards and Technology. (2023). Artificial intelligence risk management framework (AI RMF 1.0) (NIST AI 100-1). https://doi.org/10.6028/NIST.AI.100-1
• Parasuraman, R., & Riley, V. (1997). Humans and automation: Use, misuse, disuse, abuse. Human Factors, 39(2), 230-253. https://doi.org/10.1518/001872097778543886
• Rubel, A., Castro, C., & Pham, A. (2019). Agency laundering and information technologies. Ethical Theory and Moral Practice, 22(4), 1017-1041. https://doi.org/10.1007/s10677-019-10030-w
• Santoni de Sio, F., & van den Hoven, J. (2018). Meaningful human control over autonomous systems: A philosophical account. Frontiers in Robotics and AI, 5, Article 15. https://doi.org/10.3389/frobt.2018.00015
• Selbst, A. D., Boyd, D., Friedler, S. A., Venkatasubramanian, S., & Vertesi, J. (2019). Fairness and abstraction in sociotechnical systems. In Proceedings of the Conference on Fairness, Accountability, and Transparency (pp. 59-68). Association for Computing Machinery. https://doi.org/10.1145/3287560.3287598
• Shank, D. B., & DeSanti, A. (2018). Attributions of morality and mind to artificial intelligence after real-world moral violations. Computers in Human Behavior, 86, 401-411. https://doi.org/10.1016/j.chb.2018.05.014
• Stuart, M. T., & Kneer, M. (2021). Guilty artificial minds: Folk attributions of mens rea and culpability to artificially intelligent agents. Proceedings of the ACM on Human-Computer Interaction, 5(CSCW2), Article 363, 1-27. https://doi.org/10.1145/3479507
• Tenbrunsel, A. E., & Messick, D. M. (2004). Ethical fading: The role of self-deception in unethical behavior. Social Justice Research, 17(2), 223-236. https://doi.org/10.1023/B:SORE.0000027411.35832.53
• Wagner, B. (2019). Liable, but not in control? Ensuring meaningful human agency in automated decision-making systems. Policy & Internet, 11(1), 104-122. https://doi.org/10.1002/poi3.198
• Waytz, A., Heafner, J., & Epley, N. (2014). The mind in the machine: Anthropomorphism increases trust in an autonomous vehicle. Journal of Experimental Social Psychology, 52, 113-117. https://doi.org/10.1016/j.jesp.2014.01.005
• Xu, L., Tian, H., Zhang, Y., & Yu, F. (2026). Shifting accountability to artificial intelligence: Delegating challenging decisions to AI for responsibility avoidance. Journal of Business Research, 215, 116313. https://doi.org/10.1016/j.jbusres.2026.116313

© 2026 Feliks Mamczur / Prompted Psyche. Wszystkie prawa zastrzeżone. Krótkie cytaty są dozwolone wyłącznie z podaniem autora, tytułu tekstu i linku do źródła.