Skalibrowane zaufanie | Prompted Psyche

Calibrated trust oznacza zaufanie do systemu AI dopasowane do sytuacji, ryzyka zadania i możliwości weryfikacji. Jest pomiędzy bezkrytycznym przyjmowaniem odpowiedzi a całkowitym odrzuceniem narzędzia. Celem nie jest większe zaufanie za wszelką cenę, ale lepsze dopasowanie pewności, dowodów, zastosowania i ludzkiej odpowiedzialności.

Dlaczego to ważne

Ludzie mogą nadmiernie polegać na AI, gdy odpowiedź jest płynna, szybka albo brzmi autorytatywnie. Mogą też zbyt szybko odrzucać przydatne systemy, gdy błędy, niepewność albo niejasny interfejs obniżają poczucie wiarygodności. Skalibrowane zaufanie pomaga pytać, w czym system jest dobry, gdzie jest kruchy i jakie sprawdzenia powinny zostać w procesie pracy.

W praktyce może to oznaczać rozróżnienie, kiedy odpowiedź AI jest szkicem, kiedy sugestią, a kiedy wymaga niezależnej weryfikacji przed użyciem w decyzji.

Czego nie upraszczać

Zaufanie nie jest tylko nastawieniem albo emocją. Kształtuje je zadanie, stawka, informacja zwrotna, wcześniejsze doświadczenie, projekt interfejsu i zdolność użytkownika do zauważenia ograniczeń. Sam wskaźnik pewności albo dobrze brzmiąca odpowiedź nie rozwiązują problemu zaufania.

Źródła i kontekst

Lee, J. D., & See, K. A. (2004). Trust in automation: Designing for appropriate reliance. Human Factors, 46(1), 50-80. https://doi.org/10.1518/hfes.46.1.50_30392
National Institute of Standards and Technology. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). U.S. Department of Commerce. https://www.nist.gov/itl/ai-risk-management-framework
Parasuraman, R., & Riley, V. (1997). Humans and automation: Use, misuse, disuse, abuse. Human Factors, 39(2), 230-253. https://doi.org/10.1518/001872097778543886

Powiązane materiały

Czytaj dalej

ObszarZaufanie do AI
Przewodnik po źródłach, niepewności, weryfikacji i skalibrowanym zaufaniu.
ArtykułZaufanie w epoce gotowych odpowiedzi
Esej oparty na źródłach o tym, co znika, gdy płynna odpowiedź kompresuje źródła, niepewność, spór i odpowiedzialność.
PojęcieEpistemic vigilance (czujność epistemiczna)
Sposoby oceny przekazywanej informacji i źródeł, które za nią stoją.
PojęcieGrounding: oparcie odpowiedzi na źródłach
Łączenie odpowiedzi z materiałem, który można sprawdzić i ocenić.
PraktykaJak sprawdzić, czy odpowiedź AI ma źródła
Powtarzalny sposób sprawdzania twierdzeń, które przychodzą bez widocznej drogi do dowodów.