Halucynacja modelu | Prompted Psyche

Halucynacja modelu to sytuacja, w której system AI generuje odpowiedź brzmiącą wiarygodnie, ale częściowo albo całkowicie nieopartą na dostępnych danych. Może to być zmyślony fakt, nieistniejące źródło, błędne streszczenie, fałszywa nazwa, pozorna przyczyna albo pewne siebie uogólnienie.

To pojęcie jest użyteczne, ale wymaga ostrożności. Halucynacja modelu nie jest halucynacją człowieka w sensie klinicznym. Model nie widzi, nie wierzy i nie ma przeżyć. Generuje tekst na podstawie wzorców, kontekstu i prawdopodobieństwa. Problem polega na tym, że odpowiedź może wyglądać na gotową poznawczo, zanim została naprawdę sprawdzona.

Dlaczego to ważne

Halucynacje są groźne nie dlatego, że zawsze są spektakularne, ale dlatego, że często brzmią normalnie. Płynny język, właściwy ton i profesjonalna forma mogą obniżyć czujność. W pracy może to prowadzić do błędnych streszczeń, fałszywych przypisów, słabych decyzji albo zaufania tam, gdzie powinno być sprawdzanie.

Odpowiedzią nie jest rezygnacja z AI, tylko proces: źródła, węższy kontekst, jasne zaznaczanie niepewności i ludzka weryfikacja tam, gdzie wynik wpływa na innych ludzi.

Perspektywa człowiek-AI

Halucynacja modelu pokazuje, że ludzie oceniają nie tylko fakty. Reagują też na pewność, rytm i spójność wypowiedzi. Im bardziej naturalna jest odpowiedź, tym łatwiej pomylić jej formę z wiarygodnością.

Powiązane pojęcia

Źródła i kontekst

Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), Article 248. https://doi.org/10.1145/3571730
AI.gov.pl. (2025). Współpraca międzynarodowa w oparciu o godną zaufania sztuczną inteligencję. https://ai.gov.pl/aktualnosci/wspolpraca-miedzynarodowa-w-oparciu-o-godna-zaufania-sztuczna-inteligencje

Powiązane materiały

Czytaj dalej

ObszarZaufanie do AI
Przewodnik po źródłach, niepewności, weryfikacji i skalibrowanym zaufaniu.
ArtykułZaufanie w epoce gotowych odpowiedzi
Esej oparty na źródłach o tym, co znika, gdy płynna odpowiedź kompresuje źródła, niepewność, spór i odpowiedzialność.
PojęcieNadmierne poleganie na AI
Poleganie na systemie bardziej, niż uzasadniają jego możliwości lub sytuacja.
PojęcieAI literacy
Kompetencje rozumienia, oceny i używania AI z odpowiednim osądem.
PraktykaJak sprawdzić, czy odpowiedź AI ma źródła
Powtarzalny sposób sprawdzania twierdzeń, które przychodzą bez widocznej drogi do dowodów.