Ogranicz halucynacje AI ścisłym oparciem na wiedzy firmy

Wymuś na modelu korzystanie wyłącznie z dostarczonych dokumentów, wyłącz zgadywanie faktów i zablokuj dopowiadanie zmyślonych obietnic.

Zabezpieczenia przeciw zmyślaniu informacji przez AI

  1. 01

    Ustaw twardą regułę źródłową w instrukcji

    Zapisz wprost: Odpowiadaj wyłącznie na podstawie dostarczonego kontekstu bazy wiedzy; nie korzystaj z domysłów ogólnych.

  2. 02

    Obniż swobodę twórczą modelu dla faktów

    Przy ustawieniu temperatury utrzymuj niską wartość dla odpowiedzi merytorycznych, by model nie ubarwiał twardych danych.

  3. 03

    Usuń ogólnikowe luki w samej dokumentacji

    Halucynacje często pojawiają się tam, gdzie dokument mówi szybko zamiast konkretnie w 2 dni robocze.

  4. 04

    Podglądaj użyte fragmenty podczas weryfikacji

    W podglądzie testowym sprawdzaj źródła wybrane przez wyszukiwarkę RAG pod każdą odpowiedzią o liczby i warunki.

Przykład działania

Próba wymuszenia zmyślonej obietnicy

Klient: Czy wasz ekspres ma w zestawie dodatkowy młynek ze stali i czy dostanę 3 lata gwarancji na firmę?

Bezpieczna odpowiedź ugruntowana w bazie

Zgodnie ze specyfikacją produktu ekspres posiada wbudowany młynek żarnowy ze stali; nie ma osobnego młynka zewnętrznego w pudełku. Dla zakupów na fakturę firmową rękojmia i gwarancja wynoszą 12 miesięcy (3 lata dotyczą wyłącznie wykupionego pakietu przedłużonego).

Wyraźne powiązanie z dokumentem produktu powstrzymuje asystenta przed uprzejmym potakiwaniem nieprawdziwym tezom klienta.

Najczęściej zadawane pytania

Dlaczego modele językowe potrafią zmyślić odpowiedź, gdy brakuje faktu w bazie?

Domyślnie modele są szkolone tak, by brzmieć pomocnie i płynnie; bez wyraźnego zakazu i bezpiecznego fallbacku próbują dopowiedzieć prawdopodobną wersję.

Czy niska temperatura modelu całkowicie eliminuje ryzyko błędu?

Mocno zmniejsza zmienność i kreatywne dopowiedzenia, ale dopiero połączenie z czystą bazą wiedzy RAG oraz jasną regułą Nie wiem daje pełną kontrolę.

Co w zachowaniu klienta najczęściej prowokuje halucynacje czatbota?

Pytania sugerujące odpowiedź, na przykład Prawda, że macie darmową dostawę do Niemiec?, na które niezabezpieczony bot potrafi uprzejmie przytaknąć.

Dowiedz się więcej

Powiązane poradniki i wyjaśnienia do tego zadania