Human in the loop AI: kiedy człowiek zatwierdza, a kiedy tylko pilnuje

Human in the loop AI to układ, w którym agent przygotowuje odpowiedź, a człowiek ją zatwierdza, poprawia albo przejmuje, zanim trafi do klienta. W firmie na 10-200 osób sprawdzają się trzy tryby: zatwierdzanie każdej odpowiedzi na starcie, zatwierdzanie tylko spraw poniżej progu pewności po kilku tygodniach i sam przegląd rozmów, gdy agent jest już stabilny. Nadzór zmniejsza koszt błędu, ale go nie usuwa.

Jeśli myślisz „boję się, że automat powie klientowi coś głupiego”, ten tekst jest o tym, jak ten lęk zamienić w ustawienia. Definicję znajdziesz w każdym poradniku. Brakuje liczby: ile godzin miesięcznie zabiera człowiek w pętli i kiedy można go z niej wyprowadzić.

Trzy tryby nadzoru i ile godzin każdy zabiera

IBM opisuje human in the loop jako system lub proces, w którym człowiek aktywnie uczestniczy w działaniu, nadzorze albo podejmowaniu decyzji przez zautomatyzowany system. Definicja jest szeroka, bo mieści i etykietowanie danych do trenowania modeli, i klikanie „zatwierdź” pod szkicem maila do klienta. Firmę usługową obchodzi ta druga strona.

W codziennej pracy pojęcie rozpada się na trzy tryby. Nazwy i granice między nimi to nasz podział, nie ustalona definicja. Tryby różnią się tym, kiedy człowiek wkracza, a to przekłada się wprost na jego czas.

• In the loop. Co robi człowiek: zatwierdza każdą odpowiedź przed wysyłką. Kiedy ma sens: pierwsze 2-4 tygodnie oraz sprawy z pieniędzmi i danymi osobowymi.
• On the loop. Co robi człowiek: dostaje do decyzji tylko sprawy poniżej progu pewności. Kiedy ma sens: po kalibracji, przy powtarzalnych pytaniach.
• At the helm. Co robi człowiek: ustawia cele, granice i wyzwalacze przekazania, potem czyta logi. Kiedy ma sens: stabilny agent i rosnący wolumen.

Trzeci tryb ma własną nazwę. Paula Goldman z Salesforce nazwała go „human at the helm”, czyli człowiek przy sterze. Twierdzi, że przy agentach zatwierdzanie każdego kroku się nie sprawdza, bo cały sens agenta polega na samodzielnym przejściu wieloetapowej drogi do celu. Człowiek ustawia cele, granice i wyzwalacze przekazania, a potem patrzy w ślad audytowy.

Wniosek prawdopodobny. To opinia jednej menedżerki dostawcy oprogramowania, opublikowana przez Forbesa 29 września 2026 w tekście oznaczonym jako sponsorowany przez ServiceNow, a nie wynik badania. Przydaje się jako nazwa trybu. Nie dowodzi, że można zrezygnować z zatwierdzania przed kalibracją.

Trzy miejsca, w których człowiek zmienia zachowanie agenta

Zatwierdzanie to najmniej ciekawa część nadzoru. Więcej zmienia się w trzech ustawieniach, które ktoś z firmy ustala przed startem i poprawia po nim.

Próg przekazania. W tekście Automatyzacja obsługi klienta, która nie zamienia firmy w infolinię opisaliśmy zasadę: „Poniżej ustalonego progu nie odpowiada, tylko przekazuje sprawę dalej razem z całą historią rozmowy”. Dwa sygnały działają niezależnie od progu. Klient, który dwa razy przeformułował to samo pytanie, nie dostał odpowiedzi, więc rozmowa idzie do człowieka bez dopytywania. Zdenerwowanie wykryte w treści kończy rozmowę z automatem od razu.

Granica wiedzy. Agent, który zawsze coś odpowie, jest groźniejszy od takiego, który czasem się przyzna. W BetterCX zapisaliśmy, że „BetterCX odpowiada wyłącznie na podstawie materiałów wgranych przez klienta”, a gdy informacji brakuje, „mówi o tym wprost i prosi o kontakt albo podaje dane firmy”. Człowiek decyduje tu o czymś wcześniejszym niż zatwierdzenie: o tym, co trafia do bazy wiedzy.

Przegląd po starcie. Błąd, którego nikt nie czyta, trwa miesiącami. W tekście o halucynacjach i agentach piszemy, że ktoś musi czytać rozmowy w trzecim miesiącu i dzwonić, zanim zadzwoni klient. W agencie sprawdzającym zadania domowe zapisaliśmy kwartalny przegląd jakości modułu AI, a decyzje dydaktyczne zostały po stronie szkoły.

Ile kosztuje człowiek w pętli: 2-5 godzin miesięcznie

Weźmy firmę z naszego wyliczenia kosztów agenta: około 200 powtarzalnych zapytań miesięcznie i około 30 godzin pracy osoby, która na nie odpowiada. To 9 minut na sprawę. Agent przejmuje 70-80 procent zapytań, czyli 140-160 spraw, i oddaje około 20 godzin. Źródłem liczb jest nasz tekst Agent AI: ile kosztuje i kiedy naprawdę się zwraca z 20 sierpnia 2026.

Jeśli człowiek zatwierdza każdy szkic i poświęca na to 1-2 minuty, wychodzi 2-5 godzin miesięcznie [szacunek: 1-2 minuty na szkic to założenie AppWave, nie pomiar]. Zatwierdzanie wszystkiego zjada więc od jednej dziesiątej do jednej czwartej godzin, które agent miał odzyskać. Przy stawce 60 zł za godzinę to 120-300 zł miesięcznie. Niewiele, jeśli chodzi o ryzyko. Dużo, jeśli płacisz tak za rok.

Są dwa koszty, których godziny nie pokazują. Pierwszy to opóźnienie: odpowiedź zatwierdzana ręcznie czeka na człowieka, więc agent przestaje odpowiadać o 22:00, a to był jeden z powodów jego kupna. Drugi to nawyk. Kto zatwierdza sto pięćdziesiąty szkic w miesiącu, łatwo przestaje go czytać, i wtedy nadzór istnieje już tylko w dokumentacji. To hipoteza, nie wynik pomiaru.

Jak więc poluzować? Licz, ile szkiców poprawiasz, osobno dla każdej kategorii pytań. Kategoria, w której przez dwa tygodnie nie poprawiasz prawie nic, przechodzi na tryb z progiem pewności. To nasza reguła robocza, nie standard branżowy. Reklamacje, dane osobowe i pieniądze zostają na zatwierdzaniu. Pierwsze 2-4 tygodnie to okres kalibracji, więc nie oceniaj ustawień po trzecim dniu.

Jest też wniosek niewygodny dla nas. Poniżej około stu zapytań miesięcznie agent nie ma czego przerabiać, więc nie ma też czego nadzorować. Wtedy nie budujemy agenta.

Czego AI Act wymaga od nadzoru człowieka, a czego nie

Wniosek prawdopodobny. Art. 14 AI Act wymaga, żeby systemy wysokiego ryzyka dało się skutecznie nadzorować przez ludzi. Typowy chatbot obsługi klienta zwykle nie jest systemem wysokiego ryzyka, więc ten artykuł go nie obejmuje. Dla chatbota liczy się obowiązek informacyjny z art. 50, który stosuje się od 2 sierpnia 2026, i opisujemy go osobno w tekście Chatbot a AI Act: co sprawdzić przed 28 października 2026.

Daty wysokiego ryzyka przesunęło rozporządzenie 2026/1744, w mocy od 27 lipca 2026: obowiązki dla systemów z załącznika III zaczynają się 2 grudnia 2027, a dla systemów z załącznika I 2 sierpnia 2028. Jeśli agent ocenia kandydatów do pracy albo zdolność kredytową, to inna rozmowa i potrzebny jest prawnik. Nie jesteśmy kancelarią, a ten tekst nie jest poradą prawną.

Jak to wygląda w narzędziu, które weszło na rynek 29 września

OpenAI zbudowało podział na tryby w ustawieniach dots, agentów działających w tle w ChatGPT. Według Centrum pomocy OpenAI każdą regułę dla danej czynności ustawiasz na jedno z czterech zachowań: wykonaj bez pytania, wykonaj, jeśli zatwierdzono wcześniej, zapytaj przed wykonaniem albo przekaż człowiekowi. „Zatwierdzono wcześniej” oznacza, że sam zażądałeś tej czynności w poleceniu.

Pierwsze zachowanie to praca bez zatwierdzania, drugie to zgoda wyrażona z góry w poleceniu, trzecie to zatwierdzanie przy każdej czynności, czwarte to przejęcie sprawy przez człowieka. To podobny podział jak powyżej, tylko w interfejsie. Kto i co może włączyć w Polsce, opisujemy w tekście OpenAI dots w Polsce: kto może je włączyć i co ustawić przed startem.

Co się dzieje, kiedy się do nas odezwiesz

Rozmawiasz z osobą, która zna wdrożenie od środka, nie z handlowcem. Rozmowa trwa 45 minut. Na końcu dostajesz konkretny pomysł na rozwiązanie i widełki cenowe, a jeśli twój wolumen nie uzasadnia agenta, powiemy to wprost.

Budujemy z Tobą, nie za Ciebie: próg przekazania i listę spraw, których agent nie rusza, ustalamy razem, na twoich dawnych rozmowach z klientami. Zaczynamy od jednego procesu, a samo budowanie opisuje strona usługi agentów AI. Abonament zespołu startuje od 3 875 zł netto miesięcznie i policzysz go w kalkulatorze przed rozmową. Nie zostawiamy cię z gotowym produktem. Zostajemy, kiedy go używasz.

Nie obiecamy, że nadzór usunie błędy. Obiecamy, że wskażemy, gdzie człowiek ma je zatrzymać, i powiemy to wprost, jeśli agent nie ma u ciebie sensu. Umów 45 minut rozmowy.

Źródła

Dostęp do wszystkich stron: 5 października 2026.

• IBM Think, Czym jest human in the loop (HITL), definicja HITL.
• Joe McKendrick, Forbes, 29 września 2026, tekst oznaczony jako sponsorowany: Take Humans Out Of The AI Loop And Put Them At The Helm.
• OpenAI, Getting started with your dot, Centrum pomocy, sekcja o regułach i zatwierdzeniach.
• Rozporządzenie (UE) 2024/1689 (AI Act), art. 14 i art. 50, EUR-Lex.
• Rozporządzenie (UE) 2026/1744 (Digital Omnibus on AI), w mocy od 27 lipca 2026, EUR-Lex.
• AppWave, Agent AI: ile kosztuje i kiedy naprawdę się zwraca, 20 sierpnia 2026.
• AppWave, Automatyzacja obsługi klienta, która nie zamienia firmy w infolinię, 20 sierpnia 2026.
• AppWave, Halucynacje AI to najmniejszy z trzech problemów z agentami, 20 sierpnia 2026.
• AppWave, BetterCX - nasza własna platforma SaaS do automatyzacji obsługi klienta, 20 sierpnia 2026, oraz agent sprawdzający zadania domowe, 25 sierpnia 2026.