Człowiek w pętli. Gdzie agent AI powinien oddać decyzję?
Automatyzacja potrzebuje jasnych granic. Jak rozdzielić zadania agenta, zatwierdzanie działań i odpowiedzialność zespołu.
Agent AI może rozpoznać intencję zapytania, wyszukać informacje i przygotować propozycję działania. To, czy powinien wykonać następny krok samodzielnie, zależy od procesu i konsekwencji decyzji.
Warto ustalić te granice przed uruchomieniem automatyzacji. Dzięki temu zespół wie, kiedy system pomaga w pracy, kiedy prosi o zatwierdzenie i kto odpowiada za dalszy krok.
Przygotowanie propozycji to osobny etap
Pierwszy zakres pracy agenta może obejmować odczyt dokumentacji i przygotowanie szkicu. System przedstawia wynik razem ze źródłami, wskazuje brakujące dane i przekazuje propozycję do sprawdzenia.
Przykład: agent klasyfikuje zapytanie o ofertę i układa odpowiedź na podstawie zatwierdzonych materiałów. Opiekun sprawy sprawdza jej treść i decyduje o wysłaniu. To przykładowy scenariusz projektowy, nie opis konkretnego wdrożenia.
Ustal, które działania wymagają zgody
Zamiast jednego ogólnego uprawnienia do „obsługi procesu”, opisz konkretne operacje. Inny zakres odpowiedzialności ma wyszukanie dokumentu, inny zmiana rekordu w systemie, a jeszcze inny wysłanie wiadomości do odbiorcy.
Na początku projektu odpowiedz na pytania:
- Co agent może tylko odczytać?
- Co może przygotować jako propozycję?
- Które operacje wymagają zatwierdzenia przez człowieka?
- Kto otrzyma zadanie, jeśli system nie znajdzie potrzebnych informacji?
- Jak zatrzymać lub odwrócić działanie w razie pomyłki?
Wynik powinien być częścią specyfikacji i testów, a także instrukcji dla osób pracujących z systemem.
Zadbaj o użyteczną weryfikację
Przycisk „zatwierdź” pomaga wtedy, gdy osoba sprawdzająca otrzymuje kontekst. Warto pokazać dane wejściowe, wykorzystane źródła, proponowaną zmianę i jej adresata. Jeśli propozycja opiera się na niepełnych informacjach, powinno być to widoczne przed podjęciem decyzji.
Weryfikacja wymaga też jasno wskazanej roli w zespole. Zadanie bez przypisanego opiekuna może zatrzymać się w kolejce, nawet jeśli technicznie wszystkie integracje działają poprawnie.
Testuj również trudne przypadki
Pilotaż powinien obejmować niejasne zapytania, brak dokumentacji, sprzeczne dane oraz awarie narzędzi. Sprawdź, czy agent w tych sytuacjach wstrzymuje działanie i przekazuje sprawę właściwej osobie.
Oceń również samą pracę człowieka: czy propozycję łatwo sprawdzić, czy źródła są dostępne i czy odrzucenie wymaga zrozumiałego następnego kroku.
Rozwijaj samodzielność na podstawie obserwacji
Zakres uprawnień można rozszerzać po sprawdzeniu pilotażu. Każdą zmianę warto powiązać z konkretnym rodzajem zadania, kryteriami odbioru i możliwością wycofania.
W NewPrompt łączymy projektowanie rozwiązania z przygotowaniem osób, które będą z niego korzystać. Technologia i odpowiedzialność zespołu powinny rozwijać się razem.