Singapur: ramy zarządzania agentową AI w obsłudze klienta

Model AI Governance Framework for Agentic AI to wytyczne singapurskiego urzędu Infocomm Media Development Authority (IMDA) dotyczące odpowiedzialnego wdrażania agentów AI. Ramy te oczekują od organizacji, że z góry ocenią i ograniczą ryzyko, uczynią ludzi realnie odpowiedzialnymi, wdrożą techniczne mechanizmy kontroli i procesy oraz umożliwią użytkownikom końcowym odpowiedzialne korzystanie z agentów. W obsłudze klienta oznacza to zawężone uprawnienia, punkty zatwierdzania, testy, monitorowanie i informowanie o AI.

W skrócie

• IMDA ogłosił ramy 22 stycznia 2026; aktualny tekst to wersja 1.5, opublikowana 20 maja 2026 i zaktualizowana 5 czerwca 2026.
• To wytyczne, a nie prawo: opisują „wyłaniające się dobre praktyki”, nazywają siebie dokumentem żywym i nie przewidują kar.
• Wymieniają agentów obsługi klienta jako agentów, którzy wchodzą w interakcję z użytkownikami, i oczekują informacji o AI w interfejsie w momencie interakcji.
• Poniższa tabela przekłada każdą sekcję na krok dla agenta AI w obsłudze i na dowody, które warto przechowywać.
• Jeśli obsługują Państwo klientów w UE, wiążącą warstwą ponad tym jest AI Act; oba dokumenty pokrywają się najbardziej w kwestii informowania o AI.

To objaśnienie powstało na podstawie źródła pierwotnego i nie stanowi porady prawnej. Należy do naszego przewodnika po zarządzaniu agentami AI.

Czym jest Model AI Governance Framework for Agentic AI?

Model AI Governance Framework for Agentic AI to 53-stronicowy dokument IMDA, który daje organizacjom „uporządkowany przegląd ryzyk związanych z agentową AI i wyłaniających się dobrych praktyk zarządzania tymi ryzykami”. Jest napisany dla organizacji wdrażających agentów AI, niezależnie od tego, czy budują je samodzielnie, czy korzystają z gotowych rozwiązań agentowych innych firm.

Część 1 wyjaśnia, czym jest agent i co może pójść nie tak. Część 2 to same ramy, w czterech wymiarach:

1. 2.1 Ocenić i ograniczyć ryzyko z góry: odpowiednie przypadki użycia (2.1.1); granice, tożsamość i uprawnienia agenta (2.1.2).
2. 2.2 Uczynić ludzi realnie odpowiedzialnymi: odpowiedzialność wewnątrz i na zewnątrz organizacji (2.2.1); realny nadzór człowieka (2.2.2).
3. 2.3 Wdrożyć techniczne mechanizmy kontroli i procesy: kontrole na etapie projektowania (2.3.1), testy przed wdrożeniem (2.3.2), stopniowe wdrażanie, monitorowanie i zarządzanie zmianą po wdrożeniu (2.3.3).
4. 2.4 Umożliwić odpowiedzialność użytkowników końcowych: przejrzystość wobec użytkowników, którzy wchodzą w interakcję z agentami (2.4.2); szkolenia dla użytkowników, którzy z nimi pracują (2.4.3).

Czy singapurskie ramy dla agentowej AI są obowiązkowe?

Nie. Ramy przedstawiają się jako wytyczne: oferują „wyłaniające się dobre praktyki”, większość zaleceń brzmi „organizacje powinny rozważyć”, a sam dokument nazywa siebie „dokumentem żywym”. Komunikat o ogłoszeniu mówi, że ramy „dostarczają organizacjom wskazówek, jak odpowiedzialnie wdrażać agentów”. Nie przewidują kar ani własnego mechanizmu egzekwowania.

Dokument nie używa słowa „dobrowolny”, więc wewnętrznie warto opisywać go precyzyjnie: jako wytyczne regulatora niemające mocy ustawowej. Państwa obowiązki prawne wynikające z przepisów o ochronie danych, ochronie konsumentów i przepisów sektorowych obowiązują w każdym przypadku, a ramy jasno stwierdzają, że „organizacje wdrażające agentów i ludzie, którzy ich nadzorują, pozostają odpowiedzialni za działania agentów”.

Jakie ryzyka według ram tworzą agenci AI?

Ramy wymieniają pięć rodzajów szkód powodowanych przez agentów: błędne działania, nieuprawnione działania, stronnicze lub niesprawiedliwe działania, naruszenia danych oraz zakłócenia w połączonych systemach. Dodają ryzyka systemowe wynikające z szybkości i skali, kaskadowych błędów oraz układów wieloagentowych. Każde z nich ma prosty przykład z obsługi klienta.

Własny przykład IMDA dotyczący konfliktu między agentami pochodzi z obsługi klienta: „agent obsługi klienta może oferować zwroty, aby szybko rozwiązywać skargi, podczas gdy agent ochrony przychodów może blokować zwroty powyżej określonego progu”. Jeśli zmierzają Państwo w stronę agentowej obsługi klienta, w której agenci przekazują sobie sprawy, taki konflikt jest kwestią projektową.

Jak każda część ram ma się do agenta AI w obsłudze klienta?

Każdy wymiar przekłada się na kilka decyzji zespołu obsługi: którymi intencjami agent może się zajmować i z jakimi uprawnieniami, kto za niego odpowiada i co zatwierdza, jak jest testowany i obserwowany oraz co słyszą klienci i pracownicy. Kroki idą w kolejności sekcji samych ram.

2.1 Ocenić i ograniczyć ryzyko z góry

Ramy oceniają ryzyko pod kątem skutków (dziedzina i przypadek użycia, dane wrażliwe, systemy zewnętrzne, odczyt lub zapis, odwracalność) i prawdopodobieństwa (autonomia, złożoność zadania, kontakt z systemami zewnętrznymi, rozwiązania dostarczane przez strony trzecie, złożoność systemu). Należy stosować tę ocenę dla każdej intencji, a nie dla całego bota:

• Podzielić intencje na poziomy. Status zamówienia to tylko odczyt. Zwrot to zapis z pieniędzmi w tle. Zamknięcie konta trudno odwrócić.
• Stosować zasadę najmniejszych uprawnień: „minimum narzędzi i dostępu do danych, jakie są potrzebne”. Dostęp do odczytu statusu zamówień, a nie uprawnienia administratora w helpdesku.
• Ograniczać zadania procesowe procedurą (SOP) zamiast swobodnej oceny. Przepływy zwrotów i anulowań to dokładnie takie zadania.
• Zaplanować, jak wyłączyć agenta dla jednej intencji lub kanału, wskazać, kto może to zrobić, i to przetestować.
• Nadać agentowi własną tożsamość, powiązaną z właścicielem będącym człowiekiem, z uprawnieniami nigdy większymi niż uprawnienia osoby, która go autoryzuje.

2.2 Uczynić ludzi realnie odpowiedzialnymi

Należy wskazać właściciela przypadków użycia i limitów, zespół odpowiedzialny za projektowanie, testy i monitorowanie oraz właściciela bezpieczeństwa odpowiedzialnego za zabezpieczenia i red teaming. Jeśli agent pochodzi od dostawcy, ramy oczekują uregulowania w umowie kwestii bezpieczeństwa, wydajności i ochrony danych oraz zażądania ujawnień i logowania korzystania z narzędzi i historii dostępu. Nasza lista kontrolna bezpieczeństwa QA z AI zawiera pytania zakupowe, które można wykorzystać ponownie.

Zatwierdzanie przez człowieka należy wymagać w „istotnych punktach kontrolnych”: przy działaniach o wysokiej stawce, działaniach nieodwracalnych (ramy wymieniają wysyłanie komunikacji i dokonywanie płatności), nietypowym zachowaniu i limitach określonych przez użytkownika. Następnie trzeba audytować zatwierdzających za pomocą dwóch wskaźników: wskaźnika korekt przez człowieka, przy którym „niski odsetek może sygnalizować zatwierdzanie bez namysłu”, oraz czasu reakcji, przy którym krótki czas „może sygnalizować skłonność do ufania automatyzacji lub zmęczenie przeglądami”.

2.3 Wdrożyć techniczne mechanizmy kontroli i procesy

Mechanizmy wymuszane przez system są lepsze niż mechanizmy zapisane w prompcie. Przykład z ram: „zamiast instruować agenta, by nie używał określonych narzędzi, można wdrożyć kontrolę dostępu na poziomie narzędzi”. Limit zwrotu należy umieścić w API zwrotów, a nie w prompcie systemowym.

Przed uruchomieniem należy przetestować wykonywanie zadań, zgodność z zasadami (w tym kierowanie do zatwierdzenia przez człowieka), wywoływanie narzędzi i odporność, w całym przepływie, wielokrotnie i na zróżnicowanych danych. Nasz przewodnik po testowaniu agentów AI zamienia to w plan testów. Po uruchomieniu trzeba wdrażać stopniowo, monitorować w sposób ciągły, ustawić progi alertów z określoną interwencją dla każdego z nich, prowadzić logi, których nie można usunąć, i przeglądać zmiany modeli, narzędzi i zasad według ryzyka. Projektowanie alertów opisuje przewodnik po monitorowaniu agentów AI.

2.4 Umożliwić odpowiedzialność użytkowników końcowych

Ta sekcja wprost wymienia obsługę klienta. Ramy oczekują, by „z góry zadeklarować w interfejsie użytkownika, że użytkownicy wchodzą w interakcję z agentami, w momencie interakcji, a nie tylko w osobnej dokumentacji”, oraz by poinformować użytkowników, co agent może robić, jak wykorzystywane są ich dane i z którym człowiekiem mogą się skontaktować. W odniesieniu do pracowników ramy dodają szkolenia z typowych błędów agentów i ostrzegają przed „utratą umiejętności zawodowych”: należy utrzymać wystarczająco wiele osób zdolnych do prowadzenia procesu, gdy agent nie działa.

Jakie dowody zespół obsługi powinien przechowywać dla każdej części ram?

Warto przechowywać dowody, które ktoś może sprawdzić bez zadawania Państwu pytań: rejestr, podpisaną decyzję, wynik testu, log, zrzut ekranu. Ramy nie określają wymaganych dokumentów, więc ta tabela to nasze przełożenie każdej sekcji na zapis, który zespół obsługi mógłby pokazać audytorowi, regulatorowi albo własnemu zarządowi.

Większość tych dowodów szybko się dezaktualizuje, bo ramy traktują monitorowanie jako proces ciągły. A mała próbka to słaby dowód w przypadku agenta, który powtarza jedno zachowanie tysiące razy, co przemawia za sprawdzaniem każdej rozmowy pod kątem zasad za pomocą karty oceny agenta AI.

Jak ustawić punkty zatwierdzania, nie wywołując zmęczenia alertami?

Zatwierdzanie należy ustawiać według poziomów ryzyka, a nie liczby działań, a następnie sprawdzać, czy zatwierdzający nadal myślą. Ramy ostrzegają, że ciągłe zatwierdzanie przez człowieka „może też prowadzić do skłonności do ufania automatyzacji i zmęczenia alertami”, i wskazują dwa sygnały: niski wskaźnik korekt i krótki czas reakcji. Nie podają progów, więc ustalają je Państwo sami.

Ilustracja z liczbami dobranymi przez nas, żeby pokazać arytmetykę (to nie są dane żadnej firmy). Agent AI sprzedawcy detalicznego obsługuje 40 000 rozmów miesięcznie:

Zatwierdzanie każdego zwrotu z poziomu 2 oznacza 10 000 próśb miesięcznie, czyli około 455 na dzień roboczy przy 22 dniach. Nikt nie przejrzy tylu starannie. Jeśli 20% zwrotów przekracza 50 USD, liczba zatwierdzeń spada do 2 000 miesięcznie, czyli około 91 dziennie.

Teraz audyt. Załóżmy, że zatwierdzający odrzucili lub poprawili 14 z 2 000 próśb, co daje wskaźnik korekt 0,7%, przy medianie czasu decyzji 3 sekundy. Razem pasuje to do opisu zatwierdzania bez namysłu z ram. Proponowana przez nas reguła decyzyjna: gdy wskaźnik korekt jest niższy niż 2%, a mediana czasu decyzji krótsza niż 10 sekund, należy ponownie przejrzeć na ślepo próbkę 50 zatwierdzonych próśb. Jeśli recenzenci zmieniliby kilka z nich, trzeba skrócić prośby, dodać informację o ryzyku i pewności, której oczekują ramy, albo przesunąć limit.

Poziom 1 nie ma żadnego zatwierdzającego, więc ocena każdej rozmowy po fakcie to jedyna kontrola 70% wolumenu. Jak oceniać takie wyniki, opisuje przewodnik po ewaluacji agentów AI.

Jak ramy wypadają na tle AI Act w obsłudze klienta?

Unijny akt w sprawie sztucznej inteligencji (AI Act) to wiążące prawo; singapurskie ramy to wytyczne. W przypadku agenta AI w obsłudze klienta pokrywają się najbardziej w kwestii informowania o AI: art. 50 ust. 1 AI Act od 2 sierpnia 2026 wymaga, aby ludzie byli informowani, że wchodzą w interakcję z AI, a ramy oczekują tego samego w momencie interakcji.

W praktyce AI Act wyznacza unijne minimum, dla agenta obsługującego klientów głównie informowanie o AI, a singapurskie ramy podpowiadają, jak prowadzić agenta, który podejmuje działania. Na obu rynkach warto zbudować jeden zestaw mechanizmów kontroli spełniający AI Act, a w pozostałym zakresie korzystać ze struktury ram. Terminy, kategorie ryzyka i kary opisuje nasz artykuł o AI Act w obsłudze klienta.

Kiedy te ramy nie są właściwym punktem odniesienia

Jeśli Państwa bot odpowiada wyłącznie na podstawie własnego centrum pomocy i nie podejmuje działań, większość ram nie wymaga wiele pracy. Ich czynniki ryzyka oceniają dostęp tylko do odczytu i wewnętrznie utrzymywaną bazę wiedzy jako niższe ryzyko, więc potrzebne są głównie informacja o AI, kontakt z człowiekiem i kontrola jakości odpowiedzi.

Ramy nie opisują też żadnej certyfikacji, więc „zgodność z MGF” nie jest twierdzeniem, które ktokolwiek może za Państwa zweryfikować; pokazać można dowody z powyższej tabeli.

Gdzie w ramach mieści się kontrola jakości?

Kontrola jakości obejmuje te części, które wymagają dowodów z prawdziwych rozmów: zgodność z zasadami po uruchomieniu, regularne audyty, informowanie o AI oraz pętlę informacji zwrotnej, której oczekują ramy, czyli „przekazywanie wniosków z monitorowania z powrotem do zbiorów danych treningowych i ram ewaluacji”. Logi pokazują, co agent zrobił; wynik jakości pokazuje, czy zrobił to dobrze.

Kaizo to jeden ze sposobów prowadzenia tej części. Ocenia 100% rozmów Państwa agentów AI według Państwa własnej karty oceny, tej samej, według której oceniany jest Państwa zespół, i łączy każdy wynik z dowodem w rozmowie; zob. kontrola jakości agentów AI. Umów demo, żeby zobaczyć to na własnych rozmowach.

Jak zacząć w tym tygodniu

Pierwszy wymiar i część czwartego można objąć w ciągu pięciu dni roboczych bez nowych narzędzi: do czego agent ma dostęp, kto za niego odpowiada, co widzą klienci, plus pierwszy audyt zatwierdzających.

1. Dzień 1: spisać każdą intencję obsługiwaną przez agenta i każde narzędzie, z którego może korzystać; oznaczyć każde narzędzie jako odczyt lub zapis.
2. Dzień 2: przypisać każdą intencję do poziomu według skutków i odwracalności; oznaczyć każde działanie zapisu dotyczące pieniędzy lub kont.
3. Dzień 3: wskazać właściciela agenta i każdego poziomu; zapisać, kto może go wyłączyć, i to przetestować.
4. Dzień 4: otworzyć rozmowę w każdym kanale i języku; zrobić zrzut ekranu informacji o AI i ścieżki do człowieka.
5. Dzień 5: policzyć wskaźnik korekt i medianę czasu reakcji każdego zatwierdzającego za ostatni miesiąc.

Najczęściej zadawane pytania

Czy ramy są dostępne w formacie PDF?

Tak. IMDA publikuje je jako PDF na stronie imda.gov.sg pod tytułem „Model AI Governance Framework for Agentic AI”, wersja 1.5. Dokument liczy 53 strony, łącznie ze studiami przypadków, dodatkowymi materiałami w załączniku A i zaproszeniem do przesyłania opinii w załączniku B.

Czy ramy dotyczą firm spoza Singapuru?

Ramy nie określają zakresu terytorialnego. Są napisane dla każdej organizacji, która chce wdrożyć agentową AI, zbudowaną samodzielnie lub kupioną. Firmy z innych krajów mogą korzystać z ich struktury, ale to ich własne prawo decyduje o tym, co jest wymagane.

Czy ramy wymagają, aby człowiek zatwierdzał każdą odpowiedź agenta AI?

Nie. Oczekują zatwierdzania w istotnych punktach kontrolnych, takich jak działania o wysokiej stawce, nieodwracalne lub nietypowe, i zauważają, że ciągły nadzór nad każdym przepływem staje się w dużej skali niepraktyczny. Zatwierdzanie łączy się z automatycznym monitorowaniem i progami alertów.

Co nowego wnosi wersja 1.5?

Wersja 1.5 uwzględnia opinie ponad 60 firm zebrane od wersji 1.0. Dodaje czynniki ryzyka, takie jak złożoność systemu i rozwiązania stron trzecich, ryzyka systemów wieloagentowych, praktyki przeciwdziałające skłonności do ufania automatyzacji, takie jak śledzenie wskaźnika korekt, wskazówki dotyczące zarządzania zmianą oraz studia przypadków.

Czy firma może uzyskać certyfikat zgodności z ramami?

Dokument nie opisuje żadnego systemu certyfikacji ani audytu. To zestaw zalecanych praktyk, więc najmocniejsze, co firma może pokazać, to własne dowody: poziomy ryzyka, logi zatwierdzeń, wyniki testów, zapisy z monitorowania i zrzuty ekranu z informacją o AI.