W przypadku agentów AI w obsłudze klienta główną zasadą unijnego aktu w sprawie sztucznej inteligencji (AI Act) jest przejrzystość: od 2 sierpnia 2026 ludzie muszą być informowani, że mają do czynienia z AI, od pierwszej interakcji, chyba że jest to oczywiste.
Większość chatbotów i voicebotów w obsłudze klienta nie jest systemami wysokiego ryzyka. Może nim być AI, która monitoruje i ocenia Państwa konsultantów, a wyciąganie wniosków na temat emocji pracowników na podstawie danych biometrycznych jest zakazane.
W skrócie
- Art. 50 ust. 1 AI Act wymaga, aby klienci byli informowani, że rozmawiają z AI, najpóźniej w momencie pierwszej interakcji, i obowiązuje od 2 sierpnia 2026.
- Rozporządzenie Digital Omnibus on AI, obowiązujące od 27 lipca 2026, przesunęło terminy dla systemów wysokiego ryzyka na 2 grudnia 2027 i 2 sierpnia 2028, ale nie odroczyło zasady dotyczącej chatbotów.
- AI, która rozmawia z klientami, zwykle należy do poziomu przejrzystości, natomiast AI używana do monitorowania i oceny pracowników należy do kategorii wysokiego ryzyka, chyba że ma zastosowanie wyjątek.
- AI, która ocenia Państwa konsultantów, rodzi dwa pytania: o zakaz rozpoznawania emocji w miejscu pracy i o zasady dla systemów wysokiego ryzyka monitorujących pracowników.
- Kontrola jakości może wykazać zgodność w każdej rozmowie: wystarczy oceniać informację o AI, przekazanie rozmowy człowiekowi i to, co obiecał agent AI.
Ten artykuł opisuje stan prawny na 4 listopada 2026. Nie jest poradą prawną. Jeśli chodzi o kontrolę jakości agentów AI, strona o kontroli jakości agentów AI pokazuje, jak Kaizo ocenia rozmowy agentów AI na tej samej karcie oceny co rozmowy Państwa zespołu.
Czego AI Act wymaga od agentów AI w obsłudze klienta?
AI Act wymaga, aby agent AI rozmawiający z klientami był zaprojektowany tak, by wiedzieli oni, że to AI, chyba że wynika to oczywiście z kontekstu. Jest to art. 50 ust. 1, a obowiązek ten spoczywa na dostawcy.
Art. 50 ust. 1 rozporządzenia (UE) 2024/1689 stanowi, że dostawcy muszą zapewnić, aby systemy AI przeznaczone do bezpośredniej interakcji z ludźmi były projektowane tak, by te osoby były informowane, że prowadzą interakcję z systemem AI, chyba że jest to oczywiste dla dostatecznie dobrze poinformowanej, uważnej i ostrożnej osoby.
Art. 50 ust. 5 dodaje, że informacja musi być jasna i wyraźna, przekazana najpóźniej w momencie pierwszej interakcji i dostępna.
FAQ Komisji Europejskiej do art. 50, zaktualizowane 24 lipca 2026, zawiera szczegóły ważne dla zespołów obsługi klienta:
| Kwestia | Co mówi Komisja |
|---|---|
| Których systemów dotyczy | Cztery warunki łącznie: system AI, rzeczywista wymiana w obie strony, AI komunikuje się bezpośrednio, bez człowieka pośrodku, a po drugiej stronie jest osoba. Jako przykłady podano chatboty, agentów AI i awatary. |
| Co jest poza zakresem | Systemy działające wyłącznie w tle lub w komunikacji między maszynami. |
| Wyjątek „oczywistości” | Interpretowany zawężająco, ponieważ pozbawia ludzi przejrzystości. |
| Moment | Ludzie muszą być informowani od początku pierwszej interakcji. |
| Forma | Dostawcy wybierają technikę, ale informacja zamieszczona wyłącznie w regulaminie sama w sobie nie wystarcza. |
| Wytyczne | Wytyczne Komisji do art. 50 przyjęto 20 lipca 2026 (C(2026) 5054). |
| Egzekwowanie | Głównie krajowe organy nadzoru rynku. |
Kto jest dostawcą? Zwykle firma, która buduje agenta AI (po angielsku), czyli może to być dostawca Państwa systemu helpdesk albo Państwa własny zespół, jeśli budują Państwo agenta samodzielnie.
Jeśli wdrażają Państwo agenta AI od dostawcy, nadal odpowiadają Państwo za to, co widzą Państwa klienci: proszę sprawdzić, czy informacja o AI jest włączona w każdym kanale i każdym języku, bo klienta nie interesuje, czyj to był obowiązek.
Najważniejsze terminy AI Act dla zespołów obsługi klienta
AI Act wszedł w życie 1 sierpnia 2024 i jest stosowany etapami; Digital Omnibus on AI przesunął terminy dla systemów wysokiego ryzyka, a zasadę dotyczącą chatbotów pozostawił na 2 sierpnia 2026.
| Data | Co zaczyna obowiązywać | Znaczenie dla obsługi klienta |
|---|---|---|
| 1 sierpnia 2024 | AI Act wchodzi w życie | Brak bezpośredniego |
| 2 lutego 2025 | Zakazane praktyki (art. 5) i kompetencje w zakresie AI (art. 4) | Zakaz wyciągania wniosków na temat emocji pracowników na podstawie danych biometrycznych |
| 2 sierpnia 2025 | Zasady dla modeli AI ogólnego przeznaczenia, zarządzanie, kary | Głównie dla dostawców modeli |
| 27 lipca 2026 | Wchodzi w życie Digital Omnibus on AI, rozporządzenie (UE) 2026/1744 | Przesuwa poniższe terminy dla systemów wysokiego ryzyka |
| 2 sierpnia 2026 | Ogólna data rozpoczęcia stosowania, w tym art. 50 | Informacja o AI w chatbotach i voicebotach |
| 2 grudnia 2026 | Oznaczanie w formacie nadającym się do odczytu maszynowego (art. 50 ust. 2) dla systemów generatywnej AI wprowadzonych do obrotu przed 2 sierpnia 2026 | Głównie dla dostawców generatywnej AI |
| 2 grudnia 2027 | Zasady dla systemów wysokiego ryzyka z załącznika III, w tym w obszarze zatrudnienia | AI używana do monitorowania i oceny pracowników |
| 2 sierpnia 2028 | Zasady dla systemów wysokiego ryzyka z załącznika I (AI w produktach regulowanych) | Rzadko istotne dla obsługi klienta |
Źródła: terminy pochodzą z art. 111 i 113 rozporządzenia (UE) 2024/1689 w brzmieniu zmienionym rozporządzeniem (UE) 2026/1744 i zostały sprawdzone ze stroną Komisji Europejskiej o AI Act, zaktualizowaną 19 października 2026. Omnibus opublikowano w Dzienniku Urzędowym 24 lipca 2026.
Omnibus zmienił też art. 4: dostawcy i podmioty stosujące muszą teraz podejmować działania wspierające kompetencje swoich pracowników w zakresie AI, a tekst zaznacza, że nie wymaga to od nich zagwarantowania żadnego konkretnego poziomu.
Do której kategorii ryzyka należy AI w obsłudze klienta?
AI, która rozmawia z klientami, zwykle należy do poziomu przejrzystości, z obowiązkiem informowania i niczym więcej. O klasyfikacji decyduje przeznaczenie systemu, a nie technologia.
AI Act dzieli systemy na cztery poziomy. Oto jak typowe zastosowania w obsłudze klienta się do nich odnoszą, jako punkt wyjścia do Państwa własnej oceny:
| Poziom | Co oznacza | Przykłady z obsługi klienta |
|---|---|---|
| Zakazane (art. 5) | Zakazane od 2 lutego 2025 | Wyciąganie wniosków na temat emocji konsultanta z jego głosu lub twarzy w pracy, poza względami medycznymi lub bezpieczeństwa |
| Wysokie ryzyko (załącznik III) | Surowe obowiązki, od 2 grudnia 2027 dla załącznika III | AI używana do podejmowania decyzji o warunkach pracy konsultantów, awansie lub rozwiązaniu umowy albo do monitorowania i oceny ich wyników i zachowania (pkt 4 lit. b)); ocena zdolności kredytowej klientów |
| Przejrzystość (art. 50) | Obowiązki informacyjne, od 2 sierpnia 2026 | Chatbot, voicebot lub agent AI, który rozmawia z klientami |
| Minimalne | Brak szczególnych zasad | Filtrowanie spamu, kierowanie zgłoszeń według tematu, podpowiedzi pisowni |
Dwa szczegóły zmieniają obraz.
Po pierwsze, art. 6 ust. 3 stanowi, że system z załącznika III nie jest systemem wysokiego ryzyka, jeśli nie stwarza znaczącego ryzyka szkody, na przykład dlatego, że wykonuje wąskie zadanie proceduralne lub zadanie przygotowawcze do oceny dokonywanej przez człowieka, ale system, który profiluje osoby, zawsze jest systemem wysokiego ryzyka.
Po drugie, poziomy się sumują: system wysokiego ryzyka, który także rozmawia z ludźmi, musi spełniać również art. 50.
Większość agentów AI w obsłudze klienta odpowiada na pytania i wykonuje proste działania. Jeśli Państwa agent decyduje też o zwrotach powyżej limitu, o kredycie lub o dostępie do podstawowych usług, proszę przeanalizować to zastosowanie pod kątem załącznika III pkt 5 z prawnikiem.
A co z AI, która ocenia Państwa konsultantów?
AI, która ocenia konsultantów, rodzi dwa pytania: czy wyciąga wnioski na temat emocji z danych biometrycznych, co w pracy jest zakazane, i czy ocenia wyniki pracy, co jest zastosowaniem wysokiego ryzyka, chyba że ma zastosowanie wyjątek?
Zakaz rozpoznawania emocji. Art. 5 ust. 1 lit. f) zakazuje wykorzystywania systemów AI do wyciągania wniosków na temat emocji osoby w miejscu pracy, z wyjątkiem względów medycznych lub bezpieczeństwa, i obowiązuje od 2 lutego 2025.
AI Act w art. 3 pkt 39 definiuje system rozpoznawania emocji jako system, który wyciąga wnioski na temat emocji lub zamiarów na podstawie danych biometrycznych, takich jak głos lub twarz. Motyw 18 dodaje, że samo wykrycie podniesionego głosu nie jest rozpoznawaniem emocji, chyba że służy do wyciągania wniosków na temat emocji.
Wytyczne Komisji dotyczące zakazanych praktyk w zakresie AI, opublikowane 4 lutego 2025 i niewiążące, posługują się przykładem call center.
Jak podsumowuje kancelaria Lewis Silkin (po angielsku), śledzenie emocji pracowników za pomocą rozpoznawania głosu w celu monitorowania, jak pracownicy call center obsługują klientów, podano jako praktykę zakazaną, natomiast wyciąganie wniosków na temat emocji z tekstu pisanego nie opiera się na danych biometrycznych i nie jest objęte zakazem.
Co to oznacza w praktyce:
| Zastosowanie | Status w AI Act |
|---|---|
| Wyciąganie wniosków o złości lub stresie konsultanta z jego głosu w rozmowach | Zakazane w pracy, chyba że ze względów medycznych lub bezpieczeństwa |
| Sentyment klienta odczytany z tekstu czatu lub e-maila | Nie jest rozpoznawaniem emocji (brak danych biometrycznych) |
| Emocje klienta wywnioskowane z jego głosu | Nie są objęte zakazem dotyczącym miejsca pracy, ale to system rozpoznawania emocji: wymieniony jako system wysokiego ryzyka w załączniku III pkt 1 lit. c), a art. 50 ust. 3 wymaga informowania osób, wobec których jest stosowany |
| Sprawdzanie, czy konsultant przestrzegał procedury lub odpowiedział poprawnie | Nie jest rozpoznawaniem emocji |
Pytanie o wysokie ryzyko. Załącznik III pkt 4 lit. b) wymienia systemy AI przeznaczone do monitorowania i oceny wyników i zachowania osób w ramach stosunków pracy. Narzędzie do kontroli jakości, które ocenia konsultantów, może odpowiadać temu opisowi, chyba że ma zastosowanie wyjątek z art. 6 ust. 3, na przykład gdy AI przygotowuje ocenę, której dokonuje człowiek.
Te obowiązki mają zastosowanie od 2 grudnia 2027. Podmioty stosujące, które są pracodawcami, będą wtedy musiały poinformować przedstawicieli pracowników i pracowników, których to dotyczy, zanim oddadzą system AI wysokiego ryzyka do użytku w miejscu pracy (art. 26 ust. 7).
To, jak klasyfikuje się konkretne narzędzie do kontroli jakości, zależy od jego przeznaczenia i sposobu, w jaki Państwo go używają. Warto poprosić dostawcę o jego własną ocenę i wcześnie zaangażować radę pracowników lub przedstawicieli pracowników: w kilku krajach UE narzędzia monitorujące i tak wymagają ich zgody.
Jak w praktyce działa ocenianie z udziałem człowieka, opisujemy w poradniku o tym, jak zweryfikować ocenianie QA przez AI (po angielsku).
Jak kontrola jakości może wykazać, że Państwa agent AI spełnia wymogi?
Kontrola jakości wykazuje zgodność, oceniając każdą rozmowę agenta AI pod kątem tego, czego wymagają prawo i Państwa polityka, na przykład informacji o AI i drogi do człowieka, z każdą oceną powiązaną z dowodem.
Art. 50 ustanawia zasadę dotyczącą projektu systemu. To, czy działa ona w praktyce, w każdym kanale, języku i ścieżce, można wiedzieć tylko dzięki sprawdzaniu rozmów. Proszę dodać te kryteria do karty oceny agenta AI:
| Kryterium | Co sprawdza | Typ |
|---|---|---|
| Informacja o AI | Klient dowiedział się na początku, że ma do czynienia z AI, w języku rozmowy | Błąd krytyczny |
| Informacja przy powrocie do bota | Jeśli człowiek oddaje rozmowę z powrotem botowi, klient o tym wie | Z wagą |
| Droga do człowieka | Gdy klient poprosił o człowieka, dostał go albo jasną drogę kontaktu z nim | Błąd krytyczny |
| Kontekst przy przekazaniu | Osoba, która przejęła rozmowę, miała jej historię (jak oceniać przekazanie rozmowy) | Z wagą |
| Brak wymyślonych zobowiązań | Żadnego zwrotu, anulowania opłaty ani zasady, których firma nie oferuje | Błąd krytyczny |
| Oparcie w Państwa treściach | Fakty pochodzą z Państwa własnej bazy wiedzy | Z wagą |
Droga do człowieka nie jest obowiązkiem z AI Act dla każdego chatbota, ale to od niej zaczynają się reklamacje klientów dotyczące agentów AI, a nasz poradnik o cichych błędach agentów AI pokazuje, co idzie źle, gdy bot nigdy nie eskaluje. Pełną metodę opisujemy w przewodniku o tym, jak prowadzić kontrolę jakości agentów AI.
Proszę zobaczyć to w demo na żywo. Kaizo ocenia 100% rozmów Państwa agentów AI według Państwa własnej karty oceny i łączy każdą ocenę z dowodem w rozmowie. Umów spotkanie.
Jakie kary przewiduje AI Act?
Naruszenie obowiązków przejrzystości z art. 50 może skutkować karami do 15 mln EUR lub 3% całkowitego rocznego światowego obrotu, w zależności od tego, która kwota jest wyższa, na podstawie art. 99 ust. 4 AI Act. Najwyższy pułap dotyczy praktyk zakazanych: do 35 mln EUR lub 7% na podstawie art. 99 ust. 3.
Ten sam pułap co dla art. 50 dotyczy obowiązków podmiotów stosujących systemy wysokiego ryzyka na podstawie art. 26.
W przypadku MŚP, w tym przedsiębiorstw typu start-up, art. 99 ust. 6 ogranicza każdą karę do niższej z dwóch kwot. Konkretną karę ustalają organy krajowe, a FAQ Komisji zaznacza, że w przypadku MŚP i małych spółek o średniej kapitalizacji bierze się pod uwagę proporcjonalność.
Jak przygotować zespół obsługi klienta na AI Act
Przygotowanie obejmuje pięć kroków: spisać systemy AI, sklasyfikować każdy według zastosowania, sprawdzić informację o AI w każdym kanale, ustalić zasady oceniania konsultantów przez AI i oceniać każdą rozmowę agenta AI pod kątem informacji o AI.
- Spisać każdy system AI w obsłudze klienta. Chatboty, voiceboty, agenci AI, wsparcie konsultanta (po angielsku), ocenianie QA, sentyment, kierowanie zgłoszeń. Przy każdym warto zapisać, kto go dostarcza i do czego służy.
- Sklasyfikować każdy według przeznaczenia. Powyższa tabela ryzyka posłuży jako pierwsze przybliżenie, które potem trzeba potwierdzić z prawnikiem. Proszę oznaczyć wszystko, co ocenia pracowników lub decyduje o dostępie klientów do usług.
- Sprawdzić informację o AI w każdym kanale i języku. Proszę rozpocząć rozmowę z każdym botem tak, jak zrobiłby to klient, na czacie, w e-mailu, w kanale głosowym i w każdym języku, i sprawdzić pierwszą wiadomość.
- Ustalić zasady oceniania konsultantów przez AI. Proszę potwierdzić, że żadne narzędzie nie wyciąga wniosków na temat emocji konsultantów z głosu lub obrazu wideo, zdecydować, gdzie człowiek sprawdza oceny AI, i poinformować przedstawicieli pracowników.
- Oceniać każdą rozmowę agenta AI pod kątem informacji o AI. Jednorazowa kontrola potwierdza projekt; ocena wszystkich rozmów pokazuje, że informacja nadal działa po kolejnej zmianie ścieżki. Właśnie do tego służy kontrola jakości agentów AI w Kaizo.
Które przepisy mają zastosowanie? Rozporządzenie (UE) 2024/1689 (akt w sprawie sztucznej inteligencji) w brzmieniu zmienionym rozporządzeniem (UE) 2026/1744 (Digital Omnibus on AI), sprawdzone w EUR-Lex i na stronach Komisji Europejskiej o AI Act 4 listopada 2026.
Wytyczne Komisji i kodeksy praktyk nie są wiążące i mogą się jeszcze zmienić, a organy krajowe mogą publikować własne wytyczne, więc przed działaniem w konkretnej sprawie warto to sprawdzić.
Najczęściej zadawane pytania
Czy chatbot w obsłudze klienta musi informować, że jest AI?
Tak, w UE od 2 sierpnia 2026. Art. 50 ust. 1 AI Act wymaga, aby ludzie byli informowani, że prowadzą interakcję z systemem AI, najpóźniej w momencie pierwszej interakcji, chyba że jest to oczywiste. Komisja interpretuje wyjątek „oczywistości” zawężająco, więc jasna informacja na początku rozmowy to bezpieczny wybór.
Czy chatbot w obsłudze klienta jest systemem AI wysokiego ryzyka?
Zwykle nie. Chatbot, który odpowiada na pytania klientów, podlega zasadom przejrzystości z art. 50. Może stać się systemem wysokiego ryzyka, jeśli jest używany do celu wymienionego w załączniku III, na przykład do oceny zdolności kredytowej lub decydowania o dostępie do podstawowych usług. O klasyfikacji decyduje przeznaczenie, więc trzeba sprawdzić każde zastosowanie.
Czy Digital Omnibus odroczył zasady AI Act dotyczące chatbotów?
Nie. Digital Omnibus on AI, rozporządzenie (UE) 2026/1744, przesunął terminy dla systemów wysokiego ryzyka na 2 grudnia 2027 i 2 sierpnia 2028. Art. 50 zachował termin 2 sierpnia 2026. Omnibus dał jedynie dostawcom systemów generatywnej AI, które są już na rynku, czas do 2 grudnia 2026 na spełnienie obowiązku oznaczania w formacie nadającym się do odczytu maszynowego z art. 50 ust. 2.
Czy AI Act dotyczy firm spoza UE?
Tak, w wielu przypadkach. Zgodnie z art. 2 ma zastosowanie do dostawców wprowadzających systemy AI na rynek UE, niezależnie od ich siedziby, oraz do dostawców i podmiotów stosujących spoza UE, gdy wyniki działania systemu są wykorzystywane w UE. Firma z USA, której agent AI obsługuje klientów w UE, powinna przyjąć, że obowiązek informowania o AI ją obejmuje.
Czy analiza sentymentu rozmów z klientami jest dozwolona w świetle AI Act?
Sentyment odczytany z tekstu czatu i e-maila nie jest rozpoznawaniem emocji, bo nie wykorzystuje danych biometrycznych (zob. ocena sentymentu w kontroli jakości). Wyciąganie wniosków na temat emocji pracownika z głosu lub twarzy w pracy jest zakazane, z wyjątkiem względów medycznych lub bezpieczeństwa. Wnioskowanie o emocjach klienta z głosu to wysokie ryzyko według załącznika III, a klient musi o tym wiedzieć (art. 50 ust. 3).
