• Od 2 sierpnia 2026 r. zaczynają obowiązywać przepisy o transparentności sztucznej inteligencji (m.in. obowiązek informowania o korzystaniu z AI i oznaczania deepfake’ów).
• Obowiązki obejmują szerokie spektrum podmiotów i zależą od ich roli: providera - dostawcy systemu AI lub deployera - wdrażającego system w ramach swojej działalności. 
• Zdaniem prawniczki dr Pauli Skrzypeckiej, nowe przepisy zwiększą przejrzystość, ale nie rozwiążą problemu dezinformacji. Nadal edukacja użytkowników będzie niezbędnym elementem funkcjonowania we współczesnym świecie, w coraz większym stopniu funkcjonującym online. 
• - AI Act buduje infrastrukturę transparentności, ale nie zastępuje krytycznego myślenia odbiorcy, odpowiedzialności platform ani stosowania przepisów dotyczących oszustw, dóbr osobistych, ochrony danych i prawa konsumenckiego - zaznacza ekspertka, komentując zmiany dla WNP. 

Co dokładnie zmienia się od 2 sierpnia 2026 r.? Dlaczego ta data jest tak istotna z punktu widzenia nie tylko użytkowników, ale i biznesu?

- Trzeba przede wszystkim rozdzielić dwie rzeczy, które w debacie publicznej są często wrzucane do jednego worka. Odroczono część najbardziej rozbudowanych obowiązków dotyczących systemów wysokiego ryzyka. Nie odroczono jednak zasadniczej części obowiązków transparentności czy stosowania przepisów o karach.

Od 2 sierpnia 2026 r. zaczynają być stosowane przepisy dotyczące informowania człowieka, że wchodzi w bezpośrednią interakcję z systemem AI, informowania o stosowaniu systemów rozpoznawania emocji i kategoryzacji biometrycznej oraz ujawniania deepfake’ów i niektórych tekstów wygenerowanych przez AI. Obowiązki te nie dotyczą wyłącznie wyspecjalizowanych, wielkoskalowych producentów technologii. Mogą mieć znaczenie dla banku korzystającego z voicebota, sklepu internetowego z chatbotem, influencerów, redakcji wykorzystującej generatywną AI czy agencji publikującej syntetyczne materiały reklamowe.

Zatem jakie firmy i organizacje odczują te regulacje w największym stopniu?

- Najbardziej odczują je firmy, które przespały sensowne wdrożenie RODO, bo to ogromnie wiele ułatwia, gdy mamy już doświadczenie z "nie tylkopapierowym zarządzaniem ryzykiem"; oraz wystawiają system AI albo rezultaty jego działania bezpośrednio na kontakt z człowiekiem.

Chodzi przede wszystkim o banki i ubezpieczycieli korzystających z chatbotów i voicebotów, e-commerce’y i marketplace’y, sektor medyczny i medtech, media i wydawców, agencje marketingowe, producentów treści audiowizualnych oraz contact centers stosujące zaawansowaną analizę rozmów. Nie decyduje jednak sama branża ani fakt używania popularnego modelu. Pierwsze pytanie powinno brzmieć: jaką funkcję pełnimy w odniesieniu do konkretnego systemu?

AI Act rozróżnia między innymi tzw. providera, czyli podmiot dostarczający lub oddający system do użytku pod własną nazwą, oraz deployera, czyli podmiot korzystający z systemu w ramach swojej działalności. Obowiązki z art. 50 AI Actu zostały rozdzielone pomiędzy te role. Przykładowo obowiązek zaprojektowania chatbota tak, aby człowiek został poinformowany o interakcji z AI, spoczywa zasadniczo na providerze - dostawcy. Z kolei obowiązek ujawnienia deepfake’u spoczywa na deployerze, który posługuje się takim materiałem.

Firma korzystająca z cudzego rozwiązania nie jest więc bezpośrednim adresatem obowiązku wdrożenia systemu znakowania wodnego, ale jest odpowiedzialna za wybór takiego dostawcy dla swojej organizacji, który tę funkcję ma. Dodatkowo, choć MŚP nie są zwolnione z obowiązków transparentności, to wielkość przedsiębiorstwa może mieć znaczenie przy wymierzaniu ewentualnych kar, bo mają być one proporcjonalne do wielkości.

Jakie obowiązki pojawiają się po stronie biznesu korzystającego z AI w kontakcie z klientem?

W przypadku systemów przeznaczonych do bezpośredniej interakcji z osobami fizycznymi provider (dostawca) musi zapewnić, aby człowiek został poinformowany, że rozmawia lub komunikuje się z systemem AI. Wyjątek dotyczy sytuacji, w których jest to oczywiste dla rozsądnie poinformowanego i uważnego odbiorcy, z uwzględnieniem kontekstu. W praktyce może to oznaczać wyraźne oznaczenie okna czatu, komunikat na początku rozmowy z voicebotem albo informację wyświetlaną przed uruchomieniem interaktywnego asystenta.

Inny obowiązek dotyczy deployerów (użytkowników, firm wdrażających system u siebie) systemów rozpoznawania emocji i kategoryzacji biometrycznej. Osoby poddane działaniu takiego systemu trzeba poinformować o jego stosowaniu – od razu, bez ukrywania tej informacji w regulaminie, jasno i w oderwaniu od innych informacji. Równolegle dane osobowe muszą być przetwarzane zgodnie z RODO lub innymi właściwymi przepisami o ochronie danych.

Trzeba przy tym uważać na pojęcia. Nie każda analiza sentymentu jest rozpoznawaniem emocji w rozumieniu AI Actu. System klasyfikujący tekst wypowiedzi jako pozytywny albo negatywny niekoniecznie spełni tę definicję. Inaczej może być z systemem, który na podstawie głosu, mimiki lub innych danych biometrycznych wnioskuje o emocjach albo intencjach rozmówcy.

Jeszcze innym reżimem jest publikowanie treści stanowiących deepfake. Wtedy obowiązek ujawnienia, że materiał został sztucznie wygenerowany lub zmanipulowany, spoczywa na deployerze (użytkowniku).

Jak zatem prawnicy definiują deepfake na gruncie AI Act?

- Deepfake w rozumieniu AI Actu to wygenerowana lub zmanipulowana przez AI treść obrazowa, dźwiękowa albo wideo, która przypomina istniejące osoby, obiekty, miejsca, podmioty lub wydarzenia i fałszywie sprawia wrażenie autentycznej lub prawdziwej.

Potrzebne są zatem łącznie trzy elementy. Po pierwsze, musi chodzić o obraz, dźwięk lub wideo. Tekst nie mieści się w definicji deepfake’u i podlega innym zasadom. Po drugie, treść musi przypominać istniejący referent: osobę, obiekt, miejsce, podmiot albo wydarzenie. Po trzecie, musi fałszywie sprawiać wrażenie autentycznej lub prawdziwej. To oznacza, że nie każda treść stworzona przez AI to deepfake. Generyczna grafika przedstawiająca nieistniejącą postać albo ewidentnie fantastyczna animacja mogą nie spełniać tej definicji. Decydują jednak cechy konkretnego materiału i kontekst, w którym jest prezentowany.

Definicja i obowiązek ujawnienia nie są uzależnione od wykazania zamiaru oszukania odbiorcy. Intencja może natomiast mieć znaczenie przy ocenie innych rodzajów odpowiedzialności albo przy wymiarze sankcji.

Jak te przepisy wpłyną na użytkownika internetu? Będzie mógł odczuć, że ma lepszą ochronę przed deepfake’ami?

- Powiedziałabym: zwiększą przejrzystość, ale nie rozwiążą problemu dezinformacji czy „śmieci” w internecie. Użytkownik powinien częściej otrzymywać informację, że rozmawia z systemem AI, jest poddawany działaniu określonego systemu albo ogląda materiał stanowiący deepfake. To pozwoli lepiej ocenić wiarygodność komunikatu i świadomie zdecydować, czy chcemy kontynuować interakcję.

Jednocześnie sama etykieta nie gwarantuje, że treść jest prawdziwa, bezpieczna albo zgodna z prawem. Nie oznacza także, że system działa prawidłowo. „Wygenerowane przez AI” jest informacją o pochodzeniu lub sposobie powstania treści, a nie certyfikatem jej jakości.

Drugim ograniczeniem będzie egzekwowanie. Oznaczenia mogą zostać usunięte, materiał może zostać skopiowany, przycięty lub ponownie opublikowany poza pierwotnym kontekstem. Dlatego długoterminowo istotne będą nie tylko widoczne etykiety, ale również rozwiązania techniczne pozwalające badać pochodzenie treści.

AI Act buduje więc infrastrukturę transparentności, ale nie zastępuje krytycznego myślenia odbiorcy, odpowiedzialności platform ani stosowania przepisów dotyczących oszustw, dóbr osobistych, ochrony danych i prawa konsumenckiego.

Powiedziała pani, że tekst nie mieści się w definicji deepfake’u i podlega innym zasadom. Jak w takim razie będzie wyglądało prawidłowe oznaczenie treści generowanych przez AI? 

- Na start warto rozróżnić dwa poziomy obowiązku. Pierwszy jest obowiązkiem technicznym providera. Provider systemu generującego syntetyczny tekst, obraz, dźwięk lub wideo powinien zapewnić, aby rezultaty systemu były oznaczane w formacie odczytywalnym maszynowo i możliwe do wykrycia jako sztucznie wygenerowane lub zmanipulowane. Rozwiązania techniczne powinny być skuteczne, interoperacyjne, solidne i wiarygodne w zakresie, w jakim jest to technicznie wykonalne. Przepis nakazuje uwzględniać specyfikę danego formatu, koszty wdrożenia i aktualny stan techniki.

Drugi poziom to obowiązek informacyjny deployera. Dotyczy on ujawniania deepfake’ów oraz tekstów wygenerowanych lub zmanipulowanych przez AI, jeżeli są publikowane w celu informowania opinii publicznej o sprawach interesu publicznego.

Nie oznacza to obowiązku widocznego oznaczania każdego tekstu lub każdej grafiki wygenerowanej przez AI. W przypadku tekstów „public interest” obowiązek nie ma zastosowania, jeżeli treść przeszła proces realnej weryfikacji lub kontroli redakcyjnej, a osoba fizyczna albo prawna ponosi odpowiedzialność redakcyjną za publikację.

Wydany przez Komisję Europejską „Code of Practice on Transparency of AI-Generated Content” (Kodeks postępowania w zakresie przejrzystości treści generowanych przez sztuczną inteligencję - przyp. red.) opisuje uznany, dobrowolny sposób wykazywania zgodności. Promuje podejście warstwowe, w którym mogą być wykorzystywane m.in. informacje o pochodzeniu, metadane, techniki znakowania treści i oznaczenia czytelne dla człowieka. Nie oznacza to jednak, że każdy podmiot ma obowiązek zastosować konkretnie jeden standard albo identyczny znak wodny. Podmiot, który nie korzysta z Kodeksu, może zastosować inne środki, ale powinien umieć wykazać, że są one równoważnie adekwatne.

W skrócie: przy znakowaniu należy odróżnić wymóg prawny od rekomendowanej techniki. Prawo określa rezultat, jaki ma zostać osiągnięty; Kodeks daje praktyczny i łatwiejszy dowodowo sposób dochodzenia do tego rezultatu.

O jakich wyjątkach mówimy w kontekście wspomnianych mediów, interesu publicznego, ale i sztuki czy ścigania przestępstw?

- Tak, ale nie należy traktować ich jako jednego, wspólnego wyjątku od całego art. 50. Każdy obowiązek ma własny zakres i własne wyłączenia. W odniesieniu do systemów bezpośrednio komunikujących się z człowiekiem obowiązek informacyjny nie ma zastosowania, gdy użycie jest dopuszczone prawem w celu wykrywania, zapobiegania, prowadzenia dochodzeń lub ścigania przestępstw, z zachowaniem odpowiednich zabezpieczeń. Wyjątek nie obejmuje jednak publicznie dostępnych systemów służących do zgłaszania przestępstw. Techniczne znakowanie rezultatu nie jest wymagane w zakresie, w jakim system pełni wyłącznie funkcję pomocniczą przy standardowej edycji albo nie zmienia istotnie danych wejściowych lub ich znaczenia.

W przypadku deepfake’ów zawartych w ewidentnie artystycznych, twórczych, satyrycznych, fikcyjnych lub podobnych utworach obowiązek nie znika całkowicie. Jego forma zostaje złagodzona: ujawnienie powinno być odpowiednie i nie utrudniać odbioru lub korzystania z dzieła.

W przypadku tekstów publikowanych w celu informowania opinii publicznej o sprawach interesu publicznego działa wyjątek redakcyjny. Ujawnienie nie jest wymagane, jeżeli treść została poddana realnej kontroli człowieka lub kontroli redakcyjnej, a określony podmiot ponosi za publikację odpowiedzialność redakcyjną.

Trzeba także pamiętać, że obowiązek poinformowania o systemie rozpoznawania emocji nie legalizuje jego użycia. W miejscach pracy i instytucjach edukacyjnych określone zastosowania rozpoznawania emocji są co do zasady zakazane, z wyjątkiem zastosowań medycznych lub związanych z bezpieczeństwem.

Akt o sztucznej inteligencji dotyczy wielu biznesów, które już dziś wdrażają systemy AI. Co przedsiębiorcy będą musieli zmienić w swojej działalności, np. na stronie, w aplikacji, reklamie, regulaminach i procedurach?

- Najpierw powinni… przestać zaczynać od regulaminu. Art. 50 jest w dużej mierze regulacją dotyczącą projektu systemu, interfejsu i sposobu publikacji treści, a dopiero wtórnie - dokumentacji prawnej. W praktyce potrzebne są cztery działania.

Po pierwsze, mapa punktów kontaktu z AI: gdzie klient rozmawia z systemem, gdzie jest poddawany jego analizie i gdzie widzi wygenerowane lub zmanipulowane rezultaty.

Po drugie, mapa ról: kto jest providerem, kto deployerem, a kto jedynie dostawcą komponentu. Nie zawsze będzie to oczywiste, szczególnie przy rozwiązaniach wdrażanych pod marką klienta.

Po trzecie, przypisanie właściwego obowiązku. Inaczej traktujemy chatbota, inaczej system rozpoznawania emocji, inaczej deepfake, a jeszcze inaczej zwykły tekst wygenerowany przez AI.

Po czwarte, kontrola skuteczności informacji. Oznaczenie powinno działać nie tylko na desktopie, lecz także w aplikacji mobilnej, kanale głosowym i w rozwiązaniach używanych przez osoby z niepełnosprawnościami. Firma powinna także ustalić, kto odpowiada za akceptację zastosowań AI, weryfikację treści, utrzymanie oznaczeń i reagowanie na zmianę konfiguracji systemu. Problemem nie jest bowiem raczej tylko brak etykiety, ale także brak właściciela procesu.

Nie ma natomiast ogólnego obowiązku umieszczania widocznej etykiety przy każdej treści stworzonej z udziałem AI. Opis produktu, wiadomość marketingowa czy grafika wygenerowana przez AI nie stają się automatycznie treściami, które deployer musi widocznie oznaczyć. Trzeba sprawdzić, czy materiał stanowi deepfake albo - w przypadku tekstu - czy jest publikowany w celu informowania opinii publicznej o sprawach interesu publicznego.

Regulamin lub polityka prywatności powinny uzupełniać ten system, ale nie zastąpią informacji udzielanej w odpowiednim miejscu i czasie.

Jakie sankcje grożą firmom za brak oznaczeń lub wprowadzanie odbiorców w błąd?

- Naruszenie obowiązków z art. 50 może podlegać administracyjnej karze pieniężnej do 15 mln euro albo do 3 proc. całkowitego światowego rocznego obrotu z poprzedniego roku finansowego, w zależności od tego, która wartość jest wyższa. W przypadku przedsiębiorstw będących MŚP, w tym startupów, zastosowanie ma niższy z tych dwóch pułapów.

Trzeba jednak podkreślić, że są to maksymalne granice kar, a nie automatyczna taryfa za brak jednej etykiety przy jednym materiale. Przy wymiarze sankcji powinny być brane pod uwagę między innymi charakter, waga i czas trwania naruszenia, liczba dotkniętych osób, stopień odpowiedzialności, działania naprawcze i współpraca z organem.

Warto też pamiętać, że ten sam stan faktyczny może równocześnie wiązać się z naruszeniem RODO, dóbr osobistych, prawa autorskiego, przepisów konsumenckich albo zasad dotyczących reklamy. Nie musi to być „podwójne karanie za dokładnie to samo”, ponieważ poszczególne reżimy mogą chronić inne interesy i dotyczyć innych obowiązków. Organy powinny jednak koordynować reakcję i zapewnić jej proporcjonalność.

W Polsce osobnym wyzwaniem jest uruchomienie krajowego systemu nadzoru. Ewentualne problemy organizacyjne nie zawieszają jednak stosowania unijnego rozporządzenia. Firma nie może bronić się twierdzeniem, że skoro krajowe instytucje nie są jeszcze w pełni operacyjne, europejski obowiązek jej nie dotyczy.

Podsumowując, jaką widzi pani najważniejszą zmianę, którą firmy i użytkownicy powinni zapamiętać w kontekście AI Act?

- Nie należy mylić „odroczenia części AI Actu” z tezą, że w sierpniu nic się nie zmienia. Obowiązki dotyczące systemów wysokiego ryzyka zostały przesunięte, ale obowiązki transparentności nadal obejmują bardzo szeroki katalog codziennych zastosowań: chatboty, voiceboty, rozpoznawanie emocji, deepfake’i i niektóre publikacje tekstowe.

Dla firm najważniejsze jest to, że nie wystarczy sporządzić listy używanych narzędzi. Trzeba zmapować konkretne przypadki użycia, role prawne, punkty styku z człowiekiem i sposób prezentacji rezultatów systemu.

Dla użytkowników najważniejsze jest natomiast to, że etykieta „AI” nie jest gwarancją prawdy, bezpieczeństwa ani zgodności z prawem. Jest informacją, która ma pozwolić bardziej świadomie ocenić kontakt lub treść.

Dziękuję za rozmowę.