Od 2 sierpnia 2026 r. obowiązują przepisy AI Act dotyczące obowiązków w zakresie przejrzystości korzystania ze sztucznej inteligencji. W praktyce oznacza to m.in. obowiązek informowania użytkowników, że mają kontakt z systemem AI, oraz oznaczania niektórych treści wygenerowanych lub zmienionych przy pomocy sztucznej inteligencji.
Przepisy te nakładają obowiązki zarówno na dostawców określonych systemów AI, jak i na podmioty, które z nich korzystają. W praktyce mają one szczególne znaczenie m.in. dla przedsiębiorców wykorzystujących chatboty oraz firm korzystających z generatywnej AI w marketingu, reklamie, mediach, e-commerce czy przy tworzeniu tekstów, grafik, nagrań i materiałów wideo.
Nie oznacza to, że od 2 sierpnia każda grafika wygenerowana w Midjourney, tekst przygotowany z pomocą ChatGPT czy zdjęcie poprawione przy użyciu AI musi mieć specjalną etykietę. Zakres obowiązków zależy od tego, w jaki sposób wykorzystano AI i jaki jest efekt końcowy.
Użytkownik powinien wiedzieć, że rozmawia z AI
Jednym z obowiązków przewidzianych w AI Act jest zapewnienie, aby osoby korzystające z systemów AI przeznaczonych do bezpośredniej interakcji z użytkownikiem wiedziały, że komunikują się ze sztuczną inteligencją. Obowiązek ten spoczywa na dostawcach takich systemów i dotyczy m.in. chatbotów obsługi klienta, voicebotów, wirtualnych asystentów czy agentów AI.
Informacja powinna pojawić się najpóźniej przy pierwszej interakcji z użytkownikiem. Jeżeli więc klient otwiera chat na stronie sklepu internetowego i rozpoczyna rozmowę z botem, powinien od początku wiedzieć, że po drugiej stronie nie ma człowieka.
Oznacza to przede wszystkim konieczność sprawdzenia, czy wdrożony system rzeczywiście przekazuje użytkownikowi odpowiednią informację i czy robi to we właściwym momencie. Schowanie wzmianki o AI wyłącznie w regulaminie czy polityce prywatności może nie realizować celu tych przepisów.
Oznaczanie treści generowanych przez AI
Sam fakt wykorzystania sztucznej inteligencji nie powoduje jeszcze automatycznie obowiązku oznaczenia materiału. Inaczej należy podejść do tekstu przygotowanego z pomocą ChatGPT, inaczej do realistycznego wizerunku człowieka wygenerowanego na potrzeby kampanii reklamowej, a jeszcze inaczej do zdjęcia, na którym AI jedynie poprawiła ostrość albo usunęła szum.
W przypadku obrazów, nagrań audio i materiałów wideo szczególne znaczenie ma to, czy powstała treść może zostać zakwalifikowana jako deepfake. Zgodnie z AI Act chodzi o wygenerowane lub zmanipulowane przez AI treści w postaci obrazu, dźwięku lub wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia i mogą fałszywie wydawać się autentyczne lub prawdziwe. Obowiązek ujawnienia dotyczy właśnie takich treści.
Deepfake nie musi więc oznaczać wyłącznie filmu z podmienioną twarzą polityka czy celebryty. W praktyce problem może pojawić się również przy znacznie bardziej codziennych zastosowaniach generatywnej AI: realistycznym wizerunku człowieka wygenerowanym przez AI, syntetycznym głosie lektora, wygenerowanej realistycznej scenerii czy zdjęciu produktu umieszczonym przez AI w nowym otoczeniu.
Nie każda ingerencja AI w materiał będzie natomiast prowadziła do takiego rezultatu. Narzędzia wykorzystujące sztuczną inteligencję są dziś częścią zwykłych programów do edycji zdjęć, grafiki czy dźwięku. Poprawa jakości, redukcja szumów czy inne techniczne działania nie powinny być automatycznie traktowane tak samo jak stworzenie nowej, realistycznej sytuacji, która w rzeczywistości nie miała miejsca.
Jak powinno wyglądać oznaczenie?
Informacja o wykorzystaniu AI powinna być jasna i możliwa do zauważenia przez odbiorcę najpóźniej przy pierwszym kontakcie z daną treścią. Nie chodzi więc o ukrywanie informacji w metadanych, regulaminie czy na końcu długiego opisu, którego odbiorca może nigdy nie przeczytać.
W przypadku grafiki oznaczenie może zostać umieszczone bezpośrednio na obrazie lub przedstawione w równoważny sposób w interfejsie. Przy materiale wideo powinno być widoczne dla osoby oglądającej materiał, a sposób oznaczenia treści audio powinien pozwalać odbiorcy dowiedzieć się, że słyszany materiał został wygenerowany lub zmodyfikowany przez AI.
Komisja Europejska przygotowała zestaw unijnych ikon ułatwiających oznaczanie treści. Rozróżniają one m.in. materiały w całości wygenerowane przez AI oraz treści, które istniały wcześniej, ale zostały następnie częściowo zmodyfikowane z wykorzystaniem sztucznej inteligencji. Przykładowo, realistyczny obraz wygenerowany od podstaw będzie mieścił się w kategorii treści w pełni wygenerowanej, natomiast prawdziwe zdjęcie pustego mieszkania, które AI następnie „umebluje”, jest przez Komisję podawane jako przykład treści częściowo zmodyfikowanej.
Ikony do oznaczania treści AI przygotowane przez Komisję Europejską:
Korzystanie z unijnych ikon jest dobrowolne. Można zastosować również własne, zrozumiałe określenie, np. „obraz wygenerowany przez AI” czy „głos wygenerowany przy użyciu AI”. Wybór własnego oznaczenia nie zwalnia z konieczności zadbania o to, aby informacja była czytelna i spełniała wymagania AI Act.
Teksty przygotowane z wykorzystaniem AI
Inaczej wyglądają zasady dotyczące tekstów. AI Act nie wprowadza ogólnego obowiązku oznaczania każdego maila, opisu produktu, posta na LinkedIn czy artykułu tylko dlatego, że przy jego przygotowaniu wykorzystano generatywną AI.
Obowiązek dotyczy tekstów wygenerowanych lub zmanipulowanych przez AI i publikowanych w celu informowania społeczeństwa o sprawach leżących w interesie publicznym. W praktyce mogą to być np. materiały dotyczące polityki, bezpieczeństwa, zdrowia publicznego, środowiska czy innych spraw istotnych z punktu widzenia debaty publicznej. Zwykłe teksty sprzedażowe czy marketingowe co do zasady nie będą automatycznie trafiały do tej kategorii.
AI Act przewiduje przy tym ważny wyjątek. Oznaczenie nie jest wymagane, jeżeli wygenerowany przez AI tekst został poddany weryfikacji przez człowieka lub kontroli redakcyjnej, a odpowiedzialność redakcyjną za publikację ponosi osoba fizyczna lub prawna.
Nie powinno się jednak sprowadzać takiej kontroli wyłącznie do poprawienia literówek i przecinków. Jeżeli AI przygotowuje materiał dotyczący spraw interesu publicznego, ludzka weryfikacja powinna mieć rzeczywisty charakter, czyli obejmować ocenę treści, sprawdzenie informacji i ostateczną decyzję o publikacji.
Odpowiedzialność za oznaczenie
AI Act rozróżnia obowiązki dostawców systemów AI i podmiotów, które z tych systemów korzystają. Dostawcy odpowiadają m.in. za określone techniczne mechanizmy umożliwiające wykrywanie treści wygenerowanych lub zmodyfikowanych przez AI, natomiast po stronie podmiotów stosujących pojawiają się m.in. obowiązki ujawniania deepfake’ów i określonych tekstów dotyczących spraw interesu publicznego.
W praktyce szczególnej uwagi wymaga współpraca z agencjami reklamowymi, studiami produkcyjnymi czy freelancerami. Jeżeli materiały przygotowuje zewnętrzny podmiot, dobrze z góry ustalić, czy i w jakim zakresie może korzystać z AI oraz jak będą identyfikowane treści wymagające oznaczenia.
Techniczne oznaczanie treści przez dostawców AI
Jeżeli chodzi natomiast o obowiązki dostawców systemów AI, dotyczą one przede wszystkim technicznego oznaczania treści generowanych przez te systemy. Po stronie dostawców obowiązek ma więc przede wszystkim charakter techniczny i nie musi być widoczny dla odbiorcy. Art. 50 ust. 2 AI Act wymaga, aby systemy generujące syntetyczny tekst, obraz, audio lub wideo oznaczały wyniki w formacie nadającym się do odczytu maszynowego, umożliwiającym wykrycie, że zostały wygenerowane lub zmanipulowane przez AI. Przepisy nie narzucają jednej technologii: mogą to być np. cyfrowe znaki wodne, metadane pochodzenia, rozwiązania kryptograficzne lub fingerprinting.
W przypadku systemów wprowadzonych na rynek przed 2 sierpnia 2026 r. AI Act przewiduje jednak okres przejściowy, ich dostawcy mają czas na dostosowanie się do tego obowiązku do 2 grudnia 2026 r. Dla systemów wprowadzanych na rynek od 2 sierpnia 2026 r. obowiązek ten znajduje natomiast zastosowanie już od momentu ich wprowadzenia.
Dostawcy systemów AI zaczynają już wdrażać takie rozwiązania w praktyce. Przykładem jest Anthropic, który zapowiedział stosowanie w Claude dwóch rodzajów oznaczeń: niewidocznych dla użytkownika znaków wodnych osadzanych w generowanym tekście oraz cyfrowo podpisanych metadanych pochodzenia dla obsługiwanych plików graficznych. W przypadku tekstu nie chodzi przy tym o dodawanie niewidocznych znaków czy ukrytych informacji do gotowej odpowiedzi. Mechanizm działa już na etapie jej generowania. Sposób, w jaki model wybiera kolejne słowa, tworzy określony wzorzec, którego użytkownik nie jest w stanie zauważyć podczas zwykłego czytania, ale który można później wykryć za pomocą odpowiedniego narzędzia, nad którym Anthropic zapowiedział, że już pracuje. Narzędzie ma pozwalać na sprawdzenie, czy w analizowanym tekście występuje charakterystyczny dla Claude’a wzorzec, a tym samym na ocenę czy treść została przetworzona przez model. Sam wynik takiej analizy nie będzie jednak stanowił jednoznacznego dowodu pochodzenia tekstu.
Treści opublikowane przed 2 sierpnia 2026 r.
Firmy nie muszą wracać do wszystkich materiałów wygenerowanych i udostępnionych przed 2 sierpnia 2026 r. wyłącznie po to, aby oznaczyć je zgodnie z nowymi zasadami. Komisja potwierdziła, że obowiązek nie działa w tym zakresie wstecz, choć zachęca do dobrowolnego oznaczania wcześniejszych treści, jeśli jest to możliwe.
Warto jednak ostrożnie podchodzić do materiałów przygotowanych wcześniej, ale nadal wykorzystywanych po wejściu nowych regulacji w życie, zwłaszcza w aktywnie prowadzonych kampaniach. W takich przypadkach sposób stosowania przepisów może wymagać oceny konkretnego scenariusza.
Sankcje
Za naruszenie obowiązków dotyczących przejrzystości mogą grozić administracyjne kary pieniężne sięgające 15 mln euro albo 3% całkowitego światowego rocznego obrotu przedsiębiorstwa z poprzedniego roku finansowego.
Kara z AI Act nie jest jednak jedynym ryzykiem związanym z nieprawidłowym wykorzystaniem treści generowanych przez AI. Nieoznaczony materiał może również powodować problemy wizerunkowe czy prowadzić do zarzutów związanych z wprowadzającą w błąd komunikacją.
Do tego mogą dochodzić zupełnie inne obszary prawa. Wykorzystanie wizerunku konkretnej osoby może wymagać analizy z perspektywy dóbr osobistych, przetwarzanie danych osobowych z perspektywy RODO, a wykorzystanie cudzych materiałów przy tworzeniu treści może rodzić pytania dotyczące praw autorskich. Samo dodanie oznaczenia „AI Generated” nie oznacza więc automatycznie, że sposób wykorzystania materiału jest zgodny z prawem.
Przejrzystość korzystania z AI
AI Act nie zakazuje korzystania z generatywnej sztucznej inteligencji w marketingu, obsłudze klienta czy tworzeniu contentu. Nowe przepisy mają przede wszystkim zapewnić, aby w określonych sytuacjach odbiorca wiedział, że ma kontakt ze sztuczną inteligencją albo że prezentowany mu materiał został przy jej pomocy wygenerowany lub zmodyfikowany.
Dla przedsiębiorstw oznacza to przede wszystkim potrzebę uporządkowania sposobu korzystania z AI: ustalenia, gdzie powstają treści syntetyczne, kto odpowiada za ich ocenę oraz jak w praktyce wykonywane będą obowiązki informacyjne.
Autor artykułu:
Wojciech Kulig
Wspiera klientów w sprawach związanych z prawem nowych technologii, w szczególności w obszarze ochrony danych osobowych, własności intelektualnej oraz zagadnień dotyczących sztucznej inteligencji.
