Chcemy poznać potrzeby i problemy organizacji w wykorzystywaniu AI

O odpowiedzialnym wykorzystywaniu sztucznej inteligencji Karol Witowski rozmawia z koordynatorami prac nad sztuczną inteligencją Grupy roboczej Społecznego Zespołu Ekspertów przy Prezesie UODO: dr. hab. Dominikiem Lubaszem, partnerem zarządzającym Kancelarii Radców Prawnych Lubasz&Wspólnicy i Marią Drabczyk, prezeską zarządu Centrum Cyfrowe.

Urząd Ochrony Danych Osobowych wspólnie z Grupą roboczą ds. sztucznej inteligencji opracował i rozesłał ankietę, której celem jest zbadanie aktualnych praktyk, wyzwań i potrzeb wsparcia w zakresie odpowiedzialnego wykorzystania AI i danych osobowych zgodnie z RODO. Ankieta została wysłana do organizacji reprezentujących różne branże. Jakie branże znajdują się w Państwa zainteresowaniu? Są jakieś szczególne?

Maria Drabczyk: Zacznijmy od naszego celu: chcemy stworzyć, mieszczące się w kompetencjach Prezesa Urzędu Ochrony Danych Osobowych, mechanizmy wsparcia, projektowania oraz wdrażania systemów AI, odpowiedzialnego i zgodnego z RODO. Zależy nam na rozwoju mądrych inwestycji w nowe technologie oraz promowaniu zrównoważonego rozwoju.

Nasze działanie ma charakter pilotażowy, dlatego też zdecydowaliśmy się zawęzić je do kilku typów organizacji. Skoncentrujemy się na wybranych przedstawicielach sektora publicznego oraz sektorze przedsiębiorców, w szczególności MŚP i start-upach. Jednostki publiczne (samorządowe, edukacyjne, medyczne, kulturalne) pełnią kluczowe funkcje społeczne i dysponują ograniczonymi zasobami. Potencjał AI w tych obszarach jest ogromny – od usprawnienia usług i zarządzania danymi po zwiększenie dostępności kultury i edukacji – jednak obserwujemy w nich niedosyt kompetencji i potrzebę wsparcia. Podobnych trudności doświadczają przedsiębiorcy tworzący i wykorzystujący rozwiązania AI.
Szczególnie MŚP i start-upy często nie mają dostępu do eksperckiej wiedzy prawniczej, etycznej i technicznej, a brak wsparcia może prowadzić do nieodpowiedzialnych wdrożeń, ograniczać innowacyjność i obniżać zaufanie użytkowników. Dlatego oba sektory potrzebują systemowych mechanizmów wsparcia – wiedzy, dobrych praktyk i narzędzi – które umożliwią im bezpieczne, zgodne z regulacjami i etyczne wykorzystanie sztucznej inteligencji, wzmacniając tym samym konkurencyjność i zaufanie do europejskich rozwiązań. Chcemy widzieć nasze działanie jako pierwszy krok, z potencjałem współpracy z innymi sektorami i typami podmiotów. Mamy świadomość tego, jak duże są potrzeby.

W jaki dokładnie sposób zostanie wykorzystana ankieta?

M.D.: Ankieta ma dla nas charakter diagnostyczny: chcemy poznać realne potrzeby i problemy organizacji w zakresie zgodnego z prawem wykorzystywania AI. Wyniki będą opracowane w formie raportu, którego podsumowanie zostanie upublicznione. Będzie to baza do przygotowania wytycznych, materiałów edukacyjnych i warsztatów. Planujemy także spotkania warsztatowe, które pozwolą pogłębić analizę wyników i wypracować praktyczne rekomendacje.

Jak wyobrażają sobie Państwo pracę Grupy roboczej w najbliższym roku, dwóch? Czy może się okazać konieczne rozszerzenie Grupy o nowych ekspertów z różnych dziedzin w związku z dynamicznie rozwijającą się sztuczną inteligencją? Właściwie co chwila pojawiają się kolejne wyzwania w sprawie AI.

Dominik Lubasz: Nasza praca została zaplanowana etapowo. W pierwszej fazie (do 12 miesięcy) skupimy się na badaniach i pierwszych wytycznych. W kolejnym etapie (12–24 miesięcy) chcemy wdrażać szkolenia, publikować materiały i prowadzić warsztaty. Niewątpliwie w miarę pojawiania się nowych wyzwań – np. związanych z rozwojem generatywnej AI czy wdrażaniem unijnego Aktu o AI – będziemy otwarci na poszerzenie zespołu o nowych ekspertów z dziedzin technicznych, etycznych czy społecznych.

Jak w Państwa opinii technologie sztucznej inteligencji mogą wpłynąć na znaczenie i sens RODO? Czy może się okazać, że konieczna będzie rewolucja w filozofii przepisów RODO i całkiem nowe ujęcie prawne, być może nawet coś w rodzaju nowego RODO?
D.L.: RODO zachowuje pełną aktualność: jego zasady – takie jak przejrzystość, minimalizacja danych czy rozliczalność – są uniwersalne i niezwykle potrzebne w erze AI. Sztuczna inteligencja nie oznacza końca RODO, ale raczej potrzebę jego nowej interpretacji i praktycznych narzędzi dostosowanych do realiów technologicznych. Mówimy więc bardziej o ewolucji niż rewolucji – o wzmocnieniu stosowania zasad, a nie ich odrzuceniu.
Umocnienia wymagają zrozumienie i zaadaptowanie podejścia opartego na ryzyku do tego nowego kontekstu technologicznego, wskazanie kluczowych aspektów analizy ryzyka, oceny skutków dla ochrony danych czy uwzględnienie ochrony danych w fazie projektowania. Elastyczność i neutralność technologiczna tych instrumentów regulacyjnych powoduje, że nie jest potrzebna zmiana RODO w związku z rozwojem sztucznej inteligencji, lecz wsparcie w jego stosowaniu. Edukowanie w tym obszarze jest też misją Prezesa UODO.

Czy planują Państwo umieścić pracę Grupy roboczej w kontekście zmieniającej się sytuacji zagrożenia geopolitycznego? Czy w tej kwestii mogą się pojawić jakieś działania priorytetowe, dotyczące np. dezinformacji generowanej również za pomocą AI?

M.D.: Aktualna sytuacja pokazuje, jak ważne jest odpowiedzialne i etyczne wykorzystanie danych. Żyjemy w czasach, w których większość narracji oparta jest na danych. Pytanie, czy są to dane wiarygodne, pochodzące z pewnego źródła, rzetelnie opracowane. Tu często nie mamy pewności. Praca z AI w kontekście danych wymaga od nas krytycznego myślenia i krytycznego spojrzenia na dane – ich proweniencję, sposób wykorzystania. I tu potrzebne są konkretne kompetencje i wskazówki, które mamy nadzieję zebrać i szerzej udostępnić.

D.L.: Tak, nie można ignorować kontekstu geopolitycznego. Sztuczna inteligencja jest wykorzystywana także do generowania treści dezinformacyjnych czy manipulacyjnych. W tym zakresie widzimy rolę Prezesa UODO w edukowaniu, jak chronić dane i prywatność w obliczu zagrożeń hybrydowych.

Czy może dojść do sytuacji, w której państwa UE zdecydują, że sztuczną inteligencję należy hamować poprzez zakazy jej stosowania?

D.L.: Akt o AI już przewiduje zakazy dla określonych zastosowań, które zagrażają prawom człowieka – jak systemy oceny społecznej czy niektóre formy masowej inwigilacji. Unia Europejska idzie jednak w stronę regulacji proporcjonalnych i opartych na analizie ryzyka, a nie generalnych zakazów hamujących rozwój technologii.

M.D.: Dlatego też równie ważne wydają się właśnie działania mające na celu podniesienie kompetencji użytkowników i twórców rozwiązań AI, dzięki którym ta innowacja będzie rozwijana w sposób odpowiedzialny i zgodny z prawem i wartościami – w tym poszanowaniem prywatności.
Czy Państwa zdaniem istnieje ryzyko, że możliwości sztucznej inteligencji rozwiną się do tego stopnia, że ochrona danych osobowych będzie potrzebowała jakiegoś oddzielnego systemu – i będzie można również go zaliczyć do sztucznej inteligencji – który będzie sprawował kontrolę nad danymi? Czy tym samym nie popadniemy w cyfrową walkę, w której o wiele mniejsze znaczenie będą miały same przepisy?

D.L.: Możemy sobie wyobrazić rozwiązania oparte na AI, wspierające inspektorów ochrony danych czy compliance. Nie oznacza to jednak, że prawo stanie się zbędne. Wręcz przeciwnie – przepisy RODO pozostają fundamentem, a narzędzia AI mogą jedynie wspomóc ich egzekwowanie. Celem jest wzmocnienie nadzoru, nie jego automatyzacja kosztem człowieka.

Jak pojmują Państwo rolę Grupy roboczej w obszarze wchodzących w życie rozporządzeń UE dotyczących sztucznej inteligencji?

D.L.: Grupa robocza ma pełnić funkcję łącznika między teorią w obszarze technologii, etyki i prawa a praktyką wdrażania regulacji. Będziemy wspierać interpretację nowych przepisów dotyczących ochrony danych, w szczególności Aktu ws. sztucznej inteligencji, przygotowywać materiały pomocnicze i wspierać dialog między regulatorami, administracją i biznesem. Nasza rola to nie tylko analiza prawna, ale i tworzenie przestrzeni wymiany doświadczeń.

Link do ankiety: https://wydarzenia.uodo.gov.pl/?r=ankietaAI

Dziękuję za rozmowę