Pani Pamela Krzypkowska, do niedawna dyrektor w Departamencie Badań i Innowacji w Ministerstwie Cyfryzacji, a obecnie ekspert w Wydziale Inwestycji w Nowe Technologie, zgodziła się poświęcić Fundacji swój czas i opowiedzieć o swojej roli, priorytetach i zadaniach w zarządzaniu departamentem odpowiedzialnym za rozwój nowoczesnych technologii, a także o swojej drodze do rozwijania kariery w sektorze publicznym. Rozmowa jest również w istotnej części poświęcona polityce rozwoju sztucznej inteligencji – jest to obecnie jeden z ważniejszych tematów, nie tylko w kontekście działań Ministerstwa Cyfryzacji, ale działań państwa w ogóle.
Dzień dobry, bardzo dziękuję za to, że zgodziła się Pani poświęcić swój czas. Pani ścieżka kariery wydaje się dosyć nietypowa – rozpoczynała Pani pracę w sektorze prywatnym, a następnie przeszła do sektora publicznego i obecnie realizuje się Pani w roli Dyrektorki Departamentu Badań i Innowacji w Ministerstwie Cyfryzacji. Co Panią skłoniło do dokonania zmiany pracy w takim kierunku, z sektora prywatnego na publiczny?
Myślę sobie, że bardzo ważny jest transfer pomiędzy sektorami w obie strony, a nawet wiele razy w obie strony. Uważam, że to jest doskonała możliwość do rozwijania się obu sektorów, prywatnego i publicznego oraz wzajemnego uczenia się. Niestety przykładów takich transferów nie widać wiele, a jeśli to głównie w jedną stronę, z sektora publicznego do sektora prywatnego.
Dużo staram się mówić o tym, że chcemy zatrzymać osoby w sektorze publicznym, a żeby to była atrakcyjna możliwość, to powinniśmy dawać osobom w nim zatrudnionym ciekawe projekty. Stereotypowo sektor publiczny kojarzy się z gnuśnością, nudą, a zależy nam, by te skojarzenia poszły w zupełnie przeciwną stronę – żeby sektor publiczny kojarzył się ze sprawczością, miejscem tworzącym rynek, rozwiązania i strategie.
Zależy nam bardzo na stworzeniu marki sektora publicznego jako miejsca, w którym osoba zaangażowana może mieć realny wpływ i być motorem zmian. W sektorze publicznym naprawdę można wiele zdziałać i często w firmie prywatnej nie ma tak daleko idącej możliwości wywierania wpływu na kierunek działań. Pracowałam w sektorze prywatnym, w amerykańskiej korporacji, gdzie centrum zarządzania znajdowało się po drugiej stronie oceanu. Pracując w administracji publicznej, centrum zarządzania mam nieopodal, w Kancelarii Prezesa Rady Ministrów w Alejach Ujazdowskich, sama mogę podejmować wiele decyzji, czuję swoją sprawczość w nieporównywalnie większym stopniu niż w amerykańskiej korporacji.
Niestety nierzadko kariera w administracji publicznej bywa postrzegana tylko przez pryzmat zaangażowania w politykę zagraniczną, budowania kariery dyplomatycznej – często właśnie praca w Ministerstwie Spraw Zagranicznych jest uznawana za najbardziej atrakcyjną perspektywę ze względu na międzynarodowy charakter. Jest to super możliwość, ale także praca lokalnie, w Polsce, w różnych częściach administracji, może dać równie wiele satysfakcji i być niezwykle rozwijającą ścieżką rozwoju.
Takie podejście do budowania marki administracji publicznej jako pracodawcy oferującego atrakcyjną ścieżkę kariery wydaje się nowoczesne i bardzo słuszne. A jakie były Pani pierwsze wrażenia po rozpoczęciu pracy w Ministerstwie Cyfryzacji?
Wiele zagadnień było dla mnie zupełnie nowych, musiałam bardzo dużo nauczyć się w krótkim czasie. Z perspektywy mojego doświadczenia widzę, że praca w sektorze prywatnym i publicznym pozwala zrozumieć jakimi zasadami rządzi się administracja, a jakimi zasadami rządzi się biznes. Istotnym jest zrozumienie, że w obu sektorach mamy różne warunki brzegowe. Rozumienie podstaw prawnych, kwestii związanych z finansami oraz zarządzaniem nimi pomaga bardzo w realizacji przedsięwzięć, które są podejmowane na styku obu sektorów, jak np. wdrażanie rozwiązań związanych ze sztuczną inteligencją w małych i średnich przedsiębiorstwach.
Zaczynając pracę w administracji, na pewno musiałam znacznie poszerzyć swoją wiedzę z zakresu prawa – przeszłam szybki kurs prawa administracyjnego. Rozumiem osoby, które rozpoczynają pracę w administracji i mają wrażenie, że zderzają się ze ścianą, jednak w rzeczywistości między tymi ścianami są drzwi – trzeba nauczyć się, w których miejscach tych drzwi szukać. Nie jest prawdą, że w administracji się “nie da”, gwarancją sprawczości jest właśnie poznanie warunków brzegowych, trzeba wiedzieć “jak” i “którędy”. Z taką wiedzą o wiele łatwiej jest pracować efektywnie.
Myślę, że trzeba trochę cierpliwości w momencie rozpoczynania kariery w administracji, szczególnie gdy początkiem są niższe stanowiska. Zazwyczaj z biegiem lat, wraz z nabywanym doświadczeniem, otwierają się ciekawe ścieżki, większe możliwości.
Tak, zdecydowanie trzeba się zapoznać z mechanizmami działania, a poddawanie się na początku, przy pierwszych trudnościach, jest stratą bardzo dużego potencjału.
Przechodząc powoli do zagadnień merytorycznych, którymi zajmuje się Pani obecnie w swojej pracy, chciałabym odnieść się do istotnego dokumentu opracowanego w Ministerstwie Cyfryzacji, czyli “Polityki rozwoju sztucznej inteligencji w Polsce do 2030 r.”. Proszę przybliżyć nam – w jaki sposób wyglądają prace nad tak kompleksowym dokumentem?
Przygotowaliśmy dokument i poddaliśmy go konsultacjom społecznym – i właśnie na ten proces konsultacji chcę wyraźnie położyć akcent. Jedna rzecz to jest wiedza na poziomie ministerstwa, a druga kwestia to wiedza społeczna, wiedza środowisk biznesowych czy organizacji pozarządowych. Wszystkich tych elementów potrzebujemy, żeby tworzyć politykę spójną, która będzie możliwa do realizacji.
Kolejnym etapem prac będą formalne uzgodnienia i dyskusje z innymi resortami, a gdy dokument zostanie przyjęty jako oficjalny dokument rządowy, to wtedy będziemy mogli dalej pracować nad jego wdrożeniem. Jednak nie jest tak, że w tym momencie nie podejmujemy działań – sam dokument ma raczej zarysować szersze ramy budowania ekosystemu technologii sztucznej inteligencji. Aby tworzyć rozwiązania oparte na sztucznej inteligencji i umożliwiać wdrożenie takiej technologii w biznesie musimy mieć odpowiednie dane, jasną sytuację prawną, ale też moc obliczeniową do tworzenia takich technologii.
Staramy się łączyć te różne wątki i budować ekosystem sztucznej inteligencji, który łączy najważniejszych aktorów, czyli biznes, trzeci sektor oraz administrację publiczną. Zbudowanie zaawansowanego ekosystemu, w którym akcent będzie położony z jednej strony na wzrost gospodarczy, ale z drugiej strony na przestrzeganie praw człowieka, pozwoli wzmocnić pozycję Polski i wpłynie pozytywnie na nasz komfort życia. A w samej administracji stosowanie takich rozwiązań pozwoli urzędniczkom i urzędnikom na bardziej efektywne prowadzenie swojej pracy.
Jak Pani ocenia przebieg procesu konsultacji nad polityką rozwoju sztucznej inteligencji? Z jednej strony mam na myśli konsultacje wewnątrz administracji, ale z drugiej strony zaangażowanie podmiotów z zewnątrz.
Ogólnie proces oceniam pozytywnie i myślę, że w trakcie konsultacji pojawiło się dużo ciekawych pomysłów, np. w zakresie edukacji czy wspierania biznesu, samorządów. Owocem tych konsultacji było powstanie tzw. “ścieżek”. Często borykamy się z takim problemem, że przedsiębiorcy znają tylko fragment ekosystemu sztucznej inteligencji i nie do końca rozumieją w jaki sposób tworzymy całość. Naszą rolą jest pokazanie jak cała ścieżka działania może wyglądać, jaka jest w niej rola administracji, na jakim etapie przedsiębiorca może uzyskać pomoc, ale też w jaki sposób można pomagać sobie nawzajem, przykładowo skorzystać ze wsparcia polskiej firmy, która zajmuje się wdrażaniem systemów AI.
Przy opracowywaniu polityki rozwoju sztucznej inteligencji użyliśmy światowych benchmarków, które są punktem odniesienia i będą miarą realizacji poszczególnych kroków we wdrażaniu polityki rozwoju sztucznej inteligencji – i to właśnie dzięki konsultacjom mogliśmy rozszerzyć ich bazę, zapoznać się z nowymi propozycjami, a nawet rozważyć przebudowę procesu weryfikacji osiągnięcia celów.
Dzięki procesowi konsultacji możemy też wyraźnie dostrzec, w których fragmentach brakuje wiedzy, gdzie mamy luki – to pozwala nam zrozumieć na co położyć nacisk w dalszych działaniach szkoleniowych czy w kampaniach informacyjnych.
Jak Ministerstwo Cyfryzacji, na podstawie przeprowadzonych konsultacji, ocenia skalę zainteresowania różnych podmiotów tematem rozwoju sztucznej inteligencji?
Staramy się promować podejmowane przez nas działania, żeby wzbudzić zainteresowanie możliwie jak najszerszej grupy podmiotów W procesie konsultacji zebraliśmy ponad 1000 uwag zgłoszonych przez 200 podmiotów do jednego dokumentu, czyli do polityki rozwoju sztucznej inteligencji. W przypadku konsultacji ustawy o systemach sztucznej inteligencji zainteresowanie było jeszcze większe.
Nie ukrywam, że skala była duża, ale ten fakt nas nie zaskoczył, spodziewaliśmy się dużego zainteresowania, bo wiemy, że jest to z jednej strony na pewno ciekawy temat, ale z drugiej strony ten obszar budzi niepokój, pojawia się sporo informacji w mediach np. o sztucznej inteligencji pozbawiającej ludzi pracy – a to także dodatkowo wzmaga zainteresowanie.
Dla nas jako resortu tak duże zainteresowanie tematem oznaczało sporo pracy, aby przeanalizować uwagi, znaleźć balans pomiędzy wykluczającymi się propozycjami i przygotować finalną, merytorycznie spójną wersję dokumentu.
Mam w takim razie nadzieję, że przed Wami już w miarę prosta droga do realizacji polityki rozwoju sztucznej inteligencji. A przechodząc w takim razie od teorii, rozwiązań legislacyjnych do praktyki. W ramach opracowywanych dokumentów, ale też w różnego rodzaju komunikatach resort podkreśla, że chce kłaść nacisk na rozwój naszych rodzimych narzędzi AI, jak np. Bielik1. Czy wiemy zatem jakie branże obecnie w Polsce opierają się na naszych rodzimych narzędziach?
Sektor finansowy czy startupy medyczne (med-tech) to te sektory, które są bardzo rozwinięte i tworzą też swoje własne rozwiązania czy narzędzia bazujące na sztucznej inteligencji.
To pytanie wpisuje się w dosyć szeroki temat, jakim jest suwerenność cyfrowa i pojawiają się wstępne analizy, które pozwalają określić, które elementy w ekosystemie już mamy, żeby móc budować naszą cyfrową suwerenność, a jakich elementów nam jeszcze brakuje i co powinniśmy rozwijać.
Obecnie mamy dwa główne polskie modele językowe, PLLuM2 i Bielik, mamy swoje rozwiązania w zakresie otwierania danych – jesteśmy bardzo wysoko w indeksie Open Data Maturity. Zatem mamy nasze własne rozwiązania, znamy firmy i use case’y gdzie one są używane, ale model językowy jest dopiero początkiem budowania rozwiązań i bazujących na nim systemów AI.
Już jakiś czas temu Inpost zaangażował się na swoich social mediach w kampanię “Nakarm Bielika”, czyli upowszechnienie Bielika, zachęcanie użytkowników do korzystania z niego i np. “rozmowy” z modelem podczas porannej kawy. Z drugiej strony pojawiają się wzmianki o tym, że niektóre z urzędów testują Copilota Microsoftu3. Jaka będzie zatem strategia pracy administracji publicznej z narzędziami AI? Czy będzie opierać się na rodzimych narzędziach, czy może niekoniecznie?
Nie oszukujmy się – żyjemy w globalnym świecie i korzystamy z różnych narzędzi, nie tylko rodzimych, bo np. nie ma dla nich alternatywy albo jesteśmy tak mocno włączeni w dany ekosystem, że trudno nam z nich zrezygnować. Suwerenność nie oznacza, że musimy zawsze wybierać wyłącznie lokalne rozwiązania – suwerenność oznacza raczej, że my jako państwo i obywatele musimy mieć wybór z jakich rozwiązań w danej sytuacji chcemy skorzystać, czy z międzynarodowych, europejskich, a może właśnie polskich.
Drugim ważnym aspektem są kompetencje. Bardzo istotnym punktem jest świadomość w jaki sposób działają narzędzia oparte na sztucznej inteligencji. Tutaj chciałabym podkreślić kluczową rolę Instytutu Badawczego IDEAS, zespołu NASK-u, uczelni oraz innych ośrodków badawczych, które pracują nad projektami dotyczącymi rozwiązań z zakresu sztucznej inteligencji.
Istotną kwestią jest również testowanie, wypuściliśmy przewodnik “Pierwsze kroki z GenAI w administracji publicznej” i poprzez takie działania staramy się edukować w jaki sposób rozsądnie korzystać z dostępnych narzędzi. Warto podkreślić, że zagraniczne modele językowe też w wielu sytuacjach mogą okazać się przydatne np. do przeprowadzenia ogólnego rozeznania czy burzy mózgów, ale jeśli chcemy wprowadzić do modelu dane wewnętrzne, to jedyną możliwą opcją jest użycie wewnętrznego modelu AI, który te dane wewnętrzne chroni.
My rekomendujemy i staramy się umożliwić podmiotom w ramach administracji publicznej, szczególnie mniejszym samorządom, które nie mają takich zasobów IT, aby wdrażały nasze rodzime narzędzia jak np. architekturę chatbotową opartą na modelu PLLuM. Niemniej każdy samorząd, w zakresie swoich kompetencji, może wybrać sobie takie narzędzie, które będzie dla niego najbardziej odpowiednie.
Jeśli już zahaczamy o kwestię korzystania przez urzędników z narzędzi AI, to bardzo zainteresował mnie rozdział “Polityki rozwoju sztucznej inteligencji w Polsce do 2030 r.” zatytułowany, nomen omen, “Sprawne państwo”. Podobnie jak w przypadku naszej Fundacji, ważnym celem jest zmniejszenie biurokratyzacji, automatyzacja procesów w administracji publicznej w taki sposób, aby zwiększyć poziom zadowolenia obywateli. A kluczem do tego celu są kadry. Czy Ministerstwo Cyfryzacji ma wspólną strategię dla instytucji administracji publicznej na szkolenie kadr w zakresie korzystania z narzędzi AI?
To zagadnienie jest dla nas bardzo ważne, w zeszłym roku rozpoczęliśmy cykl szkoleń dla administracji centralnej jak efektywnie i bezpiecznie używać AI, a także oferujemy dla wszystkich webinary i szkolenia mówiące o różnych aspektach tego wyzwania. Przygotowujemy też ogólnodostępne materiały i przewodniki – część z nich jest skierowana w całości albo zawiera poszczególne rozdziały, przeznaczone właśnie w szczególności dla administracji.
Dla administracji bardzo ważne jest, że wszystkie przygotowane przez nas opracowania uwzględniają uwarunkowania prawne, zarówno krajowe, jak i europejskie4.
A czy w ramach prowadzonych przez Was działań spotykacie się z oporem wewnętrznym ze strony urzędników, wynikającym z lęku, że automatyzacja pracy i korzystanie w szerokim zakresie z narzędzi AI w administracji publicznej będzie skutkowało utratą pracy?
Zdarza się – i takie wątpliwości pojawiają się zarówno wśród urzędników, jak i w sektorze prywatnym. Zwracamy jednak uwagę na to, że przygotowywane przez nas materiały, dotyczące użycia AI, mają służyć podnoszeniu kompetencji, rozwijaniu się.
Wiemy również, że automatyzacja w administracji nie może pójść za daleko – tzn. w momencie, gdy trzeba podjąć decyzję administracyjną, czynnik ludzki jest niezbędny, to ostatecznie urzędnik musi rozumieć, skąd wynikają rekomendacje przedstawione w danym przypadku przez AI i konieczna jest umiejętność rzetelnej weryfikacji całego procesu oraz zdolność do podjęcia prawidłowej decyzji.
Odnosząc się też w naszej rozmowie do kwestii międzynarodowych, chciałabym zwrócić uwagę, że czasami pojawiają się wobec Unii Europejskiej zarzuty dotyczące nadmiernej regulacji zagadnień związanych z wykorzystaniem sztucznej inteligencji, co może prowadzić do ograniczeń czy hamowania innowacyjności. Czy słuszne są obawy, że ewentualne regulacje unijne mogą wpłynąć negatywnie na innowacyjność i tempo rozwoju tego sektora w Polsce?
Bardzo dbamy o to, aby wdrażać regulacje unijne w sposób przyjazny dla biznesu, ale także w taki sposób, aby nie były naruszane prawa obywateli i obywatelek. Tutaj chciałabym znowu wyraźnie podkreślić jak ważne jest budowanie świadomości – dlatego staramy się rzetelnie informować o AI Act i o tym, co z niego wynika.
Większość biznesów w Polsce, tj. ponad 98%, stanowią małe i średnie przedsiębiorstwa, więc to też nie są firmy, które mogą mieć rzeszę prawników wspierających ich w rozumieniu i analizie tych regulacji. Mając to na uwadze, staramy się jako ministerstwo informować, tworzyć materiały, kierować przejrzyste komunikaty, które pozwolą zrozumieć otaczającą nas rzeczywistość.
Jeśli chodzi o zarzut nadmiernej regulacji kwestii związanych ze sztuczną inteligencją, to jednak patrząc na wymagania stawiane nawet wobec systemów wysokiego ryzyka5 – wiele stosowanych rozwiązań jest po prostu dobrą praktyką w zakresie budowania systemów AI, jak np. audyt danych albo analiza ryzyka związana z użyciem systemu. I trzeba jasno podkreślić, że w innych obszarach postrzegamy takie mechanizmy jako standardowe działania, nie dziwią nas one.
Zmierzając powoli do końca, chciałabym jednak jeszcze na chwilę wrócić do celu jakim jest budowanie sprawnego państwa, w tym poprawa jakości funkcjonowania administracji publicznej w ogóle. Korzystając ze swojego doświadczenia zawodowego, zarówno w sektorze prywatnym jak i publicznym, jaką zmianę zarekomendowałaby Pani w funkcjonowaniu administracji publicznej, urzędów, w systemie w ogóle, aby tę jakość poprawić?
Myślę, że bardzo ważne jest to, żebyśmy rozmawiali ze sobą jako administracja. Nie tylko formalnie wymieniali się pismami, ale dyskutowali na różnych poziomach. Sprawne państwo to jest całość, nie oddzielnie – sprawna gospodarka, cyfryzacja czy zdrowie, to połączenie tych obszarów razem. Łatwiej rozmawia się z najbliższymi współpracownikami, a trudność polega na zbudowaniu sieci, na networkingu pomiędzy instytucjami. Wydaje się, że biznes te mechanizmy dotyczące skutecznej komunikacji oraz współpracy już trochę lepiej zrozumiał, a administracja powinna wciąż bardzo starać się, aby ze sobą wewnętrznie efektywnie rozmawiać i budować mosty. Bo takie bezpośrednie kontakty między ludźmi procentują, gdy potrzebujemy pomocy w rozwiązaniu problemu, to mamy do kogo się zwrócić z prośbą o pokierowanie we właściwym kierunku, podpowiedź w obszarze, w którym niekoniecznie czujemy się ekspertami.
Istotną kwestią jest wychodzenie poza utarte schematy, oczywiście w granicach obowiązującego prawa i zgodnie z zakresem kompetencji. Chodzi o to, aby dostrzegać nowe ścieżki, inne możliwości, stawiać wyzwania samemu sobie. Właśnie dlatego bardzo lubię te nasze spotkania w ramach forum cyfrowych samorządów albo dyskusje, które odbywają się pomiędzy resortami, bo uważam, że to są takie punkty, w których przyczyniamy się do budowania sprawnego państwa.
Z drugiej strony – czy jest może coś, czego biznes mógłby się nauczyć administracji?
Nigdzie nie widziałam takiej dokładności, jak w administracji. Jest duża wartość w weryfikacji i dokładności. Nie twierdzę, że w biznesie nie ma dokładności, ale motto biznesu “Move fast and break things” nie zawsze się sprawdza. Biznesowi brakuje, charakterystycznego dla administracji, przywiązywania wagi do szczegółów. Efekt motyla nie jest żartem – czasami naprawdę z jednego spadającego kamyczka, robi się lawina. Szczegóły są ważne.
A czy gdyby ponownie stanęła Pani przed wyborem przejścia z sektora prywatnego do administracji publicznej, to czy dzisiaj przyjęłaby Pani taką propozycję?
Bez zastanowienia – tak! Wtedy musiałam się zastanowić, bo było to dla mnie coś zupełnie nowego, ale teraz, z taką wiedzą i doświadczeniem – oczywiście, że tak. Bardzo zachęcam każdego do dołączenia do administracji publicznej. Jeśli ktoś mi mówi, że nie podoba mu się jakiś obszar w funkcjonowaniu systemu, ja odpowiadam, żeby dołączył do nas i to zmienił! Potrzeba nam zróżnicowanych zespołów, osób z różnych pokoleń i z różnym doświadczeniem zawodowym.
- 1. Bielik to polski otwarty duży model językowy, wytrenowany na danych w języku polskim, dzięki zasobom obliczeniowym udostępnionym przez Akademickie Centrum Komputerowe Cyfronet AGH. ↩︎
- 2. PLLuM to rodzina otwartych dużych modeli językowych, zaprojektowanych specjalnie do przetwarzania i generowania tekstów w języku polskim, rozwijana z udziałem ekspertów z Politechniki Wrocławskiej, Instytutu Podstaw Informatyki PAN, Instytutu Slawistyki PAN, NASK, Ośrodka Przetwarzania Informacji oraz Uniwersytetu Łódzkiego. ↩︎
- 3. Copilot to asystent oparty na sztucznej inteligencji stworzony przez firmę Microsoft. ↩︎
- 4. Osoby zainteresowane szczegółami odsyłamy do materiałów MC dostępnych pod linkiem. ↩︎
- 5. Systemy AI wysokiego ryzyka w myśl unijnego Aktu w sprawie sztucznej inteligencji (AI Act) to narzędzia, które mogą istotnie wpłynąć na prawa podstawowe, bezpieczeństwo lub życie ludzi. ↩︎
