Jeszcze niedawno pewnie nikt nie odważyłby się na stwierdzenie, że halucynacje staną się inspiracją do merytorycznych przemyśleń czy podejmowania istotnych tematów, również z punktu widzenia funkcjonowania instytucji państwowych. Jednak są rzeczy, o których nie śniło się filozofom.
Właśnie halucynacje – rozumiane jako fałszywe informacje generowane przez modele sztucznej inteligencji – stały się dla mnie inspiracją do zastanowienia się nad tematem: jak obecnie jest wykorzystywana sztuczna inteligencja w administracji publicznej i jakie są plany w tym zakresie na najbliższą przyszłość.
Halucynacje administracji
Zalążkiem do refleksji stał się dla mnie artykuł autorstwa Marcela Zatońskiego, opublikowany 24 lipca br. w Pulsie Biznesu: Jak halucynacje zablokowały dotację. Opisuje on przypadek gliwickiej spółki KP Labs, która złożyła wniosek o dotację z Narodowego Centrum Badań i Rozwoju (NCBR), na projekt związany z systemami umożliwiającymi autonomiczną realizację operacji dla satelitów.
Spółka KP Labs dotacji nie otrzymała, a w karcie oceny wniosku, załączonej do decyzji, widniała informacja, że projekt jest niewystarczająco innowacyjny, ponieważ w Polsce istnieją już porównywalne rozwiązania o zbliżonych parametrach. Eksperci NCBR przywołali w uzasadnieniu informacje dotyczące innych projektów. Jednak po zapoznaniu się z tym uzasadnieniem gliwicka spółka KP Labs zauważyła, że NCBR:
- – częściowo podaje dane dot. innych rozwiązań, które nigdy dotychczas nie zostały upublicznione,
- – odnosi się do rozwiązań, nad którymi trwają prace (i siłą rzeczy na ten moment trudno o szczegółowe parametry)
- – przywołuje rozwiązania w ogóle nieistniejące.
Spółka KP Labs, zaskoczona informacjami zawartymi w uzasadnieniu, postanowiła sprawdzić skąd NCBR może czerpać tego rodzaju “fakty” i… jedynym źródłem danych okazały się wyniki generowane przez modele AI. Możemy się zatem domyślić, że najprawdopodobniej ekspert NCBR, dokonując oceny wniosku, skorzystał z modelu/modeli sztucznej inteligencji, ale nie sprawdził czy otrzymane informacje są prawdziwe.
Polska administracja a AI
Opisany przez “Puls Biznesu” przypadek inspiruje do tego, żeby postawić sobie pytanie, w jaki sposób należałoby uregulować wykorzystanie narzędzi AI przez administrację publiczną. Oficjalnie urzędnicy nie mają w ramach swojej pracy dostępu do subskrypcji popularnych modeli AI, jednak nie jest szczególnie zaskakujące, że istnieje grupa, która aktywnie z takich narzędzi korzysta, zapewne w ramach bezpłatnego dostępu.
Taki stan rzeczy potwierdza też raport z badania Możliwości AI dla e-administracji w Polsce, zgodnie z którym 60% ankietowanych pracowników administracji publicznej korzysta ze sztucznej inteligencji do sporządzania dokumentów lub raportów (badanie przeprowadzone przez Implement Consulting Group oraz AI LAB Szkoły Głównej Handlowej w IV kwartale 2024 r.). Z drugiej strony według raportu z tego badania już 21% ankietowanych pracowników administracji publicznej twierdzi, że ich instytucje zainwestowały w rozwiązania AI.
Natomiast potwierdzeniem niejednolitej strategii korzystania z narzędzi AI w administracji publicznej są odpowiedzi poszczególnych resortów na interpelacje posłanki Agnieszki Buczyńskiej z kwietnia br. w sprawie wykorzystywania sztucznej inteligencji. Na podstawie udzielonych odpowiedzi można wyodrębnić resorty, które oficjalnie z narzędzi AI nie korzystają, choć podkreślone jest, że pracownicy we własnym zakresie mogą używać narzędzi ogólnodostępnych. Są też takie ministerstwa, które znajdują się w awangardzie i ze względu na swój zakres kompetencji kompleksowo testują oraz wdrażają modele AI, w tym, jak same podkreślają, kładąc akcent na rodzime rozwiązania, tj. modele z rodziny PLLuM. Trudno jednak oprzeć się wrażeniu, że w większości instytucji nadal brakuje spójnej strategii w zakresie używania narzędzi AI i podążania za centralnie ustalonymi wytycznymi. Chociaż Ministerstwo Cyfryzacji bierze na siebie rolę instytucji wyznaczającej trendy i koordynującej szkolenia, to większość ministerstw zdaje się samodzielnie decydować o rodzaju wdrażanych narzędzi AI (i czy w ogóle je wdrażać), w zależności od swoich bieżących potrzeb.
A ten obraz jest powodem, by postawić sobie następujące pytania:
- Czy urzędnicy są odpowiednio przygotowani, żeby korzystać z narzędzi AI i potrafią tworzyć prompty (instrukcje dla AI), ułatwiające skuteczne wyszukiwanie rzetelnych informacji? Czy dla bardziej złożonych zagadnień mają możliwość wykorzystania funkcji głębokiego badania, tzw. “deep research”, która analizuje dużą liczbę źródeł i szczegółowo je wskazuje?
- Czy wśród pracowników administracji jest wystarczająca świadomość dotycząca ryzyka pojawienia się halucynacji przy korzystaniu z popularnych modeli AI?
- Czy urzędnicy są świadomi ryzyka upublicznienia informacji poprzez zawarcie poufnych danych w instrukcji? Ogólnodostępne modele AI wykorzystują otrzymywane informacje w procesie “uczenia się”, a informacja poufna może szybko stać się publiczną.
Myślenie strategiczne
Wszystkie znaki na niebie i ziemi wskazują, że administracja centralna dostrzega konieczność stworzenia regulacji dotyczących wykorzystania sztucznej inteligencji i jest na etapie opracowywania szczegółowych strategii w tym zakresie. Jeszcze pod koniec ubiegłego roku powstała (choć formalnie nie została jeszcze zatwierdzona) Strategia cyfryzacji państwa do 2035 r., która w ramach analizy kluczowych obszarów poświęca również uwagę sztucznej inteligencji – diagnozie wykorzystania tych nowoczesnych technologii w państwie (w ramach ogółu społeczeństwa, w biznesie i administracji), określeniu celów oraz wskaźników ich realizacji.
Z punktu widzenia obywatela bardzo obiecująco jest przedstawiona wizja na 2035 rok – aby wszystkie kluczowe usługi były dostępne przez telefon z każdego miejsca, a wizyta w urzędzie stanowiła wyjątek. Wpisuje się to w przesłanie, która zdaje się przyświecać całemu temu dokumentowi, czyli skupieniu uwagi na podniesieniu jakości życia obywateli, w tym przedsiębiorców.
Także te bardziej szczegółowo zarysowane cele do osiągnięcia do 2035 r. w ramach strategii przemawiają do wyobraźni:
- – 50% firm i 80% urzędów wykorzystuje technologie sztucznej inteligencji,
- – 85% Polek i Polaków posiada przynajmniej podstawowe kompetencje cyfrowe.
Strategia w trafny sposób kreśli zagrożenia i problemy, które związane są z cyfryzacją – wyzwania dotyczące cyberbezpieczeństwa, dominacji dużych platform technologicznych (co powoduje zaburzenie konkurencji) oraz podkreślenie, jak ważne jest, także z punktu widzenia administracji publicznej, posiadanie możliwości samodzielnej analizy trendów rynkowych i technologicznych, aby odróżnić rzeczywistość od tematów promowanych (płatnie) w mediach.
Szkolić, ale z głową!
Ściśle związana z powyższymi tematami jest kwestia zasobów ludzkich, a zatem zdobywania i podnoszenia kompetencji cyfrowych w administracji publicznej. Ministerstwo Cyfryzacji istotną rolę przypisuje modułowi szkoleń, skierowanych m.in. do urzędników.
Z inicjatywy Komitetu Rady Ministrów do spraw Cyfryzacji powstała grupa roboczej GRAI (do spraw sztucznej inteligencji i internetu rzeczy), która tworzy AI HUB Poland – portal służący przybliżaniu tematyki związanej ze sztuczną inteligencją, zawierający bazę wiedzy dla biznesu i administracji, oferujący ścieżki pomocy w poszukiwaniu właściwych narzędzi zarówno dla urzędników, jak i przedsiębiorców. Portal składa się także z części dotyczącej szkoleń w obszarze sztucznej inteligencji, jednak ich zakres tematyczny budzi duże wątpliwości.
Większość kursów dla administracji jest, niezgodnie z zamieszczonym opisem, faktycznie skierowana do nauczycieli i uczniów. Jeden z nich pod zachęcającą nazwą “AI od podstaw” (poziom dla początkujących) wydaje się być adresowany raczej do środowiska biznesowego (omawia w dużej części obróbkę zdjęć, wideo i realizację kampanii marketingowych). Kolejny pod nazwą “AI w administracji – praktyczne zastosowania sztucznej inteligencji” zawiera zgodnie z umieszczonym programem: “budowę i trenowanie własnych modeli neuronowych w PyTorchu” oraz “ocenę jakości wytrenowanych modeli wraz z interpretacją wyników”, co wskazuje jednak na dość szczegółowy zakres szkolenia. Nasuwa się przypuszczenie, że AI HUB zamieszcza raczej listę dostępnych bezpłatnie szkoleń z zakresu sztucznej inteligencji, a grupa robocza “GRAI” nie uczestniczy w tworzeniu oferty, która faktycznie byłaby skierowana do administracji publicznej. I chociaż eksperci Ministerstwa Cyfryzacji angażują się w szkolenia z zakresu AI, organizowane np. przez Krajową Szkołę Administracji Publicznej, to na ten moment brakuje np. linków do tego rodzaju informacji czy webinarów na samym portalu AI HUB. Sami eksperci są też bardziej skłonni polecać szkolenia w ramach Akademii PFR dla Miast, o których trudno znaleźć jakąkolwiek wzmiankę na AI HUB Poland.
W obliczu tych faktów nie ma jasności na ile uda się pokonać systemowe słabości i zagrożenia związane z szeroko pojętymi zasobami ludzkimi, tzn. niewystarczającą jakością edukacji cyfrowej, zbyt małym zasobem specjalistów technologii informacyjno-komunikacyjnych (ICT), a dodatkowo bardzo szybko zmieniającym się zakresem tych cyfrowych kompetencji. Otwarte pozostaje pytanie czy uda się zapewnić administracji publicznej kompleksowy program szkoleń. A następnie – na ile kadry administracji otrzymają odpowiednie narzędzia, atrakcyjne wynagrodzenia oraz systemy motywacyjne, które zatrzymają, a najlepiej zachęcą specjalistów w tej dziedzinie do pracy sektorze publicznym. Jeśli to się uda, wtedy wdrażanie rozwiązań bazujących na sztucznej inteligencji mogłoby być rzeczywiście szybsze i bardziej efektywne.
Strategia cyfryzacji państwa do 2035 r. dużo miejsca poświęca szansom, jakie niesie ze sobą korzystanie z narzędzi AI, podkreślając możliwości poprawy mocy produkcyjnych, efektywności i jakości świadczonych usług, wsparcie dla procesów decyzyjnych oraz zarządzania zasobami. Autorzy strategii dostrzegają również jak istotny jest nadzór nad modelami AI, aby zapewnić bezpieczeństwo zarówno dla przedsiębiorców, jak i z perspektywy administracji publicznej.
Bardzo wyraźne zostaje podkreślona potrzeba stworzenia listy systemów używanych w administracji publicznej. Tutaj jednak nasuwa się wątpliwość, czy kluczowym zagadnieniem nie jest jednak opracowanie jednolitej strategii, dzięki której wszystkie urzędy w ramach administracji będą mogły bezpiecznie i w sposób jednolity korzystać z nowoczesnych narzędzi. A jest to zadanie ambitne, bo z jednej strony chodzi o uniknięcie sytuacji, w której urzędnicy na własną rękę robią użytek z ogólnodostępnych narzędzi sztucznej inteligencji, co niesie ze sobą ryzyko wycieku informacji poufnych lub opierania się na niezweryfikowanych treściach. Z drugiej strony powinno nam równie mocno zależeć na tym, aby zarówno administracja rządowa, jednostki podległe, jak i administracja samorządowa nie były odrębnymi systemami i korzystały ze spójnego systemu, tych samych, najnowszych i bezpiecznych technologii. W wyniku opracowania strategii dla administracji w takim znaczeniu, stworzenie wspomnianej listy systemów czy narzędzi powinno stać się już tylko formalnością.
Strategia jedno, polityka drugie
Strategia cyfryzacji zaznacza, że wykorzystanie sztucznej inteligencji powinno być priorytetem, dlatego też sprawnie, bo już w I połowie br., opracowany został dokument Polityka rozwoju sztucznej inteligencji do 2030 r., który jak się wydawało, będzie szczegółowym rozwinięciem zagadnień związanych z wdrażaniem AI. I o ile poziom ogólności “Strategii cyfryzacji państwa do 2035 r.” był zrozumiały – rozdział zawierający założenia co do rozwoju sztucznej inteligencji stanowił jedynie część dokumentu i nie mógł w sposób bardzo szczegółowy odnieść się do poszczególnych wyzwań, zagrożeń czy szans – o tyle polityka poświęcona w całości rozwojowi AI pozostawia niedosyt konkretów.
Po przeprowadzonych w lipcu br. konsultacjach społecznych część podmiotów wyraźnie zaznaczała, że resort cyfryzacji powinien w tego rodzaju dokumencie przede wszystkim skupić się na tworzeniu warunków do rozwoju innowacji. Duża część polityki poświęcona jest diagnozie stanu obecnego, choć i w tym aspekcie czasami pozostaje wrażenie chaosu informacyjnego, szczególnie jeśli chodzi o wybór przytaczanych danych, statystyk i raportów. A chociaż diagnoza stanu obecnego niewątpliwie jest ważna, to nie mniej miejsca powinno być poświęcone konkretnym działaniom, które zmierzają do poprawy stanu obecnego – aby zgodnie z założeniami realizować cele strategiczne transformacji cyfrowej Polski.
W dokumencie brakuje jednak opisu konkretnych aktywności podejmowanych na poziomie współpracujących ze sobą resortów – opisania kolejnych etapów, które doprowadzą państwo do efektywnego wykorzystania sztucznej inteligencji w poszczególnych obszarach. Być może resort cyfryzacji uznał, że instytucje samodzielnie mają określić plan działań – tylko na ile takie założenie jest słuszne? Czy uda nam się przy takim podejściu w sposób jednolity wdrażać AI?
Ministerstwo Cyfryzacji dużo uwagi poświęciło stworzeniu wskaźników dla oceny realizacji tej polityki rozwoju. Tylko czy w tym przypadku nie lepiej sprawdziłby się szczegółowy plan działań, w którym mamy określone konkretne zadania dla instytucji i ogólny harmonogram ich podjęcia/realizacji kolejnych kroków? Tymczasem powstała tabela z listą wskaźników, które mają zmierzyć czy narzędzia AI zostały wdrożone. Niepokoi też fakt, że najczęściej punktem odniesienia jest dopiero 2030 rok. I chociaż resort cyfryzacji zakłada okresowe ewaluacje i aktualizacje, to jednak tak odległe ramy czasowe, bez wyznaczenia kamieni milowych dla poszczególnych kwartałów (półroczy/lat), nie napawają optymizmem.
W tym kontekście pomocny dla autorów “Polityki rozwoju sztucznej inteligencji do 2030 r.” mógłby być przytoczony już wcześniej raport z badania “Możliwości AI dla e-administracji w Polsce”. Autorzy raportu, podobnie jak eksperci Ministerstwa Cyfryzacji, dostrzegają wiele możliwości wynikających z wykorzystania generatywnej sztucznej inteligencji w zarządzaniu sferą publiczną. I stawiają śmiałą tezę, że administracja publiczna to dobre miejsce na rozpoczęcie wdrażania AI. Aż 72% miejsc pracy może być wspomaganych przez AI, co daje perspektywę na:
- – skuteczne wsparcie procesów decyzyjnych,
- – zastąpienie pracy ludzkiej, także w sytuacji niedoborów kadrowych (zwiększając produktywność i dając czas na wykonywanie bardziej wartościowych zadań),
- – zwiększenie efektywności pracy (automatyzacja),
- – poprawienie jakości w ochronie zdrowie.
Nie bójmy się zmiany na lepsze
Administracja publiczna jest dobrym miejscem na wdrażanie AI, bo zastosowania AI o niskim poziomie ryzyka odpowiadają za 20% potencjału ekonomicznego i to właśnie od takich wewnętrznych zastosowań o niskim ryzyku należałoby zacząć, a dopiero potem przechodzić etapami do zadań o większym wpływie na życie obywateli.
Raport z badania zawiera też ogólny plan działania, którego w moim odczuciu zabrakło w dokumentach Ministerstwa Cyfryzacji, tzn. wyznacza trzy perspektywy czasowe i w ich ramach określa zadania do wykonania:
- – w perspektywie 1-2 lat – powołanie grupy zadaniowej ds. AI i wyeliminowanie pięciu głównych barier związanych z: rozproszeniem procesu decyzyjnego (i “silosowością”), restrykcyjnymi regulacjami prawnymi, zapewnieniem zaufania publicznego, niepewnością regulacyjną (w obszarze przetwarzania danych w chmurze) oraz ryzykiem uzależnienia od dostawców,
- – w perspektywie 3-5 lat – ustalenie priorytetów na podstawie wskaźników ryzyka i wpływu
- – w perspektywie 7-10 lat – wprowadzenie udanych zastosowań na szerszą skalę.
Czy zatem w administracji publicznej proces realizacji polityki rozwoju sztucznej inteligencji będzie rzeczywiście rozwojowy? I czy przede wszystkim uda się wystarczająco szybko wdrażać narzędzia AI? Wydaje się, że na razie przed Ministerstwem Cyfryzacji kolejne podejście do polityki rozwoju AI. Oby tym razem zaproponowano konkretny plan działań, również dla administracji publicznej.
